Skip to content
所有分類

learning

345 篇文章

探索、RL 理論、多任務學習與開放問題|Berkeley CS285 第 19–25 堂

最後七講從 exploration 與理論界線,經兩講期中複習,走到 advanced exploration、multi-task RL 與仍未解決的研究問題。

CPU、GPU、H100 成本分界|Berkeley CS285 主題單元

五份作業從 CPU 友善的 imitation learning 走到 H100 LLM RL 與六小時 offline RL runs;自學者應按成本分三階段,而非整套照搬。

模仿學習、分布偏移與 RL 基礎|Berkeley CS285 第 1–4 堂

前四講從 behavioral cloning 走到 MDP;HW1 再用 MSE policy、DAgger 與 flow matching,讓分布偏移從概念變成可觀察的失敗。

從變分推論、LLM RL 到 Offline RL|Berkeley CS285 第 11–18 堂

L11–18 把 control as inference、LLM RL、model-based RL 與 offline RL 接成一條主線,並用 HW4、HW5 呈現兩種高運算成本實作。

Policy Gradient、Actor-Critic、DQN 與 SAC|Berkeley CS285 第 5–10 堂

L5–10 用 policy-based 與 value-based 兩條路建立深度 RL 核心;HW2 可用 CPU,HW3 的 Atari 與 HalfCheetah 則約需數小時 GPU。

深度強化學習:從決策概念到策略學習與實驗|Berkeley CS285 課程總覽

Spring 2026 CS185/285 公開 25 講投影片、9 組討論課資料、5 份作業與 starter code;講課錄影已公開在 RAIL YouTube 頻道,但 Ed、Gradescope 與助教時間仍限修課生,HW4 預設 H100,不能把它包裝成零成本公開課。

Inference-time Compute、Reasoning 與 Embodied Agents|Berkeley CS288 主題單元

15–18 組教材把 NLP 模型放進感知、推理、工具與環境迴圈;核心問題從下一個 token,轉成如何分配推論計算並驗證多步行動。

從 n-gram、詞表示到文字分類|Berkeley CS288 主題單元

前四組教材先建立可計數、可表示、可分類的文字模型;A1 再要求從 n-gram、perceptron 做到 NBOW MLP。

語言模型與 NLP:從基礎表示到檢索與 Agent|Berkeley CS288 課程總覽

CS288 用 18 組公開投影片與三份作業,從 n-gram 走到 RAG、reasoning 與 agents;錄影需 Berkeley 登入,所以這是一條教材型 A3 路線。

Pre-training、Post-training、Generation 與 Evaluation|Berkeley CS288 主題單元

08–12 組教材把 base model 變成可互動系統:預訓練決定基礎能力,post-training 改變行為,generation 與 evaluation 決定輸出如何被使用與判讀。

Retrieval、RAG 與進階架構如何變成一個系統|Berkeley CS288 主題單元

13–14 組教材把模型接到外部知識;A3 要學生自行蒐集資料、標註 QA、建索引、做 ablation,並在 CPU 與延遲限制下交付 RAG。

Sequence Models、Seq2Seq 與 Transformer|Berkeley CS288 主題單元

05–07 組教材把固定向量的分類器推進序列狀態、encoder-decoder,再用 attention 與 Transformer 改寫資訊路徑。

AI 與機器學習進階:從邏輯規劃到生成模型|CMU 07-380 課程總覽

07-380 Fall 2026 是 CMU AI 新制第二門首開,26 講涵蓋邏輯、規劃、優化、機率圖、生成式與系統。依 2026-09-29 課站,Lec1–9 投影片、PR1–6 筆記、Rec1–5(含解答)與 HW1–3 已公開,本站已寫完對應的 14 篇逐講導讀;Lec10 之後的投影片、HW4–7 與 Final Project 還沒釋出,整門課仍是 A2。

先用數學與 Python 找出機器學習地基缺口|CMU 10-301 作業 1

HW1 是 written+programming 作業:用機率、微積分、線代與 CS 題組檢查地基,再實作 majority-vote classifier。

從資訊量手算到完整 Decision Tree|CMU 10-301 作業 2

HW2 要先用 entropy 與 mutual information 手算切分,再完成建樹、預測與評估的端到端分類器。

比較 K-NN、Perceptron 與 Linear Regression|CMU 10-301 作業 3

HW3 是純 written 作業,以 decision tree 回顧,再比較 K-NN、Perceptron 與 Linear Regression 的 inductive bias、誤差與 model selection。

把 Logistic Regression 從 likelihood 寫成分類器|CMU 10-301 作業 4

HW4 把機率解釋、cross-entropy 梯度與程式實作綁在一起,驗收的是一條可追蹤的訓練流程。

用 NumPy 拆開 Neural Network 與 Backpropagation|CMU 10-301 作業 5

HW5 的價值在於不靠自動微分,親手追蹤 forward shapes、cache 與 backward gradients。

Learning Theory、MLE/MAP 與公平指標|CMU 10-301 作業 6

HW6 把 generalization、MLE/MAP、probabilistic learning、公平指標與社會影響放在同一份 written 作業,逼你說清楚假設與取捨。

從基礎神經網路走到 Deep Learning|CMU 10-301 作業 7

HW7 在 HW5 的 backpropagation 地基上加入深度模型的架構與訓練問題,重點是診斷而非只把網路加深。