期末專案：把生成模型做成可重現的實驗｜CMU 10-423 主題單元
以固定比較條件、配對結果與重現紀錄，把生成模型專案寫成可檢查的研究證據。
#cmu
174 篇文章自動微分實作：把手算梯度接上訓練迴圈｜CMU 10-423 作業 0
知道反向傳播用鏈式法則，還不等於能寫出正確的訓練迴圈。
論文報告：把模型介紹寫成可檢驗的論證｜CMU 10-423 作業 623
以角色扮演報告分清論文主張、實驗證據與自己的推論，走完受控比較例子。
因果注意力：從 Q、K、V 算到下一個 token｜CMU 10-423 第 2 堂
RNN 把歷史壓進一個狀態，attention 則讓目前位置直接讀取一組歷史表示。
訓練與解碼：同一組 logits 為何生成不同句子｜CMU 10-423 第 3 堂
模型學會的下一 token 分佈，跟我們怎麼從分佈挑 token，是兩件接續發生的事。
擴散模型進階：訓練抽時間，生成走逆向鏈｜CMU 10-423 第 8 堂
前一堂知道怎麼造出 noisy input 與噪聲標籤，這堂要回答下一個缺口：網路預測 ε 之後，怎麼得到下一個較乾淨的樣本？
VAE：重建誤差、KL 與重參數化如何合作｜CMU 10-423 第 9 堂
普通 autoencoder 把輸入壓成一個向量再還原；VAE 則為每筆資料產生一個潛在分佈，讓重建與生成能在同一個機率模型中討論。
ICL、SFT 與 RLHF：從改輸入到改參數｜CMU 10-423 第 11 堂
分清 ICL、SFT、reward model 與 RLHF 各自改變什麼，並用算例驗收
DPO 與 latent diffusion：偏好如何更新模型，文字如何控制去噪｜CMU 10-423 第 12 堂
推導 DPO loss 並重算數值例子，再追 latent diffusion 的形狀與條件路徑
Vision-language model：圖片如何成為語言模型的輸入｜CMU 10-423 第 13 堂
以完整數值例子與變式答案理解Vision-language model：圖片如何成為語言模型的輸入。
Cross-attention 與 DiT：條件如何進入去噪器｜CMU 10-423 第 14 堂
以完整數值例子與變式答案理解Cross-attention 與 DiT：條件如何進入去噪器。
Q-Former 與 scaling laws：橋接凍結模型，分配固定算力｜CMU 10-423 第 15 堂
追 Q-Former 的 query 讀取與兩階段訓練，再用固定預算計算模型與資料的分配
Mixture of Experts：總容量與啟用計算如何分開｜CMU 10-423 第 16 堂
以完整數值例子與變式答案理解Mixture of Experts：總容量與啟用計算如何分開。
分散式訓練：梯度、模型與狀態各如何切分｜CMU 10-423 第 17 堂
以完整數值例子與變式答案理解分散式訓練：梯度、模型與狀態各如何切分。
高效推論：FlashAttention、KV cache 與推測解碼｜CMU 10-423 第 18 堂
以完整數值例子與變式答案理解高效推論：FlashAttention、KV cache 與推測解碼。
長上下文：放得進去為什麼仍找不到答案｜CMU 10-423 第 19 堂
區分位置/記憶體/資訊取用並設計受控驗收
State Space Models：狀態更新如何展成卷積｜CMU 10-423 第 21 堂
從recurrence展開固定卷積並識別selection邊界
生成式 AI 風險：把失敗變成可測試的情境｜CMU 10-423 第 22 堂
把不同危害對應不同資料流與指標
聲音的理解與生成：sample 怎麼變成文字，token 怎麼變回聲音｜CMU 10-423 第 24 堂
計算 frame、mel 與 WER，再算 codec token 帳並區分擴散採樣
影片生成：時間軸如何進入模型｜CMU 10-423 第 25 堂
能追時空attention shape並區分影片時間與去噪時間
世界模型與對齊理論：動作介入與可修正性需要哪些前提｜CMU 10-423 第 26 堂
區分三種世界表示與動作介入證據，再看共識成本與 corrigibility 定理的條件
LoRA：少改參數，改的是哪個矩陣｜CMU 10-423 第 10 堂
以完整數值例子與變式答案理解LoRA：少改參數，改的是哪個矩陣。
練習考卷：用錯誤定位觀念缺口｜CMU 10-423 主題單元
用公開練習卷區分機率、資料流與評估錯誤，走完序列機率例子，再以變式題驗收。
強化學習系統：推論與訓練怎麼接起來｜CMU 11-768 第 12 堂
RL 系統用推論引擎取樣、驗證器給獎勵、訓練引擎重算 logprob 與梯度，再把新權重同步回推論端。用一個自編的小例子走完這五步，再理解快取、歷史保留與非同步更新各在解決什麼問題。
Agent 安全——四種威脅模型，加上沙盒、憑證代管與監控三道限制｜CMU 11-768 第 13 堂
第 13 講的主軸是「限制 agent 能存取什麼、能做什麼」。投影片先用五個真實事件說明出事的方式，再歸成四種威脅模型（惡意使用者、prompt injection、agent 失誤、不當手段）；對策分四層：訓練端的 red teaming 與安全訓練、執行端的沙盒與憑證代管、事後與即時的監控，以及安全評測。最容易被忽略的一點是：把 API key 藏起來，不等於 agent 不能濫用它背後的權限。
OpenHands——一個 coding agent 框架從研究原型走到每天跑上千次自動化｜CMU 11-768 第 14 堂
Graham Neubig 用自己開發的 OpenHands 講框架設計：先走一遍 coding agent 從 HumanEval、SWE-bench、Devin 到 2026 年長時間、可中斷、平行執行的演進，再拆 Software Agent SDK 的零件（LLM、tools、conversation、condenser、workspace、確認政策），接著談單一 agent 與多 agent 的取捨、本機與雲端、IDE／GUI／CLI／整合四種介面，最後是把 agent 接到 issue 與 PR 的自動化，以及從過去軌跡自動修訂 skill。
音訊、影片與世界模型：三份教材的閱讀入口｜CMU 10-423 主題單元
聲音表示、影片的時間關聯、動作條件的世界轉移，是三種不同學習任務。原篇把第24–26堂放一起，最後卻只有音訊練習，無法驗收另外兩堂。這個網址保留為閱讀入口；完整教學在下列第 24–26 堂各一篇，第 26 堂那篇也包含另一份對齊教材。
CNN 與 ViT：一張圖怎麼變成模型的輸入｜CMU 10-423 第 5 堂
語言模型先把文字變成 token，影像模型也需要把畫素整理成可運算的表示。
程式生成與 Agent：測試回饋如何形成可靠迴圈｜CMU 10-423 第 23 堂
能執行測試修復迴圈並計算pass@k與區分交付成功
條件注入：attention、DiT與Q-Former怎麼分工｜CMU 10-423 主題單元
Cross-attention是讀取另一組表示的運算；DiT是擴散模型的骨幹選擇；Q-Former是用可學query抽取或橋接資訊的模組。它們可以組合，但不是三個互斥的產品。這篇只比較角色，Prompt-to-Prompt與classifier-free guidance的操作細節放回第14堂教學。
擴散模型入門：加噪為何能成為生成的訓練題｜CMU 10-423 第 7 堂
GAN 用判別器取得生成訊號，擴散模型則先定義一個會逐漸破壞資料的過程，再學習反方向的條件分佈。
分散式訓練與高效推論：先找成本在哪裡｜CMU 10-423 主題單元
模型放不下一張GPU，和模型已放得下卻生成太慢，是不同故障。分散式策略重新分配資料、參數與狀態；FlashAttention主要改善attention的記憶體IO；KV cache避免decode時重算歷史K/V。先找成本的位置，再選方法。
考卷、論文與專案：三種學習證據｜CMU 10-423 主題單元
考卷檢查你能否在固定問題下推理；論文報告檢查你能否判斷別人的證據；專案檢查你能否自己產生可重現證據。三者不是「課程行政事項」的清單，而是逐步加深的學習任務。這個舊網址保留為評量導覽，完整做法各有教學篇。
GAN：生成器與判別器各自在學甚麼｜CMU 10-423 第 6 堂
分類器學「這張圖是哪一類」，GAN 的生成器學「怎麼從隨機輸入產生像資料的新樣本」。
生成式 AI 學習路線：35 篇核心怎麼讀｜CMU 10-423 課程總覽
這個系列依 CMU 10-423/623/723 Generative AI 的 Spring 2026 公開材料整理。
minGPT 實作驗收：用形狀、遮罩與位置找錯｜CMU 10-423 作業 1
作業 1 把 RNN、Transformer 與現代 attention 的觀念拉到程式層。
DDPM 實作驗收：時間係數怎麼對上 batch｜CMU 10-423 作業 2
會抄加噪公式，還不代表 diffusion 實作正確。
LoRA 微調驗收：梯度、資料與評估｜CMU 10-423 作業 3
以自擬數值例子驗收梯度、資料與評估，並保留原作業規格。
Q-Former 文生圖驗收：凍結底座仍要傳梯度｜CMU 10-423 作業 4
以自擬數值例子驗收梯度、資料與評估，並保留原作業規格。
SFT、RLHF與DPO：三種訓練訊號的分界｜CMU 10-423 主題單元
一個prompt加一個示範答案，與一個prompt加兩個偏好回應，不是相同資料。SFT學示範token；典型RLHF管線先學reward再做受約束的policy更新；DPO由偏好對與reference-relative比率直接建立loss。這篇整理它們的分界，完整推導與驗收各有單獨教學篇。
長上下文與SSM：保留歷史的兩種取捨｜CMU 10-423 主題單元
長上下文問模型能否處理、找到並使用很久以前的資訊；SSM問如何用狀態更新處理序列。SSM的效率不能直接證明長文件檢索可靠，attention的長窗口也不能直接證明重要資訊一定被使用。第19與21堂因此各自有獨立教學。
現代 Transformer：位置旋轉與 KV 共享改了甚麼｜CMU 10-423 第 4 堂
第 2 堂的 attention 知道如何比對內容，但實際語言模型還需要順序資訊，也要承受生成時的記憶體成本。
PEFT與ICL：改參數，還是改輸入｜CMU 10-423 主題單元
你可以讓模型適應新任務而不重訓所有參數，但這句話包含兩種不同做法。LoRA等PEFT方法仍有訓練，少量參數會改變；ICL把示例放進上下文，推論時不因這些示例做參數更新。來源也不只兩堂：第9堂末段已有zero/few-shot，第10堂講PEFT，第11堂接ICL與後續調適。
推理模型：多花算力如何選到可驗證的答案｜CMU 10-423 第 20 堂
能比較候選選擇與GRPO優勢且區分機制因果證據
實務風險與對齊理論：失敗測試和命題前提｜CMU 10-423 主題單元
模型胡說、洩漏資料或被prompt injection誘導，是可觀察的產品風險；對齊理論問特定形式化假設下，哪些保證可以成立。兩者需要不同證據。這篇保留關係與界線，第22堂與第26堂的對齊教材分開教，不把一個定理擴成所有產品都不可能安全。
RNN 語言模型：序列機率與梯度怎麼接起來｜CMU 10-423 第 1 堂
一句「我喜歡貓」不是三個互不相干的字。
Scaling與MoE：算力預算與條件計算｜CMU 10-423 主題單元
Scaling laws問固定預算下模型與資料怎麼配置；MoE問如何有更多expert容量、卻只啟用少數expert。前者是配置與經驗模型，後者是架構與路由，不能合稱「把模型變大」就跳過其中一方的機制。
文生圖與VLM：生成影像和讀懂影像的兩條路｜CMU 10-423 主題單元
「文字加圖片」不能描述清楚模型的工作。文生圖要產生影像，文字是條件；VLM可能接受影像，產生文字回答。資料流方向、輸出目標與驗收不同。原第12–13堂的內容在這裡保留關係地圖，兩條路各有完整例子與檢查。
Transformer、訓練與解碼：三個不同問題｜CMU 10-423 主題單元
同樣一份歷史文字，模型怎麼讀、怎麼學、怎麼抽下一個token，是三個問題。注意力決定資訊如何混合；訓練目標用正確答案改參數；解碼策略在固定模型下選輸出。原本把第2–3堂合在一起，容易讓讀者以為換解碼策略就是換模型。這篇保留主題關係，完整機制與練習分開讀。
擴散與VAE：機率目標相連，生成流程不同｜CMU 10-423 主題單元
擴散與VAE都能用機率模型的觀點理解，但「都有潛在變量」不代表它們是同一套生成流程。擴散把噪聲步驟串成鏈；VAE用encoder近似latent的後驗，decoder從latent重建資料。這篇是關係導覽，原第8–9堂的教學已拆成各自可檢核的內容。
在 GPU 上加速 Transformer，LightSeq 把時間花在哪裡省下來｜CMU 11-868 第 10 堂
11-868 第 10 講用 Lei Li 團隊自己的 LightSeq／LightSeq2 當教材，拆出四招：把矩陣乘法以外的小運算融合成一個 kernel、改寫 LayerNorm 與 Softmax 的公式來減少 thread 同步、參數與梯度用 FP16 存但 FP32 算、依反向傳播的相依關係重用記憶體。投影片報告的 WMT14 英德翻譯訓練加速是 1.4–3.5 倍。官方課表未列公開錄影連結，本文依投影片頁碼與兩篇論文整理。
分散式訓練與資料平行，梯度同步的代價從哪裡來｜CMU 11-868 第 14–15 堂
11-868 第 14、15 講從 parameter server 講到 PyTorch DDP：先用 NCCL 的五個 collective（Broadcast、Reduce、AllReduce、ReduceScatter、AllGather）當積木，推出 ring 為什麼能讓廣播時間幾乎不隨 GPU 數增加，再把 AllReduce 拆成 ReduceScatter 加 AllGather。第二講拆 DDP 的兩個關鍵設計：把梯度分桶（預設 25 MB）、在反向傳播還沒結束時就開始同步。官方課表未列公開錄影連結，本文依投影片頁碼與 VLDB 2020 論文整理。
深度學習框架怎麼從計算圖自動算出梯度｜CMU 11-868 第 5 堂
L05 用一個四層的情感分類網路當主線，先把計算表示成計算圖、用拓撲排序算出前向值，再用連鎖律與向量–Jacobian 乘積反向傳回梯度，最後拆解 TensorFlow v1 的 placeholder、variable、operation 與 session。投影片有一頁直接標著「important for HW2」。
FlashAttention：attention 慢在搬資料，不在算——Tri Dao 從 FA1 講到 FA4｜CMU 11-868 第 21 堂
標準 attention 會把 N×N 的分數矩陣寫回 HBM 再讀出來，時間大多花在搬資料。FlashAttention 用 tiling 加 softmax rescaling，讓每一塊都在 SRAM 裡算完，backward 則重算而不存。Tri Dao 在 11-868 的客座講義裡給了一組數字：backward 的 FLOPs 多了 13%，HBM 讀寫少了 9 倍，時間快了 6 倍。之後 FA3、FA4 的主題也一樣：硬體變了，瓶頸跟著搬家，演算法就得跟著改。
GPU 程式模型與加速：thread、block、記憶體階層與 tiling｜CMU 11-868 第 2–4 堂
CMU 11-868 的 GPU 三講回答一個問題：為什麼寫對的 CUDA matmul 在 A100 上只用到 2.48% 的 FP32 算力。L02 講 SM、warp 與 grid／block／thread，L03 講 cudaMalloc、cudaMemcpy 與 kernel 索引，L04 用 tiling、coalesced access 與避開 bank conflict，把資料從約 500 個 cycle 外的 global memory 搬近一點。
用 CUDA 寫 MiniTorch 的 map、zip、reduce 與 matmul｜CMU 11-868 作業 1
11-868 第一份作業要你在 src/combine.cu 寫四個 CUDA kernel（map 15、zip 25、reduce 25、matmul 30 分），接回 MiniTorch 的 Python 後端，再用 5 分的整合測試收尾。reduce 與 matmul 的 shared-memory 優化標為 Optional。作業頁明寫需要 GPU，評分用的是不公開的私有測資。
在 MiniTorch 實作自動微分，訓練一個情感分類器｜CMU 11-868 作業 2
11-868 第二份作業分三塊：自動微分的 topological_sort 與 backpropagate（40 分）、Linear 層與 MLP 網路（30 分）、binary cross entropy 與訓練迴圈（30 分），最後在 SST-2 上用 GloVe 詞向量訓練情感分類器，驗證準確率要到 75%。預設後端是你作業一寫的 CUDA kernel；repo 已在 2026-09-02 合併了 Fall 2026 的小修正。
用自己寫的 MiniTorch 做一個 GPT-2，拿去翻德文｜CMU 11-868 作業 3
HW3 要你在 HW1、HW2 做出來的 MiniTorch 上補齊 softmax loss、Dropout、LayerNorm、Embedding，再組出 pre-LN 的 GPT-2 decoder，最後在 IWSLT14 德英翻譯上訓練。配分是 tensor functions 20、basic modules 20、decoder LM 40、翻譯管線 20；滿分條件是通過私有測試且 BLEU 約 20±2。作業頁警告光訓練就要至少 10 小時，PSC 的 V100 一個 epoch 約一小時，要跑 10 個 epoch。2026 春季版 2/4 發、2/18 截止。
把 Softmax 與 LayerNorm 寫成 CUDA 融合 kernel｜CMU 11-868 作業 4
11-868 第四份作業要你照 LightSeq 的做法，親手寫 attention softmax 與 LayerNorm 的 CUDA kernel（前向、反向各一），接回自己的 MiniTorch，再換進 HW3 的 Transformer 訓練一個 epoch。配分是 Softmax 40、LayerNorm 40、整合 20。作業頁預期單一 kernel 快 3.7 到 15.8 倍，整個訓練卻只快約 1.1 倍，原因是 Amdahl 定律。需要一張 NVIDIA GPU；repo 在 2026 秋季已被改過。
在兩張 GPU 上自己寫資料平行與管線平行｜CMU 11-868 作業 5
CMU 11-868 第五份作業改用 PyTorch 與 Hugging Face 的 GPT-2，要你只用 torch.distributed 和 torch.multiprocessing 寫出資料平行（切資料、建 process group、平均梯度，50 分），再寫出 GPipe 式的管線平行（切模型、產生時脈排程、用 worker thread 跑 micro-batch，50 分）。兩部分都要在至少兩張 GPU 上做 benchmark 並交圖：資料平行要在 2 張卡上達到至少 1.5 倍加速，管線平行要比單純模型平行快。2026 春季版 3/25 截止。
用 DeepSpeed ZeRO＋LoRA 訓練 Llama-2-7B，用 SGLang 做推論｜CMU 11-868 作業 6
11-868 第六份作業第一次放下自己寫的 MiniTorch，改用產業框架。兩題各 50 分：第一題改一支 DeepSpeed 訓練腳本，打開 LoRA，讓 Llama-2-7B 在 2 張 16GB 的 V100 上訓練得起來；第二題填完 SGLang 推論腳本的 TODO，並調參數讓生成跑快一點。兩題要的 GPU 互相衝突：SGLang 不支援 V100，要換 L40S、A6000 或 A100。春季版 4/13 截止，作業頁不提供評分測資。
reward model、GAE 與 PPO 的 VERL 風格訓練流程｜CMU 11-868 作業 7
11-868 的 RL 系統講題沒有投影片，Syllabus 只列了 ReaLHF 一篇論文。作業七倒是完整公開：用 Anthropic HH-RLHF 資料訓練 DistilBERT reward model（40 分），在 VERL 風格的 trainer 裡補上 GAE、PPO loss 與 entropy，微調 GPT-2（40 分），最後比較 RLHF 前後的 reward 分布（20 分）。起始碼的 trainer 沒有 import verl 套件，學的是 RLHF 的資料流，不是 VERL 的分散式引擎。
開場：LLM 為什麼需要系統——規模曲線、底層運算子與三層抽象｜CMU 11-868 第 1 堂
CMU 11-868 第一講用 51 頁投影片論證一件事：LLM 的瓶頸不只在模型，而在「用更少的 GPU、記憶體與電力，更快地在更大的資料上訓練與推論更大的模型」。它把一個 Transformer 拆成矩陣乘法、reduction、map、記憶體搬移四種底層運算子，再把難題分到 kernel、框架、分散式系統三層，並提醒光把計算變快不夠，資料搬移同樣花時間。
LLM 服務：排程、RadixAttention 與 PagedAttention｜CMU 11-868 第 22 堂／第 24 堂
11-868 用兩講回答同一個問題：一台推論伺服器怎麼同時服務大量請求，又不浪費 GPU 上的 KV cache。第 22 講（Lei Li）從 SGLang 的排程迴圈講起：ORCA 的 continuous batching、用 radix tree 管 KV 的 RadixAttention、依前綴命中率排序與分流、把 CPU 排程藏到 GPU 計算後面。第 24 講由 vLLM 作者 Woosuk Kwon 主講：PagedAttention 把 KV cache 切成固定大小的 block，用 block table 做虛擬化，讓同一張 A100 的 batch 從 8 撐到 40；後半講 vLLM 怎麼壓 CPU overhead、用 piecewise CUDA graph、切模型平行與管理混合架構的記憶體。
LLM 系統：串起訓練、推論與部署的自學路線｜CMU 11-868 課程總覽
CMU 11-868 是 Lei Li 開的 LLM 系統研究所課：從 CUDA kernel、自己的 MiniTorch 框架，一路做到分散式訓練、SGLang 服務與 RLHF。Spring 2026 的 28 份講義、7 份作業頁與 7 個起始碼 repo 全部公開，可評為 A3；缺的是錄影、GPU 與 PSC 帳號、quiz，以及「哪兩份作業是選修」這件事官方沒寫。
模型放不進一張卡時，切層、切矩陣，還是切專家｜CMU 11-868 第 16–17 堂
CMU 11-868 在 2026 春季用兩講回答「模型太大，一張 GPU 放不下」：L16 講切層的 pipeline parallelism（GPipe 的 micro-batch、1F1B、交錯 stage）和切矩陣的 tensor parallelism（Megatron-LM 對 FFN、attention、embedding 的切法），結論是節點內用 TP、跨節點用 PP、再外面疊 DP；L17 把 MoE 當成第三種切法——每張卡放不同的專家、其餘部分複製，代價換成 all-to-all 通訊與負載平衡，並以 GShard、DeepSpeed-MoE、DeepSeek-V3 的設計逐一說明。
模型量化：GPTQ 省下的是記憶體，速度是順便換來的｜CMU 11-868 第 19–20 堂
11-868 用兩講處理量化：L19 從 BF16、absmax／zero-point 講到 AdaQuant、ZeroQuant、LLM.int8()，L20 整講拆解 GPTQ。GPTQ 只量化權重，每次量化一欄就用二階資訊修正還沒量化的權重，再靠 lazy batch update 與 Cholesky 讓它跑得動 175B。它省下的主要是記憶體；推論變快，是因為單一 batch 的 decode 本來就卡在讀權重，運算量本身沒有減少。
大模型的高效微調：LoRA、CIAT 與 QLoRA｜CMU 11-868 第 23 堂
11-868 第 23 講把微調當成記憶體問題來算：LLaMA-8B 全參數半精度微調約要 80GB，換成 LoRA 約 33GB，再把凍結權重存成 4-bit 的 QLoRA 壓到約 9.2GB。這講的主線是三步：只訓練低秩的 A、B 兩個小矩陣（投影片說這招最早出自 CIAT）；用 NF4 查表與雙重量化把凍結權重壓到約 0.52 bytes／參數；用 paged optimizer 在 GPU 快爆時把 optimizer state 換到 CPU。
prefill／decode 拆分、KV cache 與異質硬體｜CMU 11-868 主題單元
11-868 最後一組講義有五份：DistServe 的 Hao Zhang、NVIDIA Dynamo 的 Vikram Mailthody、LMCache 的 Junchen Jiang、Mooncake／KTransformers 的 Mingxing Zhang，加上 Lei Li 的框架地圖。它們回答同一個問題：服務規模從一台機器擴到一座資料中心之後，算力和 KV cache 要放在哪裡。主線有三步：量尺從 throughput 換成符合 SLO 的 goodput；prefill 與 decode 拆到不同 GPU；KV cache 從 GPU 記憶體擴張到 CPU、SSD 與遠端儲存。
詞表怎麼選、token 怎麼吐，以及 speculative decoding 為什麼快｜CMU 11-868 第 8–9 堂
L08 從 BPE 講到講者 Lei Li 參與的 VOLT：詞表大小有成本也有價值，VOLT 用「每加一個 token 能降多少正規化熵」找划算的點，再化成最佳傳輸問題求解；後半講 LLaMA 3 詞表從 32k 擴到 128k、中文字被 byte-level BPE 切成三個 token 的代價。L09 從 greedy、取樣、beam search 一路講到 speculative decoding：小模型先猜 N 個 token，大模型一次前向驗證，因為驗證比生成便宜；最後介紹 EAGLE 改成預測最後一層特徵。
TPU、JAX 與 Pallas：同一個 attention，在 TPU 上從 XLA 融合寫到 Splash Attention｜CMU 11-868 第 12–13 堂
Google 的 Srinath Mandalapu 用兩講、兩百多頁，把一個 attention 從 Python 一路追到 TPU 的 VLIW 指令。L12 講 JAX 生態、TPU Ironwood 的記憶體與運算單元，以及 XLA 怎麼把 attention 編成三個融合 kernel。L13 講 XLA 做不到的部分：用 Pallas 自己控制 HBM 與 VMEM 之間的搬運，寫出 FlashAttention，再加上區塊稀疏變成 Splash Attention。思路跟 GPU 相同，差別在於：TPU 上排程主要交給編譯器，要介入就得用 Pallas 把迴圈與區塊大小攬回自己手上。
用系統的眼光讀 Transformer、T5、LLaMA 與 GPT-3｜CMU 11-868 第 6–7 堂
11-868 只花兩堂課講模型本身：L06 把 Transformer 拆成 embedding、多頭注意力、FFN、LayerNorm 與殘差，L07 用 T5、LLaMA、GPT-3 三個模型示範現代 LLM 改了哪些地方。對系統工程師來說，重點是記住形狀：GPT-3 175B 是 96 層、d_model 12288、context 2048，訓練 3,000 億 token；LLaMA 65B 是 80 層、d_model 8192、訓練 1.4 兆 token。這些數字決定了後面每一堂加速、平行與服務課要處理的量。
ZeRO 怎麼把資料平行的記憶體切掉——optimizer state、梯度、參數各切一刀｜CMU 11-868 第 18 堂
資料平行每張卡都存一份完整的參數、梯度和 optimizer state；用 Adam 混合精度訓練時，每個參數約要 20 bytes，其中 16 bytes 是 optimizer 相關，LLaMA-3 8B 光這些就要 160GB。CMU 11-868 L18 以 ZeRO 論文為主軸，逐格動畫示範三個階段：ZeRO-1 切 optimizer state、ZeRO-2 再切梯度、ZeRO-3 連參數也切。投影片的結論是前兩階段不增加通訊、最多省 8 倍記憶體；第三階段每張卡的用量隨 GPU 數下降，代價是投影片估的約 3 倍通訊。
親手寫一個 agent harness——同一個 ReAct 迴圈，修 bug、壓上下文、下西洋棋｜CMU 11-768 作業 1
CMU 11-768 第一份作業要你從空白的 ReAct 迴圈做起：先讓 CodeAgent 用 bash 修好一個西洋棋 app 的 bug，再加上下文壓縮去修一題 SWE-bench，最後讓同一個迴圈變成下棋的 ChessAgent，並用 simulate_move、run_python 與 skill 做兩步搜尋；100 分全部靠離線重播 patch 與軌跡評分。
替資料視覺化 agent 寫評分器——四類錯誤、MCC 與 Harbor 驗證器｜CMU 11-768 作業 2
11-768 的 Assignment 2 要學生只用一個固定的 Qwen3-VL-30B-A3B 當裁判，替資料視覺化 agent 的每一次執行判四類錯誤，並用四類 MCC 的平均在私有測試集上評分（占作業 30%）；後半還要把自己出的題包成 Harbor 任務，寫一個被驗證器擋下、一個騙過驗證器的錯誤解。它的主題是：評分器就是之後 RL 的 reward。
沒訓練過語言模型就不能選的 agent 課，三份作業從 harness、評測一路做到 RL｜CMU 11-768 課程總覽
CMU 11-768 是 Graham Neubig 和 Daniel Fried 在 2026 秋季新開的 agent 研究所課：先修嚴格要求訓練過語言模型，23 講從工具呼叫、context、記憶、規劃講到 SFT、RL、沙盒與人機互動。前半學期三份個人作業依序做 harness、評測、訓練，後半學期是團隊研究專題；投影片已公開，前 10 講影片也已公開。
agent 是跑在迴圈裡的模型，難的是讓它真的做得好｜CMU 11-768 第 1 堂
11-768 第 1 講先把 agent 拆到最小：工具定義和工具呼叫都只是 token，harness 負責解析、執行、把結果塞回 context，ReAct 迴圈一跑就是 agent。接著 Neubig 列出好 agent 要的六種能力，每一種都能從訓練或 harness 兩條路補，並主張 agent 是由 harness、沙盒、推論、訓練、監控五塊組成的系統，不只是一個模型。
Tool Use 怎麼從 token 變成動作——schema、受限解碼、MCP 與平行呼叫｜CMU 11-768 第 2 堂
Neubig 把 tool use 拆成五層：能力、機制、約束、介面、系統。工具呼叫本質上是模型吐出的 token，要靠 harness 解析、驗證、用 call ID 對回結果；受限解碼只保證格式不保證對；MCP 的真正價值是憑證中介；同一個模型換家 provider，工具呼叫錯誤率可以從約 15% 掉到 0.1% 以下。
長 context agent 怎麼管記憶體——混合注意力、RoPE 外推、prompt cache 與 compaction｜CMU 11-768 第 3 堂
Agent 每一步都把整段歷史重新送進模型，五次呼叫就累積 80K token 的輸入；OpenHands 的 1,500 個 session 平均 7.8 萬 token，其中 37% 是工具結果。Neubig 分兩層處理：模型層靠「多層局部 + 一層全域」的混合注意力與長度課程撐起百萬 context；harness 層靠穩定前綴吃到便宜約十倍的 cache，再用保留錨點、外存證據的 compaction 撐過上限，而且 compaction 要用接續任務來評。
Skills and Memory——agent 怎麼不從零開始｜CMU 11-768 第 4 堂
CMU 11-768 第 4 講把跨任務的經驗分成 episode、fact、skill 三種，存在 context 與權重之外的外部檔案裡：人寫的 skill 靠 SKILL.md 與漸進揭露載入，SkillsBench 上把平均通過率從 33.9% 拉到 50.5%；agent 自己歸納的 skill 寫成程式碼時可以先測再收，但換個網站就容易壞。最難的是生命週期：判官不準、檢索太多、技能庫膨脹，每一段都會吃掉收益。
Planning——agent 什麼時候該先想清楚，什麼時候該邊做邊改｜CMU 11-768 第 5 堂
CMU 11-768 第 5 講把 agent 的計畫定義成「針對這個任務、可被檢查和修改的未來行為表示」，並用四個理由決定要不要加計畫結構：模組化、環境回饋、長時程、控制。講者 Fried 自己的 MACU 用管理者拆出 DAG、平行派子 agent，在 Odysseys 上把成功率從 8.5% 拉到 34.0%；在 OSWorld 子集上，完全不規劃是 25.0%，只給初始 DAG、之後不准改是 27.8%，允許改 10 次升到 58.3%。
Coding Agents——從補一行程式到修完整個 repo｜CMU 11-768 第 6 堂
Neubig 的 L6 把 coding agent 拆成三層：先把模型訓練成會寫程式（預訓練、中訓練、infilling、測試獎勵的 RL），再用 localize–edit–verify 迴圈和一套編輯工具讓它改 repo，最後用 SWE-bench 類的可執行環境評測與訓練；修 bug 只佔開發者一天的 15%，下一步是測試、CI、維護這些外迴圈任務。
Computer Use Agent 怎麼看螢幕、怎麼評分、怎麼訓練｜CMU 11-768 第 7 堂
JY Koh 這講把 computer use agent 拆成三件事：評測從單步點擊（ScreenSpot-Pro、Mind2Web）一路走到程式驗證終態（WebArena、OSWorld）、VLM 評審與長時程 rubric（Odysseys、OSWorld 2.0）；模型就是吃「截圖＋動作」交錯歷史的 VLM；訓練走預訓練 grounding → SFT 模仿人類與合成軌跡 → 在可重置的模擬環境做 RL。
Agent 的 SFT 怎麼做——loss mask、軌跡挑選、資料格式與交棒給 RL｜CMU 11-768 第 8 堂
Yueqi Song 這講把 agent SFT 拆成六個決定：loss 只算 assistant token（停止 token 也要算）、挑哪些軌跡（通過測試的也會教壞模型，換老師、加新任務比多抽樣有用）、用 Agent Data Protocol 統一格式、訓練時注意 packing 與 template drift、用實際 harness 評估，以及 SFT 要為接下來的 RL 選 checkpoint，而不是訓到自己最好。
RL 基礎——policy gradient 就是 SFT loss 乘上一個權重｜CMU 11-768 第 9 堂
Daniel Fried 用 1 到 16 猜數字當例子，把 RL 講成 SFT 的延伸：先點出 SFT 的三個缺口（任務不對齊、學不了失敗、沒見過自己的錯），再依序推出 ReST、REINFORCE、baseline 與 GRPO／DrGRPO——四者都是對 agent 自己產生的 token 算 log 機率，差別只在每個 token 乘上的權重。
Deep Research Agent 怎麼評、怎麼訓、怎麼檢索｜CMU 11-768 第 10 堂
Akari Asai 的 L10 把 deep research agent 拆成三塊：評測要補齊搜尋難度、領域專業、長答案品質與引用支持四個缺口；訓練走 mid-training → SFT → RL，長答案用 DR Tulu 的演化式 rubric 當 reward；檢索要讓 retriever 看到 agent 的推理，AgentIR-4B 在 BrowseComp-Plus 搭 Tongyi-DR 拿到 68%。
進階 RL 演算法——credit assignment、穩定更新、reward hacking 與蒸餾｜CMU 11-768 第 11 堂
Graham Neubig 用一個修 bug 的 coding 任務，把第 9 講的 policy gradient 推到實戰：用 critic、GAE 或 PRM 把功勞分給個別回合，用 importance ratio 與 clipping 處理非同步 RL 的過期資料，並把 PPO、GRPO、CISPO、GSPO、DAPO 收成一張對照表；最大的篇幅留給獎勵本身——verifier 誤判、reward hacking 與探索崩塌，最後以 on-policy 蒸餾收尾。
Logic and the Hybrid Wumpus Agent，邏輯推論加 A* 規劃｜CMU 07-380 作業 1
HW1 程式作業把 Lec2 的 entailment 做成一個 Pacman 版 Wumpus agent：Q1–Q2 用 Expr 和 pycosat 暖身，Q3–Q5 寫 PKE 感知規則、建 KB、用兩次 SAT 呼叫判斷 SAFE／NOT_SAFE／UNSURE，Q6–Q7 用現成的 A* 輔助函式組出 exploration agent 和三層策略的 hybrid agent。starter 與本機 autograder 可匿名下載；Gradescope 上的線上題只限校內。本文不附解答。
Classical and Motion Planning，從 robot-cook PDDL 到 RRT* 再到 LP 圖解｜CMU 07-380 作業 2
07-380 HW2 分三塊：程式作業先寫煎餅機器人的 PDDL，交給 unified-planning＋Fast Downward 求最優計畫，再在 rrt.py 實作 RRT 與 RRT*（Q2–Q7）；書面作業考 GraphPlan、一題 LP 建模與兩題 LP 圖解；另有只限校內的 Gradescope 線上題。本文只講題目結構、需要的概念與本機 autograder 怎麼跑，不附解答。
Optimization，自己寫 LP 求解器和 branch and bound，書面串起 PCA 與 MAP｜CMU 07-380 作業 3
HW3 分三塊：程式作業要你用頂點枚舉寫出 LP 求解器，再在上面疊 branch and bound 解整數規劃，外加三題文字建模；書面四題分別是整數規劃手算、Amazon 送貨路線的倫理、PCA 的 SVD 計算，以及證明 Laplace 先驗等價 L1。截止日是 10/1，本文只講結構和需要的概念，不給解答。
Introduction，AI & ML II 接在 07-280 之後要解什麼問題｜CMU 07-380 第 1 堂
07-380 Lec1 沒有演算法，重點是三件事：「智慧＝在不確定性下把任務做好」這條主線、投影片上那張把 07-280 與 07-380 主題分色的 AI／ML 泡泡圖，以及 Quiz 55%、沒有期末考、Project 收尾的評分結構。校外讀者先用這講替後面 25 講定位。
Logical Agents，用 model checking、DPLL 與 forward chaining 證明安全格｜CMU 07-380 第 2 堂
Lec2 把踩地雷和 Wumpus World 的「這格安不安全」寫成 entailment 問題：KB ⊨ α 等價於 KB ∧ ¬α 不可滿足。能回答它的有三種做法：暴力列舉 model 的 TT-ENTAILS、在回溯上加提早終止、pure symbol、unit clause 的 DPLL，以及只吃 definite clause、線性時間的 forward chaining。Resolution 放在附錄，標示 out of scope。
Classical Planning，PDDL、狀態空間搜尋與 relaxation heuristic｜CMU 07-380 第 3 堂
07-380 Lec3 把命題邏輯的 successor-state axioms 換成 STRIPS 的 pre/add/del 三個集合，規劃就變回狀態空間搜尋；搜尋太大時，GraphPlan 允許動作同時發生、事實只增不減，delete relaxation 再把刪除效果整個拿掉，換來 FF 與 Fast Downward 使用的 heuristic。
Motion Planning，RRT 在連續空間用取樣找路｜CMU 07-380 第 4 堂
07-380 Lec4 後半把規劃搬到連續的 configuration space：狀態沒辦法枚舉，RRT 就隨機取樣、從樹上最近的節點往樣本延伸一小段，並檢查整段不碰撞。RRT 是 probabilistically complete 但不最優；RRT* 用樹上的路徑成本幫新節點選父節點、再重接鄰居，讓路徑隨樣本增加收斂到最優。
Linear Programming，為什麼最優解落在可行域的頂點｜CMU 07-380 第 5 堂
07-380 Lec5 用 Diet Problem 把一段文字題寫成 min cᵀx s.t. Ax ⪯ b，再畫成圖：每條限制是一個半平面，cost 是一個方向，等成本線垂直於 c。沿著 −c 推到最後一刻碰到可行域的地方，一定包含某個頂點，所以演算法只要看限制邊界的交點：頂點枚舉全部檢查，simplex 從一個頂點貪心走到鄰居。
Integer Programming，先鬆弛成 LP 再用 branch and bound 分支｜CMU 07-380 第 6 堂
07-380 Lec6 在 LP 上多加一條 x ∈ ℤᴺ，頂點解就可能不是整數，而且在 LP 解附近找整數點也不保證對。解法是先把整數限制拿掉（relaxation），用 LP 算出下界，再對某個非整數座標分成 xᵢ ≤ floor 與 xᵢ ≥ ceil 兩支，全部丟進依 LP 目標值排序的 priority queue；第一個被取出的整數解就是最優解。
Low Rank Optimization，PCA 的重建誤差、投影變異數與 LoRA｜CMU 07-380 第 7 堂
07-380 Lec7 把 PCA 放進「低秩最佳化」的框架：找一個 rank 不超過 r 的矩陣去逼近原資料。對單位向量 v，每個點的重建誤差等於 ‖x‖² 減去投影長度的平方，所以最小化重建誤差和最大化投影變異數是同一個問題；用 Lagrange 乘數解出來，答案是共變異數矩陣的特徵向量，也可以直接從 SVD 的 V 讀出。課站把 LoRA 論文列為延伸閱讀，它的 ΔW = BA 就是同一個低秩想法用在權重更新上。
MAP，先驗怎麼進入估計，為什麼等價於正則化｜CMU 07-380 第 8 堂
Lecture 8 把 MLE 的 argmax p(D|θ) 換成 argmax p(θ|D)：先驗 p(θ) 乘進 likelihood，取負 log 之後就變成目標函數裡多出來的一項。用 trick coin 看先驗怎麼被資料蓋過，用 Beta 先驗算出點擊率，再把線性迴歸的高斯先驗、Laplace 先驗對到 L2、L1 正則化。
Probabilistic Generative Models，Naive Bayes 與 Gaussian Discriminant Analysis｜CMU 07-380 第 9 堂
Lecture 9 不再直接學 p(y|x)，改成先學類別先驗 p(y) 和類別條件分佈 p(x|y)，再用 Bayes rule 反推。這樣做要付出更強的假設，換來的是能生成新資料、資料少時比較穩。Naive Bayes 用條件獨立把參數砍到可估計，GDA 用多變量高斯處理連續特徵，共變異數一不一樣決定邊界是直線還是曲線。
Bayes Nets 用圖把聯合分佈拆成條件機率表｜CMU 07-380 第 10 堂
07-380 Lec10 的投影片目前還沒上課站，本文只依 PR6 Bayes Nets 預讀筆記與 15-281 Bayes Net Demo：聯合分佈能回答任何 query，但沒人給你、也大到存不下；Bayes net 把它寫成「每個節點給定父節點」的條件機率表乘積，少畫的邊就是獨立性假設。
從確定性推理與優化轉進不確定性｜CMU 07-380 主題單元
07-380 前十講依課站 Schedule 分成 Reasoning Under Certainty、Optimization、Reasoning Under Uncertainty 三段：先用邏輯證明、用搜尋規劃，再把問題寫成有限制的目標函數，最後在 MAP 讓先驗進場、轉向機率模型。HW1 檢查邏輯＋搜尋、HW2 檢查規劃＋LP 圖解、HW3 檢查求解器實作＋PCA 與 MAP 推導。
學會什麼、缺什麼，以及下一門怎麼選｜CMU 07-280 課程地圖
完成 07-280 不等於看完 24 篇導讀；至少要留下搜尋器、監督式模型、CNN／GPT-2 實驗與一個 RL＋MCTS 小系統，再依缺口選 07-380、10-301 或專題課。
搜尋、GPT-2、AlphaZero 為什麼在同一門課？｜CMU 07-280 課程總覽
07-280 是 CMU Spring 2026 首開的 AI＋ML 核心：24 講、12 個作業編號，從 heuristic search、CSP 與機器學習一路做到 AlexNet、GPT-2、AlphaZero。教材足以自學，但官方課表未列完整公開錄影連結、Canvas checkpoint 或 Gradescope 回饋。
AI、機器學習與表示學習的共同問題｜CMU 07-280 第 1 堂
Lecture 1 用 alien autoencoder、AI／ML 範圍與 AI 發展史建立全課座標：智慧系統不是模型清單，而是在不確定下把輸入表示成可計算決策。
從 UCS、Greedy 到 A* 的 heuristic search｜CMU 07-280 第 2 堂
Lecture 2 把搜尋拆成 problem、frontier 與 priority：UCS 看已付成本，Greedy 看估計剩餘成本，A* 用 `f=g+h` 合併兩者；tree 與 graph search 的最優條件並不相同。
Minimax、Alpha-Beta 與 Expectimax｜CMU 07-280 第 3 堂
Lecture 3 把單一路徑改成 contingent plan：minimax 對抗最佳對手，alpha-beta 在不改 root value 下跳過無關分支，expectimax 則用機率取代最壞情況。
CSP、AC-3 與搜尋順序｜CMU 07-280 第 4 堂
Lecture 4 利用 variables、domains、constraints 暴露問題結構，再把 DFS 升級成 backtracking、forward checking、AC-3、MRV 與 LCV；重點是更早證明某些選擇不可能成功。
用 Loss、Risk 與 ERM 定義機器學習｜CMU 07-280 第 5 堂
Lecture 5 把機器學習寫成 `X → Y`、loss、risk 與 empirical risk minimization：訓練集只能提供平均已知損失，真正目標仍是未知分布上的 generalization。
Decision Trees 如何用 Mutual Information 分裂資料｜CMU 07-280 第 6 堂
Lecture 6 從 decision stump 遞迴建樹，用 entropy 衡量 label uncertainty，再以 `I(Y;W)=H(Y)-H(Y|W)`選擇分裂；這是計算可行的 greedy ERM，不是全域最佳樹保證。
Linear Regression 與 Normal Equation｜CMU 07-280 第 7 堂
Lecture 7 把 ERM 套到 linear functions 與 squared loss，從一維 slope 推到矩陣形式 `argmin ||y-Xθ||²`，再在 `XᵀX` 可逆時得到 normal equation。
Gradient Descent、SGD 與 Learning Rate｜CMU 07-280 第 8 堂
Lecture 8 從一維 parabola 推到 vector gradient，再比較 batch GD、SGD 與 mini-batch；learning rate 決定更新是收斂、震盪或發散。
Logistic Regression 如何把分類改寫成機率估計｜CMU 07-280 第 9 堂
Lecture 9 不直接預測 0 或 1，而以 sigmoid 建模 P(y=1|x)，再用 cross-entropy 與凸最佳化學出參數；多類別版本自然延伸成 softmax regression。
Feature Engineering 與 Regularization 如何交換表達力和穩定性｜CMU 07-280 第 10 堂
Lecture 10 先用 φ(x) 讓線性模型表達非線性，再以 train/validation/test 分工、L1/L2 regularization 與 model selection 限制新增自由度造成的過度擬合。
從 Logistic Regression 組出第一個 Neural Network｜CMU 07-280 第 11 堂
Lecture 11 把單一 logistic neuron 擴成多層網路：linear layer 產生 z、activation 產生 a，多個 neuron 共同學出 feature transform，再以 loss 和 gradient descent 訓練權重。
Backpropagation 如何重用 Chain Rule｜CMU 07-280 第 12 堂
Lecture 12 把神經網路視為 computation graph：forward pass 保存中間量，backward pass 從 loss 開始傳遞 upstream gradient，並用線性層、activation 與 softmax 的局部規則一次算出全部參數梯度。
AI Alignment 從 Reward Hacking 走到可稽核的 AI Scientist｜CMU 07-280 第 13 堂
Lecture 13 把 alignment 拆成目標規格、distribution shift、監督與修正能力，並用 autonomous AI scientists 的 benchmark selection、data leakage 與 post-hoc selection 實驗說明：只看最終論文不足以稽核整個研究流程。
CNN 如何把影像的空間結構寫進模型｜CMU 07-280 第 14 堂
Lecture 14 以 local connectivity 與 parameter sharing 取代全連接影像模型，從 convolution、stride、padding、pooling 走到 AlexNet、GPU data parallelism、ResNet skip connection 與 BatchNorm。
Pre-training、Transfer Learning 與 Fine-tuning 的分工｜CMU 07-280 第 15 堂
Lecture 15 將 pretrained model 拆成 representation g 與 task head h：可以凍結 g 只訓練 head，也能用較小 learning rate fine-tune 部分或全部參數；選擇取決於資料量與 source-target 差距。
Maximum Likelihood 如何統一 Logistic 與 Linear Regression｜CMU 07-280 第 16 堂
Lecture 16 從 likelihood p(D|θ) 出發，以 i.i.d. 將聯合機率寫成乘積，再用 log 變成和；Bernoulli MLE 得到樣本比例，conditional Bernoulli 得到 logistic cross-entropy，Gaussian noise 則得到 squared error。
從 Tokenization 到 N-gram Language Model｜CMU 07-280 第 17 堂
第 17 講先決定文字如何切成 token，再用 N-gram 把序列機率改寫成可從 corpus 計數的條件機率；tokenization 不是前處理小事，而是模型能看見什麼的第一個設計決定。
N-gram 如何訓練、取樣與失敗｜CMU 07-280 第 18 堂
第 18 講把 chain rule 截成 N-gram Markov assumption，以 corpus counts 做 MLE，再比較 greedy、categorical sampling 與 temperature；真正的瓶頸是未見 context 的零機率與固定視窗。
Word Embedding 如何把下一詞預測變成幾何｜CMU 07-280 第 19 堂
第 19 講以兩個 embedding matrices、dot-product similarity、softmax 與 cross-entropy 建立最小 next-token model，讓相似 context 透過共享向量參數取代 N-gram 的獨立計數格。
從 Position Encoding 推到 Causal Self-Attention｜CMU 07-280 第 20 堂
第 20 講先把單 token embedding 擴成 sequence，以 positional encoding 補順序，再推導 Q/K/V scaled dot-product attention、causal mask 與 multi-head blocks，最後接到 GPT-2。
Bellman Equation 如何解 Markov Decision Process｜CMU 07-280 第 21 堂
第 21 講把隨機序列決策寫成已知 dynamics 的 MDP，以 Bellman backup 定義 value 與 Q-value，再用 value iteration 或 policy iteration 求最佳 policy。
不知道 Dynamics 時如何做 Q-learning｜CMU 07-280 第 22 堂
第 22 講保留 MDP 骨架，拿掉已知 transition 與 reward 的假設；TD learning 用一步 sample 更新 value，Q-learning 再以 off-policy target 直接學最佳 action values。
從 Approximate Q-learning 到 DQN｜CMU 07-280 第 23 堂
第 23 講以 Qθ(s,a) 取代巨大 Q-table：先用 features 線性近似並由 squared TD error 推導 gradient update，再以 replay data 與固定 target network 形成 DQN。
Monte Carlo Tree Search 如何接上 AlphaZero｜CMU 07-280 第 24 堂
Spring 2026 Lecture 24 是 MCTS，不是 Fall 2026 的 LLM post-training；本講以 selection、expansion、rollout、backup 與 UCB 分配模擬，再由 policy/value heads 與 self-play 接到 AlphaZero。
從搜尋問題走到監督式學習｜CMU 07-280 主題單元
第一階段把 Lectures 1–12 串成同一條決策鏈：先定義狀態、動作與目標，再用 heuristic、loss、regularization 與 backpropagation 控制龐大搜尋空間。
用 AlexNet 與 GPT-2 把模型真正組起來｜CMU 07-280 主題單元
第二階段不把 CNN 與 Transformer 當兩份架構圖背誦，而是透過 HW8 與 HW11 檢查表示、計算圖、訓練、遷移與生成是否真的接得起來。
從 MDP、Q-learning 到 AlphaZero｜CMU 07-280 主題單元
第三階段把 value、policy、bootstrapping、function approximation 與 MCTS 接成 AlphaZero：network 提供先驗與估值，search 改善決策，self-play 再產生下一輪資料。
導論：從感知器到深度網路｜CMU 11-785 第 1 堂
Spring 2026 Lecture 1 聚焦神經元、感知器、連結主義與深度學習問題設定；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
神經網路作為通用近似器｜CMU 11-785 第 2 堂
Spring 2026 Lecture 2 聚焦布林函數、網路深度與寬度對表示能力的影響（含多輸入 XOR 的例子），並在結尾銜接到下一講的訓練問題；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
訓練一：學習與經驗風險最小化｜CMU 11-785 第 3 堂
Spring 2026 Lecture 3 聚焦學習問題的設定（輸入與輸出如何表示成數字）、perceptron 學習規則及其不適用於多層網路、可微分的 divergence，以及經驗風險最小化（loss）；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
訓練二：梯度下降｜CMU 11-785 第 4 堂
Spring 2026 Lecture 4 聚焦導數與梯度的定義、極值與二階導數、沿負梯度反覆更新的梯度下降，以及訓練前要先定義的網路、輸入輸出表示與 divergence；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
訓練三：反向傳播｜CMU 11-785 第 5 堂
Spring 2026 Lecture 5 聚焦分層網路的符號、前向傳遞、chain rule 與 Jacobian（含向量激活函數），以及反向傳遞如何逐層算出權重與偏置的導數；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
訓練四：收斂、損失曲面與動量｜CMU 11-785 第 6 堂
Spring 2026 Lecture 6 聚焦梯度下降的收斂（凸函數與二次函數上的步長選擇、各維度差異）、局部極小與鞍點、遞減或自適應的 learning rate、R-prop，以及 momentum 與 Nesterov 加速梯度；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
訓練五：SGD、batch size 與二階方法｜CMU 11-785 第 7 堂
Spring 2026 Lecture 7 聚焦SGD 與 mini-batch 的增量更新，以及 RMSprop、momentum 等趨勢式更新（二階方法只在投影片，錄影未講）；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
訓練六：最佳化器與正則化｜CMU 11-785 第 8 堂
Spring 2026 Lecture 8 聚焦divergence（loss）的選擇、BatchNorm、dropout 與其他正則化手法，以及 early stopping 等訓練技巧（AdaGrad、Adam 不在這支錄影中）；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
卷積神經網路一｜CMU 11-785 第 9 堂
Spring 2026 Lecture 9 聚焦為什麼要掃描輸入、把掃描分散到多層、以 max pooling 處理形變，以及 CNN／time delay neural network 的結構；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
卷積神經網路二｜CMU 11-785 第 10 堂
Spring 2026 Lecture 10 聚焦CNN 的來源（Hubel 與 Wiesel、Fukushima 的 Neocognitron）、卷積層與池化層的運算，以及 filter 大小／stride／通道數等設計選擇；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
卷積神經網路三｜CMU 11-785 第 11 堂
Spring 2026 Lecture 11 聚焦CNN 的回顧，以及卷積層與池化層的反向傳播；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
卷積神經網路四｜CMU 11-785 第 12 堂
Spring 2026 Lecture 12 聚焦補充的反向傳播規則（stride、上採樣與下採樣）、對平移以外變換的不變性，以及 CNN 簡史與主要架構的快速介紹；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
循環神經網路一｜CMU 11-785 第 13 堂
Spring 2026 Lecture 13 聚焦序列建模的動機、狀態與記憶、Jordan／Elman 類循環網路、沿時間的反向傳播，以及雙向網路；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
循環神經網路二｜CMU 11-785 第 14 堂
Spring 2026 Lecture 14 聚焦時間反向傳播、梯度穩定性與 LSTM 類 gated memory；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
Seq2Seq 與 CTC｜CMU 11-785 第 15 堂
Spring 2026 Lecture 15 聚焦序列模型訓練時的對齊問題（以明確對齊、重新估計對齊來訓練的做法與其容易落入局部最佳的風險）；CTC 只在結尾被引出，細節留到下一講；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
CTC blank 與 beam search｜CMU 11-785 第 16 堂
Spring 2026 Lecture 16 聚焦blank 符號與相鄰重複符號的合併規則、CTC 的 forward（alpha）機率計算，以及剪枝式的近似解碼（beam 僅在結尾簡短說明）；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
語言模型與翻譯｜CMU 11-785 第 17 堂
Spring 2026 Lecture 17 聚焦逐字預測下一個詞的語言模型、條件式翻譯模型，以及 beam search 解碼；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
Attention 與 Transformer｜CMU 11-785 第 18 堂
Spring 2026 Lecture 18 聚焦seq2seq 的 attention 機制（query、key、value 與 softmax 加權平均）、multi-head 的提及，以及對 Transformer 的簡述；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
Transformer 與後續架構｜CMU 11-785 第 19 堂
Spring 2026 Lecture 19 聚焦encoder／decoder 結構、mask、residual path 與架構變體；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
大型語言模型｜CMU 11-785 第 20 堂
Spring 2026 Lecture 20 聚焦規模化自回歸模型、預訓練與 scaling law，以及後訓練（包含讓模型取樣自己的答案並依回饋改進）；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
表示學習與 autoencoder｜CMU 11-785 第 21 堂
Spring 2026 Lecture 21 聚焦神經網路到底表示什麼、重建目標（自編碼器），以及它與 PCA（降維）的關係；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
變分自編碼器｜CMU 11-785 第 22 堂
Spring 2026 Lecture 22 聚焦latent variable、ELBO、KL 項與 reparameterization trick；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
擴散模型｜CMU 11-785 第 23 堂
Spring 2026 Lecture 23 聚焦forward noising、reverse denoising、score／noise prediction 與採樣；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
生成對抗網路｜CMU 11-785 第 24 堂
Spring 2026 Lecture 24 聚焦generator、discriminator、minimax objective 與訓練不穩定；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
圖神經網路｜CMU 11-785 第 25 堂
Spring 2026 Lecture 25 聚焦message passing、aggregation、node representation 與 permutation symmetry；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
強化學習｜CMU 11-785 第 26 堂
Spring 2026 Lecture 26 聚焦state、action、reward、return、value 與 policy learning；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
Hopfield 網路｜CMU 11-785 第 27 堂
Spring 2026 Lecture 27 聚焦聯想記憶、能量函數、固定點與 pattern retrieval；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
Boltzmann machine｜CMU 11-785 第 28 堂
Spring 2026 Lecture 28 聚焦能量式機率模型（Gibbs 分布與歸一化常數 Z）、隨機（機率式）神經元，以及如何訓練這類機率網路；本文依官方 slides 與錄影重建主線，並提供不依賴課內 grader 的小型自我檢查。
從神經網路基礎到序列模型的學習路線｜CMU 11-785 課程總覽
CMU 11-785 Spring 2026 的 28 講內容都有官方 slides 與 YouTube，另有大量公開 bootcamp／recitation；但 HW1–4 的核心規格、starter 與評測依賴 Autolab、Piazza 和 Kaggle。
AI 與機器學習進階：從邏輯規劃到生成模型｜CMU 07-380 課程總覽
07-380 Fall 2026 是 CMU AI 新制第二門首開，26 講涵蓋邏輯、規劃、優化、機率圖、生成式與系統。依 2026-09-29 課站，Lec1–9 投影片、PR1–6 筆記、Rec1–5（含解答）與 HW1–3 已公開，本站已寫完對應的 14 篇逐講導讀；Lec10 之後的投影片、HW4–7 與 Final Project 還沒釋出，整門課仍是 A2。
先用數學與 Python 找出機器學習地基缺口｜CMU 10-301 作業 1
HW1 是 written＋programming 作業：用機率、微積分、線代與 CS 題組檢查地基，再實作 majority-vote classifier。
從資訊量手算到完整 Decision Tree｜CMU 10-301 作業 2
HW2 要先用 entropy 與 mutual information 手算切分，再完成建樹、預測與評估的端到端分類器。
比較 K-NN、Perceptron 與 Linear Regression｜CMU 10-301 作業 3
HW3 是純 written 作業，以 decision tree 回顧，再比較 K-NN、Perceptron 與 Linear Regression 的 inductive bias、誤差與 model selection。
把 Logistic Regression 從 likelihood 寫成分類器｜CMU 10-301 作業 4
HW4 把機率解釋、cross-entropy 梯度與程式實作綁在一起，驗收的是一條可追蹤的訓練流程。
用 NumPy 拆開 Neural Network 與 Backpropagation｜CMU 10-301 作業 5
HW5 的價值在於不靠自動微分，親手追蹤 forward shapes、cache 與 backward gradients。
Learning Theory、MLE／MAP 與公平指標｜CMU 10-301 作業 6
HW6 把 generalization、MLE/MAP、probabilistic learning、公平指標與社會影響放在同一份 written 作業，逼你說清楚假設與取捨。
從基礎神經網路走到 Deep Learning｜CMU 10-301 作業 7
HW7 在 HW5 的 backpropagation 地基上加入深度模型的架構與訓練問題，重點是診斷而非只把網路加深。
從 MDP 到 Reinforcement Learning 更新規則｜CMU 10-301 作業 8
HW8 把 state、action、reward、transition 與 value update 接起來，驗收你能否區分環境動態、policy 與估計誤差。
用 Ensembles、k-Means、PCA 與推薦系統收束全課｜CMU 10-301 作業 9
最後一份 written 作業把 ensemble、clustering、representation 與 recommendation 並列，驗收你能否按問題結構選學習典範。
用九份作業學完整機器學習｜CMU 10-301 課程總覽
Spring 2026 的 10-301／601 公開 27 講教材與九份作業包；校外讀者能完成主要實作，但拿不到 Panopto、Piazza、Gradescope 與正式作業解答。
CMU AI 核心改制：15-281＋10-315 到 07-280＋07-380，不只是換課號
CMU 在 2026 年把原本分開的廣義 AI 與 SCS 機器學習入口，重新整合成 07-280 → 07-380；這是內容與先修路線的重切，不是兩門課逐一改名。
Pacman AI project 血統：Berkeley CS188 與 CMU 15-281 怎麼重組同一套教材
CMU 15-281 的 Search and Games 明確標示源自 Berkeley Pacman AI projects；官方課站另列一份零分 P0 tutorial，以及 P1–P5 五份 programming assignments。
CMU 的 AI 學位：全美第一個 AI 學士，把「AI 該學什麼」寫成了畢業要求
Stanford 沒有 AI 學位，AI 是 CS 底下的一條 track；CMU 2018 年開出全美第一個 B.S. in Artificial Intelligence，把 AI 拆成四個 cluster 並強制各修一門，還把倫理課列進畢業要求。碩士這條線則是 MSAII——不在 CS 系，在語言技術研究所，195 學分裡有 84 分是創業流程，最後要交一個能拿去募資的 capstone。查證時發現兩處官方頁面自己打架：AI Core 是 2 門還 3 門、總學分是 192 還 195。
CMU AI／ML 課程導讀：07-280 新主幹與校外可走的公開路線｜世界名校 AI／CS 課程地圖
CMU 現行 BSAI 已改成 07-280 → 07-380，再從 NLP／視覺核心與四個 AI clusters 延伸；07-380 已在 Fall 2026 首開，同學期還新開了研究所級的 11-768 AI Agents。07-280 Spring 2026 的殘留教材與 10-301/601 已能完整自學，15-281 則是仍有價值的退休舊路線。