第 27 頁，共 129 頁
開場問 How many users are there? 和 What is the expected read to write ratio?；先放著的細節說 I'm going to put a pin in that；講代價用 …but it will come at the cost of latency；比較完要下決定：I'm going to go with an event queue because I'd rather…；講完一段問 Do you think that makes sense?。
以固定比較條件、配對結果與重現紀錄，把生成模型專案寫成可檢查的研究證據。
知道反向傳播用鏈式法則，還不等於能寫出正確的訓練迴圈。
以角色扮演報告分清論文主張、實驗證據與自己的推論，走完受控比較例子。
RNN 把歷史壓進一個狀態，attention 則讓目前位置直接讀取一組歷史表示。
模型學會的下一 token 分佈，跟我們怎麼從分佈挑 token，是兩件接續發生的事。
前一堂知道怎麼造出 noisy input 與噪聲標籤，這堂要回答下一個缺口：網路預測 ε 之後，怎麼得到下一個較乾淨的樣本？
普通 autoencoder 把輸入壓成一個向量再還原；VAE 則為每筆資料產生一個潛在分佈，讓重建與生成能在同一個機率模型中討論。
分清 ICL、SFT、reward model 與 RLHF 各自改變什麼，並用算例驗收
推導 DPO loss 並重算數值例子，再追 latent diffusion 的形狀與條件路徑
以完整數值例子與變式答案理解Vision-language model：圖片如何成為語言模型的輸入。
以完整數值例子與變式答案理解Cross-attention 與 DiT：條件如何進入去噪器。
追 Q-Former 的 query 讀取與兩階段訓練，再用固定預算計算模型與資料的分配
以完整數值例子與變式答案理解Mixture of Experts：總容量與啟用計算如何分開。
以完整數值例子與變式答案理解分散式訓練：梯度、模型與狀態各如何切分。
以完整數值例子與變式答案理解高效推論：FlashAttention、KV cache 與推測解碼。
區分位置/記憶體/資訊取用並設計受控驗收
從recurrence展開固定卷積並識別selection邊界
把不同危害對應不同資料流與指標
計算 frame、mel 與 WER，再算 codec token 帳並區分擴散採樣