Attention 與 Transformer|CMU 11-785 第 18 堂
Spring 2026 Lecture 18 聚焦seq2seq 的 attention 機制(query、key、value 與 softmax 加權平均)、multi-head 的提及,以及對 Transformer 的簡述;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 18 聚焦seq2seq 的 attention 機制(query、key、value 與 softmax 加權平均)、multi-head 的提及,以及對 Transformer 的簡述;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 19 聚焦encoder/decoder 結構、mask、residual path 與架構變體;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 20 聚焦規模化自回歸模型、預訓練與 scaling law,以及後訓練(包含讓模型取樣自己的答案並依回饋改進);本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 21 聚焦神經網路到底表示什麼、重建目標(自編碼器),以及它與 PCA(降維)的關係;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 22 聚焦latent variable、ELBO、KL 項與 reparameterization trick;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 23 聚焦forward noising、reverse denoising、score/noise prediction 與採樣;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 24 聚焦generator、discriminator、minimax objective 與訓練不穩定;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 25 聚焦message passing、aggregation、node representation 與 permutation symmetry;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 26 聚焦state、action、reward、return、value 與 policy learning;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 27 聚焦聯想記憶、能量函數、固定點與 pattern retrieval;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
Spring 2026 Lecture 28 聚焦能量式機率模型(Gibbs 分布與歸一化常數 Z)、隨機(機率式)神經元,以及如何訓練這類機率網路;本文依官方 slides 與錄影重建主線,並提供不依賴課內 grader 的小型自我檢查。
CMU 11-785 Spring 2026 的 28 講內容都有官方 slides 與 YouTube,另有大量公開 bootcamp/recitation;但 HW1–4 的核心規格、starter 與評測依賴 Autolab、Piazza 和 Kaggle。
第 6 講先補完 Transformer encoder、decoder 與 cross-attention,再把期末專案拆成題型、評分、研究題目與資料來源;好題目必須能用一個明確 baseline 和指標驗證。
2026 第 1 講從感知器、前向傳播、loss 到 gradient descent,建立後續九講共用的語言。
2026 第 2 講處理文字、音訊與時間序列中「順序會改變意義」的問題,並連到 Lab 1 的音樂生成。
2026 第 3 講從影像張量、卷積與 pooling 走到辨識系統,替 Lab 2 的 MNIST 與臉部偵測打底。
2026 第 4 講區分生成與判別問題,整理 VAE、GAN 與 diffusion 的學習目標,並接到 Lab 2 的 DB-VAE。
2026 第 5 講把 agent、environment、state、action、reward 與 policy 接成互動迴圈,理解信用分配與探索。
2026 第 6 講把深度學習放進新應用與真實限制,提醒讀者先定義資料、輸出、評量與失敗條件。
2026 第 7 講從 Asimov 的文學法則出發,討論現代 AI 安全協定的限制,以及 trace、測試資料與持續評估。