影片狀態：已附影片。 影片來源與說明
MIT 6.S191 2026 第 9 講是 大規模平行訓練：記憶體與通訊才是邊界。從 GPU 記憶體壓力進入 checkpointing、offloading、ZeRO、FSDP 與多種 parallelism，理解擴展不是只加卡。這篇只依 2026 官方投影片與影片整理；不把 2025 的同名內容混進來。
這一講要帶走什麼
- 把參數、gradient、optimizer state 與 activation 分開估算
- 分辨 data、tensor、pipeline 與 context parallelism 切的是什麼
- 知道節省記憶體常會增加重算或通訊
這些概念的共同點是：不能只會認名詞。你要能指出輸入、輸出、學習訊號與限制，才算真的接上後續內容。
先算參數、gradient、optimizer state 與 activation 的記憶體，再決定切分方式：data parallel 複製模型、tensor parallel 切算子、pipeline parallel 切層、context parallel 切序列。每種切分都把部分記憶體壓力換成通訊、同步或 pipeline bubble。
建議觀看方式
先快速看一遍官方投影片的章節與圖，再看官方影片。第二遍遇到公式或架構圖就暫停，用自己的符號重畫；影片播完後，不回看資料，寫下三個核心概念與一個仍不確定的地方。
今晚就能做的練習
替一個模型列四欄記憶體帳，再決定先用 checkpointing、sharding 或換小模型；不要從「要幾張 GPU」倒推。
完成標準不是「看完」。你應留下可檢查的圖、計算、程式輸出或短筆記，並能向另一個人解釋其中一個失敗點。
這篇沒有涵蓋什麼
6.S191 是高強度入門課，本篇也只做單講導航，不替代完整影片、數學推導或正式作業回饋。若某個主題需要嚴格理論，應接一學期制課程或原始論文。
課程影片來源
2026-10-10 已即時回官方課程頁核對講次與影片連結，影片公開且允許嵌入。
原始影片：MIT 6.S191: Secrets of Massively Parallel Training
課程與錄影入口：
查核日期：2026-10-10。
內容核對：已依字幕核對（2026-10-10）：這是客座講，講者是 Liquid AI 共同創辦人兼 CTO Mathias Lechner（YouTube 標題與描述把它標成 Lecture 8，片長 52:40）。字幕涵蓋記憶體組成（參數、gradient、optimizer state、activation）、activation checkpointing、offloading、data／tensor／pipeline（含 pipeline bubble）／context parallelism，以及 ZeRO 與 FSDP；與本文逐項相符。
更新紀錄
- 2026-10-10：標註影片狀態，核對錄影來源與取得方式。
- 2026-10-10：重查影片狀態。即時核對官方課程頁，講次與影片連結一致且影片公開，狀態改為「已附影片」。
- 2026-10-10：依字幕核對影片內容。確認這是 Mathias Lechner（Liquid AI）的客座講，內容與本文相符。
參考資料
Loading...