TL;DR 2026 第 5 講把 agent、environment、state、action、reward 與 policy 接成互動迴圈,理解信用分配與探索。
系列:
MIT 6.S191 導讀
(6 / 13)
MIT 6.S191 2026 第 5 講是 強化學習:用回報取代標準答案。把 agent、environment、state、action、reward 與 policy 接成互動迴圈,理解信用分配與探索。這篇只依 2026 官方投影片與影片整理;不把 2025 的同名內容混進來。
這一講要帶走什麼
- 分清 immediate reward 與長期 return
- 理解 policy gradient 為何提高高回報動作的機率
- 辨認 sparse reward、exploration 與不穩定訓練的風險
這些概念的共同點是:不能只會認名詞。你要能指出輸入、輸出、學習訊號與限制,才算真的接上後續內容。
互動鏈是 policy 依 state 選 action,environment 回傳下一個 state 與 reward,再把多步 reward 彙整成 return。policy gradient 用取樣軌跡估計更新方向,因此 reward 設計、探索範圍與估計變異都會改變學到的行為。
建議觀看方式
先快速看一遍官方投影片的章節與圖,再看官方影片。第二遍遇到公式或架構圖就暫停,用自己的符號重畫;影片播完後,不回看資料,寫下三個核心概念與一個仍不確定的地方。
今晚就能做的練習
替一個簡單遊戲寫下 state、action、reward 與終止條件;如果 reward 一行寫不清楚,就先別訓練。
完成標準不是「看完」。你應留下可檢查的圖、計算、程式輸出或短筆記,並能向另一個人解釋其中一個失敗點。
這篇沒有涵蓋什麼
6.S191 是高強度入門課,本篇也只做單講導航,不替代完整影片、數學推導或正式作業回饋。若某個主題需要嚴格理論,應接一學期制課程或原始論文。
參考資料
Glossary
Loading...