Skip to content

MIT 6.S191 Lecture 5:強化學習:用回報取代標準答案

2026年8月22日 1 分鐘
TL;DR 2026 第 5 講把 agent、environment、state、action、reward 與 policy 接成互動迴圈,理解信用分配與探索。
目錄
  1. 這一講要帶走什麼
  2. 建議觀看方式
  3. 今晚就能做的練習
  4. 這篇沒有涵蓋什麼
  5. 參考資料

🌏 English version

MIT 6.S191 2026 第 5 講是 強化學習:用回報取代標準答案。把 agent、environment、state、action、reward 與 policy 接成互動迴圈,理解信用分配與探索。這篇只依 2026 官方投影片與影片整理;不把 2025 的同名內容混進來。

這一講要帶走什麼

  • 分清 immediate reward 與長期 return
  • 理解 policy gradient 為何提高高回報動作的機率
  • 辨認 sparse reward、exploration 與不穩定訓練的風險

這些概念的共同點是:不能只會認名詞。你要能指出輸入、輸出、學習訊號與限制,才算真的接上後續內容。

互動鏈是 policy 依 state 選 action,environment 回傳下一個 state 與 reward,再把多步 reward 彙整成 return。policy gradient 用取樣軌跡估計更新方向,因此 reward 設計、探索範圍與估計變異都會改變學到的行為。

建議觀看方式

先快速看一遍官方投影片的章節與圖,再看官方影片。第二遍遇到公式或架構圖就暫停,用自己的符號重畫;影片播完後,不回看資料,寫下三個核心概念與一個仍不確定的地方。

今晚就能做的練習

替一個簡單遊戲寫下 state、action、reward 與終止條件;如果 reward 一行寫不清楚,就先別訓練。

完成標準不是「看完」。你應留下可檢查的圖、計算、程式輸出或短筆記,並能向另一個人解釋其中一個失敗點。

這篇沒有涵蓋什麼

6.S191 是高強度入門課,本篇也只做單講導航,不替代完整影片、數學推導或正式作業回饋。若某個主題需要嚴格理論,應接一學期制課程或原始論文。

參考資料