#offline-rl

3 篇文章

ai guide Stanford CS224R Deep Reinforcement Learning 導讀2026年9月30日

AWAC、IQL 與 AntMaze 上的 stitching｜Stanford CS224R 作業 3

CS224R Spring 2026 的 HW3 要你從零補完兩個 offline RL 演算法：AWAC 和 IQL，並在 D4RL 的 AntMaze 上比較。Problem 1 在 antmaze-umaze 和 antmaze-medium-diverse 跑 AWAC；Problem 2 先比較 IQL 的 expectile ζ = 0.2 和 0.9，再用較好的值跑 medium-diverse，最後在一份最高 return 只有 −46 的 PointMass 資料上，看 IQL 能不能拼出比資料更好的路徑，並跟只取前 10% 軌跡的 filtered BC 比較。題目 PDF、LaTeX 模板和起始碼都公開，但作業規定在 Modal 上跑，課程 credits 只發給修課學生。本文只整理題目和環境，不寫解答。

#cs224r #ai-course #stanford #offline-rl #homework

ai guide Stanford CS224R Deep Reinforcement Learning 導讀2026年9月30日

Offline RL——不能再互動時，Q-learning 為什麼會壞掉｜Stanford CS224R 第 7 堂

CS224R Spring 2026 第七講處理一個問題：手上只有一批別人收的資料、不能再跟環境互動時，要怎麼學出比資料更好的 policy。直接拿 SAC 這類 off-policy 演算法來訓練會壞掉，因為 Q-function 在資料沒出現過的動作上亂估，policy 又專挑被高估的動作。投影片給兩類解法：只在資料裡的動作上訓練 policy（filtered BC、AWR、AWAC），以及用不對稱的 expectile loss 估計比資料更好的 policy 的價值、完全不查詢資料外的動作（IQL）。兩者都能做到模仿學習做不到的事：把不同軌跡的好片段拼起來。

#cs224r #ai-course #stanford #reinforcement-learning #offline-rl

learning guide Berkeley CS285 Deep Reinforcement Learning 導讀2026年8月22日