自我改進 Agent：課程主軸與閱讀路線｜Stanford CS329A 課程總覽

🌏 English version

影片狀態：已附影片。 影片來源與說明

CS329A: Self Improving AI Agents 是 Stanford 電腦科學系的三學分研究所 seminar，講的是「模型上線之後怎麼繼續變強」。它不教 LangGraph，不教 CrewAI，整學期沒有一堂在講框架怎麼拼。

它教一個缺口，然後在最後一堂親口說這個缺口目前補到哪、補不到哪。

這篇是課程總覽，整理課程主軸、指定閱讀的分組方式，以及下方各堂導讀的閱讀路線。主系列固定採 Autumn 2025；文末 Winter 2025 的三場客座是歷史補充，不用來填成 Autumn 2025 缺少的場次。

按原課堂次讀這個系列

從本篇總覽開始，再讀第 1 堂建立生成、驗證與 Agent 回饋迴圈的基本區分，接著依 Autumn 2025 課表讀下去。第 2–6 堂依序把「多產生候選」接到「挑出正解」、「用可執行回饋修正」、「規劃多步任務」，最後才把回饋寫回權重。第 7 堂把搜尋對象從答案換成 Agent 設計；第 8、13、14 堂走向研究、軟體工程與記憶。第 17、20 堂再追問怎麼量測，以及這個迴圈在哪裡失效。第 9、15、16、18、19 堂是業界客座，這五場沒有公開錄影或投影片，對應的導讀改用講者類似題目的公開材料，每篇開頭都有說明。

原課堂次	本站導讀	底本
—	本篇課程總覽	課程地圖與閱讀路線
1	產生候選與辨認正解	影片 Part 1
2	推論時計算：多試幾次怎麼選	影片 Part 2
3	驗證：怎麼辨認正確候選	影片 Part 3
4	工具與程式碼回饋	影片 Part 4
5	多步推理與規劃	影片 Part 5
6	把回饋餵回權重	影片 Part 6
7	開放式演化的指定閱讀	指定論文；未還原授課口述
8	搜尋與深度研究	影片 Part 7
9	Post-training 從聊天走到 Agent	客座無公開材料；Gemini 技術報告
13	軟體工程 Agent 的指定閱讀	指定論文；未還原授課口述
14	記憶系統的指定閱讀	指定論文；未還原授課口述
15	LLM 推理	客座無公開材料；講者在 CS25 的同名講座投影片
16	數學奧林匹亞的三套系統	客座無公開材料；三套系統的論文與公告
17	長時程評估	影片 Part 8
18	自主 Agent 系統	客座無公開材料；講者的公開訪談
19	機器人的多模態 Agent	客座無公開材料；講者掛名的研究文章
20	未來研究的瓶頸	影片 Part 9

**沒有授課內容的場次：**第 10–12 堂是學生期中專案報告。指定閱讀篇教的是論文機制，客座篇用的是講者類似題目的公開材料，兩者都不冒充未取得的授課逐字稿。

對機率不熟，先用 CS109 總覽補背景；對模型訓練不熟，讀第 6 堂前可先回到 CS224N。

這門課的硬事實

授課者兩位。Aakanksha Chowdhery 在 Google 主導過 540B 的 PaLM，後來推動 Gemini 的 MoE 預訓練，現在在 Reflection AI。Azalia Mirhoseini 是 Stanford 助理教授、Scaling Intelligence Lab 主持人，MoE 與 AlphaChip 的共同作者，待過 Google Brain、Anthropic、Google DeepMind。

課開過兩次：Winter 2025 首開，Autumn 2025 第二次，選課 99 人。下一次沒有排。 ExploreCourses 的條目在 2026-08-21 這天已經沒有 Terms 欄位，只剩一行「Last offered: Autumn 2025」（本文初稿寫的是「下一次是 2026–2027 Winter」，見文末更新紀錄）。Stanford Online 那頁的資訊同樣不可靠，還停在 2025 年秋季。開課欄位本來就會變，看的時候記得對一下你查的日期。

先備條件寫得很硬：CS224N 或 CS229S 其中之一、Python 流利、要有實際呼叫 LLM API 的經驗。不接受旁聽。

全課只在追一個缺口

第二堂就把整門課的問題意識立起來了。Large Language Monkeys（arXiv:2407.21787）這條線發現，同一個模型對一題重複取樣，答對至少一次的比例會隨取樣數照冪次律上升。Mirhoseini 在課堂上的說法是：

「這些模型，連比較小的模型，其實都已經知道這些難題的答案了。重複取樣只是把答案引出來、讓它浮上來——它們只是不會在第一次嘗試就告訴你。」

問題在於你怎麼從一百個候選裡挑出對的那個。同一堂課接著給出這個缺口的正式名字：把「多數決」「reward model 排序」的實際成效，跟「假設有完美 verifier」的理論上限畫在同一張圖上，中間那段距離就是 generation–verification gap。

為什麼多數決補不上？因為最難的那些題目，在一千次甚至一萬次取樣裡可能只被答對過兩三次。它們正確，但它們是少數。 少數決不會贏。

於是後面的每一堂都在補這個缺口的後半段：verifier 是「怎麼認出對的」，reward model 是「怎麼把認出來的變成訓練訊號」，RL 是「把訊號餵回權重」。這個框架的實用價值在於它給了一把尺——下次評估一個 agent 技術，先問它補的是生成端還是驗證端。 補生成端的（更大的模型、更多取樣、更長的思考）會撞上驗證端的天花板；只有補驗證端的才會把天花板抬高。

但課程自己說了：模型變穩定，不是變聰明

第六堂講完 STaR、DeepSeekMath、DAPO 三篇 RL 論文之後，Chowdhery 做了一個結論。這是整門課最誠實、也最少被二手介紹提到的一段：

「這三種技術都會提升 majority@K，答案的格式會變好，模型在多步驟之間會更連貫。但這些都還不會提升它的基礎能力，不會教會它解新問題，也不會讓它大幅跨領域泛化。」

具體到 DeepSeekMath 那篇：取樣 32 次，majority@K 上升了，pass@K 沒有。她的原話是「模型變得更一致了，不是變得更根本地聰明」。

課程把「為什麼只有 majority@K 上升、pass@K 不動」列為這個領域的第一個開放問題。連課堂上示範的那些「模型會回溯、會自我修正」的行為，她也留了一個問號：這些是真的湧現出來的，還是本來就存在、只是統計上變得更常出現？

如果你正在評估「自我改進」的產品宣稱，這是最該拿來對的一把尺。 一致性提升是真的、可量測的、有商業價值的；但它跟「模型學會了它原本不會的事」是兩件事，而目前只有前者被證實。

自我改進只在一條窄帶裡發生

跨越三堂課，同一個限制以三種面貌出現，這是整門課最有實用價值的模式。

在 STaR（第六堂）：讓模型從自己答對的題目裡學。但如果整批題目都遠超模型能力，它什麼都答不對，就沒有東西可以學。反過來，如果題目太簡單，Chowdhery 指出在 GSM8K 上加 rationalization 幾乎沒有幫助——「把一個對模型來說太簡單的問題硬要它推理，本來就不會有用」。

在 GRPO 與 DAPO（第六堂）：GRPO 用一組答案的獎勵平均與標準差算優勢函數。所以如果一批答案全對或全錯，標準差是零，正規化直接失效。Chowdhery 講得很白：「如果沒有獎勵的分布，模型就沒有東西可以學。」 DAPO 的解法就是超額取樣，然後把全對與全錯的整組丟掉，只留下有訊號的那些。

在 Absolute Zero（原課第 20 堂，公開影片 Part 9）：讓模型自己出題。出題者的獎勵設計是——如果解題成功率是零，獎勵是零；否則獎勵是「1 減去平均成功率」。換句話說，系統被明確地獎勵去產生那些「有時候解得出、有時候解不出」的題目。

三個層次、同一條原理：自我改進只在模型能力的邊緣發生。太簡單學不到東西，太難沒有訊號。這也解釋了為什麼這套方法在數學和程式碼上跑得動，在別的地方跑不動。

真正的門檻不是「可不可驗證」，是「驗證要多久」

第 20 堂（公開影片 Part 9）的問答裡，Mirhoseini 給了一個比「可驗證領域 vs 不可驗證領域」精確得多的判準：

「在 RL 微調或 test-time scaling 裡，我們需要 verifier 幾乎是即時的。也許可以等幾分鐘，也許可以容忍一小時。但 RL 訓練需要幾百、幾千步的迭代，我們沒辦法等好幾天，也沒辦法等一個人類進來給我們獎勵訊號。」

依這把尺，被排除在外的不只是「主觀」的領域。科學發現、要跑好幾天模擬的晶片設計、需要真的進實驗室做的化學實驗——這些在原理上完全可驗證，只是驗證太慢，所以自我改進迴圈跑不動。

課堂給的繞道方式是訓練一個 reward model 去預測模擬結果，用它取代真的跑模擬。代價寫在臉上：這個 reward model 的泛化能力，取決於你有多少離線資料，而它不準的時候整個迴圈就被帶歪。

34 篇怎麼分組

十堂有指定閱讀的課，共 34 篇論文，順序本身就是論證：

堂次	主題	代表論文
2	Test-Time Compute Scaling	Large Language Monkeys、Archon
3	Robust Verification	Weaver、Let's Verify Step by Step
4	從工具與程式碼的回饋學習	ReAct、RLEF、Constitutional AI
5	多步推理與規劃	SWiRL、LATS、SPRINT
6	Train-Time Scaling / Scaling RL	STaR、DeepSeekMath、DAPO
7	自我改進 agent 的開放式演化	DGM（課表將此連結標為 ADAS）、The AI Scientist、AlphaEvolve
8	搜尋與深度研究 agent	AlphaCode、Search-o1
13	軟體工程的 agent 框架	CodeMonkeys、KernelBench
14	給 agent 記憶	Cartridges、MemGPT、CacheBlend
17	Agentic 評估與長時程任務	METR、GDPval、DeepScholar-Bench

錄影裡有幾個結果比論文摘要更值得帶走。

Archon 的 fusion 打敗了 oracle selection。 把 K 個候選答案全部餵給模型、要它綜合出一個新答案，效果比「假設有完美 verifier 幫你從 K 個裡挑最好的那一個」還好。挑選的上限是候選裡最好的那個，綜合則不受這個上限限制。如果你的 best-of-N 還停在挑一個，先試試改成讓模型讀完全部再重寫一次。

SWiRL 發現 process-filtered 資料勝過 outcome-filtered。 只保留「推理步驟被判定為好」的軌跡——即使最終答案是錯的——比嚴格只留最終答案正確的軌跡更能提升模型。Mirhoseini 的解釋是：如果你只餵模型它本來就會做對的東西，你沒有在教它解新問題。有趣的是這條規則對監督式微調是反過來的，微調偏好 outcome-filtered，因為那是模仿學習。

DeepScholar-Bench 目前沒有任何系統在全部指標上超過 19%。 這個數字放在 2026 年很刺眼——「深度研究」產品滿地都是，但按知識綜合、檢索品質、引用可驗證性三軸打分，全部離及格線很遠。課堂上補了一個更難堪的細節：就算你直接把該引的論文全部餵給它，它抽取關鍵事實的覆蓋率也只有約一半。

如果你在做 research agent，這是今晚就能做的一件事：挑「可驗證性」這一軸，抽十份你的系統最近產出的報告，逐句標記哪些主張真的被它引的來源支持。標不出來的比例就是你的起點。

長時程評估：三個 benchmark 互相打架，而那正是重點

第十七堂拿三份評估放在一起，結論不是收斂而是分歧——Chowdhery 自己說 METR 的指數趨勢「在某種程度上被 GDPval 推翻了」。

METR 量的是時間，但重點在可靠度那一欄。 前沿模型的 50% 成功率時間軸每七個月翻倍一次，2025 年的模型可以做到接近一小時的任務。但把門檻拉到 80% 成功率，同一個模型只剩十幾分鐘。Chowdhery 的比喻是：「這等於你把任務交給一個實習生，但他只有一半的時間會完成。他可能帶著答案回來，也可能不會。」

更值得記住的是那個「約聘工程師」的發現。 在內部程式碼庫上，沒有脈絡的外部約聘工程師比長期維護者慢 5 到 18 倍——而模型的表現貼近約聘者那一端，不是維護者那一端。也就是說，模型現在的位置不是「該領域的專家」，是「一個聰明但沒有脈絡的人」。

GDPval 那邊把同一件事翻譯成經濟語言。把 GPT-5 的產出交給有十年以上年資的產業專家評，大約一半算「可接受但不如專家」，只有約兩成真的比人做得好，而將近三成被判定為糟糕或災難性。它涵蓋的任務是刻意寫得極清楚、一次交件、不給來回修改的——也就是說，把人腦子裡的脈絡全部先寫進 prompt 之後的成績。

三份放在一起的結論很一致：人負責決定要做什麼，模型負責執行。Chowdhery 明講課程對哪些事「信心較低」——需要大量脈絡的任務、模糊的指令、對抗性環境、95% 以上的可靠度、以及跨出軟體與知識工作的泛化。

第二次開課砍掉了什麼

兩版大綱擺在一起比，改動幅度是這門課最有訊息量的部分。

課程形態變了。 第一次開課是真的 seminar：小教室，學生輪流上台講論文，每週交討論題，兩項加起來占四分之一的成績。

第二次搬進可容納上百人的講堂，這兩項全部取消，作業從兩份加重到三份、占掉整整一半的成績。第一堂提到班級規模時，講法很含蓄：「因為這學期班很大，我們真的沒辦法給任何例外。」

內容也換了一輪。 被砍掉的包括 AutoGen 的 agent 編排專堂、整堂的 GUI 與 computer-use、SWE-bench 到 τ-bench 到 GAIA 的 benchmark 巡覽、Toolformer。換上來的是 DeepSeekMath 與 DAPO 撐起的 RL 專堂、Weaver、SPRINT、AlphaEvolve、Cartridges 與 CacheBlend 的記憶系統、以及整堂的長時程評估。

方向很清楚：從「有哪些框架與 benchmark」移到「怎麼把訊號餵回權重，以及怎麼量測長任務」。 框架那一側幾乎被清空了。如果你正在猶豫要投時間學哪一套 orchestration 框架，這門課用八個月的間隔給了一個答案。

作業與專案在做什麼

課程網站沒有公開作業內容，但三堂課的錄影裡都提到了，拼得起來：

• 作業一：在 AIME 2024/2025 上評估多數決，再比較其他「合併模型輸出並評估錯誤」的方法。
• 作業二：HumanEval，重複取樣與 pass@k。
• 作業三：深度研究 agent，對應第八堂的 Search-o1 那條線。Chowdhery 在課堂上直接鼓勵學生去試 agentic RAG 的變體。

專案占分數的另一半。可接受的形狀在第一堂講得很具體：新的評估資料集或 benchmark、既有 agentic 系統的可靠度研究、對既有 benchmark 做 hill-climbing、或質疑某篇課堂論文的設計決定並改掉它。不接受的也很白：survey paper，以及「只是拼一個 app 給我們看」。

這條不是場面話。官網導覽列上有一個很容易錯過的 Past Projects 頁，公開了五篇 Winter 2025 的學生專案 PDF，剛好一種形狀一篇——而最有意思的那篇是負面結果：

「我們發現，只有在少數幾個案例——具體來說是兩個資料集——當部署量超過 15,000 個樣本時，設計與部署 agent 的總成本才會低於人類設計的 agent。其他資料集的效能提升不足以支撐設計成本，無論規模怎麼放大。」

同一篇還發現，把過去所有設計都塞進 context 讓 meta-agent 學習，表現比完全忽略前作還差。另一組學生則直接拿授課者自己實驗室的 Archon 開刀補元件。允許學生打自家論文，這件事本身就是課程立場的一部分。

課綱裡有 10 篇是授課者自己的

把 34 篇指定閱讀逐篇對照 Scaling Intelligence Lab 的論文列表，Mirhoseini 掛名的有 10 篇：Large Language Monkeys、Archon、Monkeys 的冪次律續作、Weaver、Constitutional AI、SWiRL、SPRINT、CodeMonkeys、KernelBench、Cartridges。

這件事怎麼看，取決於你要什麼。研究型 seminar 教自己的東西是常態，而且她的實驗室本來就是這個題目的主要產出者之一。錄影裡她講自家論文時反而更具體——會講清楚哪個假設是關鍵、哪一步是後來才發現很重要的。但你要清楚你拿到的是一個特定研究議程的最佳版本，不是領域全景：整份清單裡幾乎沒有 GUI agent、沒有 multi-agent 通訊協定、沒有生產環境的可觀測性。

這條線在課外還在延伸。2025 年底，Mirhoseini 與 Anna Goldie 共同創辦了 Ricursive Intelligence，主題正是「AI 設計晶片、晶片再訓練出更好的 AI」的遞迴自我改進；隔月的 A 輪估值 40 億美元。這門課的世界觀不是學院內的思想實驗，是有人拿真金白銀在下注的路線圖。

自學能拿到什麼、拿不到什麼

目前盤點到 Stanford Online 的 Autumn 2025 公開錄影共九支。官方課表有二十個編號，其中三堂是期中專案報告，內容場次共十七堂。公開影片的 Part 編號跳過了本次未確認錄影的場次，不能當成原課堂次。

錄影值得看，而且理由不是投影片——是問答。學生會當場追問，而講者會承認不知道。有人指出某張圖表的訓練曲線比推論曲線低得可疑，Chowdhery 的回答是：「有可疑的地方，好。這張圖是我複製過來的。所以圖表不見得都是對的，你們從他們最近那次發表應該也知道。」另一位學生質疑用小模型自我改進不如直接從大模型蒸餾，她也直接認了這是合理的實務選擇。這種東西不會出現在論文摘要裡，也不會出現在 AI 生成的課程摘要站。

第 7 堂開放式演化、第 13 堂軟體工程 Agent、第 14 堂記憶系統，本次未確認可對應的公開錄影，但有公開指定閱讀，下方已各自補上閱讀導讀。五場客座——第 9 堂 Melvin Johnson、第 15 堂 Denny Zhou、第 16 堂 Thang Luong、第 18 堂 Misha Laskin、第 19 堂 Danny Driess——沒有公開錄影或投影片。2026-10-13 查過 Stanford Online 播放清單、官方課表與其修改歷史、兩位授課老師的頻道，以及講者的個人網站：上一屆的課表頁逐堂放過錄影連結，這一屆的客座列從未加過任何連結。這只能說公開管道找不到，不能據此說錄影不存在。這五堂的導讀因此改用講者類似題目的公開材料，不代表該場實際講了什麼。

課堂本身留下的客座線索只有兩位老師在公開錄影裡的幾句話。第 1 堂預告客座會涵蓋 post-training 的演進與機器人的多模態 Agent（影片約 1:00:59）。第 20 堂回顧時提到客座談了 post-training、多模態 Agent 與機器人、推理，並補充有一位客座講了符號方法如何增加合成資料（約 0:01:55–0:02:20）；介紹迭代式證明時又說「它的 Gemini 版本是我們一位客座講者報告過的」（約 0:20:31）。後兩句沒有點名講者。

不過第一次開課的客座有公開，只是藏在別的頻道，下一節就講那個。

順帶一提，現有的二手介紹已經在傳錯了：有課程整理站寫「這門課沒有公開錄影」，有 AI 生成的摘要站把授課學期寫成 2026 年秋季——那是影片上架的時間，不是上課的時間。要引用數字就回論文或回錄影，不要引用摘要站。

第一次開課的三場客座，補上了第二次砍掉的那一層

第一次開課的錄影散在授課者的個人頻道與實驗室頻道上，沒有進 Stanford Online 的播放清單，所以幾乎沒人提。但它們的內容跟第二次開課零重疊，而且剛好補上被砍掉的那一層。

Jeff Clune 講開放式演化（UBC，DeepMind 資深顧問）。他從一個弔詭開場：面對真正困難的問題，你越努力直接解決它，越解不出來；反而是不管目標去探索的，成功機率高得多。 他的例子是微波爐——如果你只資助「讓生火煮飯更快」的研究，你永遠發明不出微波爐，因為那要先有人在做雷達，然後某天發現口袋裡的巧克力融化了。

POET 這個演算法收錄新環境的條件是：對現有 agent 來說不太簡單、也不太難，而且跟已有的環境不一樣。 這跟第二次開課裡 STaR 的前提、GRPO 的獎勵分布、Absolute Zero 的出題獎勵是同一條原理——只是 POET 是 LLM 時代之前就做出來的。更狠的是他們的對照實驗：拿 POET 最後演化出來的那些困難環境，改用直接優化去解，每一個都失敗；改用人工設計的線性課程，也是每一個都失敗。課程不是加速器，是唯一的路。

Michele Catasta 講 coding agent（Replit 總裁）。整場在講一件第二次開課完全不碰的事：agent 與電腦之間的介面該怎麼設計。他的核心主張是把 agent 能做的動作收窄到近乎確定性——因為模型有隨機性，你每問一次「瀏覽這個檔案系統」，它可能給你深度優先、可能給你遞迴列表，於是你沒辦法用固定方式解讀輸出。SWE-agent 的檔案檢視視窗定在 100 行不是拍腦袋，是消融實驗的結果：50 行看不到周邊脈絡，整份檔案會吃光 context。

整場最實用的一句是關於評估：如果你沒有辦法量測自己的改動有沒有往對的方向走，那你做的就是憑感覺開發。

Chi Wang 講 AutoGen 那場最有意思的地方是他的現場 demo 失敗了。語音 agent 一直在對使用者複誦「我會把問題重複給你然後從你這裡拿答案」——因為即時語音 API 只認得「使用者」這個角色，不認得其他 agent，於是他們只好指示它去轉述別的 agent 的問題，結果模型把系統指令講了出來。他當場拆解給學生看，然後說：說軟體的未來是 agentic 很容易，做出來很難。

還有一句話，某種程度上解釋了為什麼第二次開課把框架那一層整個拿掉：如果你有對的領域知識，你往往不需要複雜的多 agent 系統，只要把任務拆對、用最少的 agent 就夠了——難的是拆對。

整體來說

這門課換到的是一個有內在邏輯的座標系，加上一份被授課者篩過的閱讀清單；付出的是不中立、不完整、而且大半不公開。

但它最值得帶走的東西其實是一句限定詞。整個學期在教怎麼讓模型自我改進，最後一堂親口說：目前這些方法讓模型更一致、更連貫、格式更好，但還沒有讓它變得更聰明。這句話出自兩位親手訓練過前沿模型的人，比任何外部批評都有份量。

對自學者，最務實的用法是把課綱當 reading map、把九支錄影當導讀。真正稀缺的不是那 34 篇論文——它們都在 arXiv 上——而是「哪 34 篇、怎麼分組、以及講者在問答裡承認了什麼」。

如果只有一個下午，看第二堂（Test-Time Compute Scaling）和第六堂（Train-Time Scaling / Scaling RL）。一個立起缺口，一個說清楚補到哪為止。

附註：文中數字的對照條件

• Weaver 的 87.7%：生成端是 Llama 3.3 70B Instruct，verifier 是 70B 以下的 judge 與 reward model 組合，數值為多個推理與數學任務的平均。論文用來對照的是 GPT-4o 的 69.0% 與 o3-mini 的 86.7%。蒸餾成 400M cross-encoder 後保留 98.7% 準確度（課堂口述說「約 97%」，此處採論文數字）。
• DeepScholar-Bench 的 19%：指「沒有任何系統在全部指標上超過 19 分」，三軸為知識綜合、檢索品質、可驗證性；題目取自近期 arXiv 論文、涵蓋 22 個領域、每月更新。課堂補充：即使直接給定該引的來源，模型抽取關鍵事實的覆蓋率仍只有約一半。
• DeepSeekMath 的 majority@K / pass@K：課堂講的是取樣 32 次的設定，majority@K 上升而 pass@K 沒有。
• DAPO 的消融：在 Qwen-32B 上跑 AIME，GRPO 基準線約 30 分，逐項加上過長過濾、非對稱 clipping、過長軟懲罰、token 層級損失、動態取樣後到約 50 分。這是課堂口述的階梯，不是論文表格逐格轉錄。
• METR 的時間軸：論文 v4 的標題已改為 Measuring AI Ability to Complete Long Software Tasks，量的是「人類完成該任務所需時間」對應到「模型有 50% 成功率」的長度。任務集約 170 題，分三組：SWAA（約 66 題，1–30 秒）、HCAST（約 97 題，1 分鐘到 30 小時）、RE-Bench（約 7 題，最長 8 小時）。人類基準線取自約五年年資的專業人士、成功案例的完成時間幾何平均——課堂自己補了但書：有經驗的人會低估難度，而那不一定跟模型覺得難的地方一致。論文摘要給的前沿數字是 o3 約 110 分鐘；課堂用的例子是 Claude 3.7 Sonnet 在 50% 成功率下約 59 分鐘、拉到 80% 只剩約 15 分鐘。
• 「約聘工程師慢 5 到 18 倍」：指在內部程式碼庫上，沒有該專案脈絡的外部約聘工程師相對於長期維護者的速度差距，出自課堂轉述的 METR 相關分析。
• SWE-bench 的但書：課堂指出標註者傾向低估，且模型多半看過那些 GitHub repo，所以 SWE-bench 上量到的翻倍速度會比在完全沒見過的 repo 上短。
• GDPval：涵蓋美國 GDP 前九大部門的 44 種職業，共約 1,320 題，開源的 gold subset 為 220 題，任務出自十年以上年資的產業專家。勝率區間是 GPT-4o 的 12.4% 到 Claude Opus 4.1 的 47.6%。GPT-5 的產出品質拆解為：約一半「可接受但不如專家」、約兩成「模型確實更好」、將近三成「糟糕或災難性」——人類評分者之間對此也有一定歧見。任務刻意寫得清楚（約 89% 被專家認定為規格良好）、一次交件、不給來回修改。
• Intelligence per Watt 的 5.3×：指 2023 到 2025 年間每瓦智能的改善，課堂拆解為模型端 3.1 倍、硬體端 1.7 倍。另一個常被混用的 88.7% 是「查詢覆蓋率」，條件是「至少有一個 20B active 參數以下的本地模型能答對」，與 5.3× 是兩個獨立量測。

課程影片來源

2026-10-11 本次更新核對九支影片與課表的對應，以及 Part 1 作為課程入口的位置。下方 2026-10-10 內容核對段落保留為當日較小範圍的紀錄；Winter 2025 歷史客座討論未在本次全面重查。

本篇使用官方第 1 堂（影片 Part 1）說明課程定位；單堂概念教學另見上方連結的第 1 堂導讀。下方閱讀路線使用原課堂次，不用影片編號推算。

下列影片取自 Stanford Online 公開的 CS329A Autumn 2025 錄影；2026-10-10 已即時確認Parts 2、6、9（原課第 2、6、20 堂）的影片頁存在且標題與講次相符（Part 9（原課第 20 堂）只留文字連結）。

原始影片：Stanford CS329A Self-Improving AI Agents | Part 2 | Test-Time Compute Scaling、Stanford CS329A Self-Improving AI Agents | Part 6 | Train Time Scaling/Scaling RL、第 20 堂（公開影片 Part 9）：Future Research Areas

課程與錄影入口：

• CS329A Winter 2025 錄影播放清單（含 Jeff Clune、Michele Catasta 客座）
• 官方課程／講次來源
• CS329A 第 1 堂 Course Overview（Stanford Online 公開錄影，共 9 堂）

查核日期：2026-10-10。

內容核對：已依字幕核對（2026-10-10）：兩支嵌入影片（Part 2、Part 6）都讀了字幕。Part 2 字幕涵蓋 Large Language Monkeys 的重複取樣與冪次律、長尾難題、多數決與 reward model 都追不上理論 coverage 的 generation–verification gap、最難的題目在上千次取樣裡只被答對幾次，以及 Archon 的 fusion 勝過 oracle selection，文章這幾點都成立；Part 6 字幕涵蓋 STaR（GSM8K 上 rationalization 沒有明顯幫助）、DeepSeekMath（取樣 32 次時 majority@K 上升而 pass@K 沒有，「more consistent, not fundamentally smarter」）、GRPO 在全對或全錯時正規化失效、DAPO 的 dynamic sampling 與 Qwen-32B 從 30 提升到約 50 的階梯，以及三項技術不提升基礎能力的結論，也都成立。文中的中文引文是意譯，意思與英文字幕相符、措辭不同；字幕沒有出現講者姓名，講者歸屬依課程資訊而非字幕。本文對第 9 堂、第 17 堂、其他堂次與客座講的說法對應的是未嵌入的影片，這次沒有核對。

更新紀錄

• 2026-10-13：補上第 9、15、16、18、19 堂客座導讀。這五場沒有公開錄影或投影片，改用講者類似題目的公開材料；重查公開管道並記錄兩位老師在第 1、20 堂錄影中提到客座的段落。

• 2026-10-12：課程總覽與第 1 堂導讀分開，閱讀順序改為總覽 → 第 1 堂 → 第 2 堂。

• 2026-10-11：新增逐堂閱讀路線與來源缺口，修正 Part 7–9 和官方堂次的對應，取消整門課「無錄影」的判定；指定閱讀篇與未取得的授課口述分開標示。

• 2026-10-10：標註影片狀態，核對錄影來源與取得方式。

• 2026-08-21：修正開課狀態。本文初稿寫「下一次是 2026–2027 Winter，已經掛在 ExploreCourses 上」，但同日重查時，該條目已無 Terms 欄位，只顯示「Last offered: Autumn 2025」——與課程地圖那篇停開表的記載一致。無法判斷是初稿查錯，或是 Stanford 在這期間撤掉了排課，因此改為只陳述查證當日的頁面狀態並標註日期。

• 2026-10-10：重查影片狀態。即時確認Parts 2、6、9（原課第 2、6、20 堂）的影片頁與標題相符，狀態改為已附影片；原播放清單連結的 ID 不完整，改連第 1 堂影片。

• 2026-10-10：依字幕核對影片內容。讀兩支嵌入影片字幕，Part 2 與 Part 6 的說法與字幕相符，沒有需要更正的地方；未嵌入的第 20、17 堂與客座講的說法未核對。

參考資料

• Stanford CS329A: Self-Improving AI Agents 課程官網
• CS329A Past Projects（Winter 2025 學生專案）
• CS329A Winter 2025 版課綱（Wayback Machine 存檔）
• CS329A 錄影播放清單（Stanford Online，9 支）
• 第二堂：Test-Time Compute Scaling
• 第六堂：Train-Time Scaling / Scaling RL
• 第 20 堂（公開影片 Part 9）：Future Research Areas
• CS329A Winter 2025 錄影播放清單（含 Jeff Clune、Michele Catasta 客座）
• Stanford Online：CS329A 課程頁（SCPD 非學位生入口）
• Weaver: Shrinking the Generation-Verification Gap with Weak Verifiers
• Large Language Monkeys: Scaling Inference Compute with Repeated Sampling
• DeepScholar-Bench: A Live Benchmark for Generative Research Synthesis
• Measuring AI Ability to Complete Long Software Tasks (METR)
• GDPval: Evaluating AI Model Performance on Real-World Economically Valuable Tasks
• Scaling Intelligence Lab 論文列表
• Ricursive Intelligence
• 站內：Stanford CS146S 兩版大綱對照
• 站內：2026 年該上哪些 AI 課程