影片狀態：已附影片。 官方錄影文字轉錄已取得；字幕類型、原音回聽與跟讀播放器尚待核對。
想做「會自我改進的 agent」，最容易寫出一個永遠不會錯的願望：多產生資料、多跑幾輪，能力就會提高。Stanford CS329A Autumn 2025 第 20 堂的價值，是把願望拆成仍未解決的瓶頸：候選是否夠多樣、驗證是否可靠、訓練題目如何選，以及能力提升的運算代價。
官方課表沒有列這一堂的指定閱讀。本文以 Stanford Online 的 Part 9 官方錄影 文字轉錄為底本，整理課堂研究方向；不是把其他論文拼成指定閱讀，也不宣稱每個方向已解決。適合已理解生成、驗證與回饋循環，準備設計小型研究專案的人。
需要先補先備概念，可先讀長任務評估。
三個瓶頸，分別需要不同證據
第一是多樣性。若新資料只是同一條理由的改寫，資料量增加不一定帶來新解法。應檢查不同推理策略與任務變式，而不只計算句子長度或不同詞彙。
第二是驗證。課堂討論讓另一層模型檢查驗證者的分析，也就是 meta-verification。但多加一個模型不是得到真理；兩層模型仍可能共同接受錯誤。重要問題是新檢查是否能抓到第一層系統性漏掉的錯，而不是裁判數是否增加。
第三是資料選擇。固定由人挑選的題目會限制改進循環；讓模型提出題目，可擴大探索，但也可能反覆挑自己已經會的題目。你需要一個能辨別學習進展的標準，以及不參與訓練的測試集。
完整例子：設計一個能反駁自己的改進實驗
以下是本文自擬研究例子，不是課堂實驗。任務是解短程式的邊界條件題。固定保留二十道測試題，不用於挑題或更新；初始模型答對十道。A 組用單一生成器產生四十道訓練題，B 組用不同提示要求四十道涵蓋空值、負數與重複元素的題。兩組使用相同更新步數與訓練預算。
更新後，A 答對十二道，B 答對十四道。改善分別是兩題與四題；B 比 A 多對兩題。這支持「這次多樣化資料方案可能較有幫助」，不能直接支持「多 agent 一定更聰明」。提示、題目難度與生成成本仍可能造成差異，而且二十題太少，單次抽樣也不穩。
下一輪把兩組生成題目交給相同核對器，記錄題目類型、難度、重複率與核對失敗。用數個不同隨機種子重跑，再檢查未見過的變式題。若 B 的優勢消失，就應修正假說，而不是只展示最好的一輪。
驗證者的錯，也要成為測試資料
在上面的例子中，建立一個刻意包含十個錯解的檢查集。第一層驗證者抓到六個；第二層在剩下四個中抓到兩個，合計抓到八個。但若它同時把五個正解中的兩個誤判成錯，也必須報告。
因此要同時追蹤漏掉的錯與誤殺的對。只報「多抓到兩個錯」會掩蓋把好資料刪掉的代價。第二層的輸出也應回到已知答案或可執行測試核對，避免把多數同意當成正確。
效率與記憶，會改變研究目標
最後一堂也討論 intelligence per watt，以及本機與雲端推論的分工。這提醒我們：若同樣改善需要更多取樣、更多裁判，應一起報告成本與運算條件。選模型時可以先問「任務是否達標」，再問「達標的代價」，避免把最低能耗但不合用的回答算成勝利。
課堂問答另外區分更新記憶與更新權重。新增資料庫紀錄可以讓系統取得新事實，但不保證它學會新的推理技能；更新權重也不是每次資訊變動都需要。若瓶頸是忘記最新規格，先測檢索與記憶；若是看得到規格仍不會處理新型題目，才研究技能訓練。這是依失敗原因選實驗，不是宣稱其中一種方法總是更好。
變式練習與答案
B 組新測試仍對十四題，但用掉 A 的三倍生成成本，能宣稱更有效率嗎？不能。它可能有較好的準確率，卻需要另外比較每個成功任務的成本與部署需求。兩個指標不應混成一句「全面提升」。
如果你將二十道測試題拿來挑選下一輪訓練題，再用同一份測試集報告提升，哪裡出問題？測試資料已影響開發，不能再當作獨立的泛化證據；需要新保留集。
今天把研究計畫縮成一頁
寫下失敗現象、你認為的瓶頸、只改一項的介入、固定的比較基準、保留測試與推翻假說的條件。再列出準確率、漏判、誤判與成本要如何記錄。先讓結果有可能告訴你「這個想法沒有效」，自我改進才會成為研究，而不是循環播放的口號。
英文練習：原音跟讀待補
已取得官方錄影文字轉錄，但字幕類型、段落時間碼、原音回聽與播放器重播尚未完整核對，因此三段原音跟讀待補。上述研究例子與中文說明是本文教學重組，不冒充講者原話。
課程影片來源
參考資料
Loading...