開放式演化:指定閱讀導讀|Stanford CS329A 第 7 堂
開放式演化改的是 agent 程式與流程;archive 保留不同分支,保留測試再檢查泛化。
開放式演化改的是 agent 程式與流程;archive 保留不同分支,保留測試再檢查泛化。
多個程式候選仍需需求反例來挑選;先通過正確性檢查,速度提升才有意義。
取回管理、訓練 KV 表示與 cache 重用處理不同瓶頸;速度與命中率都不保證資料新鮮。
Spotify 在 2026-10-07 把 Confidence、Portal、Xirp 與 Backstage 外掛併成「Spotify Technology」對外賣;核心賭注是 AI 讓寫程式變便宜後,瓶頸會移到判斷,而組織的共用脈絡是資產。營收未揭露;Confidence 有公開定價與免費方案,Xirp 仍是只支援 macOS 的 beta。
組內回饋必須能區分好壞;正解篩選、相對優勢與取樣策略,決定訓練是否真的得到有用訊號。
候選搜尋解決選擇問題,文件檢索補知識缺口;兩者都需要保留規格與可檢查的依據。
人類任務時長、成品品質與引用支持率回答不同問題;長任務驗收應同時檢查流程與交付物。
多樣性、驗證、資料選擇與效率是不同瓶頸;研究計畫要有保留測試與足以推翻假說的條件。
RL 系統用推論引擎取樣、驗證器給獎勵、訓練引擎重算 logprob 與梯度,再把新權重同步回推論端。用一個自編的小例子走完這五步,再理解快取、歷史保留與非同步更新各在解決什麼問題。
第 13 講的主軸是「限制 agent 能存取什麼、能做什麼」。投影片先用五個真實事件說明出事的方式,再歸成四種威脅模型(惡意使用者、prompt injection、agent 失誤、不當手段);對策分四層:訓練端的 red teaming 與安全訓練、執行端的沙盒與憑證代管、事後與即時的監控,以及安全評測。最容易被忽略的一點是:把 API key 藏起來,不等於 agent 不能濫用它背後的權限。
Graham Neubig 用自己開發的 OpenHands 講框架設計:先走一遍 coding agent 從 HumanEval、SWE-bench、Devin 到 2026 年長時間、可中斷、平行執行的演進,再拆 Software Agent SDK 的零件(LLM、tools、conversation、condenser、workspace、確認政策),接著談單一 agent 與多 agent 的取捨、本機與雲端、IDE/GUI/CLI/整合四種介面,最後是把 agent 接到 issue 與 PR 的自動化,以及從過去軌跡自動修訂 skill。
Perplexity 10 月 7 日以 MIT 授權開源 0.6B 與 9B 兩個 ColBERT 式多模態嵌入模型,每個 token 一個 128 維向量、用 MaxSim 評分,可直接檢索 PDF 頁面圖片。9B 在 MADQA 拿到 92.4%(自家測試,搭配 Gemini 3.5 Flash agent),代價是索引大小隨文件長度線性成長。
Wavestone AI Lab 的 83 頁論文拆開 Claude Code、Codex CLI、Gemini CLI、OpenClaw 等 11 個 coding harness,約 400 萬行程式碼裡沒有任何一個引入通用 agent framework,也沒有任何一個用向量嵌入檢索程式碼。要自己做 agent 或選工具,可以照論文 18 條建議從一個 bash 工具和一個 while 迴圈開始。
Cursor 工程師 Lauren Tan(poteto)自述月合併約 2,000–2,500 個 PR,數字未經外部稽核。她的做法是三件事:先做驗證 skill、把重複的錯誤變成 lint 與型別限制、合併後抽樣檢查。方法可以搬,前提是你的領域能被程式驗證。
Uber 用一個 MCP Gateway 統一管理 800 多個 MCP server、5,000 多個 tool:控制平面自動把內部 API 爬成 disabled 的 tool,資料平面負責協定翻譯、授權與去識別化;規模大了再靠 Omni MCP、Response Projection、Code Mode 壓 context。
Pi 1.0 與實驗性套件 Pi Durable 在 2026 年 10 月初同步發佈。Pi Durable 把每次模型請求、工具呼叫、compaction 都當成會寫 checkpoint 的 task,process 死掉後可從上一個 checkpoint 接續;Cloudflare 隨即用 PiHarness 把它接上 Durable Objects。重點是工具要分「可重跑」與「不可重跑」。
Agent 面試常被問到八題:Agent 迴圈、Structured Output、Function Calling、大量工具、記憶、設計考量、MCP 與 A2A、Prompt Caching。本篇用「概念 → 機制 → 面試怎麼答」串成一條線,並對照一手來源更正 2026-07 MCP 規格改版的時間點。
LLM 工程面試常見七個主題:LoRA/QLoRA 與微調 vs RAG、RLHF/DPO/GRPO 對齊、PagedAttention 讓 vLLM 吞吐量提高 2 到 4 倍的推論優化、取樣解碼、LLM 評估、OWASP LLM Top 10(2026 版)與幻覺。每節都拆成概念、機制、回答方式。
面試追問通常落在機制:為什麼要除以 √d_k、AdamW 和 Adam+L2 差在哪、AUC 很高為什麼還不能上線。本文逐題講概念、機制與答法,最後附 3 題可執行的 numpy 手寫題。
Prompt 管單次措辭、Context 管模型此刻看到什麼、Harness 管包住非確定性模型的整套系統;Bsharat 的 26 條原則、Breunig 的四種 context 失敗、OpenAI 約一百萬行零手寫的 harness 實驗,各對應一層。評估則是 harness 裡最常被省略的一塊,要在 CI 設閘門擋下沉默回歸。