Skip to content
所有分類

ai

1274 篇文章

起源、核心概念與建議做法|Stanford CS224U 主題單元

CS224U 2023 春季版把 in-context learning 定義成「凍結的語言模型只靠 prompt 完成任務」,並提醒 few-shot 的第二個條件(訓練時沒看過同類例子)幾乎無法驗證。Potts 的 38 頁投影片從 GPT-2 的 TL;DR 講到 demonstration 怎麼挑、chain of thought、self-consistency、DSP,最後給四條建議:先建 dev/test、了解目標模型的指令格式、把寫 prompt 當成 AI 系統設計。Mina Lee 的客座則反過來問:該學會讀懂 prompt 的,是人還是模型?

從 classical IR、IR 指標到 neural IR|Stanford CS224U 主題單元

CS224U 2023 春季版花一整個單元講檢索,理由是 OpenQA 只給問題、證據要自己找,而大型語言模型會捏造來源。Potts 與 Omar Khattab 的投影片從 TF-IDF、BM25 講到 Success@K、MRR、average precision,再講 cross-encoder、DPR、ColBERT、SPLADE 四種 neural IR 在表達力與規模之間怎麼取捨,最後要你把延遲與成本也當成指標。

同一個問題問了四十年,2023 年的 NLU 課怎麼定義「理解」|Stanford CS224U 主題單元

CS224U Spring 2023 的第一堂拿「哪些美國州不和任何美國州接壤?」從 1980 年的 Chat-80 一路問到 text-davinci-001,先證明進展是真的,再用 Levesque 的「cheap tricks」、會編造連結的模型和飽和的 benchmark 質疑這些進展算不算理解。課程地圖因此分成兩半:前半教怎麼用 Transformer 與檢索增強的 in-context learning 做系統,後半教怎麼用更難的 benchmark、行為評估與因果解釋方法檢驗系統。

文獻回顧與實驗計畫|Stanford CS224U 主題單元

CS224U 期末專案的前兩段交件,一份是文獻回顧(依組員人數讀 5/7/9 篇、五個建議段落),一份是實驗計畫(七個必填段落,核心是寫得出假設)。課程給了找論文的六步迴圈、AI 助手輸出必須加引號的規定,以及一位學生把期末專案做成 Findings of EMNLP 論文的完整示範。Gradescope 格式與評分細則頁、往年範例論文都在登入牆後面。

accuracy 0.81 的分類器、macro F1 只有 0.43——分類指標與生成指標各自編碼了什麼價值|Stanford CS224U 主題單元

CS224U 投影片用同一張三類別混淆矩陣算出 accuracy 0.81、macro F1 0.43:一個指標說系統很好,另一個說它在兩個小類別上幾乎全錯。這個單元的主張是「不同指標編碼不同價值」,並逐一列出 accuracy、F 分數三種平均、perplexity、word error rate、BLEU 各自的範圍、價值與弱點。期末專案的評分看的也是指標選得對不對,不是分數高不高。

CS224U 寫 NLP 論文、投稿與上台報告|Stanford CS224U 主題單元

CS224U 的「Presenting your research」一講分四段:期末論文的課程特有要求、NLP 論文怎麼寫、會議投稿流程、怎麼上台。最實用的三件事:期末論文強制附 Known project limitations 與 Authorship statement;寫作要用 Shieber 的「理性重建」而不是按時間講你踩過的坑;投稿時標題幾乎決定了審稿人的 bidding。投影片、四支影片、projects.md 都公開;往年範例論文需要 Stanford 登入。

aideep-dive

Learn Inference:把《Inference Engineering》做成可以轉旋鈕的互動版

learn-inference.com 是 Philip Kiely《Inference Engineering》(256 頁,Baseten 出版,可免費下載 PDF)的非官方互動版:照原書 8 章、42 節重寫解說,把 TTFT、P99、speculative decoding、prefix cache 路由這類靠直覺的概念做成可以拖滑桿的模擬器,另外附免金鑰的 JSON API 與 MCP server。

aideep-dive

Obscura:用 Rust 重寫給 AI Agent 用的無頭瀏覽器

Obscura 是用 Rust 從頭寫的無頭瀏覽器引擎,內嵌 V8、實作 Chrome DevTools Protocol,Puppeteer/Playwright 改一行連線位址就能接上,也內建 37 個工具的 MCP server。官方數字是每個行程約 30 MB、頁面載入約 85 ms,但全部是自家 benchmark;WPT 核心子測試通過率 83.3%,長尾 CSS 與部分 Web API 仍會跟 Chromium 不同。

aideep-dive

讓不可見變得可見:Agent 對話 UI 的元件設計哲學

傳統聊天只需要顯示文字泡泡,但 AI Agent 對話要讓使用者看見思考、工具呼叫、引用來源和執行進度——我們用 12 個 Vue 元件、三種 DisplayMode 和一條 chatBlocks 渲染管線解決了這個問題。

2026 記憶系統往哪走:檔案贏了向量,遺忘才剛開始

2026 上半年 OpenAI、Anthropic、Letta、LangChain 不約而同選了 Markdown 檔案 + 索引取代向量資料庫;寫入權從 agent 交還給人;遺忘機制終於出現但沒人做 Ebbinghaus;LoCoMo 被 Penfield Labs 抓出 6.4% 錯答;三家同時用「Dreaming」指離線記憶整併。五個趨勢,一個結論:記憶不是功能,是架構決策。

Agent 記憶的攻擊面:當記憶變成持久化的後門

記憶是持久化的 prompt injection 載體:MINJA 證明只靠對話就能注入記憶(成功率 >95%),SpAIware 示範植入後每次回答都外洩資料。業界兩派防線——引用驗證(Copilot)和人工核准(Gemini CLI / Devin)——各有盲點。

系列導讀:AI Agent 記憶工程

Agent 記憶不是一個功能,是至少四種不同的工程問題——working、episodic、semantic、procedural。這個十篇系列從分類框架到 coding agent 實作、平台 API、開源框架、安全攻擊面,再到 2026 的趨勢判斷,完整走一遍設計空間。

四種記憶與六個設計軸:Agent 記憶系統的設計空間

CoALA 框架把 agent 記憶分為 working、episodic、semantic、procedural 四種,但光靠四格分類不夠——同一種記憶在不同系統裡的設計選擇差很大。這篇用六個獨立設計軸(讀取形態、寫入時機、保真度、寫入權、遺忘、範圍)加一條光譜(檔案 ↔ 向量/圖),畫出 2026 年 agent 記憶系統的完整設計空間。

測試時擴展:BrowseConf 與自信度引導的推理

前面看的是怎麼評估。這篇看另一個維度:在推理過程中怎麼動態分配計算資源。BrowseConf 的核心洞察是——agent 自己說的『自信度』就能預測答案準不準。高自信就用少點資源,低自信就多搜幾輪。

五朵雲的記憶 API:OpenAI、Anthropic、Google、AWS、Microsoft 怎麼讓 Agent 記住事情

五家雲平台都在 2025–2026 年推出 agent 記憶 API,但設計哲學分歧明顯:OpenAI 把記憶寫成檔案、Anthropic 把記憶掛載成目錄、Google 用向量加主題分類、AWS 用事件加策略管線、Microsoft 用 context provider 抽象。定價從免費到 $0.75/千筆/月不等,租戶隔離從「應用端自己來」到「IAM 一等公民」都有。

九家 Coding Agent 怎麼記東西:從 CLAUDE.md 到 MemFS

九家 coding agent 的長期記憶走了至少四條路:Claude Code 和 Codex 用 Markdown 檔(agent 寫、人可讀)、Antigravity CLI 繼承 Gemini CLI 的 inbox 核准(agent 提案、人拍板)、Copilot 用引用+JIT 驗證(28 天沒被驗證就自動刪)。Cursor 把 Memories 拔掉退回純 Rules。Hermes Agent、OpenClaw、Letta Code 則把記憶當成 harness 的核心元件,不只是外掛。寫入時機、遺忘機制、跨團隊共享上的選擇完全不同,而且沒有任何一家公布過記憶功能的對照實驗數據。

商用產品格局:OpenAI、Perplexity、Gemini、Claude、Grok

2026 年的 deep research 商用市場已經分化:OpenAI 全面、Perplexity 速度快、Gemini 生態整合、Claude 推理深、Grok 實時性強。這篇比較各家產品的差異——不是誰最好,而是誰最適合你的場景。

Deep Research 全景圖:80+ 實作的分類、路線與取捨

整個 Deep Research 領域有 80+ 實作,但核心結構只有三階段路線 × 四個組件 × 三種優化方法。這篇用一篇看懂全景:從 Agentic Search 到 Full-stack AI Scientist,從 query planning 到 answer generation,從 workflow prompting 到 end-to-end RL。

基準深度解析:DeepResearch Bench II 與評估格局

DeepResearch Bench II 用 9,430 個專家 rubric 覆蓋 132 個任務,發現最強的 agent 也只滿足不到 50% 的標準。這篇拆解基準架構、评分方法、領先者,並分析整個 deep research 評估格局。

aidebug

一句 'Write a script' 的差距:Skill Instructions 如何決定 LLM 成功或失敗

自建的 AI 助理用 Opus 4.6 生成 docx 連續兩次 stream_stall(90 秒超時)。根因是 skill instructions 少了一句 'Write a script',導致模型走 inline code output 路徑。claude.ai 的官方 SKILL.md 有這句話,穩定走 bash 執行。