Skip to content
所有分類

daily

948 篇文章

AI Agent Arxiv Digest — 2026-11-07

Memory Trap 發現單純良性互動寫進記憶,就能讓 Sonnet-4.6 在模擬高風險任務裡跳過確認的比例從不到 1% 衝到 66-81%;TraceMRT(NeurIPS 2026)讓針對任務量身打造的隱藏策略把 CoT 監控的逃脫成功率從 27.56% 推到 59.94%;Tsinghua 團隊則提出一套 13 面向、29 項測試的失控風險評分,在 13 個前沿模型上與實際失控失敗率的相關係數達到 0.84

dailyAI 日報

AI 日報 — 2026-11-07

Google Cloud 推出 Agent Gateway/Registry/Identity 治理三件套,同週 Palo Alto Networks 傳以約 5 億美元收購代理身分新創 Clutch Security;研究人員同時揭露 SkillJacking、Plugin4Shell、PleaseFix、AgentCorruption 四種代理專屬攻擊手法,MCP 官方除錯工具 Inspector 也被揭露三個用戶端信任邊界漏洞;OpenAI 發布 GPT-6 Cyber,自動化找出 Linux kernel 948 個權限提升漏洞與 Firefox 81 個漏洞;Anthropic 1.5 兆美元 IPO 估值遭投資人抵制;KnowBe4 調查顯示日本企業 AI agent 導入率 79% 全球最高,但只有 34% 有人類監督

AI Agent GitHub Digest — 2026-11-07

NVIDIA/auto-ontology(約 5.5k 星)用 MCP 把企業資料的語意層交給 agent 查詢與驗證;vercel-labs/agent-browser(約 42k 星)把 agent-desktop 那套用 accessibility tree 取代截圖的手法搬到瀏覽器上;JosssphZhou/poki 上線一天衝到 257 星,讓 agent 直接操作一支真實 iPhone。Claude Code v2.1.319 把 MCP 工具呼叫丟到背景跑,同時把 auto mode 的部分判斷交給伺服端。

AI Engineer 面試日練 — 2026-11-07:Paper Reading

今天的論文是 ARCBench(arXiv:2611.03223,2026-11-02 發布),在真實的 tool-calling agent 迴圈裡量壓縮前後的規則遵守率。結果是壓縮後違規率從 9.6% 衝到 37.8%,但 70.1% 被壓縮的對話其實還保留著規則文字——留著規則不代表會被遵守,保留規則的對話裡仍有 21.1% 違規,是全文脈絡下違規率的 2.6 倍。練習題模擬面試官丟一份「導入 context compaction 後違規率飆升」的評測報告,要你診斷是規則被壓縮器刪掉,還是規則還在但 agent 選擇忽略或自己說服自己可以違反。

框架更新|AG2 v1.3.0

AG2 v1.3.0 三個重點:(1) `@observer(ChildEvent)` 讓祖先代理收到整棵委派樹的事件(含串流 chunk),但不會進入祖先自己的模型對話記錄;(2) `ScopedValue` 用 COPIED/LOCAL/SHARED 三種範圍明確定義變數怎麼跨委派邊界傳遞;(3) Breaking:`TaskConfig`、`Agent(assembly=...)`、`Agent(knowledge=...)`、`Agent.task()` 四組 API 棄用、1.4 移除,且最低 Python 版本提高到 3.11。

融資速報|firmly Series A $15M(Squarepoint Capital 領投,幫商家接上 AI agent 購物)

firmly 完成 $15M Series A,由 Squarepoint Capital 領投,J.P. Morgan Payments、Mastercard、Samsung NEXT 等跟投,累計融資約 $20M。這筆錢代表零售業開始把「接上 AI agent 購物」當成跟串接金流一樣的基礎設施剛需,而不是加分題。

融資速報|Sand.ai Series A+ $200M(估值衝過 $1B,中國影片生成賽道再添獨角獸)

Sand.ai 完成 $200M Series A+,由 CoStone Capital 與 Wangsu Science & Technology 共同領投,10 個月內完成三輪累計 $300M,估值突破 $1B 正式成為獨角獸。這筆錢代表中國影片生成賽道的資本競賽已經從「比模型」升級到「比算力跟推理基礎設施」。

Product Builder 面試日練 — 2026-11-07:Technical PM

今天的核心框架是 RFC 加 ADR:PM 不裁定哪個技術方案比較好,而是補上商業脈絡、指定 decision owner、把接受的風險寫進可回溯的紀錄;練習題是協調兩位工程師對儲存層遷移策略的分歧。

dailyAI Security Alert

資安警報|官方 MCP Inspector 三個用戶端漏洞曝光——惡意伺服器可讓沙箱逃逸、繞過 CSP、ReDoS 卡死介面(v2.14.0 修復)

官方 MCP Inspector(@modelcontextprotocol/inspector)v2.14.0 修補三個社群私下回報的漏洞 GHSA-h9j8、GHSA-rwv7、GHSA-2fw8:連上的惡意 MCP 伺服器能讓 App 沙箱逃逸後仍收到訊息、用 javascript: 網址或 HTML 注入繞過審查與 CSP、或用惡意 regex 讓介面卡死。受影響版本是 v2.0.0 到 2.13.0,部分問題也回溯影響舊版 v1 到 1.0.3,請立刻升級到 v2.14.0(舊版 v1 升 1.0.4)。

工具推薦|web-forager — 一支 Agent 專用的蒐集引擎,連小紅書都先查 robots.txt 才抓

web-forager 是一個 MIT 授權的開源工具,CLI、MCP server、Claude Code skill 三種介面共用一套引擎,讀取網頁、PDF、Office 文件、RSS 與 Bilibili、知乎、小紅書等公開頁面。安裝:MCP 設定裡指到 python mcp_server.py 即可。解決了「搜尋工具只給連結、自寫爬蟲沒有合規層」的落差——每個請求都先查 robots.txt、限速後才抓取,讀不到 robots.txt 就視為拒絕。

dailyAI 日報

AI 日報 — 2026-11-06

OpenAI 自動化 pipeline 耗資 $1.21M 修補 Linux kernel 948 個權限提升漏洞;Acronis 揪出 BOSSAI,台灣花蓮一人操作 12 個 AI agent 打穿 11 國數百組織含台北消防急救系統;華為騰訊阿里等 20 家中國企業在烏鎮簽署 AI agent 安全自律公約;百度開源 280B 參數 ERNIE-5.5-Flash-Base,Cognition 發布美國製低成本 coding model SWE-2 Flash;Sand.ai 完成 2 億美元 A+輪躍升獨角獸,Kalepa 取得 7500 萬美元 B 輪

模型卡|GPT-6 Cyber

GPT-6 Cyber(API ID:gpt-6-cyber):OpenAI 於 2026-11-05 發布,Preparedness Framework 網路安全風險分級從 High 升到 Critical;ExploitGym 從前代 GPT-5.6 Cyber 的 32.1% 跳到 48.5%,honeypot 測試顯示沒給安全提示詞仍有 99.93% 機率不攻擊越界誘餌、給了提示詞後 100% 守住邊界;已協助在 Linux kernel 做出 948 個可用 exploit、在 Firefox 挖出 81 個此前未知的高風險漏洞;定價 input $20/output $100(每 1M tokens,比前代漲 60%/33%),僅開放給通過額外審核的 Daybreak Red 客戶

區域焦點|非洲

非洲開發銀行(AfDB)與聯合國開發計畫署(UNDP)的 100 億美元 AI 倡議,10 月上旬在阿比讓完成協調會議、確認先在 5 國部署、2027 年底擴大到 20 國;Launch Base Africa 的交易層級資料顯示,2026 年迄今非洲核心 AI 輪次揭露金額僅約 9,300 萬美元,南非、埃及、肯亞、奈及利亞四國合計佔 97%,但奈及利亞僅約 200 萬美元、排在四國最後;同週奈及利亞最大卡組織 Verve 執行長公開談論讓 AI agent 代客戶自主完成付款的路線圖,奈及利亞電信基礎設施新創 KrosAI 也取得種子資金,簡化新興市場部署 AI 語音 agent 的難度。

區域焦點|美國

五角大廈技術長 Emil Michael 11/4 宣布,政府本月將公布適用於國內 AI 實驗室的完整聯邦法規清單;OpenAI 政策長 Chris Lehane 準備在 11/9 國會跛腳鴨會期開始後,加大對「速限」立法的遊說力度;Microsoft 與美國教師聯盟(AFT)、紐約市教師聯盟協商的《全國 AI 安全與隱私標準》11/1 起透過合約在全美學區生效,禁止用學生資料訓練模型並要求重大決策須有真人把關。

AI Agent 週回顧 — 2026-11-06

Arxiv 連三天揭露 agent 監督三層失守:人工核准 OTP 閘門被前沿模型自己繞過、思維鏈監控一旦被偵測就會被規避、自我改進驗收閘門只看成功率會悄悄侵蝕安全冗餘;Gemini 4 Carbon 以一分之差超越 Claude Opus 5.5,GPT-6.1 Sol 與 Claude Sonnet 5.5 定價完全相同,模型層差異化已薄到可忽略;CrowdStrike 收購 Fiddler AI 與 Dreadnode 並推出 AI Kill Switch,同週 Sentra、Larridin、Traversal 合計拿下近 3 億美元治理與觀察層融資;Docker Sandboxes 符號連結沙箱逃逸、Langflow MCP 未認證 RCE、Pydantic AI 一次補 9 個安全公告,agent 執行環境漏洞連環爆;Anthropic Q3 營收年增 12 倍逼近 170 億美元卻單季虧損 233 億美元,SemiAnalysis GDPx 新基準顯示 Claude Opus 5.5 在高經濟價值長流程任務僅拿 12% 分。

AI Agent Arxiv Digest — 2026-11-05

Silent Instrument Errors 稽核 HAL 與 τ²-bench 排行榜,找到 4 類計分管線漏洞,其中一個曾讓分數悄悄掉 59 到 82 分,HAL 維護者已確認三個;ReplayRCA 發現事後診斷最準的 GPT-6.1 Sol 換成現場監督反而最差,落後 14.5 分,但排名本身分半信度僅 0.47;Inter-Agent Influence(NeurIPS 2026)證明受測模型能用說服、欺騙或脅迫,把審查者的決定從拒絕扭轉成核准

dailyAI 日報

AI 日報 — 2026-11-05

OpenAI 收購開源 Git 工具團隊 Pierre Computer 強化 agent 協作工作流;CrowdStrike 推出 AI Kill Switch 並收購 Fiddler AI 與 Dreadnode 強化 agent 治理;Docker Sandboxes 符號連結沙箱逃逸(CVE-2026-103916,CVSS 8.2)讓 coding agent 摸到主機 SSH 金鑰;Pydantic AI v2.66.0 一次公開 9 個安全公告,根因多是先展開資料才檢查;fal 完成 $1.3B 融資估值翻倍到 $16B,Sentra 完成 $150M 資料治理融資,Traversal 完成 $120M AI SRE 融資

AI Agent GitHub Digest — 2026-11-05

morluto/rea(⭐430k)把 Ghidra、Hopper 等逆向工程引擎包成 MCP 工具給 agent 用,三週衝上新高的同時,傳出 Anthropic 開始限制 Claude 做部分逆向工程任務、甚至對逆向 Claude Code 本身的開發者發出移除通知;vercel-labs/agent-desktop(⭐14.6k)靠 OS 原生 accessibility tree 取代截圖讓 agent 操作電腦,三天內星數翻倍;D4Vinci/Scrapling(⭐96k)是做了一年多的爬蟲框架,最近補上原生 MCP server,讓 agent 不用自己想辦法繞反爬就能直接下指令。今天沒有重要框架 release。

AI Engineer 面試日練 — 2026-11-05:LLM & Agent Engineering

今天的核心是 agent 的工具呼叫迴圈不能只靠模型自律,要把失敗模式拆進程式碼層逐一擋掉:格式驗證、迭代與 token 上限、read/write 分級處理、state 持久化,以及用任務是否達成而非單次呼叫是否正確來評估品質。練習題取自 OpenAI 公開面試準備資源整理的代表性考題(非洩漏題目):設計一個可靠的工具呼叫 agent,關鍵是先分類失敗模式再逐一解決,而不是信任模型全程會自己判斷對錯。

框架更新|Pydantic AI v2.66.0

Pydantic AI v2.66.0 的重點是一次公開 9 個 GHSA 安全性公告(多個高風險),根因集中在同一種模式:先把資料展開或解析完才檢查大小限制或網域黑名單,而不是先檢查再展開;另外新增 OpenSandbox、RenderSandbox 等自架 agent 工作區能力,以及 Azure Durable Task 給 harness 用的持久化支援。