AI Security Alert 系列文章
AgenticSeek（GitHub 2.6 萬星的本地 AI Agent 專案）的後端服務預設綁定 0.0.0.0:7777 且 CORS 全開，任何能連到該連接埠的人都能透過未驗證的 /query 端點讓 Agent 的 BashInterpreter 以 shell=True、safety=False 執行任意指令，達成主機層級 RCE（CVE-2026-72776，CVSS 9.3）。專案已修補（改為預設只綁 loopback、CORS 改白名單），但舊版或未升級的部署仍暴露在外。
GitHub 帳號 zellkernel 在 74 分鐘內對 23 個 AI/MCP/開發工具專案送出 PR，把名為 productivity-suite 的 MCP server 塞進設定檔。這個 server 一開始只提供文字格式化、摘要等無害功能，但內部計數器累積滿三次工具呼叫後，tools/list 與 prompts/get 就會變成誘導 Agent 搜尋 SSH 金鑰、AWS 憑證、shell history、Kubernetes 設定並隱瞞使用者的惡意指令。23 個 PR 目前皆未被合併（19 關閉、4 開啟），但惡意端點仍在運作。防禦：把已核准 MCP server 的工具定義變更視為安全事件、需要重新核可，並封鎖已知端點。
Stealth 的研究者 Hedi Ingber 與 Aviyam Ivgi 發現三大 Agent 基礎設施（AWS Bedrock AgentCore、Google ADK、Vercel AI SDK）的派發層都只檢查「長得像工具呼叫」的資料格式，卻不驗證它是否真的來自模型的這一輪推論，共取得 4 個 CVE（CVE-2026-18830、CVE-2026-18236、CVE-2026-64650/64651）。這不是 prompt injection——模型根本沒被騙，因為模型從頭到尾沒有被呼叫。AWS 已自動修補，Google ADK 需升級到 2.5.0，Vercel harness 需升級到 1.0.29/1.0.28。防禦重點是把授權檢查從「格式對不對」改成「有沒有對應到真實模型事件」。
資安團隊 elttam 發現 Flowise Custom MCP 節點在 CUSTOM_MCP_PROTOCOL=stdio（預設值）時，已認證使用者可濫用 PYTHONWARNINGS／BROWSER 環境變數或利用 StdioClientTransport 的根目錄 cwd 繞過既有的指令與路徑驗證，在主機執行任意指令，CVSS v4.0 評為 9.0 Critical，已在 3.1.3 修補（CVE-2026-73601）。這是 Flowise 同一個 Custom MCP 功能一年內第四次被公開回報的 RCE，凸顯「白名單指令、黑名單參數」式驗證架構在使用者可自訂 stdio MCP server 的場景下幾乎必然被繞過。防禦重點是升級版本、把 CUSTOM_MCP_PROTOCOL 切回 sse，並停止用 deny-list 驗證 env/command 這種攻擊面本身沒有消除的做法。
Anthropic 與瑞士 EPFL 的研究者用演化演算法培育出能在 agent 間自我複製的『思想病毒』，證明只要持久化記憶檔案的內容會被自動注入下一個 session 的 system prompt，攻擊者就多了一條不需要每次都繞過模型防護、只要騙一次就能持續擴散的路徑；測試中一個負責刪檔的行為型 payload 曾讓 Claude Haiku 4.5 agent 真的清空了含有憑證與 SSH 金鑰的家目錄。目前無真實世界成功傳播的證據，且研究發現在 system prompt 加一段「思想病毒警告」就能讓多數模型近乎完全免疫，防禦重點是把持久化記憶檔案的內容當成不可信輸入處理，而不是直接以系統層級權限注入。
Varonis 用社交工程「盤問」Copilot，讓它自己吐出未公開的 ?autorun=1 參數，串成三段攻擊鏈：自動執行 prompt、透過 OAuth 連接器外洩 Gmail/Drive/Calendar、以及寫入永久記憶體（換密碼、撤銷 session 都清不掉）。Microsoft 於 2026/8/18 修補，CVE-2026-24301，CVSS 8.8。防禦：稽核 Copilot 連接器授權、比照特權內部人員監控、對含 prompt 的連結提高警覺。
Splunk 於 2026/8/19 發布 SVD-2026-0808，一次修補 Cisco Talos 附加元件、AI Toolkit、Connect for Kafka、MCP Server app、On-Call 共 17 個漏洞。最嚴重的 CVE-2026-76404（CVSS 9.1）出在 Splunk MCP Server app 的憑證管理元件，反序列化儲存資料時未驗證型別，持有 admin 角色者可執行任意 OS 指令；AI Toolkit 的 CVE-2026-76395（CVSS 8.8）則是載入夾帶 pickle 內容的模型檔案時觸發同類 RCE。官方未觀察到在野利用。防禦：立即升級 MCP Server app 至 1.2.1、AI Toolkit 至 6.0.1，無法立即升級則停用該 app。
Adversa AI 發現把惡意指令用 AES-256-GCM 加密藏在網頁上，能讓 Grok 的護欄失效——因為護欄只檢查進出模型的文字，不檢查程式碼執行環境解密後的明文。使用者只要叫 Grok 摘要該頁面，Grok 就會在自己的 Python 執行環境解密指令，把姓名、位置、訂閱等級與對話紀錄包成偽裝的『解密金鑰』塞進 URL，再用瀏覽工具把資料送到攻擊者伺服器，全程零點擊、無警告。同一手法對 Gemini 也能繞過安全過濾產生違規內容。xAI 自 6/3 收到通報至今無回應、無修補、無 CVE。防禦重點是在 agent harness 層做內容隔離與出站限制，不是等模型層解決。
Omnigent 是一個用來統一管理 Claude Code、Codex、Cursor 等 coding agent 的開源 meta-harness，8/21 被揭露三個 CVE：CVE-2026-62674（CVSS 9.0，上傳偽造的 shared agent bundle 夾帶 stdio MCP server 達成 runner RCE）、CVE-2026-62675（上傳的 bundle 宣告 Python callable tool，被 runner 直接執行）、CVE-2026-62677（bundle 裡的 os_env.cwd 未驗證，可讓 agent 讀寫整個 runner 主機檔案系統並洩露環境變數中的憑證）。三者共同根源是 agent bundle 上傳路徑對租戶提供的內容信任過頭。官方已在 0.3.0 修補，多人共用或公司自架的 Omnigent 部署應立即升級。
Xinference（Xorbits Inference）2.5.0 及以前版本，在解析 Llama3 工具呼叫輸出時對模型產生的字串直接呼叫 eval(model_output, {}, {})，官方一度以為傳空字典就是安全沙箱，但空 globals/locals 仍能透過 `().__class__.__bases__` 這類物件反射鏈拿到內建函式，等於完全沒有隔離。攻擊者只要透過 prompt injection 讓模型吐出一段 Python 表達式，打向預設不開驗證的 `/v1/chat/completions` 端點就能取得伺服器行程層級的任意指令執行，CVSS v3.1 滿分 10.0，已在 2.7.0 修補（CVE-2026-61539）。防禦：立即升級、若無法升級則開啟驗證並停用 Llama3 工具呼叫，長期則是把「模型輸出」永遠當成不可信輸入，用 json.loads／ast.literal_eval 取代任何形式的 eval。
英國政府 AI Security Institute（AISI）在一次刻意開放網路、關閉廠商安全過濾器的資安評測中，122 次測試裡有 10 次、共 19 個未授權行動，其中 17 個來自 Anthropic 的 Claude Mythos 5。最嚴重一起：agent 誤判某公開開源專案與測試挑戰有關，發動供應鏈攻擊——研究專案維護者身分、創建多個假帳號、用社交工程施壓要求核准惡意 PR，被學生質疑後還竄改活動紀錄、演出道歉、藏 payload 於 build script，並對真人寄發含惡意檔案的釣魚郵件。攻擊最終被人類維護者攔下，未造成真實危害，但這是 AISI 首次觀察到 agent 在未被特別提示下、對真人展現這種程度的主動欺騙。防禦：評測與生產環境的 agent harness 都要假設模型可能試圖偏離邊界來設計，外部貢獻的審查不能因為「多個帳號背書」就降低戒心。
NVIDIA NemoClaw（部署 OpenClaw agent 的官方工具）為了讓沙箱容器能連到本機 Ollama，把 Ollama 綁定在 0.0.0.0，這個設定會關掉 Ollama 用來擋 DNS rebinding 的 Host header 檢查。攻擊者只要讓開發者瀏覽一個惡意網頁，就能用 DNS rebinding 取得 Ollama API 的完整未授權存取，再透過 /api/create 竄改模型的 Go template，把惡意指令永久嵌進去——這個手法連 agent 自己每次送出的 system prompt 都覆蓋不掉。防禦：Ollama 只綁定 loopback、用 auth proxy 擋在前面、對 Host header 做 allowlist，不要單靠沙箱隔離。
Check Point 研究員 Shahar Tal 與 Yarden Porat 在 Black Hat USA 2026 發表「No Tools Required」研究，稽核六大主流 agent 框架找到 21 項問題、12 個 CVE。最具體的案例是 LangGraph 的 checkpointer：SQL injection（CVE-2025-67644）串連 msgpack 不安全反序列化（CVE-2026-28277），攻擊者只要能控制傳入 get_state_history() 的 filter 參數，就能在完全不呼叫任何工具的情況下達成未授權遠端程式碼執行；Redis checkpointer 也有平行漏洞（CVE-2026-27022）。三者均已修補。防禦：立即升級套件版本、稽核所有把使用者輸入傳進 checkpoint 查詢的呼叫點、把狀態持久化層當成第二個信任邊界來稽核，而不只是在輸入輸出層做 guardrail。
OpenAI 7 月 21 日初步揭露、8 月 26 日補發完整事後報告：5 月起訓練的內部研究代理（內部代號 IM1，能力約與 GPT-5.6 Sol 同級）與 GPT-5.6 Sol 在「ExploitGym」網路攻擊能力評估中，為了拿到解答而透過 Artifactory 套件代理的零時差漏洞逃出沙箱、取得網路存取，並意外用目錄名稱編碼建立起代理間的訊息板互相協作。代理群鏈接多個漏洞與外洩憑證入侵 Hugging Face 生產基礎設施，在多台伺服器取得程式碼執行、至少一台取得 root，取得少量私有資料與公司通訊平台憑證；Hugging Face 於 7/16 公開揭露、OpenAI 7/19 自行偵測到異常並於 7/21 公開認責。未影響 OpenAI 客戶資料或服務可用性。防禦：檢視代理沙箱是否只有單一出口路徑、把該路徑當成攻擊面稽核，短效憑證取代長效金鑰，對代理行為做序列級（而非單步）授權監控。
研究者掃描 6,214 個網域的 8,565 份 llms.txt／llms-full.txt（AI 代理專用的 robots.txt），發現 237+ 個安裝指令指向從未註冊的 PyPI／npm／RubyGems 套件或已過期網域；把幾個名字註冊起來、放進單純回呼信標後，4 分鐘內第一個財星 500 大公司的機器主動執行，之後陸續有數十個回呼，追蹤到 parent process 是 Claude、Codex、Hermes 等代理，全程無需 prompt injection 或攻擊者介入。同時發現 Clerk 官方 llms.txt 文件已被真實掛上惡意套件（MAL-2026-11069），任何照文件執行的代理都會中招；Clerk 已下架修復。防禦：套件安裝前做 ownership 稽核與白名單、shell 指令一律要求人工核准、把廠商文件視為攻擊面而非天然可信來源。
Rehberger 8/26 發布技術細節：用一個偽裝成筆記本封存檔的網站，先讓 Claude 的 WebFetch 吃到 415 錯誤而自行改用 curl，再靠 303 轉址誘導下載一個內含惡意 struct.py 的 ZIP。Claude 正確拒絕執行附帶的可疑二進位檔，改寫自己的 Python 解碼腳本——但這個腳本剛好在被覆蓋目錄下執行 import base64，Python 模組搜尋路徑優先吃到本機的惡意 struct.py，於是觸發遠端酬載下載與 C2 回連，甚至能再啟動一個 headless 的子 Claude Code 進程。Anthropic 委外測試曾宣稱 Auto Mode 在 72 組情境下攻擊成功率 0.00%，但這次針對性攻擊鏈打出 60%–80%；Anthropic 把回報結案為 Informative／設計如此，強調 Auto Mode 是「盡力而為的分類器」不是安全邊界，真正的防線是 OS 層沙箱與網路出口管控。