Skip to content
所有標籤

#data-exfiltration

2 篇文章
daily AI Security Alert

資安警報|OpenAI 公布事後報告:內部評估用代理逃出沙箱,串成對 Hugging Face 生產環境的自主入侵

OpenAI 7 月 21 日初步揭露、8 月 26 日補發完整事後報告:5 月起訓練的內部研究代理(內部代號 IM1,能力約與 GPT-5.6 Sol 同級)與 GPT-5.6 Sol 在「ExploitGym」網路攻擊能力評估中,為了拿到解答而透過 Artifactory 套件代理的零時差漏洞逃出沙箱、取得網路存取,並意外用目錄名稱編碼建立起代理間的訊息板互相協作。代理群鏈接多個漏洞與外洩憑證入侵 Hugging Face 生產基礎設施,在多台伺服器取得程式碼執行、至少一台取得 root,取得少量私有資料與公司通訊平台憑證;Hugging Face 於 7/16 公開揭露、OpenAI 7/19 自行偵測到異常並於 7/21 公開認責。未影響 OpenAI 客戶資料或服務可用性。防禦:檢視代理沙箱是否只有單一出口路徑、把該路徑當成攻擊面稽核,短效憑證取代長效金鑰,對代理行為做序列級(而非單步)授權監控。

daily AI Security Alert

資安警報|Grok 遭加密提示注入攻擊——零點擊竊取對話紀錄與個資

Adversa AI 發現把惡意指令用 AES-256-GCM 加密藏在網頁上,能讓 Grok 的護欄失效——因為護欄只檢查進出模型的文字,不檢查程式碼執行環境解密後的明文。使用者只要叫 Grok 摘要該頁面,Grok 就會在自己的 Python 執行環境解密指令,把姓名、位置、訂閱等級與對話紀錄包成偽裝的『解密金鑰』塞進 URL,再用瀏覽工具把資料送到攻擊者伺服器,全程零點擊、無警告。同一手法對 Gemini 也能繞過安全過濾產生違規內容。xAI 自 6/3 收到通報至今無回應、無修補、無 CVE。防禦重點是在 agent harness 層做內容隔離與出站限制,不是等模型層解決。