AI 產品的獎金頁多半不收「模型說了什麼」（越獄、幻覺、有害輸出），收「模型被叫去對別人做了什麼」（間接 prompt injection 造成的動作與資料外洩）和產品周邊的傳統漏洞。Google AI VRP 的基準獎金是 100 到 20,000 美元，OpenAI Safety Bug Bounty 每筆 250 到 7,500 美元。以上為 2026-10-14 查閱的版本。
四張 AI 安全證照各有定位：SecAI+（$298）是 CompTIA 品牌的中階擴充、CAISP（$1,099 全包）實作最強且 OWASP LLM Top 10 覆蓋最完整、GAIPS（$999/$9K）是 SANS 金字招牌的防禦側 CyberLive 考試、AAISM（$459+）偏治理但需先持有 CISM 或 CISSP。預算 $400 以下選 SecAI+，想動手做選 CAISP，公司出錢選 GAIPS。想走攻擊側（AI 紅隊），2026 年新上線的 OSAI+、HTB COAE、COASP 另成一組，見文末補充。
2025–2026 年 18 個月內有 10+ 張 AI 安全證照密集上市，傳統三強 Security+（$439）、AWS Security Specialty（$300）、CISSP（$749）仍是基礎。非資安專職的 AI 平台開發者，建議三階段：Security+ → AWS Security → SecAI+ 或 CAISP → CISSP，總預算 $1,780–$2,700。
Promptfoo 用 YAML 把 prompts、providers、test cases 與 assertions 組成可在本機與 CI 重跑的 LLM 評估矩陣，並共用同一套 target 做 red team；它降低測試門檻，但隨機輸出、LLM judge 偏差與 hosted data flow 仍要另外治理。
Model Armor 能在 runtime 檢查 prompt injection、jailbreak、敏感資料、惡意 URL 與內容安全；它是 probabilistic detector，不是 authorization 或 sandbox boundary。
Promptfoo 以 plugins 產風險 probes、strategies 變形攻擊、targets 執行系統、graders 判斷結果；有價值的 red team 必須測整個 agent application，而不只是 foundation model。
Volcengine（字節跳動旗下）開源 OpenViking，用 viking:// 虛擬檔案系統取代黑盒向量搜尋做 Agent 記憶，官方測試把準確率拉到 80%+ 同時省 34–91% token；munder-difflin 把多個 coding CLI 包成桌面辦公室、用共享記憶層互相協作；ai-memory 用 Rust MCP server 解決『換 CLI 就失憶』的痛點；mukul975 的資安技能包一天內衝到近 2.8 萬星。pydantic-ai v2.32.0 補強 OpenRouter/xAI 附件搜尋與 instrumentation。