← 關於我
Safety Gate
gatelane
AI 代理上線前的安全與評測閘門
在同一個引擎上跑紅隊攻擊測試與回測判定閘門，用線上真實查詢重跑比較，自動給出 pass/fail 結論。
影片待錄
01
一鍵跑完全套測試
一個指令跑完 test、Red Team、Blue Team 跟 pipeline assertions，不用手動切工具。有 Langfuse-compatible 的 tracing SDK 收集 traces，可以做 response diff 跟 regression 偵測。完整 CLI 跟 Dashboard。
影片待錄
02
Red Team：50+ 攻擊向量
自動化紅隊測試，涵蓋 prompt injection、jailbreak、資訊洩漏等攻擊模式。超過 50 種攻擊向量，每一種都有對應的偵測邏輯跟嚴重度分級。不用自己寫攻擊腳本，跑一次就知道 agent 的安全底線在哪裡。
影片待錄
03
Blue Team：誤擋 + 洩漏偵測
不只測攻擊，也測防禦有沒有誤殺正常查詢、有沒有不小心洩漏敏感資訊。很多安全方案只管擋，結果把正常使用者也擋掉了——Blue Team 專門抓這種誤判，確保安全跟可用性之間的平衡。
影片待錄
04
線上查詢重跑回測
把線上真實的使用者查詢重跑一次在新版本上，自動比較有沒有退步。不是用合成測資，是用真實流量——確保你改的東西不會讓已經在用的功能壞掉。
截圖待補
05
依回測差距自動判定
把線上真實查詢重跑在新版本上，跟 baseline 逐條比較。差距 Δ 達到閾值就 pass，沒達到就 fail 並列出具體哪些查詢退步了。是測試閘門，不是部署工具——pass/fail 的結論交給你的 CI/CD 決定下一步。
技術
RuntimePython
FocusAgent Safety + Evaluation
FeaturesRed Team / Blue Team / Regression
LicenseApache 2.0