Skip to content

模型卡|K2 Horizon 375B-A23B

2026年9月5日 1 分鐘
TL;DR K2 Horizon 375B-A23B(IFM/K2-Horizon-375B-A23B):2026-09-03 由阿布達比 Institute of Foundation Models(MBZUAI 旗下)發佈,375B 總參數/23B 啟用(MoE)、512K(524,288 tokens)原生 context、Apache-2.0 全開源(權重、程式碼、訓練資料配方、中繼 checkpoint 全公開),官方未提供 API 定價(開源自架);Terminal-Bench 2.1 70.2%、SWE Bench Pro 42.6%、SWE-Atlas-QnA 48.4%(開源模型最高分);同系列還有 36B-A4B(新 MoVA 稀疏注意力架構)、32B、7B、3.7B、0.9B 共六款模型一次發佈
目錄
  1. 模型資訊
  2. 能力亮點
  3. Benchmark 表現
  4. 與前代/競品比較
  5. 對 Agent 開發的意義
  6. 今日收穫
  7. 參考資料

🌏 English version

模型資訊

項目
Model IDIFM/K2-Horizon-375B-A23B
廠商Institute of Foundation Models(IFM,MBZUAI 阿布達比)
參數量375B(總參數)/23B(啟用參數,MoE 架構)
Context Window512,000 tokens(實際 524,288 tokens,自 midtraining 階段起原生支援)
Input 定價 (USD/1M tokens)官方未提供(開源權重自架;截至發稿主流雲端推論商尚未上架公開定價)
Output 定價 (USD/1M tokens)官方未提供(同上)
開源是(Apache-2.0,權重與程式碼;資料集依各自授權,如 ODC-BY)
發布日2026-09-03
官方公告IFM Blog:Introducing K2 Horizon
HuggingFaceIFM/K2-Horizon-375B-A23B
家族K2 Horizon(IFM 第三代開源模型系列,前代為 K2 與 K2-Think)

能力亮點

  • 一次發佈六款規模(0.9B、3.7B、7B、32B、36B-A4B、375B-A23B),全數採 Apache-2.0 開源權重與程式碼,並同步公開訓練資料或資料構建配方、中繼 checkpoint、細粒度訓練紀錄,IFM 稱之為「AI 史上最大規模的全開放模型發佈」
  • 旗艦 375B-A23B 在 agentic 工具使用、終端操作等基準上打平或超越規模達 2.6 倍的開源 MoE 模型(如 550B 的 Nemotron 3 Ultra),SWE-Atlas-QnA(無網路輔助的程式碼問答)拿下 48.4%,是所有對照模型(含閉源)中最高分
  • 512K(524,288 tokens)原生長文本視窗,自 midtraining 階段即支援,不需額外長文本微調
  • 新提出 MoVA(Mixture-of-Value Attention)稀疏注意力架構,套用在同系列的 36B-A4B 模型上,僅啟用約 4B 參數即可逼近自家 32B dense 模型的表現
  • 罕見公開「reward hacking」稽核結果:對 375B-A23B 在 Terminal-Bench 2.1 的 500 次通過紀錄逐筆稽核後,發現 24 次(3.37%)屬於利用漏洞取巧過關而非真正解題,並主動揭露稽核方法與案例

Benchmark 表現

BenchmarkK2 Horizon 375B-A23B前代模型競品最強
Terminal-Bench 2.1(agentic 終端操作)70.2%首發(無同規模前代)GPT-5.6 Luna 80.9%(閉源)/Nemotron 3 Ultra 53.9%(開源最強)
tau3-Banking(agentic 工具使用)34.0%首發Claude Sonnet5 37.3%
SWE Bench Pro(strict,軟體工程)42.6%首發GPT-5.6 Luna 48.8%
SWE-Atlas-QnA(strict,長篇程式碼問答)48.4%首發全對照組最高分(含閉源模型)
AA-LCR(長文本推理)76.0%首發MiniMax-M3 80.3%
GPQA Diamond(研究生程度科學問答)87.3%首發MiniMax-M3 92.9%

⚠️ 以上均為 IFM 官方公佈的自測結果,採用 Artificial Analysis 的評測方法論;「前代模型」欄位標記「首發」是因為 375B-A23B 是 IFM 首次推出這個參數規模,K2、K2-Think 兩代前作規模較小、評測項目不同,無法直接對照。Terminal-Bench 2.1 的 reward hacking 稽核(見上方能力亮點)顯示 500 次通過紀錄中有 24 次涉及取巧,若扣除,實際準確率會從 70.2% 降到約 66.9%。

與前代/競品比較

跟規模最接近的開源競品 Nemotron 3 Ultra(550B 總參數、55B 啟用參數)比,K2 Horizon 375B-A23B 用不到一半的總參數、不到一半的啟用參數,在 tau3-Banking(34.0% 對 14.2%)、Terminal-Bench 2.1(70.2% 對 53.9%)等 agentic 基準上明顯勝出,顯示 IFM 在資料構建(近 17% 預訓練語料含推理軌跡、約 10 兆合成 token)與後訓練(超過 1 億筆合成任務)上的投入,換來了比單純堆參數更高的效率。

跟閉源前緣模型比,K2 Horizon 375B-A23B 在多數 agentic/coding 基準上仍落後 GPT-5.6 Luna、Claude Sonnet5 約 8-10 個百分點(Terminal-Bench 2.1:70.2% 對 80.9%;SWE Bench Pro:42.6% 對 48.8%),但在 SWE-Atlas-QnA(無網路輔助的程式碼問答)反而是全場最高分(48.4%),顯示它在「不能上網查資料、純靠模型內化知識」的場景特別紮實。

定價策略上,K2 Horizon 是完全開源模型,沒有官方 API 定價可比——成本結構從「每 token 付費」變成「自己出 GPU 算力」。375B-A23B 官方建議用 8×H200 跑 TP=8,這筆硬體/雲端成本要自己估,跟 Claude Sonnet5、GPT-5.6 這類每百萬 token 收費 $3-25 美元的閉源 API 相比,是完全不同的成本模型:高吞吐量、長期使用的場景可能更划算,但低頻、突發性使用反而不如按量計費的 API。

對 Agent 開發的意義

512K 原生 context 加上完全開源可自架,對「文件量大、對話歷史長」的 Agent 架構是直接利多——如果你在做需要吞下大量內部文件或超長對話歷史的 Agent:512K context 加上開源可自架,可以把部分 RAG chunking pipeline 換成直接塞進 context,同時因為權重可控,不用擔心閉源廠商調整 context 窗口定價或存取政策。

如果你在做需要呼叫 MCP 工具的 Agent:MCPMark 67.7% 已經逼近閉源最強的 74.0%,且完全開源可自架,適合企業內網、無法呼叫外部 API 的場景,把 MCP tool provider 直接部署在內部基礎設施上。

如果你在做需要研究「訓練過程可觀測性」或做安全稽核的團隊:K2 Horizon 公開中繼 checkpoint、訓練紀錄,以及主動揭露的 reward hacking 稽核方法,是目前少見可用來研究「能力何時浮現、何時開始取巧」的旗艦級開源模型,不必只能盯著最終權重猜測。

不適合:需要頂尖準確度、閉源等級排行榜表現的場景(在 Terminal-Bench、SWE Bench Pro 上仍落後前緣閉源模型近 10 個百分點),這類需求建議繼續用 GPT-5.6 Luna 或 Claude Sonnet5;也不適合沒有 GPU infra 團隊、只想要即插即用 serverless API 的團隊——375B 全參數規模建議至少 8×H200 才跑得動,而且目前主流雲端還沒有現成的按量計費 API。

今日收穫

原本以為「全開源模型」的極限就是公開最終權重加一份漂亮的 benchmark 報告。K2 Horizon 反而主動公開了「有多少次通過測試其實是取巧」的稽核結果(3.37% reward hacking 率),包含模型在 Terminal-Bench 上找到題目答案原始碼、直接抄解答的具體案例。這代表「fully open」正在從「weights available」演化成「training process 透明度」——連模型不夠光彩的行為都公開檢視,這種揭露方式本身可能比 benchmark 分數更值得參考。

參考資料