跳到主要內容
AI News HubLIVE
站內改寫3 分鐘閱讀

南北閣釋出 Nanbeige4.3-33B:33B 開源智慧體程式設計模型

文章摘要

南北閣 LLM 實驗室在 Hugging Face 上以 Apache 2.0 許可釋出 Nanbeige4.3-33B,這是一款 33B 稠密模型,支援 524,288 token 上下文,主打智慧體程式設計與辦公協作任務。實驗室自報 Terminal-Bench 2.1 得 80.9 分,並在自建對比表的 20 項中領先 17 項,但部分競品資料與對方官方模型卡存在出入。該模型還充當 Nanbeige4.3 系列的教師模型,後續將蒸餾出 Nanbeige4.3-3B。

來源MarkTechPost作者: Asif Razzaq
南北閣釋出 Nanbeige4.3-33B:33B 開源智慧體程式設計模型
回報錯誤

更正管道尚未開通,可先複製下方文章資訊留存。

查看更正說明
直接讀正文

南北閣(Nanbeige LLM Lab)已在 Hugging Face 上以 Apache 2.0 許可證釋出 Nanbeige4.3-33B。該實驗室隸屬招聘平臺 BOSS 直聘,此次釋出的 Nanbeige4.3-33B 是一款 330 億引數(33B)的稠密語言模型,主打智慧體程式設計(agentic coding)以及辦公類“協同工作”(cowork)任務。與此同時,團隊還發布了 Nanbeige4.3-33B-Base,供開發者進行自定義後訓練使用。該模型支援 524,288 token 的上下文視窗。在實驗室自己公佈的對比表中,它面對三款 30B 左右的開放模型時,在 20 項基準中領先 17 項。

【核心要點】

規模:33B 引數,稠密架構(非 MoE),524,288 token(512K)上下文,BF16 權重。

執行環境:面向多 GPU 伺服器。模型卡中的 SGLang 與 vLLM 配方均採用 4 路張量並行。按我們的推算,BF16 權重約需 66 GB 視訊記憶體。目前列出一個社群量化版本。

效能:在南北閣自己的對比中,面對 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B,它在 20 行對比中領先 17 行。

最佳成績:Terminal-Bench 2.1 上取得 80.9,而 Qwen3.8-27B 為 73.0。

最差成績:Terminal-Bench 4.0 上僅 23.8(其最低分)。在 SWE-Bench Pro 上也不及 Qwen3.8-27B,為 60.3 對 61.7。

【Nanbeige4.3-33B 是什麼】

Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗艦“教師”模型。實驗室公開的策略是先構建一個強教師模型,再計劃把智慧體能力蒸餾到更小的模型中,首個目標便是即將推出的 Nanbeige4.3-3B。

【Nanbeige4.3-33B 如何構建】

其 config.json 宣告採用標準的 LlamaForCausalLM 架構。由於沒有專家路由,33B 引數在生成每個 token 時都會全部參與計算。

具體配置:52 層,隱藏維度 7,168;56 個查詢頭與 8 個鍵值頭(分組查詢注意力,GQA),頭維度 128;FFN 中間維度 22,016,詞表大小 166,912 token;RoPE theta 為 120,000,000,最大位置數為 524,288。

其聊天模板提供三項控制項:enable_thinking 用於開關推理,預設開啟;preserve_thinking 用於保留此前輪次的推理內容,南北閣建議在多輪工具呼叫和程式碼智慧體場景中使用;傳入 tools 即可啟用工具呼叫,並推薦使用 XML 呼叫格式。

【基準測試表現】

南北閣將其與 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 進行對比。所有模型均以最高思考強度執行,並共享超引數與評測框架。本節所有分數均為自報資料。

智慧體程式設計:Terminal-Bench 2.1 得分 80.9,Qwen3.8-27B 為 73.0。DeepSWE 差距最大:65.5 對 42.5。在 Terminal-Bench 4.0 上得分為 23.8,而 Gemma4-31B 為 0.0。

智慧體協同工作:Automation Bench 得分 54.2,對手為 38.3;JobBench 得分 44.8,對手為 34.5。在 YC-bench 上,模擬營收達到 1,025,437 美元,對手為 641,290 美元。

推理:AIME 2026 報告 95.2,AA-LCR 為 84.0。

它在 20 行中輸掉 3 行。Qwen3.8-27B 在 SWE-Bench Pro(61.7 對 60.3)和 GDPval(86.4 對 84.8)上領先。Gemma4-31B 在南北閣表格中的 GPQA Diamond 上領先,為 91.3 對 89.5。

Base 模型在全部 8 項報告的任​​務上均優於 Gemma4-31B-Base,例如 MMLU-Pro(66.9 對 59.3)和 GPQA(62.0 對 41.5)。

【與競品官方模型卡的對比】

規格對比(Nanbeige4.3-33B / Qwen3.8-27B / Muse-Glimmer-30B / Gemma 4 31B):

開發者:南北閣 LLM Lab(BOSS 直聘)/ Qwen(阿里巴巴)/ Meta Superintelligence Lab / Google DeepMind。

引數量:33B 稠密 / 27B 稠密語言模型加視覺編碼器 / 約 29.6B 稠密(含約 1.8B 視覺編碼器)/ 30.7B 稠密。

上下文:524,288 / 原生 262,144,最高可擴充套件至 1M / 131,072 以上 / 256K。

輸入模態:文本 / 文本、影像、影片 / 文本、影像 / 文本、影像。

許可證:均為 Apache 2.0。

Terminal-Bench 2.1:80.9* / 73.0 / 51.7 / 未披露。

SWE-Bench Pro:60.3* / 61.7 / 51.2 / 未披露。

GPQA Diamond:89.5* / 89.2 / 83.5(AA)/ 84.3。

AIME 2026:95.2* / 未披露 / 94.7 / 89.2。

本地硬體建議:4 GPU 張量並行配方 / 未披露 / 約 4-bit 量化下需 24 GB 或 32 GB 視訊記憶體 / 消費級 GPU 與工作站。

(* 為南北閣自報資料。競品數值來自各實驗室自己的 Hugging Face 模型卡。)

南北閣表格中部分競品數值與那些實驗室公開發布的資料存在差異:

Meta 報告 Muse-Glimmer-30B 在 SWE-Bench Pro 上為 51.2,Gemma4-31B 為 36.9,而南北閣的表格正好相反。

Google 列出 Gemma 4 31B 在 GPQA Diamond 上為 84.3,南北閣表格顯示為 91.3。

Meta 報告 Muse-Glimmer-30B 在 Terminal-Bench 2.1 上為 51.7,南北閣測得 61.8。

評測框架不同可以解釋部分差距,但 SWE-Bench Pro 那一對看起來是數值對調了。在出現獨立復現之前,這些行應視為暫定資料。

【如何部署 Nanbeige4.3-33B】

模型卡提供了 Transformers、SGLang 和 vLLM 配方。其伺服器示例使用 4 路張量並行,並搭配 Qwen3 的推理與工具呼叫解析器。推薦的智慧體設定為 temperature 1.0、top_p 0.95、最大新生成 token 65,536;推理與聊天場景則使用 temperature 0.6、最大新生成 token 262,144。

根據 config.json 推算,BF16 權重約需 66 GB 視訊記憶體。BF16 下 KV 快取每 token 約增加 208 KiB,因此完整的 524,288 token 序列大約需要 112 GB 的 KV 快取。截至釋出時,尚無 Hugging Face Inference Provider 託管該模型。

【關鍵結論】

33B 稠密、Apache 2.0、512K 上下文、純文本。

自報 Terminal-Bench 2.1 達 80.9,DeepSWE 達 65.5。

在南北閣自己的表格中 20 行領先 17 行。

多個競品數值與官方模型卡存在衝突。

定位為即將推出的 Nanbeige4.3-3B 的教師模型。

可檢視模型權重、Base 模型以及 X 上的釋出帖。該文章最初發表於 MarkTechPost。

展開要點與分析

文章情報

工程師進階

要點

  • 33B 稠密架構、Apache 2.0 許可、524,288 token 上下文,僅支援文本輸入。
  • 南北閣自建對比表中 20 項拿下 17 項,Terminal-Bench 2.1 為 80.9,DeepSWE 為 65.5。
  • SWE-Bench Pro 等競品資料與官方模型卡衝突,疑似 Muse-Glimmer-30B 與 Gemma4-31B 數值互換。
  • BF16 權重約需 66 GB 視訊記憶體,完整 512K 序列的 KV 快取約 112 GB,需多卡張量並行部署。

技術影響

可能影響 Agent 架構、工具呼叫、工作流自動化和產品整合。

要點與分析由自動化流程生成,可能有誤,請結合原始來源核實。

南北閣釋出 Nanbeige4.3-33B:33B 開源智慧體程式設計模型 | AI News Hub