南北阁(Nanbeige LLM Lab)已在 Hugging Face 上以 Apache 2.0 许可证发布 Nanbeige4.3-33B。该实验室隶属招聘平台 BOSS 直聘,此次发布的 Nanbeige4.3-33B 是一款 330 亿参数(33B)的稠密语言模型,主打智能体编程(agentic coding)以及办公类“协同工作”(cowork)任务。与此同时,团队还发布了 Nanbeige4.3-33B-Base,供开发者进行自定义后训练使用。该模型支持 524,288 token 的上下文窗口。在实验室自己公布的对比表中,它面对三款 30B 左右的开放模型时,在 20 项基准中领先 17 项。
【核心要点】
规模:33B 参数,稠密架构(非 MoE),524,288 token(512K)上下文,BF16 权重。
运行环境:面向多 GPU 服务器。模型卡中的 SGLang 与 vLLM 配方均采用 4 路张量并行。按我们的推算,BF16 权重约需 66 GB 显存。目前列出一个社区量化版本。
性能:在南北阁自己的对比中,面对 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B,它在 20 行对比中领先 17 行。
最佳成绩:Terminal-Bench 2.1 上取得 80.9,而 Qwen3.8-27B 为 73.0。
最差成绩:Terminal-Bench 4.0 上仅 23.8(其最低分)。在 SWE-Bench Pro 上也不及 Qwen3.8-27B,为 60.3 对 61.7。
【Nanbeige4.3-33B 是什么】
Nanbeige4.3-33B 是 Nanbeige4.3 系列的旗舰“教师”模型。实验室公开的策略是先构建一个强教师模型,再计划把智能体能力蒸馏到更小的模型中,首个目标便是即将推出的 Nanbeige4.3-3B。
【Nanbeige4.3-33B 如何构建】
其 config.json 声明采用标准的 LlamaForCausalLM 架构。由于没有专家路由,33B 参数在生成每个 token 时都会全部参与计算。
具体配置:52 层,隐藏维度 7,168;56 个查询头与 8 个键值头(分组查询注意力,GQA),头维度 128;FFN 中间维度 22,016,词表大小 166,912 token;RoPE theta 为 120,000,000,最大位置数为 524,288。
其聊天模板提供三项控制项:enable_thinking 用于开关推理,默认开启;preserve_thinking 用于保留此前轮次的推理内容,南北阁建议在多轮工具调用和代码智能体场景中使用;传入 tools 即可启用工具调用,并推荐使用 XML 调用格式。
【基准测试表现】
南北阁将其与 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B 进行对比。所有模型均以最高思考强度运行,并共享超参数与评测框架。本节所有分数均为自报数据。
智能体编程:Terminal-Bench 2.1 得分 80.9,Qwen3.8-27B 为 73.0。DeepSWE 差距最大:65.5 对 42.5。在 Terminal-Bench 4.0 上得分为 23.8,而 Gemma4-31B 为 0.0。
智能体协同工作:Automation Bench 得分 54.2,对手为 38.3;JobBench 得分 44.8,对手为 34.5。在 YC-bench 上,模拟营收达到 1,025,437 美元,对手为 641,290 美元。
推理:AIME 2026 报告 95.2,AA-LCR 为 84.0。
它在 20 行中输掉 3 行。Qwen3.8-27B 在 SWE-Bench Pro(61.7 对 60.3)和 GDPval(86.4 对 84.8)上领先。Gemma4-31B 在南北阁表格中的 GPQA Diamond 上领先,为 91.3 对 89.5。
Base 模型在全部 8 项报告的任务上均优于 Gemma4-31B-Base,例如 MMLU-Pro(66.9 对 59.3)和 GPQA(62.0 对 41.5)。
【与竞品官方模型卡的对比】
规格对比(Nanbeige4.3-33B / Qwen3.8-27B / Muse-Glimmer-30B / Gemma 4 31B):
开发者:南北阁 LLM Lab(BOSS 直聘)/ Qwen(阿里巴巴)/ Meta Superintelligence Lab / Google DeepMind。
参数量:33B 稠密 / 27B 稠密语言模型加视觉编码器 / 约 29.6B 稠密(含约 1.8B 视觉编码器)/ 30.7B 稠密。
上下文:524,288 / 原生 262,144,最高可扩展至 1M / 131,072 以上 / 256K。
输入模态:文本 / 文本、图像、视频 / 文本、图像 / 文本、图像。
许可证:均为 Apache 2.0。
Terminal-Bench 2.1:80.9* / 73.0 / 51.7 / 未披露。
SWE-Bench Pro:60.3* / 61.7 / 51.2 / 未披露。
GPQA Diamond:89.5* / 89.2 / 83.5(AA)/ 84.3。
AIME 2026:95.2* / 未披露 / 94.7 / 89.2。
本地硬件建议:4 GPU 张量并行配方 / 未披露 / 约 4-bit 量化下需 24 GB 或 32 GB 显存 / 消费级 GPU 与工作站。
(* 为南北阁自报数据。竞品数值来自各实验室自己的 Hugging Face 模型卡。)
南北阁表格中部分竞品数值与那些实验室公开发布的数据存在差异:
Meta 报告 Muse-Glimmer-30B 在 SWE-Bench Pro 上为 51.2,Gemma4-31B 为 36.9,而南北阁的表格正好相反。
Google 列出 Gemma 4 31B 在 GPQA Diamond 上为 84.3,南北阁表格显示为 91.3。
Meta 报告 Muse-Glimmer-30B 在 Terminal-Bench 2.1 上为 51.7,南北阁测得 61.8。
评测框架不同可以解释部分差距,但 SWE-Bench Pro 那一对看起来是数值对调了。在出现独立复现之前,这些行应视为暂定数据。
【如何部署 Nanbeige4.3-33B】
模型卡提供了 Transformers、SGLang 和 vLLM 配方。其服务器示例使用 4 路张量并行,并搭配 Qwen3 的推理与工具调用解析器。推荐的智能体设置为 temperature 1.0、top_p 0.95、最大新生成 token 65,536;推理与聊天场景则使用 temperature 0.6、最大新生成 token 262,144。
根据 config.json 推算,BF16 权重约需 66 GB 显存。BF16 下 KV 缓存每 token 约增加 208 KiB,因此完整的 524,288 token 序列大约需要 112 GB 的 KV 缓存。截至发布时,尚无 Hugging Face Inference Provider 托管该模型。
【关键结论】
33B 稠密、Apache 2.0、512K 上下文、纯文本。
自报 Terminal-Bench 2.1 达 80.9,DeepSWE 达 65.5。
在南北阁自己的表格中 20 行领先 17 行。
多个竞品数值与官方模型卡存在冲突。
定位为即将推出的 Nanbeige4.3-3B 的教师模型。
可查看模型权重、Base 模型以及 X 上的发布帖。该文章最初发表于 MarkTechPost。