思考机器实验室发布Inkling：9750亿参数开源多模态MoE模型，410亿活跃参数，可控制思考力度

思考机器实验室（Thinking Machines Lab）于2026年7月15日正式发布了其首个从零训练的模型——Inkling。该模型采用Apache 2.0开源协议，允许自由使用和微调（通过Tinker平台）。实验室明确表示，Inkling并非现有最强模型，而是定位为可定制的基座模型，其核心差异化优势在于可控的思考力度（reasoning_effort）。

Inkling 是什么？

Inkling是一个混合专家（Mixture-of-Experts）Transformer模型，总参数量为9750亿，但每条输入仅激活其中的410亿参数。它支持高达100万token的上下文窗口，预训练数据涵盖45万亿token的文本、图像、音频和视频。模型接受文本、图像和音频输入，但输出仅为UTF-8文本。此外，研究团队还预览了Inkling-Small版本，拥有2760亿总参数和120亿活跃参数，在许多基准测试中表现与大型版本相当甚至更优，其权重将在测试完成后发布。

架构细节

模型采用66层仅解码器（decoder-only）Transformer，前馈网络采用稀疏MoE。每一MoE层包含256个路由专家和2个共享专家，每个token激活6个路由专家，而共享专家始终激活。路由器采用基于sigmoid的选择机制，并使用无辅助损失的负载均衡偏置。这种MoE设计很大程度上借鉴了DeepSeek-V3。

注意力机制有所不同：滑动窗口和全局层以5:1的比例交替，使用8个KV头。位置编码采用相对位置嵌入而非RoPE，实验室报告称这种方法外推性能更好。在键和值投影之后以及残差分支输出上应用了短卷积。

多模态处理无需编码器：音频以dMel频谱图形式输入，图像通过四层hMLP转换为40×40像素的块。一个轻量级的嵌入层将两者投影后，解码器将它们与文本token联合处理。

训练使用Muon优化器处理大型矩阵权重，Adam优化器处理其他参数，运行在NVIDIA GB300 NVL72系统上。后训练阶段从合成数据的SFT开始，包括由Kimi K2.5生成的数据。大部分计算资源用于异步强化学习，规模超过3000万次rollout，性能在整个过程中呈对数线性提升。该强化学习运行也产生了模型的主要控制界面。

可控思考力度

在强化学习过程中，团队通过更改系统消息和调整每次token成本来设定思考力度。模型因此学会了在不同的rollout中花费不同的token预算。发布文章将力度范围从0.2扫描到0.99，用户可以直接设置。在Transformer中，同一控制通过一个带有命名级别的reasoning_effort参数暴露。效率数据相当具体：Inkling在Terminal Bench 2.1上达到与Nemotron 3 Ultra相同的性能，但只花费了后者三分之一的token。成本和延迟因此可以根据每次调用进行调整，而不是固定于模型。

性能表现

所有Inkling评估均在力度=0.99、温度1.0下进行，编程任务使用256K轨迹限制。部分分数由Artificial Analysis外部报告。与开源同行相比，Inkling在多个基准上具有竞争力。具体来看：HLE（文本仅）29.7%，AIME 2026 97.1%，GPQA Diamond 87.2%，SWEBench Verified 77.6%，Terminal Bench 2.1 63.8%，MCP Atlas 74.1%，SimpleQA Verified 43.9%，IFBench 79.8%，FORTRESS Adversarial 78.0%。Inkling在FORTRESS Adversarial（对抗性鲁棒性）上以78.0%领先于对比的开源模型。它在Terminal Bench 2.1上落后GLM 5.2 18.9个百分点。它还报告了MMMU Pro上的73.5%和VoiceBench上的91.4%。在Design Arena的Agentic Web Dev排行榜上获得1257分，这是一项盲人评估。

部署与微调

目前提供两个检查点：BF16需要至少2 TB聚合显存（例如8块NVIDIA B300或16块H200）。NVFP4版本将需求降低到至少600 GB，可在4块B300上运行W4A4或在8块H200上运行W4A16。支持的运行时包括SGLang、vLLM、TokenSpeed、Unsloth和Hugging Face transformers。Transformers的集成代码已经提供，支持reasoning_effort参数。OpenAI兼容的服务也可通过vLLM快速启动。微调方面，Inkling已在Tinker平台上线，提供64K和256K上下文选项。团队还发布了tml-renderers以支持工具调用和多模态输入的后训练。托管API通过TogetherAI、Fireworks、Modal、Databricks和Baseten提供。

应用场景

1. 语音和视觉代理：一个主要设计目标是支持实验室的交互模型系统。支持代理可以处理16kHz WAV通话和截图，然后输出结构化票据。2. 成本分层代理管道：低力度处理路由和分类，最大力度处理困难的修复步骤。一次部署，两种预算。3. 领域微调：实验室引用金融判断工作，其中微调缩小了通用模型的差距。图表密集型分析也适用，在CharXiv RQ上使用Python达到82.0%。

优势与不足

优势：Apache 2.0权重，100万token上下文，原生支持文本、图像和音频输入。可控力度在Terminal Bench上达到Nemotron 3 Ultra的水平，但token消耗仅为三分之一。在对比的开源模型中，FORTRESS Adversarial分数最高（78.0%）。首日支持Transformers、SGLang、vLLM、llama.cpp及五个托管API。内置多头预测起草器，支持推测解码。

不足：在HLE、Terminal Bench 2.1和SWEBench Verified上落后于GLM 5.2和Kimi K2.6。BF16需要2 TB聚合显存；NVFP4 W4A4需要SM100+硬件。SimpleQA Verified为43.9%，远低于DeepSeek V4 Pro的57.0%。Inkling-Small权重尚未发布，且不支持音频或图像输出。Terminal Bench 2.1的数字使用内部测试工具，与竞争对手的自我报告分数不同。项目页面指出角色扮演和间接提示仍存在残余安全风险。

总之，Inkling作为一款开源、可定制且具有可控思考力度的多模态模型，为开发者和企业提供了灵活且强大的基座，尤其适合需要根据成本和质量动态调整推理的场景。