Inkling-Small

Inkling-Small是Thinking Machines公司最新发布的开源权重模型，旨在以远低于其前身Inkling的计算成本提供相同的能力。模型总共拥有2760亿参数，每次推理仅激活120亿参数，采用专家混合架构实现高效扩展。训练在NVIDIA GB300 NVL72系统上进行，继承了Inkling的原生多模态推理（音频和图像）、可变思考努力以及高达100万令牌的上下文窗口。

性能基准测试显示，Inkling-Small在多个关键指标上可与Inkling匹敌甚至超越，尤其是在代理工具使用和推理任务方面。在Terminal-Bench 2.1、HLE（纯文本）和IFBench上，Inkling-Small表现出更高的效率，用更少的计算量获得了有竞争力的分数。模型的可变思考努力允许用户调整成本与性能之间的平衡，使其适用于广泛的应用场景。

Inkling-Small的一个显著优势是其改进的训练流程。由于它是在Inkling之后开始训练的，开发团队能够优化预训练数据混合和机器学习配方。后训练阶段使用了Inkling作为教师的同策略蒸馏，随后进行了两周的持续强化学习以增强代理编码能力。因此，Inkling-Small在推理和代理编码基准上超越了Inkling，但Inkling在知识覆盖和事实性方面仍保持优势。

Inkling-Small是一个强大的通用模型。在人类最后的考试中，它得分31.6%，高于Inkling的29.7%，并在SWEBench-Verified上超过80%。该模型在多模态任务中也表现出色，包括音频智能和视觉推理。其原生多模态架构将音频处理为dMel频谱图，图像处理为40×40像素块，使其能够处理文档分析和图表理解等实际应用。

安全性和对齐也得到了优先考虑。Inkling-Small继承了Inkling的安全后训练配方，并经过了部署前测试和红队评估。在StrongREJECT和FORTRESS等基准上，它的表现与Inkling及其他开源模型相当，在拒绝有害请求和适当响应之间取得了平衡。

Inkling-Small的完整权重以开源形式发布，可在Tinker上进行微调，或用于Tinker Playground上的文本、图像和音频聊天。凭借其效率、性能和开放性的组合，Inkling-Small代表了使先进AI能力更加普及的重要一步。