Inkling 模型卡

Inkling 是 Thinking Machines Lab（又名 Tinker）发布的一款通用多模态大模型，于 2026 年 7 月 15 日发布，采用 Apache 2.0 开源许可。该模型能够接受文本、图像和音频输入，并生成文本输出，支持多语言和多编程语言，适用于构建 AI 驱动的应用，包括代理系统、编码助手、聊天机器人和检索增强生成系统。模型权重开放，以支持研究、微调和第三方集成。

模型架构与性能 Inkling 是一个 66 层 decoder-only 的稀疏混合专家（MoE）变换器模型，总参数达 9750 亿，但每次推理仅激活 410 亿参数。它采用局部和全局注意力的混合机制，并通过层次化图像编码器和离散音频编码实现原生多模态处理。模型支持 BF16、MXFP8 和 NVFP4 精度，上下文窗口高达 100 万 token。在多个基准测试中，Inkling 表现出色：HLE（纯文本）29.7%，AIME 2026 达 97.1%，GPQA Diamond 87.2%，SWEBench Verified 77.6%，SimpleQA Verified 43.9%，Global-MMLU-Lite 88.7%，MMMU Pro 73.5%。在安全性方面，Inkling 在 FORTRESS 对抗测试中得分为 78.0%，在 StrongREJECT 中为 98.6%。

分发与硬件要求 Inkling 通过 Tinker API 和第三方推理提供商提供访问，权重可在 Hugging Face 下载。运行 BF16 检查点需要至少 2 TB 聚合显存（例如 8 张 NVIDIA B300 或 16 张 H200），而 NVFP4 量化检查点仅需 600 GB 显存（例如 4 张 B300 或 8 张 H200）。推荐使用 SGLang、vLLM 等推理框架。

训练数据与安全 训练数据来自公开来源、第三方和合成数据，经过清洗和过滤。发布前进行了安全评估，包括日常交互和危险能力测试，未发现实质性风险。模型偶尔会遵循有害的间接提示，建议开发者部署 Llama Guard 等护栏工具。

局限与建议 Inkling 可能产生幻觉、指令遵循失败、长上下文性能下降，并反映训练数据中的偏见。知识截止于训练日期。高风控场景需人工审查，医疗、法律等领域需额外微调和验证。开发者应在部署前进行自己的评估，并实施内容过滤、速率限制和监控。