Thinky发布Inkling:975B-A41B多模态模型,美国最强Apache 2.0开源模型(附带Inkling-Small,276B-A12B)
Thinky首次发布完整LLM系列Inkling,采用MoE架构,总参数量975B,激活参数41B,支持文本、图像、音频输入,1M上下文窗口,Apache 2.0许可。性能上成为美国最强开源模型,但略逊于中国开源旗舰和闭源模型。
Thinky公司近日发布了其首个完整的大型语言模型系列Inkling,这是一款混合专家(MoE)模型,总参数量达975B,激活参数为41B。Inkling支持文本、图像和音频输入,上下文窗口最高可达1M tokens,并采用Apache 2.0开源许可证。这一发布被视为美国开源AI领域的重要里程碑,但模型在部分基准测试中仍落后于中国开源旗舰模型和顶尖闭源模型。
Inkling的预训练使用了45万亿tokens的多模态数据,涵盖文本、图像、音频和视频。架构上,模型采用了混合注意力机制,包括滑动窗口注意力(局部与全局层比例为5:1,窗口大小512)和相对位置编码替代了常见的RoPE。此外,模型在注意力与前馈网络流中加入了短卷积层,MoE部分设置了两个共享专家,并采用了DeepSeek风格的无辅助损失负载均衡。训练优化方面,使用了muP和MuonC/AdamC权重衰减方法,并配备了8个MTP头用于推测解码。
性能方面,Inkling在Artificial Analysis的智能指数中获得41分,成为美国开源模型中的领先者,超越了Nemotron 3 Ultra和Gemma 4等模型。在Agentic Web App Arena中,Inkling排名第9,与Claude Opus 4.6和Gemini 3.5 Flash处于同一区间。然而,部分评论指出,Inkling在Agentic和Multimodal基准上仍落后于GLM 5.2和Kimi K2.6。此外,关于模型是否完全独立训练存在争议,有观点认为其使用了来自其他开源模型的蒸馏技术。
Inkling的发布获得了广泛的生态系统支持,包括vLLM、SGLang、Modal、Baseten、Databricks和Hugging Face等。NVIDIA确认该模型在GB300 NVL72上训练,并提供了NVFP4检查点。vLLM实现了针对Blackwell和Hopper的优化,最高可达380 tokens/s/user。此外,社区还展示了通过替换卷积和注意力实现带来的吞吐量提升。
定价方面,Tinker平台对64K上下文输入每百万tokens收费1.87美元,输出4.68美元;256K上下文输入3.74美元,输出9.36美元。Inkling-Small版本(276B总参/12B激活)也已作为预览发布,在成本效率上具有竞争力。
总体而言,Inkling代表了美国开源多模态模型的重要进步,但其实际价值和长期影响仍有待观察。