Thinky發佈Inkling：975B-A41B多模態模型，美國最強Apache 2.0開源模型（附帶Inkling-Small，276B-A12B）
Thinky首次發佈完整LLM系列Inkling，採用MoE架構，總參數量975B，激活參數41B，支持文本、圖像、音頻輸入，1M上下文窗口，Apache 2.0許可。性能上成為美國最強開源模型，但略遜於中國開源旗艦和閉源模型。
Thinky公司近日發佈了其首個完整的大型語言模型系列Inkling，這是一款混合專家（MoE）模型，總參數量達975B，激活參數為41B。Inkling支持文本、圖像和音頻輸入，上下文窗口最高可達1M tokens，並採用Apache 2.0開源許可證。這一發布被視為美國開源AI領域的重要里程碑，但模型在部分基準測試中仍落後於中國開源旗艦模型和頂尖閉源模型。
Inkling的預訓練使用了45萬億tokens的多模態數據，涵蓋文本、圖像、音頻和視頻。架構上，模型採用了混合注意力機制，包括滑動窗口注意力（局部與全局層比例為5:1，窗口大小512）和相對位置編碼替代了常見的RoPE。此外，模型在注意力與前饋網絡流中加入了短卷積層，MoE部分設置了兩個共享專家，並採用了DeepSeek風格的無輔助損失負載均衡。訓練優化方面，使用了muP和MuonC/AdamC權重衰減方法，並配備了8個MTP頭用於推測解碼。
性能方面，Inkling在Artificial Analysis的智能指數中獲得41分，成為美國開源模型中的領先者，超越了Nemotron 3 Ultra和Gemma 4等模型。在Agentic Web App Arena中，Inkling排名第9，與Claude Opus 4.6和Gemini 3.5 Flash處於同一區間。然而，部分評論指出，Inkling在Agentic和Multimodal基準上仍落後於GLM 5.2和Kimi K2.6。此外，關於模型是否完全獨立訓練存在爭議，有觀點認為其使用了來自其他開源模型的蒸餾技術。
Inkling的發佈獲得了廣泛的生態系統支持，包括vLLM、SGLang、Modal、Baseten、Databricks和Hugging Face等。NVIDIA確認該模型在GB300 NVL72上訓練，並提供了NVFP4檢查點。vLLM實現了針對Blackwell和Hopper的優化，最高可達380 tokens/s/user。此外，社區還展示了通過替換卷積和注意力實現帶來的吞吐量提升。
定價方面，Tinker平台對64K上下文輸入每百萬tokens收費1.87美元，輸出4.68美元；256K上下文輸入3.74美元，輸出9.36美元。Inkling-Small版本（276B總參/12B激活）也已作為預覽發佈，在成本效率上具有競爭力。
總體而言，Inkling代表了美國開源多模態模型的重要進步，但其實際價值和長期影響仍有待觀察。