思考機器實驗室發佈Inkling：9750億參數開源多模態MoE模型，410億活躍參數，可控制思考力度

思考機器實驗室（Thinking Machines Lab）於2026年7月15日正式發佈了其首個從零訓練的模型——Inkling。該模型採用Apache 2.0開源協議，允許自由使用和微調（通過Tinker平台）。實驗室明確表示，Inkling並非現有最強模型，而是定位為可定製的基座模型，其核心差異化優勢在於可控的思考力度（reasoning_effort）。

Inkling 是什麼？

Inkling是一個混合專家（Mixture-of-Experts）Transformer模型，總參數量為9750億，但每條輸入僅激活其中的410億參數。它支持高達100萬token的上下文窗口，預訓練數據涵蓋45萬億token的文本、圖像、音頻和視頻。模型接受文本、圖像和音頻輸入，但輸出僅為UTF-8文本。此外，研究團隊還預覽了Inkling-Small版本，擁有2760億總參數和120億活躍參數，在許多基準測試中表現與大型版本相當甚至更優，其權重將在測試完成後發佈。

架構細節

模型採用66層僅解碼器（decoder-only）Transformer，前饋網絡採用稀疏MoE。每一MoE層包含256個路由專家和2個共享專家，每個token激活6個路由專家，而共享專家始終激活。路由器採用基於sigmoid的選擇機制，並使用無輔助損失的負載均衡偏置。這種MoE設計很大程度上借鑑了DeepSeek-V3。

注意力機制有所不同：滑動窗口和全局層以5:1的比例交替，使用8個KV頭。位置編碼採用相對位置嵌入而非RoPE，實驗室報告稱這種方法外推性能更好。在鍵和值投影之後以及殘差分支輸出上應用了短卷積。

多模態處理無需編碼器：音頻以dMel頻譜圖形式輸入，圖像通過四層hMLP轉換為40×40像素的塊。一個輕量級的嵌入層將兩者投影后，解碼器將它們與文本token聯合處理。

訓練使用Muon優化器處理大型矩陣權重，Adam優化器處理其他參數，運行在NVIDIA GB300 NVL72系統上。後訓練階段從合成數據的SFT開始，包括由Kimi K2.5生成的數據。大部分計算資源用於異步強化學習，規模超過3000萬次rollout，性能在整個過程中呈對數線性提升。該強化學習運行也產生了模型的主要控制界面。

可控思考力度

在強化學習過程中，團隊通過更改系統消息和調整每次token成本來設定思考力度。模型因此學會了在不同的rollout中花費不同的token預算。發佈文章將力度範圍從0.2掃描到0.99，用户可以直接設置。在Transformer中，同一控制通過一個帶有命名級別的reasoning_effort參數暴露。效率數據相當具體：Inkling在Terminal Bench 2.1上達到與Nemotron 3 Ultra相同的性能，但只花費了後者三分之一的token。成本和延遲因此可以根據每次調用進行調整，而不是固定於模型。

性能表現

所有Inkling評估均在力度=0.99、温度1.0下進行，編程任務使用256K軌跡限制。部分分數由Artificial Analysis外部報告。與開源同行相比，Inkling在多個基準上具有競爭力。具體來看：HLE（文本僅）29.7%，AIME 2026 97.1%，GPQA Diamond 87.2%，SWEBench Verified 77.6%，Terminal Bench 2.1 63.8%，MCP Atlas 74.1%，SimpleQA Verified 43.9%，IFBench 79.8%，FORTRESS Adversarial 78.0%。Inkling在FORTRESS Adversarial（對抗性魯棒性）上以78.0%領先於對比的開源模型。它在Terminal Bench 2.1上落後GLM 5.2 18.9個百分點。它還報告了MMMU Pro上的73.5%和VoiceBench上的91.4%。在Design Arena的Agentic Web Dev排行榜上獲得1257分，這是一項盲人評估。

部署與微調

目前提供兩個檢查點：BF16需要至少2 TB聚合顯存（例如8塊NVIDIA B300或16塊H200）。NVFP4版本將需求降低到至少600 GB，可在4塊B300上運行W4A4或在8塊H200上運行W4A16。支持的運行時包括SGLang、vLLM、TokenSpeed、Unsloth和Hugging Face transformers。Transformers的集成代碼已經提供，支持reasoning_effort參數。OpenAI兼容的服務也可通過vLLM快速啓動。微調方面，Inkling已在Tinker平台上線，提供64K和256K上下文選項。團隊還發布了tml-renderers以支持工具調用和多模態輸入的後訓練。託管API通過TogetherAI、Fireworks、Modal、Databricks和Baseten提供。

應用場景

1. 語音和視覺代理：一個主要設計目標是支持實驗室的交互模型系統。支持代理可以處理16kHz WAV通話和截圖，然後輸出結構化票據。2. 成本分層代理管道：低力度處理路由和分類，最大力度處理困難的修復步驟。一次部署，兩種預算。3. 領域微調：實驗室引用金融判斷工作，其中微調縮小了通用模型的差距。圖表密集型分析也適用，在CharXiv RQ上使用Python達到82.0%。

優勢與不足

優勢：Apache 2.0權重，100萬token上下文，原生支持文本、圖像和音頻輸入。可控力度在Terminal Bench上達到Nemotron 3 Ultra的水平，但token消耗僅為三分之一。在對比的開源模型中，FORTRESS Adversarial分數最高（78.0%）。首日支持Transformers、SGLang、vLLM、llama.cpp及五個託管API。內置多頭預測起草器，支持推測解碼。

不足：在HLE、Terminal Bench 2.1和SWEBench Verified上落後於GLM 5.2和Kimi K2.6。BF16需要2 TB聚合顯存；NVFP4 W4A4需要SM100+硬件。SimpleQA Verified為43.9%，遠低於DeepSeek V4 Pro的57.0%。Inkling-Small權重尚未發佈，且不支持音頻或圖像輸出。Terminal Bench 2.1的數字使用內部測試工具，與競爭對手的自我報告分數不同。項目頁面指出角色扮演和間接提示仍存在殘餘安全風險。

總之，Inkling作為一款開源、可定製且具有可控思考力度的多模態模型，為開發者和企業提供了靈活且強大的基座，尤其適合需要根據成本和質量動態調整推理的場景。