思考機器實驗室釋出Inkling：9750億引數開源多模態MoE模型，410億活躍引數，可控制思考力度

思考機器實驗室（Thinking Machines Lab）於2026年7月15日正式釋出了其首個從零訓練的模型——Inkling。該模型採用Apache 2.0開源協議，允許自由使用和微調（透過Tinker平臺）。實驗室明確表示，Inkling並非現有最強模型，而是定位為可定製的基座模型，其核心差異化優勢在於可控的思考力度（reasoning_effort）。

Inkling 是什麼？

Inkling是一個混合專家（Mixture-of-Experts）Transformer模型，總引數量為9750億，但每條輸入僅啟用其中的410億引數。它支援高達100萬token的上下文視窗，預訓練資料涵蓋45萬億token的文本、影像、音訊和影片。模型接受文本、影像和音訊輸入，但輸出僅為UTF-8文本。此外，研究團隊還預覽了Inkling-Small版本，擁有2760億總引數和120億活躍引數，在許多基準測試中表現與大型版本相當甚至更優，其權重將在測試完成後釋出。

架構細節

模型採用66層僅解碼器（decoder-only）Transformer，前饋網路採用稀疏MoE。每一MoE層包含256個路由專家和2個共享專家，每個token啟用6個路由專家，而共享專家始終啟用。路由器採用基於sigmoid的選擇機制，並使用無輔助損失的負載均衡偏置。這種MoE設計很大程度上借鑑了DeepSeek-V3。

注意力機制有所不同：滑動視窗和全域性層以5:1的比例交替，使用8個KV頭。位置編碼採用相對位置嵌入而非RoPE，實驗室報告稱這種方法外推效能更好。在鍵和值投影之後以及殘差分支輸出上應用了短卷積。

多模態處理無需編碼器：音訊以dMel頻譜圖形式輸入，影像透過四層hMLP轉換為40×40畫素的塊。一個輕量級的嵌入層將兩者投影后，解碼器將它們與文本token聯合處理。

訓練使用Muon最佳化器處理大型矩陣權重，Adam最佳化器處理其他引數，執行在NVIDIA GB300 NVL72系統上。後訓練階段從合成資料的SFT開始，包括由Kimi K2.5生成的資料。大部分計算資源用於非同步強化學習，規模超過3000萬次rollout，效能在整個過程中呈對數線性提升。該強化學習執行也產生了模型的主要控制介面。

可控思考力度

在強化學習過程中，團隊透過更改系統訊息和調整每次token成本來設定思考力度。模型因此學會了在不同的rollout中花費不同的token預算。釋出文章將力度範圍從0.2掃描到0.99，使用者可以直接設定。在Transformer中，同一控制透過一個帶有命名級別的reasoning_effort引數暴露。效率資料相當具體：Inkling在Terminal Bench 2.1上達到與Nemotron 3 Ultra相同的效能，但只花費了後者三分之一的token。成本和延遲因此可以根據每次呼叫進行調整，而不是固定於模型。

效能表現

所有Inkling評估均在力度=0.99、溫度1.0下進行，程式設計任務使用256K軌跡限制。部分分數由Artificial Analysis外部報告。與開源同行相比，Inkling在多個基準上具有競爭力。具體來看：HLE（文本僅）29.7%，AIME 2026 97.1%，GPQA Diamond 87.2%，SWEBench Verified 77.6%，Terminal Bench 2.1 63.8%，MCP Atlas 74.1%，SimpleQA Verified 43.9%，IFBench 79.8%，FORTRESS Adversarial 78.0%。Inkling在FORTRESS Adversarial（對抗性魯棒性）上以78.0%領先於對比的開源模型。它在Terminal Bench 2.1上落後GLM 5.2 18.9個百分點。它還報告了MMMU Pro上的73.5%和VoiceBench上的91.4%。在Design Arena的Agentic Web Dev排行榜上獲得1257分，這是一項盲人評估。

部署與微調

目前提供兩個檢查點：BF16需要至少2 TB聚合視訊記憶體（例如8塊NVIDIA B300或16塊H200）。NVFP4版本將需求降低到至少600 GB，可在4塊B300上執行W4A4或在8塊H200上執行W4A16。支援的執行時包括SGLang、vLLM、TokenSpeed、Unsloth和Hugging Face transformers。Transformers的整合程式碼已經提供，支援reasoning_effort引數。OpenAI相容的服務也可透過vLLM快速啟動。微調方面，Inkling已在Tinker平臺上線，提供64K和256K上下文選項。團隊還發布了tml-renderers以支援工具呼叫和多模態輸入的後訓練。託管API透過TogetherAI、Fireworks、Modal、Databricks和Baseten提供。

應用場景

1. 語音和視覺代理：一個主要設計目標是支援實驗室的互動模型系統。支援代理可以處理16kHz WAV通話和截圖，然後輸出結構化票據。2. 成本分層代理管道：低力度處理路由和分類，最大力度處理困難的修復步驟。一次部署，兩種預算。3. 領域微調：實驗室引用金融判斷工作，其中微調縮小了通用模型的差距。圖表密集型分析也適用，在CharXiv RQ上使用Python達到82.0%。

優勢與不足

優勢：Apache 2.0權重，100萬token上下文，原生支援文本、影像和音訊輸入。可控力度在Terminal Bench上達到Nemotron 3 Ultra的水平，但token消耗僅為三分之一。在對比的開源模型中，FORTRESS Adversarial分數最高（78.0%）。首日支援Transformers、SGLang、vLLM、llama.cpp及五個託管API。內建多頭預測起草器，支援推測解碼。

不足：在HLE、Terminal Bench 2.1和SWEBench Verified上落後於GLM 5.2和Kimi K2.6。BF16需要2 TB聚合視訊記憶體；NVFP4 W4A4需要SM100+硬體。SimpleQA Verified為43.9%，遠低於DeepSeek V4 Pro的57.0%。Inkling-Small權重尚未釋出，且不支援音訊或影像輸出。Terminal Bench 2.1的數字使用內部測試工具，與競爭對手的自我報告分數不同。專案頁面指出角色扮演和間接提示仍存在殘餘安全風險。

總之，Inkling作為一款開源、可定製且具有可控思考力度的多模態模型，為開發者和企業提供了靈活且強大的基座，尤其適合需要根據成本和質量動態調整推理的場景。