Inkling 模型卡

Inkling 是 Thinking Machines Lab（又名 Tinker）發佈的一款通用多模態大模型，於 2026 年 7 月 15 日發佈，採用 Apache 2.0 開源許可。該模型能夠接受文本、圖像和音頻輸入，並生成文本輸出，支持多語言和多編程語言，適用於構建 AI 驅動的應用，包括代理系統、編碼助手、聊天機器人和檢索增強生成系統。模型權重開放，以支持研究、微調和第三方集成。

模型架構與性能 Inkling 是一個 66 層 decoder-only 的稀疏混合專家（MoE）變換器模型，總參數達 9750 億，但每次推理僅激活 410 億參數。它採用局部和全局注意力的混合機制，並通過層次化圖像編碼器和離散音頻編碼實現原生多模態處理。模型支持 BF16、MXFP8 和 NVFP4 精度，上下文窗口高達 100 萬 token。在多個基準測試中，Inkling 表現出色：HLE（純文本）29.7%，AIME 2026 達 97.1%，GPQA Diamond 87.2%，SWEBench Verified 77.6%，SimpleQA Verified 43.9%，Global-MMLU-Lite 88.7%，MMMU Pro 73.5%。在安全性方面，Inkling 在 FORTRESS 對抗測試中得分為 78.0%，在 StrongREJECT 中為 98.6%。

分發與硬件要求 Inkling 通過 Tinker API 和第三方推理提供商提供訪問，權重可在 Hugging Face 下載。運行 BF16 檢查點需要至少 2 TB 聚合顯存（例如 8 張 NVIDIA B300 或 16 張 H200），而 NVFP4 量化檢查點僅需 600 GB 顯存（例如 4 張 B300 或 8 張 H200）。推薦使用 SGLang、vLLM 等推理框架。

訓練數據與安全 訓練數據來自公開來源、第三方和合成數據，經過清洗和過濾。發佈前進行了安全評估，包括日常交互和危險能力測試，未發現實質性風險。模型偶爾會遵循有害的間接提示，建議開發者部署 Llama Guard 等護欄工具。

侷限與建議 Inkling 可能產生幻覺、指令遵循失敗、長上下文性能下降，並反映訓練數據中的偏見。知識截止於訓練日期。高風控場景需人工審查，醫療、法律等領域需額外微調和驗證。開發者應在部署前進行自己的評估，並實施內容過濾、速率限制和監控。