Inkling-Small

Inkling-Small是Thinking Machines公司最新發布的開源權重模型，旨在以遠低於其前身Inkling的計算成本提供相同的能力。模型總共擁有2760億參數，每次推理僅激活120億參數，採用專家混合架構實現高效擴展。訓練在NVIDIA GB300 NVL72系統上進行，繼承了Inkling的原生多模態推理（音頻和圖像）、可變思考努力以及高達100萬令牌的上下文窗口。

性能基準測試顯示，Inkling-Small在多個關鍵指標上可與Inkling匹敵甚至超越，尤其是在代理工具使用和推理任務方面。在Terminal-Bench 2.1、HLE（純文本）和IFBench上，Inkling-Small表現出更高的效率，用更少的計算量獲得了有競爭力的分數。模型的可變思考努力允許用户調整成本與性能之間的平衡，使其適用於廣泛的應用場景。

Inkling-Small的一個顯著優勢是其改進的訓練流程。由於它是在Inkling之後開始訓練的，開發團隊能夠優化預訓練數據混合和機器學習配方。後訓練階段使用了Inkling作為教師的同策略蒸餾，隨後進行了兩週的持續強化學習以增強代理編碼能力。因此，Inkling-Small在推理和代理編碼基準上超越了Inkling，但Inkling在知識覆蓋和事實性方面仍保持優勢。

Inkling-Small是一個強大的通用模型。在人類最後的考試中，它得分31.6%，高於Inkling的29.7%，並在SWEBench-Verified上超過80%。該模型在多模態任務中也表現出色，包括音頻智能和視覺推理。其原生多模態架構將音頻處理為dMel頻譜圖，圖像處理為40×40像素塊，使其能夠處理文檔分析和圖表理解等實際應用。

安全性和對齊也得到了優先考慮。Inkling-Small繼承了Inkling的安全後訓練配方，並經過了部署前測試和紅隊評估。在StrongREJECT和FORTRESS等基準上，它的表現與Inkling及其他開源模型相當，在拒絕有害請求和適當響應之間取得了平衡。

Inkling-Small的完整權重以開源形式發佈，可在Tinker上進行微調，或用於Tinker Playground上的文本、圖像和音頻聊天。憑藉其效率、性能和開放性的組合，Inkling-Small代表了使先進AI能力更加普及的重要一步。