米拉·穆拉蒂的Thinking Machines推出Inkling，開放權重模型任何人都可訪問

米拉·穆拉蒂（Mira Murati）創立的Thinking Machines Lab Inc.今天釋出了其首個基礎模型Inkling，並向開發者開放完整權重，允許他們按需進行微調。Inkling是Thinking Machines完全從零開始訓練的第一個模型，此前一年該公司主要因大規模融資以及與輝達公司的合作而登上頭條。

在部落格文章中，Thinking Machines解釋說，Inkling是一個混合專家模型，擁有9750億個引數，但對於平均提示，它僅會呼叫其中一小部分——約410億個引數——以更快處理任務並保持低成本。該公司表示，該模型在大約45萬億個文本、影像、音訊和影片token上進行了訓練，能夠原生推理這四種輸入，但輸出僅限於文本，不過包括程式碼、樣式化工件和結構化資料。

Inkling的釋出表明，Thinking Machines希望為越來越多接受低成本中國AI模型的西方公司提供另一種選擇。這是因為該模型似乎填補了西方開源AI生態系統中的一個空白，而該生態系統已遠遠落後於中國。自Meta Platforms Inc.放棄其Llama模型系列，轉而對其最新AI系統採取更專有的方法以來，這一差距進一步擴大。

穆拉蒂此前是OpenAI Group PBC的技術長，於2024年9月離職。她一直強調，她的新公司致力於可訪問性、定製化和多模態協作，這一點在Inkling上體現得淋漓盡致。由於Inkling可以以完整開放權重下載，開發者可以檢視模型的完整程式碼庫，並根據不同用例進行調整，而無需支付昂貴的許可費。它還具有“思考努力”控制功能，允許開發者進行權衡，例如犧牲處理速度以換取準確性。獨特的是，該模型還會對其輸出的不確定性進行標記，而不是簡單地推送幻覺。

開發者可以直接在Tinker（該公司於10月推出的訓練應用程式程式設計介面）上對模型進行微調。在早期測試結果中，Thinking Machines表明，儘管使用的token減少了三分之二，但Inkling在編碼效能上與輝達的Nemotron 3 Ultra模型相當。在與橋水聯合基金的合件中，研究人員使用Tinker平臺用專業金融資料微調了一個開放模型，最終得到一個低成本、輕量級的模型，在主要金融推理基準測試中獲得了84.7%的驚人分數，效能優於最先進的專有替代方案，而成本不到它們的10%。

Thinking Machines表示，它在不到九個月的時間內從零開始開發了Inkling，遠低於OpenAI和Anthropic PBC等競爭對手數年的開發時間線。在X上宣佈該模型的帖子中，該公司解釋說，該模型是在輝達的GB300 NVL72系統上訓練的，這是兩家公司於3月宣佈的合作伙伴關係的一部分。

Thinking Machines不打算透過按使用量計費的API向客戶收費，而是計劃透過Tinker（一項付費服務）產生收入，該服務使開發者能夠輕鬆地為特定任務微調開放權重模型。這將是一個關鍵考驗，將檢驗開放權重AI模型是否具備顛覆矽谷大型AI公司開創的封閉式付費訪問模式的能力。

Constellation Research分析師Holger Mueller告訴SiliconANGLE，Thinking Machines的商業模式可能比Inkling模型本身更具創新性。'與競爭對手不同，它們對模型訪問收費，而Thinking Machines則對Tinker平臺收費，公司們很可能會想要使用該平臺來定製Inkling以滿足其特定用例，'Mueller說。'如果成功，這將進一步加速大型語言模型的商品化，企業將對此表示歡迎，因為這意味著它們能更容易地看到AI投資回報。這可能會真正撼動AI行業。'