大型表格模型在LLM失效的領域表現出色
大型語言模型(LLM)在處理結構化資料方面存在困難,而新興的大型表格模型(LTM)專門為此設計。AI初創公司Fundamental推出了NEXUS模型,已獲亞馬遜雲服務採用,解決了表格資料分析的痛點,有望改變資料處理的未來。
大型語言模型(LLM)如ChatGPT、Claude和Gemini在生成文本和影像方面表現出色,但它們在分析結構化資料方面卻力不從心。然而,一種名為大型表格模型(LTM)的新型生成式AI正在改變這一局面。
對於大多數公司和組織來說,最重要的資料都儲存在電子表格中。無論是銀行的交易記錄、營銷機構的網站指標、臨床試驗參與者的生命體徵,還是大型強子對撞機產生的質子碰撞資訊,結構化、行與列的資料驅動著世界,但LLM卻無法有效處理。
AI初創公司Fundamental正在開創一種新型的AI基礎模型,稱為大型表格模型(LTM),以填補這一空白。Fundamental於2026年2月5日結束隱身模式,獲得了2.75億美元融資,並推出了專門為表格資料構建的模型NEXUS。目前,該模型已被亞馬遜雲服務(AWS)等公司採用,同時其他公司也在爭相構建自己的LTM。
為什麼LLM在處理電子表格時表現不佳?阿姆斯特丹的高階AI研究員Boris van Breugel認為,部分原因是人類偏見:人們喜歡看影像、影片和ChatGPT的回應,而表格資料因為只是數字而落後。此外,不同的表格資料集難以比較,因為變數差異很大。語言本質上是順序性的,但電子表格中的結構化資料是非順序的,列的順序可以互換,但事實含義不變。這種對線性順序的獨立性,與LLM預測序列中下一個值的根本目的不相容。Fundamental的執行長Jeremy Fraenkel指出,LLM的輸入稍有變化就會得到不同輸出,但對於交易欺詐預測等任務,需要確定的預測結果。
當前表格資料解決方案限於機器學習演算法,如XGBoost,這些演算法已存在超過15年,需要資料科學家針對每個用例花數月時間訓練最佳化。相比之下,NEXUS等LTM是基礎性的,透過預訓練多樣資料庫積累知識,可應用於各種預測任務,只需少量定製特徵工程。與主要建模Token序列的LLM不同,LTM直接建模表格結構,同時學習每個條目的數值、含義以及條目之間的關係。例如,對於雜貨庫存表中香蕉的條目,LTM不僅考慮數值如500,還考慮該條目代表當前香蕉庫存量、類別(農產品)以及連線該條目與列中其他條目的統計屬性。這種上下文理解使得對結構化資料的推理和預測更加準確。
Fraenkel表示,開發NEXUS的最大挑戰之一是獲取合適的訓練資料。與自然語言不同,表格資料相對難找,很多是敏感或專有的,且多樣性大。Fundamental透過合作伙伴關係和許可獲取專有資料集、高質量公共和開源資料集,以及資料增強技術,構建了數十億張表的預訓練語料庫。他強調NEXUS不基於客戶資料訓練,實際上它是一個機密計算平臺,Fundamental物理上無法訪問客戶資料,更不用說訓練了。這一特性可能是2026年6月AWS將NEXUS嵌入Amazon SageMaker的關鍵考慮因素,後者被廣泛認為是安全機器學習的預設作業系統。這使NEXUS能夠處理客戶通常敏感的資料,與LLM需要將資料匯入模型的方式形成對比。
儘管Fundamental在企業應用領域領先,但並非唯一追求基礎LTM的公司。2026年3月,提供欺詐和金融犯罪預防服務的Feedzai以及信用卡公司Mastercard分別推出了專注於金融領域的類似專有技術。6月下旬,谷歌推出了自己的基礎競爭模型TabFM,完全基於數億個合成資料集訓練。機器學習研究者也不甘落後,FlexTab、TabICL和iLTM只是過去一年研究社群開發的眾多LTM中的三個,都旨在將LLM的成功引入表格領域。
對於所有參與者來說,方向是明確的。van Breugel表示,如果未來大多數資料處理和分析不是透過自動化系統完成的,他會感到驚訝。Fraenkel將LLM和LTM的關係比作人腦:左腦擅長推理和理解文本,右腦擅長理解數字、統計和模式,兩者結合會帶來更強大的智慧。