在人工智慧輔助藥物發現領域,分子屬性預測一直是一個核心挑戰。儘管大型語言模型在諸多工上表現出色,但小型語言模型(SLM)因其低計算成本在零樣本預測中具有吸引力,然而它們往往對分子的三維拓撲結構缺乏理解,這被稱為“結構盲區”。傳統上,圖神經網路(GNN)透過直接建模分子圖結構取得了優異效能,而SLM主要依賴SMILES字串序列,難以捕捉關鍵的圖拓撲線索。
為彌補這一缺陷,來自希臘的研究團隊提出了一種模組化的上下文增強提示框架。該框架賦予SLM在推理時呼叫外部工具的能力:首先,一個訓練好的GNN專家模型會根據輸入分子給出帶有置信度的預測提示;接著,另一個GNN會提取與當前例項相關的解釋性子圖,並生成相應的子圖SMILES和解釋性段落。這些圖結構資訊被整合到提示文本中,引導SLM做出更準確的預測。
研究人員在MUTAG和Tox21兩個標準資料集上,對三種常用的小型語言模型進行了評估,測試了從僅使用SMILES到聯合所有工具的共五種提示配置。實驗結果顯示,融合圖上下文後,模型準確率獲得顯著提升,相對改進幅度普遍超過25%,在Tox21資料集中甚至達到了74%。此外,透過必要性驅動的邊刪除干預,研究證實了所提取子圖與分子功能之間的相關性。
不過,論文也指出,即使有了圖增強,SLM與專用GNN模型之間的效能差距依然存在,這揭示了文本條件推理在分子結構理解中的侷限性。儘管如此,該工作為結合符號推理與子符號方法提供了新思路,有望在化學人工智慧領域催生更多創新應用。