近日,一項名為PairSAE的新方法被提出,旨在解決蛋白質共摺疊模型中機制可解釋性的挑戰。結構生物學基礎模型在預測生物分子結構方面表現出色,並有望用於蛋白質和小分子設計。然而,理解哪些內部特徵驅動其輸出仍然困難。標準稀疏自編碼器(SAE)在transformer風格的序列嵌入上有效,但無法直接應用於pairformer類架構。對配對錶示的直接操作會導致特徵數量二次爆炸,並掩蓋分佈序列和配對錶示中的概念。
PairSAE透過N-mode奇異值分解(SVD)將配對張量總結為令牌級互動角色,然後使用稀疏自編碼器學習一組共享的令牌級特徵,這些特徵可以同時解碼為序列和配對錶示。該方法在Boltz-2模型的啟用上進行了評估,使用的是PLINDER蛋白質-配體複合物資料集。結果顯示,PairSAE產生的可解釋特徵與UniProt註釋對齊,並能預測Boltz-2的親和力值。
這些結果表明,PairSAE將結構生物學基礎模型的潛在空間與可解釋的結構概念聯絡起來,揭示了模型“知道”的內容,同時避免了pairformer架構帶來的限制。該工作已發表在2025年機器學習結構生物學(MLSB)研討會上。