蛋白质语言模型(如ESM-2)通过在大规模蛋白质序列上训练,学习了丰富的残基表示,在蛋白质功能预测、结构预测等任务中表现出色。然而,这些模型的内部表示很难被人类理解,因为它们将结构和进化信号编码在密集的潜在空间中。这种缺乏可解释性限制了它们在需要透明度和可审计性的场景中的应用,例如药物靶点发现或疾病机制研究。
为了应对这一挑战,来自多所机构的研究人员(Siddhant Dutta等)提出了一种名为SoftBlobGIN的新方法,旨在为蛋白质语言模型提供结构解释。该研究已被提交至NeurIPS 2026,全文19页,包含8张图和11张表。核心思想是将语言模型的表示投影到蛋白质接触图上,然后应用一个轻量级的图神经网络进行可微的子结构池化。
具体来说,SoftBlobGIN首先从ESM-2中提取每个残基的表示,并将其投影到由蛋白质结构确定的接触图上。然后,一个轻量级的图同构网络通过可微的Gumbel-softmax机制将节点分组为“blob”,这些blob代表了粗粒度的功能子结构。模型通过对这些blob进行池化来执行结构感知的消息传递,从而学习到与下游任务相关的表示。整个框架是即插即用的:它可以与任何预训练的蛋白质语言模型结合使用,无需重新训练,且仅增加约110万个参数。
在实验方面,研究人员在酶分类(EC编号预测)和结合位点检测两个任务上评估了SoftBlobGIN。在酶分类任务中,SoftBlobGIN达到了92.8%的准确率和0.898的宏F1分数,大幅超越了使用ESM-2线性探测的方法。更重要的是,该方法能够提供直接可审计的结构解释:通过GNNExplainer,模型识别出的重要残基与已知的活性位点高度吻合,并且这些残基在空间上形成了功能簇和催化接触模式。在结合位点检测任务上,SoftBlobGIN将残基AUROC从0.885(ESM-2线性探测)提升到0.983,表明仅从语言模型特征中无法恢复这些结构信息。
此外,模型学习到的blob分区本身具有解释性。这些blob自动将残基分组为功能子结构,而无需任何活性位点标签。实验表明,包含注释活性位点残基的blob的重要性值平均是其他blob的1.85倍(相关系数ρ=0.339,p=0.009),这验证了blob分区在捕捉功能模块方面的有效性。除了这两个任务,SoftBlobGIN还在更广泛的ProteinShake基准上进行了测试:在Gene Ontology预测中达到0.733的Fmax,在结合位点检测中AUROC为0.969,证明了其泛化能力。
这项工作的意义在于它为蛋白质语言模型提供了一个可解释的结构伴侣,使得这些强大模型的预测变得更加透明和可审计。这对于生物医学研究、药物发现以及需要监管审查的应用场景尤为重要。未来的方向可能包括将SoftBlobGIN扩展到其他类型的生物分子,或者与更强大的语言模型集成。