结构生物学基础模型在预测生物分子结构方面已取得显著成果，并在蛋白质和小分子设计上展现出潜力。然而，这些模型内部究竟有哪些特征在驱动其输出，仍然难以解释。稀疏自编码器（SAE）在 transformer 风格的序列嵌入上效果良好，但并不能干净地迁移到类似 pairformer 的架构上：直接对成对表示进行操作会导致特征数量呈二次方膨胀，并且会掩盖那些同时分布在序列表示和成对表示中的概念。
针对这一问题，Giosue Migliorini 与另外五位作者提出了 PairSAE。该方法首先通过 N 模 SVD 将成对张量汇总为逐 token 的交互角色，然后利用稀疏自编码器学习一组共享的 token 级特征，这些特征能够同时解码回序列表示和成对表示。换言之，PairSAE 不再把成对表示当作独立的高维特征空间来处理，而是先将其压缩为与单个 token 相关的交互摘要，再在这一更紧凑的层面上提取可解释特征。
在评估方面，作者将 PairSAE 应用于 Boltz-2 在 PLINDER 蛋白质—配体复合物上的激活值。结果显示，PairSAE 提取出的特征具有可解释性，能够与 UniProt 注释对齐，并且可以预测 Boltz-2 的亲和力数值。这表明这些特征不仅对应可识别的结构概念，还与模型的实际预测行为相关。
作者认为，PairSAE 在结构生物学基础模型的潜在空间与可解释的结构概念之间建立了联系，有助于澄清模型究竟“知道”什么。同时，该方法绕开了 pairformer 架构给传统 SAE 带来的固有限制，为在这一类结构预测模型中开展机制可解释性研究提供了一条可行路径。
该论文于 2026 年 6 月 25 日提交至 arXiv（编号 2606.27440，cs.LG），并已被 Machine Learning in Structural Biology（MLSB）2025 研讨会接收。