構造生物学の基盤モデルは、生体分子構造の予測において目覚ましい性能を達成し、タンパク質や低分子の設計にも有望性を示している。しかし、どの内部特徴がモデルの出力を駆動しているかを理解することは依然として困難である。Transformerスタイルの配列埋め込みで有効な標準的なスパースオートエンコーダ（SAE）は、Pairformerに似たアーキテクチャにはきれいに転用できない。ペアワイズ表現を素朴に操作すると、特徴量の二次的な爆発が生じ、配列表現とペア表現の両方にまたがって分布する概念が不明瞭になる。
この問題に対処するため、Giosue Miglioriniら6名の著者による論文はPairSAEを提案する。この手法はまず、Nモード特異値分解（SVD）を用いてペアワイズテンソルをトークンごとの相互作用役割に要約し、次にスパースオートエンコーダを利用して、配列表現とペア表現の両方にデコードできる共有トークンレベル特徴のセットを学習する。これによりPairSAEは、二次的な特徴爆発に陥ることなく、両表現にまたがる概念を捉えることができる。
研究チームは、PLINDERタンパク質-リガンド複合体に対するBoltz-2モデルの活性化値でPairSAEを評価した。その結果、PairSAEが生成する解釈可能な特徴はUniProt注釈と整合し、Boltz-2の親和性値を予測できることが示された。これは、PairSAEが構造生物学基盤モデルの潜在空間を解釈可能な構造概念に結びつけ、モデルが「何を知っているか」を明らかにすると同時に、従来のSAEを制限するPairformer由来の落とし穴を回避することを示している。
本論文は、2025年機械学習 in 構造生物学（MLSB）ワークショップに採択されており、機械学習（cs.LG）分野に属する。2026年6月25日にarXivに投稿され、番号は2606.27440で、PDFと実験的なHTML版が提供されている。この研究の意義は、タンパク質共折り畳みモデルの内部メカニズムを理解するための新たな解釈可能性ツールを提供し、構造生物学基盤モデルの透明性と信頼性の向上に貢献する可能性がある点にある。