機制可解釋性研究已經積累了大量的元件級分析結果,這些結果詳細描述了神經網路元件編碼的內容及其相互作用方式。然而,這些分析產生的輸出——例如選擇性表、電路圖和特徵列表——往往被鎖定在單個研究的筆記本中,無法組合使用,不能用自然語言查詢,也無法直接用於下游的審計或干預。為了解決這一瓶頸,來自多個機構的研究團隊提出了“顯現單元協議”(Manifestation Unit Protocol),這是一種型別化的元組協議,旨在將元件級統計結果組織成結構化欄位,並支援自動填充和混合檢索。
該協議的核心是一個五元組(E, S, R, D, G),並針對Transformer架構擴充套件了注意力頭原語(T)。其中,E代表期望(Expectation),S代表選擇性(Selectivity),R代表響應(Response),D代表依賴性(Dependency),G代表通用性(Generality)。透過將每個元件的統計資料對映到這些欄位,協議使得分析結果能夠被高效查詢和複用。
研究團隊在生成式視覺模型(beta-VAE)、判別式視覺模型(CNN)和語言模型(GPT-2)上例項化了該協議,並取得了兩項重要發現。首先,型別化結構在檢索任務上大幅超越了非結構化基線。其次,透過該協議檢索到的CNN過濾器在匹配預算控制下滿足因果充分性和必要性條件。此外,該協議無需修改即可吸收注意力頭原語,並在檢索預算匹配的控制下成功恢復了已知的IOI電路成員。進一步的分析揭示了一個不可約的雙欄位核心(S+R),其餘欄位要麼冗餘,要麼主動干擾。
研究團隊強調,這項工作旨在為機制可解釋性提供模式基礎設施,而非進行前沿規模的驗證。論文附有互動式演示,並已提交至arXiv(編號2607.00089),目前等待DOI註冊。該協議有望解決機制可解釋性領域長期存在的分析結果複用問題,為未來的研究提供標準化的表示框架。