多模态大语言模型（MLLM）的训练中，表征对齐已成为提升性能的重要思路：将模型内部的表征向外部视觉编码器的表征靠拢，从而让语言主干更好地“理解”视觉信息。然而，论文作者指出，现有方法普遍只对齐语言主干中某个固定层，忽略了 Transformer 内部细粒度的结构差异。针对这一问题，来自 Davide Caffagni 等八位研究者的论文《Mind the Heads: Topological Representation Alignment for Multimodal LLMs》提出了逐注意力头表征对齐方法 HeRA（Head-Wise Representation Alignment），把跨模态对齐的粒度从整层下推到单个注意力头。该论文于 2026 年 6 月 22 日以 arXiv:2606.23885v1 提交，属于 cs.CV，并交叉列入 cs.AI、cs.CL 与 cs.MM。
HeRA 的理论出发点是“柏拉图表征假设”（Platonic Representation Hypothesis）。该假设认为，不同模态、不同模型学习到的表征在深层可能存在某种共享的几何结构。基于这一视角，HeRA 并不追求让两个表征逐点数值一致，而是关注表征的拓扑结构，也就是样本之间的局部邻域关系是否在不同模态之间保持一致。为此，作者采用互 K 近邻（Mutual K-Nearest Neighbor，MKNN）对齐度量来衡量这种局部结构的一致性，并在此基础上设计了一个对比损失，作为匹配局部结构的可微替代目标，使其可以端到端地用于多模态训练。
与以往“固定对齐某一层”的做法不同，HeRA 在训练过程中先用 MKNN 度量计算 LLM 中各注意力头的对齐分数，再挑选特定注意力头施加上述对比目标。这里的选择策略带来了一个与直觉相反的发现：对齐那些对齐程度最差的注意力头，反而能带来最大的性能提升。作者据此说明，逐头粒度的对齐能够触及层级别方法难以触及的、模态间结构差异较大的部分。
在实验方面，作者在多个多模态大模型和 18 个基准上进行了广泛评测。结果显示，HeRA 在具有挑战性的视觉中心任务上能持续提升性能；同时，它还能作为一种有效的正则化手段抑制视觉幻觉，其机制是自然地限制模型对语言先验的过度依赖。论文摘要强调，相关代码已经公开释放。
从影响上看，这项工作的价值主要体现在两方面：一是把表征对齐的分析与操作粒度细化到注意力头，补充了层级别对齐之外的视角；二是提出了一个可操作的选取准则——优先对齐弱对齐头——为后续多模态训练中的对齐策略设计提供了新的经验依据。需要说明的是，上述结论目前来自论文报告的多模型、多基准评测，实际收益在不同架构与任务上的普适性仍有待更多独立验证。