知识图谱嵌入(KGE)模型擅长预测单跳链接,却缺乏处理零样本组合查询的机制——这类多跳问题的关系链在训练中从未出现过。全息缩减表示(Holographic Reduced Representations, HRR)通过循环卷积绑定与解绑符号,理论上颇具吸引力,因为绑定近似可逆且满足结合律。但理论上的吸引力能否转化为实际能力?一篇新论文对此进行了系统检验。
研究者在 FB15k-237 数据集上,用五个随机种子测试了两种全息记忆变体:实值 HRR 和仅相位傅里叶 HRR(FHRR),每种都搭配现代 Hopfield 清理机制。实验得出四项主要发现。
第一,两者都是具有竞争力的单跳检索器:HRR 的过滤平均倒数排名(filtered MRR)为 0.358 ± 0.002,FHRR 为 0.350 ± 0.021。
第二,两者都无法完成零样本组合推理:在所有清理温度下,准确率都停留在随机水平。
第三,也是论文的核心贡献,作者从机制上定位了失败原因。一项跳-1 探针显示,记忆能以高保真度恢复正确的中间实体(HRR 的 MRR 为 0.896 ± 0.002),但即使中间实体被验证为正确,组合仍然失败。第二项探针解释了原因:将真实的第二跳事实作为独立的原子查询、完全绕过组合过程,其检索准确率也仅为平均原子准确率的 0.26 到 0.48 倍,且这一比例在不同关系扇出下保持一致。
这一结果将瓶颈指向了叠加记忆的容量与干扰效应。组合链所经过的事实本身就更难被叠加记忆检索到,这种困难在单跳层面就已存在,而非绑定-解绑代数或清理步骤的问题。
第四,作者证明(引理 4.1)FHRR 的 softmax 清理不具有相位等变性,这会在少数跳-1 本身出错的链上加剧主要失败。
论文的结论是:要真正实现零样本组合推理,关键在于提升叠加条件下的检索容量,而不仅仅是重新设计清理机制。该工作共 15 页、5 幅图、5 张表,代码已公开。