能力来源于存取结构而非规模：混合序列模型的下界与预注册测试
该研究提出能力收敛假说（CCH），认为在固定推理预算下，表征收敛并不必然导致能力收敛；能力收敛依赖于存取结构，即混合架构需同时拥有压缩态通道和可扩展逐字索引通道。论文通过信息论下界和预注册实验验证了该假说。
近日，一篇题为《能力来源于存取结构而非规模：混合序列模型的下界与预注册测试》的论文（arXiv:2607.14144）提出了一项重要假说——能力收敛假说（Capability Convergence Hypothesis, CCH），对当前AI领域的主流观点“规模越大，能力越强”提出了挑战。该论文由陈文辉等四位作者撰写，共41页，包含16张图，并进行了预注册小规模实验（结果：11项支持，7项部分支持，1项失败）。
该研究指出，基础模型社区普遍接受“柏拉图表征假说”（PRH），即随着模型规模扩大，异质网络的表征会收敛于一个共享的现实模型。然而，CCH则认为，在固定的每令牌推理预算下，表征收敛并不意味着能力收敛。能力实际上会收敛于一类特定的架构——存取完备混合体（access-complete hybrid），即同时具备压缩态O(1)通道和可扩展逐字索引通道的架构。这一结论基于信息论下界，并得到了预注册实验的支持。
为了验证这一假说，研究者设计了一个见证任务——“牛顿苹果问题”在无限流中的求解，并识别出三种资源壁垒：香农壁垒（阻止任何o(N^b)状态架构）、视野壁垒（阻止任何固定窗口架构）和电路壁垒（阻止固定深度纯注意力架构，条件为TC0 ≠ NC1）。混合架构通过逐一支付每种壁垒的成本，能够突破所有三种限制，其能力在组合下表现出严格的超加性。值得注意的是，电路壁垒的条件依赖于计算复杂性理论中TC0与NC1的分离，这是一个尚未解决的难题。
论文将已证明部分与推测部分明确区分：存取完备性原理基于信息论下界和预注册实验，而领域级收敛趋势则属于经济学动机的推测。预注册小规模测试报告了11项支持、7项部分支持和1项失败的结果。例如，精确检索误差在64标量状态加上一个全局注意力层后从0.994降至0.000，状态跟踪分叉点落在注册边界上，联合见证显示了不可约的双通道解决方案。失败的那项预测方向相反，论文如实报告。
该研究强调，表征收敛可以通过规模自由获得，但能力收敛必须通过存取结构来购买。这一发现对当前以规模为核心的大模型发展路径提供了重要反思，提示未来架构设计应更注重混合结构的优势。作者包括陈文辉、林子尧（共同第一作者）以及通讯作者Chi Man Vong（澳门大学），论文还引用了相关工具如arXivLabs和CatalyzeX。