能力來源於存取結構而非規模：混合序列模型的下界與預註冊測試

近日，一篇題為《能力來源於存取結構而非規模：混合序列模型的下界與預註冊測試》的論文（arXiv:2607.14144）提出了一項重要假說——能力收斂假說（Capability Convergence Hypothesis, CCH），對當前AI領域的主流觀點“規模越大，能力越強”提出了挑戰。該論文由陳文輝等四位作者撰寫，共41頁，包含16張圖，並進行了預註冊小規模實驗（結果：11項支援，7項部分支援，1項失敗）。

該研究指出，基礎模型社群普遍接受“柏拉圖表徵假說”（PRH），即隨著模型規模擴大，異質網路的表徵會收斂於一個共享的現實模型。然而，CCH則認為，在固定的每令牌推理預算下，表徵收斂並不意味著能力收斂。能力實際上會收斂於一類特定的架構——存取完備混合體（access-complete hybrid），即同時具備壓縮態O(1)通道和可擴充套件逐字索引通道的架構。這一結論基於資訊理論下界，並得到了預註冊實驗的支援。

為了驗證這一假說，研究者設計了一個見證任務——“牛頓蘋果問題”在無限流中的求解，並識別出三種資源壁壘：夏農壁壘（阻止任何o(N^b)狀態架構）、視野壁壘（阻止任何固定視窗架構）和電路壁壘（阻止固定深度純注意力架構，條件為TC0 ≠ NC1）。混合架構透過逐一支付每種壁壘的成本，能夠突破所有三種限制，其能力在組合下表現出嚴格的超加性。值得注意的是，電路壁壘的條件依賴於計算複雜性理論中TC0與NC1的分離，這是一個尚未解決的難題。

論文將已證明部分與推測部分明確區分：存取完備性原理基於資訊理論下界和預註冊實驗，而領域級收斂趨勢則屬於經濟學動機的推測。預註冊小規模測試報告了11項支援、7項部分支援和1項失敗的結果。例如，精確檢索誤差在64標量狀態加上一個全域性注意力層後從0.994降至0.000，狀態跟蹤分叉點落在註冊邊界上，聯合見證顯示了不可約的雙通道解決方案。失敗的那項預測方向相反，論文如實報告。

該研究強調，表徵收斂可以透過規模自由獲得，但能力收斂必須透過存取結構來購買。這一發現對當前以規模為核心的大模型發展路徑提供了重要反思，提示未來架構設計應更注重混合結構的優勢。作者包括陳文輝、林子堯（共同第一作者）以及通訊作者Chi Man Vong（澳門大學），論文還引用了相關工具如arXivLabs和CatalyzeX。