能力はスケールではなくアクセス構造から生まれる：ハイブリッド系列モデルの下限と事前登録テスト

最近、arXivに投稿された論文「能力はスケールではなくアクセス構造から生まれる：ハイブリッド系列モデルの下限と事前登録テスト」（arXiv:2607.14144）は、AI分野の常識に挑戦する能力収束仮説（Capability Convergence Hypothesis, CCH）を提唱しています。この論文は41ページ、16図からなり、事前登録された小規模実験（結果：11支持、7部分的、1失敗）を含んでいます。

現在の大規模モデル開発では、モデルサイズを拡大することで表現が収束し、能力も向上すると広く信じられています（プラトン表現仮説、PRH）。しかし、CCHは固定推論予算の下では、表現の収束が必ずしも能力の収束を意味しないと主張します。実際には、能力はアクセス完備ハイブリッド（圧縮型O(1)状態チャネルと拡張可能な逐語インデックスチャネルの両方を持つアーキテクチャ）へ収束します。この結論は情報理論的下限と事前登録実験に基づいています。

研究者は「ニュートンの林檎問題」を無限ストリーム上で解くタスクを設計し、三つのリソース壁（シャノン壁：o(N^b)状態アーキテクチャを阻止、地平線壁：固定ウィンドウを阻止、回路壁：固定深さ注意のみの構成を阻止、ただしTC0 ≠ NC1が条件）を特定しました。回路壁の条件は、計算複雑性理論におけるTC0とNC1の分離に依存しており、未解決の問題です。ハイブリッドアーキテクチャは各壁のコストを支払うことで三つすべてを突破でき、その能力は構成のもとで厳密に超加法的です。

論文は証明された部分と推測を明確に分けています。アクセス完備性原理は情報理論的下限と事前登録実験に基づき、分野レベルの収束傾向は経済学に動機づけられた推測です。事前登録された小規模テストでは、11の予測が支持、7が部分的、1が失敗でした。例えば、64スカラー状態にグローバルアテンション層を追加すると、正確検索誤差が0.994から0.000に改善され、状態追跡分岐点は登録境界に一致し、結合証人は二チャネル解が不可分であることを示しました。失敗した予測は方向が逆であり、そのまま報告されています。

この研究は、表現の収束はスケールによって自由に得られるが、能力の収束はアクセス構造によって購入されなければならないと結論付けています。これは、現在のスケール中心の開発パラダイムに重要な示唆を与え、今後のアーキテクチャ設計においてハイブリッド構造の利点を強調するものです。著者には陳文輝、林子尧（共同第一著者）、対応著者Chi Man Vong（澳門大学）が含まれ、arXivLabsやCatalyzeXなどのツールも引用されています。