arXiv は 2026 年 8 月 23 日、Linke Zhang によるプレプリント論文「baseVultra: Compact Nonlinear Recurrence with Reallocated Capacity(容量を再配分したコンパクトな非線形リカレンス)」を収録した。識別子は arXiv:2610.30154 [cs.CL] で、cs.LG にもクロスリストされている。本文は 14 ページ・図 3 点で、著者は WAIC Academic 2026 の査読フィードバック(weak accept 1 件、borderline 2 件)に基づいて改訂したと注記している。論文の問題意識は次の通りである。非線形リカレントネットワークはストリーミング系列モデリングにおいて依然有用だが、ゲート付きセルの設計は LSTM と GRU が支配し続けている。そこで著者は、リカレント計算をゲート変換から候補生成へと再配分できるかという問いを立てる。
提案手法 baseVultra はコンパクトなリカレントセルであり、密なリカレント予算を単一の H×H 候補生成行列に集中させ、リカレントゲート行列を O(H) の対角相互作用に置き換える。候補更新は、この密分支に 2 本の低ランク補助分支、EMA キャッシュ、および学習可能な出力ブレンディングを組み合わせて構成される。さらにゲートは対角項を通じて h_{t-2} への軽量な二次アクセスを得る。
実験は 3 系統に分かれる。TinyShakespeare の文字レベル言語モデリングにおけるコンパクトな単層 200K 設定では、baseVultra は検証損失 1.594 を達成し、パラメータを揃えた LSTM の 1.604、同じく GRU の 1.616 を上回った。この構成で隠れ次元を揃えた場合、密なリカレント行列-ベクトル計算量は GRU の約 54% である。約 45 倍規模の text8 ベンチマークでは、baseVultra は全ゲートセルと競合する水準にとどまる(1.854 bpc に対し GRU 1.849、LSTM 1.837)。形式言語プローブでは、隠れ状態容量が制約された条件下で最大の利得が現れる。H=16 の Counter タスクにおける OOD2 精度は 0.991 で、GRU の 0.761、LSTM の 0.691 を大きく上回る。しかし隠れ次元を大きくするとこれらの利得は消失する。
著者の結論は、候補中心のリカレント容量配分がどこでいつ有効かを明確に特徴づけるというものである。すなわち利点はコンパクトな領域に集中し、大規模では全ゲートセルが依然として競争力を持つ。この結論には明確な限定が付いており、TinyShakespeare での小さな優位を大規模モデルや広範なタスクへ外挿すべきではない。全文は arXiv の PDF、実験的 HTML、TeX ソースから取得でき、DOI は https://doi.org/10.48550/arXiv.2610.30154(DataCite 発行)。投稿履歴によれば v1 は 2026 年 8 月 23 日 14:31:35 UTC に提出され、ファイルサイズは 46 KB である。