本文にスキップ
AI News HubLIVE
サイト内リライト2 分で読了

baseVultra:容量を再配分したコンパクトな非線形リカレンス

記事の要約

arXiv の新しいプレプリントは、密なリカレント計算の予算をゲート変換から候補生成へ移すコンパクトなリカレントセル baseVultra を提案する。単一の H×H 候補生成行列に密な計算を集中させ、リカレントゲート行列を O(H) の対角相互作用に置き換える。TinyShakespeare の文字レベル言語モデリングでは検証損失 1.594 を達成し、同パラメータの LSTM(1.604)と GRU(1.616)を上回り、密なリカレント行列ベクトル計算は GRU の約 54% にとどまる。一方、約 45 倍大きい text8 では全ゲートセルと同等(1.854 bpc 対 GRU 1.849、LSTM 1.837)で、形式言語プローブでの利得は隠れ状態容量が制約された状況に限られ、隠れ次元の増加とともに消える。

ソースarXiv Computational Linguistics著者: Linke Zhang
baseVultra:容量を再配分したコンパクトな非線形リカレンス
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

arXiv は 2026 年 8 月 23 日、Linke Zhang によるプレプリント論文「baseVultra: Compact Nonlinear Recurrence with Reallocated Capacity(容量を再配分したコンパクトな非線形リカレンス)」を収録した。識別子は arXiv:2610.30154 [cs.CL] で、cs.LG にもクロスリストされている。本文は 14 ページ・図 3 点で、著者は WAIC Academic 2026 の査読フィードバック(weak accept 1 件、borderline 2 件)に基づいて改訂したと注記している。論文の問題意識は次の通りである。非線形リカレントネットワークはストリーミング系列モデリングにおいて依然有用だが、ゲート付きセルの設計は LSTM と GRU が支配し続けている。そこで著者は、リカレント計算をゲート変換から候補生成へと再配分できるかという問いを立てる。

提案手法 baseVultra はコンパクトなリカレントセルであり、密なリカレント予算を単一の H×H 候補生成行列に集中させ、リカレントゲート行列を O(H) の対角相互作用に置き換える。候補更新は、この密分支に 2 本の低ランク補助分支、EMA キャッシュ、および学習可能な出力ブレンディングを組み合わせて構成される。さらにゲートは対角項を通じて h_{t-2} への軽量な二次アクセスを得る。

実験は 3 系統に分かれる。TinyShakespeare の文字レベル言語モデリングにおけるコンパクトな単層 200K 設定では、baseVultra は検証損失 1.594 を達成し、パラメータを揃えた LSTM の 1.604、同じく GRU の 1.616 を上回った。この構成で隠れ次元を揃えた場合、密なリカレント行列-ベクトル計算量は GRU の約 54% である。約 45 倍規模の text8 ベンチマークでは、baseVultra は全ゲートセルと競合する水準にとどまる(1.854 bpc に対し GRU 1.849、LSTM 1.837)。形式言語プローブでは、隠れ状態容量が制約された条件下で最大の利得が現れる。H=16 の Counter タスクにおける OOD2 精度は 0.991 で、GRU の 0.761、LSTM の 0.691 を大きく上回る。しかし隠れ次元を大きくするとこれらの利得は消失する。

著者の結論は、候補中心のリカレント容量配分がどこでいつ有効かを明確に特徴づけるというものである。すなわち利点はコンパクトな領域に集中し、大規模では全ゲートセルが依然として競争力を持つ。この結論には明確な限定が付いており、TinyShakespeare での小さな優位を大規模モデルや広範なタスクへ外挿すべきではない。全文は arXiv の PDF、実験的 HTML、TeX ソースから取得でき、DOI は https://doi.org/10.48550/arXiv.2610.30154(DataCite 発行)。投稿履歴によれば v1 は 2026 年 8 月 23 日 14:31:35 UTC に提出され、ファイルサイズは 46 KB である。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • リカレント計算の予算をゲート変換から単一の H×H 候補生成行列へ再配分し、ゲートは O(H) の対角相互作用に簡素化
  • TinyShakespeare の 200K パラメータ単層設定で検証損失 1.594。同パラメータの LSTM・GRU を上回り、密な行列ベクトル計算は GRU の約 54%
  • text8 では 1.854 bpc で GRU(1.849)や LSTM(1.837)とほぼ同等
  • 形式言語プローブの利得は H=16 など容量制約時に最大となり、隠れ次元が増えると消失する

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。