AI News HubLIVE
サイト内リライト4 分で読了

Sakana AIのエラーディフュージョンがDale原理に準拠したデュアルストリームネットワークを訓練、バックプロパゲーションなしでMNIST 96.7%、CIFAR-10 61.7%を達成

Sakana AIのエラーディフュージョン（Error Diffusion）は、重み転送やバックプロパゲーションを必要とせず、Daleの原理に従ってニューラルネットワークを訓練する局所学習則です。この手法は、興奮性と抑制性のストリームからなるデュアルストリームアーキテクチャと、モジュロエラールーティングを用いて多クラス分類に拡張され、MNISTで96.7%、CIFAR-10で61.7%を達成しました。3つの分類革新はタスク依存の重要度を示し、ED-PPOによる強化学習への応用では、一部のタスクでBP-PPOを上回りました。

ソースMarkTechPost著者: Asif Razzaq

バックプロパゲーションは深層学習を支配していますが、そのメカニズムは脳では実装できない可能性があります。具体的には、逆伝播には順方向の重み行列の正確な転置が必要であり、これが「重み転送問題」です。Sakana AIの新しい論文「Diffusing Blame」は、この制約に直接取り組みます。研究チームは、Daleの原理（Dale's principle）に従いながら、重み転送を完全に回避するネットワークを訓練します。

エラーディフュージョンとは？

エラーディフュージョン（Error Diffusion, ED）は、Kaneko（2000）によって最初に提案された局所学習則です。各重み更新は、シナプス前活動、シナプス後活性化の微分、および単一のグローバル誤差符号の3つの信号のみに依存します。そのため、EDは順方向の重みの転置やランダムなフィードバック行列を決して使用しません。この局所性により、EDはDaleの原理と自然に互換性があります。しかし、これまでの研究では、EDは二値分類とMNISTにのみ適用されていました。

デュアルストリームアーキテクチャ

Daleの原理を満たすために、研究チームは各層を2つのストリームに分割しました。1つは興奮性（p）、もう1つは抑制性（n）です。順伝播では、各ストリームの興奮性から抑制性を引いたプレ活性化を計算します：

p_i = φ_i( +p_{i-1} Wpp − n_{i-1} Wnp + bp ) n_i = φ_i( +n_{i-1} Wnn − p_{i-1} Wpn + bn )

ここで、4つの重み行列はすべて要素ごとに非負です。バイアスbpとbnは例外で、非負である必要はありません。さらに、WnpとWpnの前の負号は構造的なものであり、学習されるものではありません。したがって、クロスストリーム接続は抑制性を保ち、すべての学習可能な重みは非負のままです。この設計は、層ごとに4つの重みサブ行列を必要とし、その結果、単一ストリームネットワークよりも約4倍のパラメータを使用します。同じアーキテクチャでは、DFAの約800万に対して約3200万です。

モジュロエラールーティング

このアーキテクチャにより、主な拡張はモジュロエラールーティング（Modulo Error Routing）です。これにより、エラーディフュージョンが二値分類を超えます。隠れユニットiについて、ルーティングはr(i) = i mod Cと定義されます。ここでCは出力次元です。そのユニットはルーティングされた誤差成分から学習します。要するに、各隠れユニットは1つの固定された出力チャネルに割り当てられます。ランダムなフィードバック行列を使用するDFAとは異なり、EDはこの構造化された対応関係を使用します。

3つの分類革新

このルーティングに基づいて、研究チームは多クラス分類のために3つの修正を追加しました：

  1. 層特異的シグモイド幅：φi(z) = 1/(1 + e−2z/αi)を使用。シグモイド微分は誤差信号を直接ゲートするため、減衰が深刻です。事後分析では、出力から最初の隠れ層まで25倍の減衰が明らかになりました。より広いシグモイドは微分を大きく保ち、早期の飽和を防ぎます。チームはCIFAR-10の畳み込み層にα=3.0、全結合層にα=6.0を設定しました。
  1. バッチ中心化クラス誤差：各クラスのミニバッチ平均を差し引きます。これにより、一対多誤差がバッチ全体で各クラスについて平均ゼロになり、9:1のターゲット不均衡による持続的な抑制を軽減します。
  1. 非対称初期化：興奮性重みを1.5倍、抑制性重みを0.5倍にスケーリング。これにより、期待されるE/Iスケール比は3:1になり、出力層は対称のままです。

性能

これら3つの革新により、エラーディフュージョンはMNISTで96.7%、CIFAR-10で61.7%を達成しました。対照的に、革新なしのシードEDはそれぞれ50.4%と11.6%に低下しました。DFAは両方のタスクで高いスコアを示しますが、Daleの原理に違反し、約284万の負の重みを使用します。注目すべきは、エラーディフュージョンが初めて畳み込みネットワークを訓練したことです。以前、Fujita（2026）は平坦化されたMLPを使用してCIFAR-10で約55.2%に達しました。それでも、61.7%は標準的な勾配ベースの手法には遠く及びません。

| 手法 | MNIST | CIFAR-10 | Dale準拠 | 備考 | |------|-------|----------|----------|------| | 提案ED | 96.7% | 61.7% | はい | すべての重み非負；CNNへの初のED | | シードED | 50.4% | 11.6% | はい | 革新なし；α=1.0、生の誤差、対称初期化 | | DFA | 97.6% | 69.1% | いいえ | ランダムフィードバック；約284万の負の重み |

アブレーションの逆転

興味深いことに、革新の重要性はタスク間で逆転します。MNISTでは、層特異的幅を削除すると壊滅的で（-71.4ポイント）、精度は偶然に近づきます。バッチ中心化はほとんど影響しません（-0.3ポイント）。CIFAR-10では、順序が逆転します。バッチ中心化誤差を削除することが最大の低下（-47.9ポイント）となり、5つのシードのうち4つが崩壊します。この逆転は、単一ベンチマーク評価では見えないタスク依存のクレジット割り当てボトルネックを明らかにします。

強化学習におけるエラーディフュージョン

分類を超えて、研究チームはエラーディフュージョンを近位政策最適化（PPO）と統合し、ED-PPOと呼び、Brax locomotionとCraftaxでテストしました。ここでは、ポリシー出力誤差が出力チャネルによって隠れユニットにルーティングされます。スカラー価値ネットワークについては、誤差がすべてのユニットにブロードキャストされます。重要なのは、ED-PPOは3つの分類革新を完全に捨てていることです。5つのシードにわたって、ED-PPOはHalfCheetahでBP-PPOを上回り（5494 vs 3520；p<0.01）、HumanoidでBP-PPOに匹敵しました（2767 vs 2566；p=0.581）。Craftaxでは、ED-PPOはDFA-PPOと同等で、BP-PPOを約300%上回り、パラメータの増加は無視できます。

コードスニペット

主要な実装には、デュアルストリーム順伝播、ルーティング関数、ED更新が含まれます。

主なポイント

  1. Sakana AIのエラーディフュージョンは、重み転送やランダムフィードバック行列なしでDale準拠のデュアルストリームネットワークを訓練します。
  2. モジュロエラールーティングにより、ルールを二値分類から拡張し、MNISTで96.7%、CIFAR-10で61.7%を達成。
  3. 3つの分類革新はMNISTとCIFAR-10で重要度が逆転し、タスク依存のクレジット割り当てボトルネックを露呈。
  4. ED-PPOは同じアーキテクチャを強化学習に持ち込み、BraxでDFA-PPOに匹敵し、Craftaxでそれを上回る。
  5. Daleの原理はDFAに対して0.9〜7.4ポイントの分類性能コストがかかり、非負重みの代償を定量化。

論文リンク：原文を参照。