Sakana AI 的誤差擴散訓練符合戴爾原則的雙流網路，無需反向傳播即可在MNIST上達到96.7%，在CIFAR-10上達到61.7%

反向傳播主導了深度學習，但它使用了大腦可能無法實現的機制。具體來說，反向傳播需要前向權重矩陣的精確轉置，這就是所謂的“權重傳輸問題”。Sakana AI 的新論文《Diffusing Blame》直接面對這一約束。研究團隊訓練了遵循戴爾原則（Dale's principle）的網路，同時完全避免了權重傳輸。

什麼是誤差擴散？

誤差擴散（Error Diffusion，ED）是一種區域性學習規則，最早由Kaneko（2000）提出。每個權重更新僅依賴於三個訊號：突觸前活動、突觸後啟用導數和一個全域性誤差符號。因此，ED從不傳輸前向權重的轉置或使用隨機反饋矩陣。這種區域性性使ED天然符合戴爾原則。然而，先前的工作僅展示了ED在二分類和MNIST上的應用。

雙流架構

為了滿足戴爾原則，研究團隊將每一層分為兩個流：興奮性流（p）和抑制性流（n）。前向傳播計算每個流的興奮性減去抑制性的預啟用：

p_i = φ_i( +p_{i-1} Wpp − n_{i-1} Wnp + bp ) n_i = φ_i( +n_{i-1} Wnn − p_{i-1} Wpn + bn )

這裡，四個權重矩陣都是元素非負的。偏置bp和bn是例外，不需要非負。此外，Wnp和Wpn前的負號是結構性的，而非學習得到的。因此，跨流連線保持抑制性，而所有可學習權重保持非負。這種設計每層需要四個權重子矩陣，因此引數數量約為單流網路的4倍。對於相同架構，這大約為3200萬 vs DFA的800萬。

模誤差路由

有了這個架構，主要的擴充套件是模誤差路由（Modulo Error Routing）。這使誤差擴散超越了二分類。對於隱藏單元i，路由定義為r(i) = i mod C，其中C是輸出維度。該單元從路由的誤差分量中學習。簡而言之，每個隱藏單元被分配一個固定的輸出通道。與DFA使用隨機反饋矩陣不同，ED使用這種結構化的對應關係。

三項分類創新

基於該路由，研究團隊新增了三項修復措施用於多類分類：

1. 層特定sigmoid寬度：使用φi(z) = 1/(1 + e−2z/αi)。由於sigmoid導數直接門控誤差訊號，衰減嚴重。事後分析顯示，從輸出到第一個隱藏層有25倍的衰減。更寬的sigmoid保持導數較大，防止過早飽和。團隊對CIFAR-10卷積層設定α=3.0，全連線層設定α=6.0。

1. 按批次中心的類誤差：減去每個類的小批次均值。這使得一對多誤差在每個類上批次均值為零，從而減少由9:1目標不平衡引起的持續抑制。

1. 非對稱初始化：將興奮性權重縮放1.5倍，抑制性權重縮放0.5倍。這使得期望的E/I比例約為3:1，而輸出層保持對稱。

效能

憑藉這三項創新，誤差擴散在MNIST上達到96.7%，在CIFAR-10上達到61.7%。相比之下，沒有創新的種子ED分別降到50.4%和11.6%。DFA在兩個任務上得分更高，但違反了戴爾原則，使用了約284萬個負權重。值得注意的是，這是誤差擴散首次訓練卷積網路。此前Fujita（2026）使用扁平化MLP在CIFAR-10上達到約55.2%。即便如此，61.7%仍遠低於標準基於梯度的方法。

| 方法 | MNIST | CIFAR-10 | 符合戴爾原則 | 備註 | |------|-------|----------|--------------|------| | 提出的ED | 96.7% | 61.7% | 是 | 所有權重非負；首次將ED用於CNN | | 種子ED | 50.4% | 11.6% | 是 | 無創新；α=1.0，原始誤差，對稱初始化 | | DFA | 97.6% | 69.1% | 否 | 隨機反饋；約284萬個負權重 |

消融反轉

有趣的是，創新的重要性在不同任務間翻轉。在MNIST上，移除層特定寬度是災難性的（-71.4個百分點），準確率下降近乎隨機。批次中心化幾乎沒有影響（-0.3個百分點）。而在CIFAR-10上，順序相反。移除批次中心化誤差成為最大的下降（-47.9個百分點），使五個種子中的四個崩潰。這種反轉揭示了任務依賴的信用分配瓶頸，這是單基準評估無法發現的。

強化學習中的誤差擴散

除了分類，研究團隊將誤差擴散與近端策略最佳化（PPO）結合，稱為ED-PPO，並在Brax locomotion和Craftax上進行測試。策略輸出誤差透過輸出通道路由到隱藏單元。對於標量價值網路，誤差廣播到所有單元。重要的是，ED-PPO完全放棄了三項分類創新。在五個種子上，ED-PPO在HalfCheetah上優於BP-PPO（5494 vs 3520；p<0.01），在Humanoid上匹配BP-PPO（2767 vs 2566；p=0.581）。在Craftax上，ED-PPO持平DFA-PPO，超過BP-PPO約300%，而引數增加可忽略。

程式碼片段

關鍵實現包括：

• 雙流前向：返回p_next, n_next
• 路由函式：為每個隱藏單元分配一個輸出通道
• ED更新：基於突觸前活動和區域性後驅動

主要結論

1. Sakana AI的誤差擴散無需權重傳輸或隨機反饋矩陣即可訓練符合戴爾原則的雙流網路。
2. 模誤差路由將規則擴充套件到多類分類，實現MNIST 96.7%和CIFAR-10 61.7%。
3. 三項分類創新在MNIST和CIFAR-10上的重要性反轉，揭示了任務依賴的信用分配瓶頸。
4. ED-PPO將相同架構應用於強化學習，在Brax上匹配DFA-PPO，在Craftax上超越。
5. 戴爾原則相對於DFA造成0.9-7.4個百分點的分類效能代價，量化了非負權重的成本。

論文連結：請檢視原文。