自己組織化は生命の創発特性であり、個々の構成要素が局所情報に基づいて集団行動することに起因する。生物学的ニューロンはシナプスを介した局所相互作用により効率的に学習し、生涯にわたって結合を適応させることができる。これらの適応性と局所相互作用の望ましい特性に動機づけられ、ニューラルセルオートマトン (NCA) モデルは局所更新ルールのみで形態形成を学習することに成功し、多数の更新に対する安定性と摂動に対する頑健性を示してきた。典型的なNCAモデルは、各セルが自身と近傍の状態に基づいて状態を更新することで、複雑なグローバルパターンを生成する。これらのモデルは、生物発生のシミュレーション、画像生成、計算問題の解決に応用されているが、従来は主に形態学的タスクに焦点が当てられていた。
本研究では、人工ニューラルネットワークの重みを自己組織化する局所ルールを学習するMeta Neural Cellular Automata (MetaNCA) フレームワークを導入する。学習されたルールネットワークは、計算グラフ上の局所相互作用のみを用いてタスクネットワークの重みを反復更新する。局所ルールネットワークには、線形注意を用いて近傍の重みと隠れ状態からの信号を集約する新しいWeight Transformerアーキテクチャを提案する。具体的には、Weight Transformerは各重みをノードとみなし、その近傍を計算グラフで直接接続された重みと対応する隠れ状態として定義する。線形注意機構により、従来の注意機構の二次計算量の問題を回避しつつ、効率的に情報を集約できる。この設計により、ルールネットワークは大域情報にアクセスすることなく、段階的にタスクネットワークの重みを調整できる。
訓練後、ルールネットワークは逆伝播なしに多様なアーキテクチャのタスクネットワーク重みを生成できる。訓練過程では、ルールネットワークはタスクネットワークの現在の状態と入出力信号に基づいて重みを更新する方法を学習する。訓練完了後、新しいアーキテクチャに対しては、重みをランダム初期化し、ルールネットワークを複数回適用することで有効な重み設定を得られる。実験では、MNISTおよびCIFAR-100において、フィードフォワードMLP、CNN、ResNetの重みを生成し、最大200万パラメータのネットワークにスケールすることを示した。MNISTでは、MetaNCAが生成した重みは逆伝播訓練と同等の精度に達し、CIFAR-100でも競争力のある性能を示した。さらに、MetaNCAはメタ訓練時に見られなかったアーキテクチャにも汎化する。例えば、MLPとCNNのみで訓練した場合でも、ResNetの有効な重みを生成できる。訓練時のアーキテクチャ多様性がこの汎化を強化することも実証された。本論文はarXiv(ID: 2607.07743)に投稿され、人工生命会議(ALIFE 2026)のproceedingsに掲載予定であり、9ページ、6図を含む。著者はMeet Barot他2名。この研究は、逆伝播を必要としないニューラルネットワーク訓練の新たな方向性を示し、局所ルールによる重み生成の大きな可能性を明らかにした。今後の展望として、より大規模なネットワークや多様なタスクへの適用、他の学習パラダイムとの統合が考えられる。