フォワード・フォワード(Forward-Forward, FF)アルゴリズムは、生物学的妥当性とメモリ効率の高さから注目される局所学習手法だが、安定性や汎化性能には改善の余地がある。Salar Beigzad氏とVansh Verma氏による論文「Adaptive Multi-Scale Goodness Aggregation for Forward-Forward Learning」は、FFフレームワークを体系的に強化する新手法、適応的多スケールグッドネス集約(AMSGA)を提案している。
AMSGAの中心的なアイデアは、単一スケールの評価に依存せず、局所・中間・大域という異なる抽象度で「グッドネス」信号を集約することにある。これにより、ネットワーク各層の寄与をより包括的に捉えることが可能になる。さらに、適応的カリキュラム誘導の難負例マイニングを導入し、負例の難易度を動的に調整することで学習効率を高める。層ごとに独立して閾値を調整できる層依存適応閾値や、ウォームアップ付きコサインアニーリング学習率スケジュールも最適化の安定化に寄与する。
これらの改良は、FFアルゴリズムの生物学的妥当性とメモリ効率を維持しつつ、性能を大幅に向上させる。MNISTとFashion-MNISTでの実験では、ベースラインFFと比較して一貫した改善が見られ、MNISTで最大1.45%、Fashion-MNISTで最大1.50%の精度向上を達成した。しかも、計算オーバーヘッドはほとんど増加しない。この結果は、グッドネス推定と学習ダイナミクスを慎重に設計することで、局所学習手法がより競争力のある選択肢になり得ることを示唆している。
論文は6ページ、5つの表を含むIEEE形式で、機械学習(cs.LG)および人工知能(cs.AI)分野に分類されている。本研究は、局所学習ネットワークにおいてグッドネス信号の集約方法と学習プロセスの安定性が最終性能に与える影響が大きいことを強調し、より効率的な生物模倣学習アルゴリズムの開発に新たな視点を提供する。