自己対戦強化学習(self-play reinforcement learning)では、エージェントが互いに競争しながら戦略を進化させるが、最新の研究によれば、意思決定容量の構造的変化によって学習プロセスが突然崩壊する可能性がある。arXivに発表された論文「A Structural Threshold in Decision Capacity Governs Collapse in Self-Play Reinforcement Learning」は、重要な閾値を明らかにした。システム内のすべての正の到達可能性を持つ条件付き意思決定(相手の行動に依存し、正の到達確率を持つ決定点)が除去されると、エージェントは決定論的搾取アトラクタ(deterministic exploitation attractor)へ急速に収束する。これは最大損失に近い固定点である。
研究者はポーカーの変種、行列ゲーム、サイコロゲーム、および複数の学習アルゴリズムを用いた実験を通じて、この現象が普遍的に見られることを発見した。正の到達可能性を持つ条件付き決定点をたとえ1つでも保持すれば、崩壊は起こらない。これは、到達重み付き条件付き行動容量がゼロになる地点に鋭い閾値が存在することを示しており、崩壊の深刻さは到達重み付き容量によってこれらのテスト領域で連続的にスケールする。
摂動自体の影響を排除するため、論文では凍結ベースラインと固定対戦相手の制御実験が設定され、崩壊メカニズムが非対称なルール摂動に直接起因するのではなく、制約下の共適応(co-adaptation under constraint)に起因することが確認された。さらに、この現象はタイミング不変であり、摂動がいつ発生しても崩壊が現れる。また、行動を復元すると完全に可逆的である。関数近似を使用すると、崩壊現象はさらに激化する。
これらの発見は、自己対戦強化学習の安定性を理解する上で重要である。多エージェント学習システムを設計する研究者やエンジニアは、過度な制約によって学習プロセスが突然劣化しないよう、十分な条件付き意思決定容量を保持することに注意する必要がある。この研究は、意思決定容量の構造的閾値に関する明確な証拠を提供し、より堅牢な自己対戦アルゴリズムの探求の基礎を築くものである。