χ-sao:収束・反収束振動による多峰性ブラックボックス関数のためのGPUネイティブ並列最適化手法
χ-sao(Convergence-Halt-Invert-Stick-And-Oscillate)は、収束・反収束振動サイクルを利用して局所的なトラップから脱出しながら確定したモードを凍結するGPUネイティブ集団最適化手法である。Simon Fraser大学最適化ベンチマークスイートの全42関数(次元d∈{2,4,8,16,32,64})において、χ-saoは最も困難な多峰性関数でd≥8のときに全てのCPUベースラインが失敗する中、100%のモード回復を達成。Michalewicz d=64ではbasin-hopping比最大34倍、Rotated Hyper-Ellipsoid d=64では最大39倍の高速化を実現。尤度ノイズσ_noiseが1.0までの状況でもモード検出は100%信頼性を維持する。本アルゴリズムはオープンソースのPythonパッケージとしてPyPIで公開されている。
新しいGPUネイティブ並列最適化アルゴリズムχ-sao(Convergence-Halt-Invert-Stick-And-Oscillate)が注目を集めている。本手法は、多峰性ブラックボックス関数の全てのモードを発見する問題に対して、独自の収束・反収束振動メカニズムを利用し、確定したモードを凍結しながら他のサンプルが探索を続けることで局所的なトラップからの脱出を効果的に行う。従来の手法(basin-hopping、CMA-ES、マルチスタート勾配降下法)は逐次的に動作し、最新GPUハードウェアの大規模並列性を活用できない。一方、χ-saoはサンプルバッチ全体を同時に実行し、非対称な構造的移動を設計する:真のピークに達したサンプルは「凍結」されて保持され、残りのサンプルは運動量ベースの反収束と確率的平滑化勾配により探索を続ける。さらに、2つの相補的な適応的再サンプリング戦略(Repulse MonkeyとGolden Rooster)が集団の多様性を維持する。
Simon Fraser大学最適化ベンチマークスイートの全42関数(次元d∈{2,4,8,16,32,64})でのテスト結果は顕著である。最も難しい多峰性関数では、d≥8で全てのCPUベースラインが失敗する中、χ-saoは100%のモード回復を達成した。全ての手法が成功する関数では、Michalewicz d=64においてbasin-hopping比最大34倍、単峰性関数Rotated Hyper-Ellipsoid d=64では最大39倍(純粋なGPUボーナス)の高速化を実現した。なお、全てのベンチマークは関数値のみで目的を評価(勾配は有限差分で計算)しており、報告された高速化は導関数なしでの最悪ケースである。
χ-saoは高いノイズロバスト性も示す:尤度ノイズσ_noiseが1.0までの状況でもモード検出は100%信頼性を維持する。本アルゴリズムの鍵となる革新は収束・反収束振動サイクルであり、これによりアルゴリズムはモードを確認しながら未探索領域を探索し続けることができ、局所最適に陥ることを防ぐ。このメカニズムは集団最適化において汎用性があり、ベイズ推論、科学計算、機械学習のハイパーパラメータチューニングなど、多峰性の発見を必要とする多くの分野に応用できる。現在、本アルゴリズムはスタンドアロンのオープンソースPythonパッケージとしてPyPIで公開されており、詳細なドキュメントとサンプルが提供されている。