Show HN：重なり合う多様体を持つAI潜在空間
このプロジェクトは、位相幾何学（球面とトーラス）と高度な損失関数（曲率アライメント、カシミールエントロピー、測地線正則化）を用いて重なり合う多様体を構築する、革新的なAI潜在空間アプローチを紹介しています。コードは適応型トポロジー設定、スムーズリーキーガードレール、勾配フロー保護を実装し、高次元表現の学習を向上させます。
最近、開発者が「Egregore」というAIプロジェクトを公開しました。このプロジェクトは、重なり合う多様体を持つ潜在空間表現の方法を探求しています。従来の単一多様体とは異なり、この手法ではトポロジー構造（球面とトーラス）を固定幾何アンカーとして利用し、適応型トポロジー構成と革新的な損失関数を通じて高次元データの複雑な構造を学習します。
プロジェクトの中核は適応型トポロジー構成モジュールで、潜在空間の次元と摂動制御パラメータを定義し、カシミール圧力の下限を導入して勾配の爆発や消失を防ぎます。その上で、独立トポロジー生成器が正確な球面およびトーラスのアンカーを生成し、数学的な厳密性を確保します。例えば、球面アンカーは各要素を1/√(dim)に設定することでL2ノルムを正確に1.0にします。
さらに重要なのは、高度なトポロジー損失関数の設計です。これは3つの部分から構成されます。曲率アライメント損失は入力曲率と重みの構造類似性を同期させ、カシミールエントロピー損失はlog_softmaxに基づいて確率崩壊を防ぎ、測地線正則化はスムーズリーキーガードレールを介して弧長を計算し、境界領域での勾配消失を防ぎます。この損失関数はさらに最適化され、.item()の代わりに.detach()テンソルを直接バインドすることでホスト-デバイス間のブロッキングボトルネックを排除しています。
パラメータ化トポロジーゲートモジュールはアルファとイータを最適化可能なパラメータとして設定し、モデルの適応性をさらに高めています。実装全体は複数のアクセラレータ（GPU、NPU、TPU）と互換性があり、FP16/AMP環境向けの安定性対策も含まれています。このプロジェクトは、トポロジーと量子情報学のクロスオーバー視点から、AI潜在空間研究の新しい方向性を示しています。