セマンティックフォノン:AI内部の格子振動
本稿では、単語埋め込みの幾何学を格子振動に例える「セマンティックフォノン」フレームワークを提案する。PMI行列の固有モードを分析することで、異なる境界条件が埋め込み空間における意味連続体をどのように形作るかを説明する。実験ではGloVeとGemma 2Bで検証している。
セマンティックフォノン:AI内部の格子振動
要約のみ
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。
本稿では、単語埋め込みの幾何学を格子振動に例える「セマンティックフォノン」フレームワークを提案する。PMI行列の固有モードを分析することで、異なる境界条件が埋め込み空間における意味連続体をどのように形作るかを説明する。実験ではGloVeとGemma 2Bで検証している。
配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。