語義聲子:AI內部結構中的晶格振動
本文提出“語義聲子”框架,將詞嵌入的幾何結構類比為晶格振動。透過分析PMI矩陣的特徵模態,解釋了不同邊界條件(週期性、Dirichlet、Neumann、Robin、二維)如何塑造嵌入空間中的語義連續體。實驗在GloVe和Gemma 2B中驗證了該框架。
語義聲子:AI內部結構中的晶格振動
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
本文提出“語義聲子”框架,將詞嵌入的幾何結構類比為晶格振動。透過分析PMI矩陣的特徵模態,解釋了不同邊界條件(週期性、Dirichlet、Neumann、Robin、二維)如何塑造嵌入空間中的語義連續體。實驗在GloVe和Gemma 2B中驗證了該框架。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。