GrafoPropagation:基於幾何注意力的小型文本分類架構
GrafoPropagation 是一個僅約 99 萬參數的文本分類架構,採用 von Mises-Fisher (vMF) 雙尺度注意力、黎曼時間嵌入、動態圖連接、全局工作空間記憶、系統2潛在搜索以及量子學習率調製等創新技術,在 AG News 數據集上微調後驗證準確率達 93.1%。
GrafoPropagation:基於幾何注意力的小型文本分類架構
本文僅提供摘要
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。
GrafoPropagation 是一個僅約 99 萬參數的文本分類架構,採用 von Mises-Fisher (vMF) 雙尺度注意力、黎曼時間嵌入、動態圖連接、全局工作空間記憶、系統2潛在搜索以及量子學習率調製等創新技術,在 AG News 數據集上微調後驗證準確率達 93.1%。
根據來源內容權限,本站僅提供編輯摘要、要點和原文連結。