GrafoPropagation:基于几何注意力的小型文本分类架构
GrafoPropagation 是一个仅约 99 万参数的文本分类架构,采用 von Mises-Fisher (vMF) 双尺度注意力、黎曼时间嵌入、动态图连接、全局工作空间记忆、系统2潜在搜索以及量子学习率调制等创新技术,在 AG News 数据集上微调后验证准确率达 93.1%。
GrafoPropagation:基于几何注意力的小型文本分类架构
本文仅提供摘要
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。
GrafoPropagation 是一个仅约 99 万参数的文本分类架构,采用 von Mises-Fisher (vMF) 双尺度注意力、黎曼时间嵌入、动态图连接、全局工作空间记忆、系统2潜在搜索以及量子学习率调制等创新技术,在 AG News 数据集上微调后验证准确率达 93.1%。
根据来源内容权限,本站仅提供编辑摘要、要点和原文链接。