Word2Vec 在生成语义嵌入方面的有效性早已得到广泛验证，但迄今为止，相关测试几乎都集中在词汇量庞大的语言上。一篇提交于 2026 年 6 月 15 日的新论文《Examining the Limits of Word2Vec with Toki Pona》（用道本语检验 Word2Vec 的极限）把目光转向了极端另一端：一种仅有约 130 个词的人造语言“道本语”（Toki Pona），试图回答一个此前少有人追问的问题——当词汇表被压缩到近乎极限时，Word2Vec 是否仍能刻画词与词之间的语义关系。该论文由 Daniel Zhenhan Huang 与另一位作者共同完成，共 10 页、含 4 幅图和 3 张表格，已被 Society for Computation in Linguistics（SCiL）2026 接收，归类于计算与语言（cs.CL）方向，arXiv 编号为 2606.17299v1。
研究的语料规模并不小。作者从道本语社区收集了约 140 万条句子，总计约 795 万个词元用于训练。值得注意的是，语料中约 23% 的句子包含并非道本语的词元，例如专有名词、外来词和新造词。这类“语言噪声”究竟会提升还是削弱词嵌入的表现，在词嵌入文献中鲜有系统讨论，因此研究团队设计了两组对照实验：一组保留这些附带词元，另一组则将它们完全过滤掉，再分别训练模型。
在评估环节，作者采用了定量与定性相结合的多重方法。定量方面，他们测量词语与所属语义类别质心之间的距离，并通过凝聚式聚类计算自动化的轮廓系数（silhouette score）；定性方面，则借助表征相似性矩阵（RSA），将道本语得到的嵌入结构与英语对应的结构进行对比分析，以观察两者在语义组织上的异同。
实验结果给出了两个层次的结论。首先，那些稀疏的非核心词元并没有改变所学嵌入的相对结构，甚至反而会把语义相近的词在向量空间中拉得更近，说明这类看似“污染”的噪声未必有害。其次，也是更重要的发现：即便在词汇量如此极端的下界，Word2Vec 的有效性更多取决于语料中的分布模式，而非词典规模本身。换言之，一个模型能否学到有意义的语义关系，关键不在于语言有多少个词，而在于这些词在真实文本中如何共同出现、如何形成稳定的搭配与语境统计。
这项研究的意义在于拓宽了词嵌入方法的适用边界。此前人们普遍默认，词嵌入需要大规模词典和充足语料才能奏效；而道本语这一极端案例表明，只要分布信号足够丰富，即便词汇表极小，语义结构依然可以被捕捉。论文同时提醒研究者关注语料中的非核心词元：它们既不是必须清除的杂质，也可能在特定条件下对嵌入空间起到凝聚作用。该工作已通过 arXiv 公开，DOI 为 10.48550/arXiv.2606.17299，提交版本为 2026 年 6 月 15 日 21:07:31 UTC 的 v1。