每秒10个token到底有多快？
Mike Veerman开发了一个HTML应用，可模拟LLM token输出速度（5-800/秒），帮助直观理解模型广告中的速度参数。
当AI模型宣称达到“每秒30个token”时，这个数字究竟意味着多快的响应速度？开发者Mike Veerman制作了一个简洁的HTML模拟工具（源代码已公开），让用户直观体验从每秒5个token到每秒800个token的输出节奏。
该工具通过实时显示文字生成过程，帮助用户将抽象的速度指标转化为可感知的视觉体验。例如，每秒10个token大约相当于每秒钟生成一个短词组，而每秒800个token则接近人类阅读速度的数倍。
对于关注大语言模型（LLM）性能的用户而言，这类工具尤其有用。模型厂商常以token生成速度作为卖点，但普通用户很难直接理解这些数字的实际意义。Veerman的模拟器填补了这一认知鸿沟，让速度参数变得“看得见摸得着”。
项目托管在GitHub上，完全开源，用户可自行调整参数进行测试。这一创意工具已通过Hacker News引发讨论，成为AI社区近期关注的热点之一。