每秒10個token到底有多快？
Mike Veerman開發了一個HTML應用，可模擬LLM token輸出速度（5-800/秒），幫助直觀理解模型廣告中的速度參數。
當AI模型宣稱達到“每秒30個token”時，這個數字究竟意味着多快的響應速度？開發者Mike Veerman製作了一個簡潔的HTML模擬工具（源代碼已公開），讓用户直觀體驗從每秒5個token到每秒800個token的輸出節奏。
該工具通過實時顯示文字生成過程，幫助用户將抽象的速度指標轉化為可感知的視覺體驗。例如，每秒10個token大約相當於每秒鐘生成一個短詞組，而每秒800個token則接近人類閲讀速度的數倍。
對於關注大語言模型（LLM）性能的用户而言，這類工具尤其有用。模型廠商常以token生成速度作為賣點，但普通用户很難直接理解這些數字的實際意義。Veerman的模擬器填補了這一認知鴻溝，讓速度參數變得“看得見摸得着”。
項目託管在GitHub上，完全開源，用户可自行調整參數進行測試。這一創意工具已通過Hacker News引發討論，成為AI社區近期關注的熱點之一。