每秒10個token到底有多快？
Mike Veerman開發了一個HTML應用，可模擬LLM token輸出速度（5-800/秒），幫助直觀理解模型廣告中的速度引數。
當AI模型宣稱達到“每秒30個token”時，這個數字究竟意味著多快的響應速度？開發者Mike Veerman製作了一個簡潔的HTML模擬工具（原始碼已公開），讓使用者直觀體驗從每秒5個token到每秒800個token的輸出節奏。
該工具透過即時顯示文字生成過程，幫助使用者將抽象的速度指標轉化為可感知的視覺體驗。例如，每秒10個token大約相當於每秒鐘生成一個短片語，而每秒800個token則接近人類閱讀速度的數倍。
對於關注大語言模型（LLM）效能的使用者而言，這類工具尤其有用。模型廠商常以token生成速度作為賣點，但普通使用者很難直接理解這些數字的實際意義。Veerman的模擬器填補了這一認知鴻溝，讓速度引數變得“看得見摸得著”。
專案託管在GitHub上，完全開源，使用者可自行調整引數進行測試。這一創意工具已透過Hacker News引發討論，成為AI社群近期關注的熱點之一。