每秒3000 tokens的LLM游乐场

一个高速LLM游乐场，每秒可处理3000个token，提供开放Web界面。