每秒3000 tokens的LLM游乐场

这是一个高速的LLM游乐场，能够以每秒3000个token的速度运行。它提供了一个开放的Web用户界面，方便用户进行各种LLM实验。该平台旨在加速AI模型的测试和开发过程，让研究人员和开发者能够快速迭代。无论是想尝试不同的模型参数，还是测试提示工程，这个游乐场都能提供流畅的体验。