AI令牌流式传输：重点不在于SSE与WebSocket之争

要点

• SSE和WebSocket在传输层面各有优劣，但生产环境的关键在于系统架构和故障恢复能力。
• 推荐的架构将提示请求与响应流分离，并通过令牌缓存实现断点续传。
• 实际部署需要处理重连、恢复、取消、令牌压缩、多设备/多用户同步等复杂问题。
• 生产级令牌流式传输与简单演示之间存在巨大差距，需要专门的基础设施支持。