停止浪费Token：面向LLM流水线的JSON更智能替代方案

要点

• JSON在LLM提示中因重复字段名导致Token浪费，TOON通过声明字段一次并逐行列值来减少开销。
• TOON最适合具有重复结构化记录的输入，如工单、产品目录等；对于嵌套或不规则数据，效益有限。
• 推荐做法：后端保留JSON，仅在发送到LLM时转换为TOON；输出仍用JSON以便解析。
• 应在实际流程中基准测试Token节省、延迟和回答质量，以决定是否采用TOON。