Heidi x Fireworks：缩小前沿模型性能差距

Heidi Health，一家环境人工智能医疗记录领域的领导者，近日宣布与Fireworks AI建立合作伙伴关系，成功实现并超越了专有前沿模型的质量水平，为临床医生提供更快、更可靠、更经济的AI解决方案。Heidi的核心产品是一款环境AI医疗记录工具，能够转录医患对话并生成专业的临床笔记，帮助临床医生每天节省多达2小时的工作时间，显著提高生产力和患者连接度。

合作伙伴关系：为何选择Fireworks？ Heidi原本寻求从封闭模型转向开放模型，以获得更强的控制力、更优性能和显著的成本节约。他们选择合作伙伴的标准包括：技术能力与高质量产品、信任与透明度以及协作团队。Fireworks的解决方案在模型微调和推理优化方面表现出色。通过将通用模型转化为针对Heidi用例定制的AI，Fireworks提升了模型性能和输出质量，同时将延迟从25秒降至7秒，并实现了巨大的成本节约。从概念验证到生产部署仅用了4周时间。

技术突破：超越前沿模型 联合解决方案在模型质量上实现了两大突破：

• 监督微调（SFT）：通过模仿基础模型行为学习风格，模型在内部评估中超越了Gemini Flash系列。
• 强化微调（RFT）：通过引入偏好信号使模型从模仿转向“深度思考”，模型输出在临床笔记数据集上与Gemini Pro系列相比更受青睐。

成功蓝图：数据质量与批量大小 Heidi的技术研究表明，仅仅采用先进算法（如直接偏好优化DPO）是不够的。成功依赖于两个关键操作杠杆：严格过滤的高质量数据和更大的有效批量大小。

1. 激进的数据筛选：原始成对偏好数据存在噪声，评估者常选择包含幻觉的响应。有效的筛选策略包括：使用前沿模型生成高质量合成目标输出作为“黄金标准”，以及利用LLM作为裁判进行数据预评估以去除噪声。
2. 扩展批量大小：在严格过滤后仍存在噪声，Heidi将有效批量大小扩展至约150万token（借助Fireworks的梯度累积支持），确保每个权重更新基于大量样本分布，从而有效去噪。关键实验表明，将有效批量大小从标准64k提升至768k token，模型对专有模型的胜率从48.0%提升至51.3%。

结论 实验证明，开放模型在通过严格DPO训练后，能够与专有前沿模型竞争。最终的成功蓝图是：激进筛选数据（使用合成数据和经LLM Judge过滤的偏好信号），扩展批量大小（通过梯度累积实现100万token以上有效批量），并在训练前运行预评估以捕捉回归风险。