Heidi x Fireworks：最先端モデルの性能ギャップを埋める

Heidi Healthは、環境AI医療記録分野のリーダーとして、Fireworks AIとの提携を発表しました。この協業により、プロプライエタリな最先端モデルの品質を達成・超越し、臨床医向けにより高速で信頼性が高く、コスト効率の良いAIソリューションを提供します。Heidiの主力製品は、環境AI医療記録ツールで、医師と患者の会話を文字起こしし、専門的な臨床ノートを生成します。これにより、臨床医は1日あたり最大2時間の時間を節約し、生産性と患者とのつながりを大幅に向上させます。

パートナーシップ：なぜFireworksか？ Heidiは、クローズドモデルからオープンモデルに移行するため、制御性の向上、性能改善、大幅なコスト削減を目指していました。パートナー選定の基準は、技術力と高品質な製品、信頼性と透明性、そして協力的なチームでした。Fireworksのソリューションは、モデル微調整と推論の最適化において優れており、汎用モデルをHeidiのユースケースに特化したAIに変換することで、モデルの性能と品質を向上させ、レイテンシを25秒から7秒に削減し、大幅なコスト削減を実現しました。概念実証から本番稼働までわずか4週間でした。

技術的ブレイクスルー：最先端モデルを凌駕 HeidiとFireworksの組み合わせによるソリューションは、モデル品質において2つの大きなブレイクスルーをもたらしました。

• 監視付き微調整（SFT）：基盤モデルの動作を模倣してスタイルを学習する最初のステップにより、Gemini Flashシリーズを上回るモデルを実現。
• 強化学習微調整（RFT）：選好シグナルを組み込むことでモデルを模倣から「深い思考」へとシフトさせ、その出力はGemini Proシリーズよりも好まれました（内部評価による）。

成功の青写真：データ品質とバッチサイズ Heidiの技術研究により、Direct Preference Optimization（DPO）のような高度なアルゴリズムを採用するだけでは不十分であることが明らかになりました。成功は、厳格なフィルタリングによる高品質データと、より大きな実効バッチサイズという2つの重要な運用レバーに依存していました。

1. 積極的なデータ厳選：生のペアワイズ選好データにはノイズが多く、評価者が幻覚を含むレスポンスを選択することもありました。効果的なフィルタリング戦略として、最先端モデルを使用した高品質な合成ターゲット出力の生成（「ゴールドスタンダード」ターゲット）と、LLMを審査員として用いたデータの事前評価によるノイズ除去が行われました。
2. バッチサイズの拡大：厳格なフィルタリング後も残るノイズに対処するため、Heidiは実効バッチサイズを約150万トークンに拡大しました（Fireworksの勾配累積機能を活用）。これにより、各重み更新が大量のサンプル分布に基づき、個々の不良データ点の影響を平均化してノイズを除去します。重要な実験では、実効バッチサイズを標準の64kから768kトークンに増加させたところ、プロプライエタリモデルに対する勝率が48.0%から51.3%に向上しました。

結論 実験により、オープンモデルは厳格なDPOトレーニングを経ることで、プロプライエタリな最先端モデルと競合できることが実証されました。最終的な成功の青写真は次のとおりです。積極的にデータを厳選する（合成データとLLM審査員でフィルタリングした選好シグナルを使用）、バッチサイズを拡大する（勾配累積により100万トークン以上の実効バッチサイズを目指す）、そしてトレーニング前に事前評価を実施して回帰リスクを検出する。