Gumloop、Fireworks AIでオープンウェイトモデルの使用量を3週間で7倍に拡大
GumloopはFireworks AIとの提携により、3週間でオープンウェイトモデルのエージェントチャットを7倍に増加させ、品質を維持しながら最大72%のコスト削減を実現しました。
AIチームは転換点を迎えています。オープンウェイトモデルの能力は実際の本番ワークロードを支えるのに十分なレベルに達し、AIアプリケーションの構築と拡張においてより柔軟性をもたらしています。Gumloopにとって、この変化はAIエージェントの動力源を再考する機会となりました。
利用が増えるにつれて、推論コストはGumloopとその顧客の両方に重くのしかかりました。チームは多くのエージェントワークロードがオープンウェイトモデルで処理できることに気づきましたが、それには本番環境に必要な信頼性と品質が前提でした。エージェントハーネスをオープンウェイトモデル向けに最適化し、推論パートナーとしてFireworks AIを選んだ後、Gumloopはオープンウェイトモデルをプラットフォームの第一級オプションとしました。わずか3週間で、オープンウェイトモデル上で動作するエージェントチャット数は7倍に増加しました。
Gumloopは、チームが組織全体で複雑なタスクを自動化するAI駆動のワークフローとエージェントを構築するのを支援しています。これらのエージェントは、情報抽出、分類、ルーティング、要約などのタスクを実行します。採用が進むにつれ、AIの経済性は重要な考慮事項になりました。新しいワークフローごとに、より多くのモデル呼び出しと高い推論コストが発生する可能性があります。
一方、GLM-5.2やDeepSeek V4 Proなどの新しいオープンウェイトモデルは、本番エージェントワークロードに十分な能力レベルに達していました。残る問題は、ユーザーが期待する体験を提供できるかどうかでした。
Gumloopは、社内で最も重要なエージェント、つまり従業員が会社データにアクセスして質問に答えるための全社的なアシスタントでその質問をテストしました。以前にこのエージェントをフロンティアモデルからオープンウェイト代替品に移行しようとした試みは失敗していました。従業員がすぐに違いに気づき、チームはエージェントをOpusに戻さざるを得ませんでした。
しかし、GumloopがエージェントをOpus 4.8からFireworks AI上で動作するGLM-5.2に移行したとき、状況は変わりました。誰も違いに気づかなかったのです。出力はOpusと一貫しており、Gumloopにオープンウェイトモデルを推奨プロダクションオプションとして提供する自信を与えました。チーフプロダクトオフィサーのGonzalo Soto Mallqui氏は次のように述べています。「ひらめきの瞬間は、GLM-5.2を推奨モデルオプションの1つとして展開するかどうかを決めていたときでした。Fireworksは、信頼性の懸念なくこれを行う自信を与えてくれました。全社の全員がやり取りし質問する、すべてのデータにアクセスできるメインエージェントがあります。このエージェントをOpus 4.8からGLM-5.2に移行したとき、誰も体験の違いに気づきませんでした。出力は期待通りで、GLM-5.2を推奨モデルオプションにする自信を得ました。」
オープンウェイトモデルの採用にあたり、Gumloopはエージェント体験全体を最適化しました。チームはエージェントハーネスをオープンウェイトモデル向けに最適化し、社内でモデルを検証してから顧客に提供しました。オープンウェイトモデルは現在、Gumloopのエージェントワークフローだけでなく、分類、タグ付け、評価などのサポート業務にも使用されています。内部エージェントをOpus 4.8からGLM-5.2に移行した後、Gumloopは同じユーザー体験を維持しながら、最大72%のコスト削減を達成しました。
Gumloopは複数の推論プロバイダーを評価した後、オープンウェイトモデルのデフォルト推論プロバイダーとしてFireworks AIを選択しました。決め手は信頼性でした。Gonzalo Soto Mallqui氏は「最大の利点は信頼性です。他のプロバイダーも試しましたが、Fireworksはこの点でリードしており、リクエストや問い合わせにも非常に迅速に対応してくれます」と述べています。Fireworks AIにより、Gumloopはオープンウェイトモデルを本番エージェントワークロードの推奨オプションとして提供する自信を得ました。
最適化されたエージェントハーネスとFireworks AIの推論プラットフォームを組み合わせることで、Gumloopは以下の成果を達成しました。オープンウェイトモデル上のエージェントチャットが3週間で7倍増加。内部プロダクションエージェントをOpus 4.8からGLM-5.2に移行後、最大72%のコスト削減。本番エージェントワークロードにオープンウェイトモデルを推奨する自信。そして、オープンウェイトモデルの採用を拡大するための信頼性の高いインフラストラクチャです。Fireworks AIのCEOであるLin Qiao氏は次のようにコメントしています。「Gumloopは、すべての企業が独自のワークフローとデータに合わせてAIエージェントを構築する方法の魅力的な例です。AIの未来は、オープンモデル上に構築された専門的なインテリジェンスにあり、Fireworksがそれらのエージェントを本番環境に必要な速度、信頼性、効率で実行させるインフラを提供できることを誇りに思います。」
Gumloopの経験は、AI開発の広範な変化を反映しています。オープンウェイトモデルが向上するにつれ、チームは能力、コスト、制御に基づいて各ワークロードに適したモデルを選択する柔軟性をより得られます。Gumloopにとって、ブレークスルーは、オープンモデルがユーザーが期待する品質を提供し、同時にAIエージェントの運用経済性を改善できる点に達したことでした。Fireworks AIが推論を支えることで、Gumloopはこのアプローチを本番規模に拡大しています。