本文にスキップ
AI News HubLIVE
要約のみ

Mate SecurityのAsaf Wienerは、すべてのバックエンドエンジニアをモデルルーターにしました。彼は正しい。

Mate SecurityのCEOであるAsaf Wienerは、AI推論コストの高騰に直面し、単なるコスト削減ではなく、すべてのバックエンドエンジニアが自身のワークロードのモデル選択、評価、ルーティングを担当するように会社を再構築しました。ワークロードレベルでのコスト可視化により、品質とコストの最適化が可能となり、特定のタスクではオープンソースモデルがフロンティアAPIを凌駕することもあります。Wienerは、AIネイティブ企業の唯一の構造的優位性は、その日に利用可能な最良のモデルに対して出荷することであり、それを可能にするのは、法的ポリシーのレビューサイクルを回避し、適応性を重視する「実行モード」の文化であると主張しています。

ソースThe New Stack AI著者: Matthew Burns
Mate SecurityのAsaf Wienerは、すべてのバックエンドエンジニアをモデルルーターにしました。彼は正しい。
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内

要約のみ

配信元のコンテンツ権限に基づき、編集要約、要点、原文へのリンクのみを提供します。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • WienerはAI推論コストを約10のサブラインに分解し、機能ごとのトークンコストを出荷前に見積もるようにした。
  • Mateのバックエンドエンジニアは全員、自身のワークロードの評価を実行し、品質とコストに基づいてモデルを選択し、継続的に更新する。
  • 内部評価では、特定のワークロードにおいてオープンソースモデルがフロンティアAPIを品質とコストの両方で上回ることがある。
  • Mateは「実行モード」文化を採用し、新モデルに対する法的ポリシーのレビューを回避し、変化への適応力を重視した採用を行っている。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。