インテリジェンスを自社のものにする：持続可能なAI優位性の鍵

今後5年間、すべての企業はAIを次の2つの方法のいずれかで利用することになるでしょう。ビジネスの重要な部分を運用するためか、あるいは顧客に販売する製品の一部としてです。どちらの場合も、汎用的なインテリジェンスだけでは不十分です。

真のインパクトを実現するには、企業は自社のインテリジェンスを所有する必要があります。所有とは、すべてのレイヤーをゼロから構築することを意味するのではなく、インテリジェンスの振る舞い、管理方法、そして時間とともに蓄積されるかどうかを決定する部分を制御することを意味します。

既製のAIは汎用的であるため便利です。一般的な質問に答え、幅広いトピックにわたって推論できます。しかし、汎用的なインテリジェンスが社内業務を直接実行できると仮定するのは、あまりにも単純化しすぎです。各企業には、独自の運営方法が数多くあります。AIを企業に深く組み込めば組み込むほど、これらの特殊性が重要になります。

具体例として、ある大手保険会社がAIを使って請求処理を支援するケースを考えてみましょう。汎用モデルは保険証券を読み、請求を要約し、一般的な補償概念を説明できます。しかし、実際に請求を処理するには、保険会社独自の保険約款、州ごとの規制要件、不正シグナル、過去の請求パターン、エスカレーションルール、顧客階層、リスク許容度に依存します。これらの詳細は汎用モデルの重みには含まれません。汎用モデルは「免責額」という言葉の意味を知っていますが、特定の顧客、特定の法域、特定の保険契約、特定の証拠に基づいて特定のタイプの請求を処理する方法は知りません。

同じロジックは、AI自体が製品である場合にも当てはまります。もしあなたが垂直AIスタートアップで、AIサポートエージェント、法律アシスタント、またはコーディングエージェントを構築しているなら、ベースモデルはあなたの製品ではありません。他の誰もが同じAPIを呼び出すことができます。あなたの製品は、モデルを囲むシステム、つまり、処理するワークフロー、取得するコンテキスト、使用できるツール、品質を定義する評価、構築するメモリ、そして顧客とのやり取りごとに改善するフィードバックループです。

どちらの場合でも、優位性は汎用インテリジェンスではなく、特定のビジネスに適応したインテリジェンスにあります。

では、インテリジェンスを自社のものにするとはどういうことでしょうか？まず、エージェントシステムを制御することです。エージェントは、生のインテリジェンスと作業の間の橋渡しです。モデルがインテリジェンスを提供し、ハーネス（オーケストレーション）がそのインテリジェンスの適用方法を決定し、コンテキストが特定の状況で何が重要かをシステムに伝えます。

第1層はモデルです。モデルを所有するとは、主権、移植性、またはデプロイメントの制御が重要な場合にオープンウェイトモデルを使用することを意味します。また、サプライヤ間の切り替えを可能にするモデルのオプション性を維持することも意味します。オプション性は防御的であり、ロックインを回避します。また攻撃的であり、最高のモデルが登場したときにすぐに採用できるようにします。

第2層はハーネス、つまりモデルの出力をアクションに変換するオーケストレーションロジックです。ハーネスは、コンテキストの使用方法（ルーティング、ツール使用、ワークフローステップ、スキルなど）のすべてを制御します。ここに企業固有の動作の多くが存在します。ハーネスがクローズドであれば、エージェントの動作方法について他人の仮定を受け入れていることになります。

第3層はコンテキストそのものです。コンテキストは、汎用インテリジェンスを具体的なものにします。文書、ポリシー、ツール、スキル、ユーザー設定、組織レベルの知識、メモリなどです。メモリは特に重要です。なぜなら、システムが時間の経過とともにより有用になる方法だからです。コンテキストとメモリを所有しなければ、システムが蓄積するインテリジェンスを所有していることにはなりません。

次に、経済性、品質、リスクを管理することです。AIが実際の作業を実行し始めると、企業は他の運用システムと同様にそれを管理する必要があります。つまり、作業のコストを制御し、品質を測定し、システムが行動できる範囲を定義し、行動したときに何が起こったかを把握することです。

コストが重要なのは、インテリジェンスが生み出すリターンに比べて安価でなければ価値がないからです。AIの採用が急速に増加するにつれて、コストも上昇しています。Uberの警告例を参照してください。ユーザー、組織、またはエージェントレベルでコストを固定できることは、AIを確実にスケールするために重要です。

品質は仮定ではなく測定される必要があります。モデルをアップグレードしたり、プロンプトを変更したり、ツールを追加したり、ワークフローを調整したりする場合、システムが改善されたか後退したかを知る必要があります。これを測定できなければ、エージェントを体系的に改善できず、真に制御し所有することはできません。

境界は、AIが自律的に行動できる範囲と、監督が必要な範囲を定義します。企業は、エージェントがアクセスできるデータ、使用できるツール、承認が必要なアクション、エスカレーションすべきタイミングを制御する必要があります。インテリジェンスを所有するということは、そのインテリジェンスが何をできるかを制御することを意味します。

可観測性により、システムの説明責任が果たされます。エージェントがアクションを実行した場合、企業はエージェントが見たもの、実行したもの、呼び出したツール、その理由を確認できる必要があります。これはシステムの改善だけでなく、システムの監査と信頼にも重要です。

最後に、インテリジェンスを蓄積することです。最高のAIシステムは使用とともに向上します。100回目のインタラクションは1回目よりも価値が高いはずです。なぜなら、システムはユーザー、ワークフロー、ポリシー、失敗、好みについてより多くを学習しているからです。システムが学習した内容と、学習プロセス自体の両方を所有する必要があります。

学習ループはトレースから始まります。トレースは、エージェントが実際に何をしたか（どのコンテキストを見たか、どのツールを呼び出したか、どこで行き詰まったか、何を生成したか）を示します。フィードバックはそれらのトレースに意味を与えます。つまり、その行動が有用だったか、受け入れられたか、拒否されたか、非効率だったか、リスクがあったか、間違っていたかです。トレースとフィードバックが改善のための原材料となります。

これらのトレースと関連するフィードバックは、プロンプト、ハーネス、ツールを変更することによってシステムを改善するために使用できます。しかし、これらの変更と同様に重要なのは、変更に関連する評価です。変更のたびに、その変更を捉え、将来の変更が回帰を引き起こさないようにする評価を追加する必要があります。

最低限、これらの学習成果は自社で所有する必要があります。それらはモデルからモデルへ、システムからシステムへと移植可能でなければなりません。さらに、このループ全体を自社で所有すべきです。繰り返しますが、エージェントが最初に使用されたときにどれだけうまく機能するかは重要ではありません。重要なのは、100回目に使用されたときにどれだけ良くなっているかです。それが重要なら、その改善を推進するループを自社で所有する必要があります。

インテリジェンスを所有するためのチェックリスト：もし明日、新しいモデルプロバイダーが最新のSOTAモデルをリリースしたら、簡単に切り替えられますか？利用しているモデルプロバイダーがモデルを廃止した場合、自分でホストして中断を回避できますか？オーケストレーションロジックがどのように機能するかを把握し、すべてのステップでLLMに何が入力されるかを正確に制御できますか？エージェントをあるクラウドと別のクラウド、あるいはデバイス上でもまったく同じ方法で実行できますか？ユーザー単位でAI支出を監視および制御できますか？誰かがエージェントがなぜ何かをしたのか尋ねた場合、すべてのステップの完全なトレース（内部ロジックを含む）を示せますか？モデルを交換しても回帰が発生しないことを確信できる評価を整備していますか？ユーザーがエージェントを100回目に使用するとき、初回よりもユーザーについて理解し、より良いエクスペリエンスを提供できますか？エージェントが学習した場合、その学習をまったく別のシステムに移植できますか？エージェントがどのように学習するかを制御できますか？

戦略的選択：企業はAIスタックのすべてのレイヤーを構築する必要はありません。困難で、汎用的で、差別化されていない部分は購入すべきです。しかし、優位性が蓄積されるレイヤー（エージェントシステム、その作業のガバナンス、使用とともに改善するフィードバックループ）は所有する必要があります。どの企業もAIを採用できます。AIで持続可能な価値を生み出す企業は、自社のインテリジェンスを所有する企業です。