本文にスキップ
AI News HubLIVE
サイト内リライト7 分で読了

BMWグループが数千人の開発者にわたる数百のエージェントをいかに統治するか

記事の要約

BMWグループのR&D部門は12,500人以上の開発者と約5億行の車両ソフトウェアコードを抱え、1,300以上のマイクロサービスで2,400万台の車両にサービスを提供している。数百のエージェントを数千の開発者に提供する規模で、BMWは5つの相互に連携する実践を共有する: proactiveガバナンス、継続的な可観測性と評価、焦点を絞ったコンポジション、専門化、インフラストラクチャ・アズ・コードによるコード化である。

ソースAWS Machine Learning Blog著者: Dr. Jens Kohl
BMWグループが数千人の開発者にわたる数百のエージェントをいかに統治するか
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

BMWグループの研究開発部門は、典型的な規模のガバナンス課題に直面している。12,500人以上の開発者が約5億行の車両ソフトウェアコードを保守し、BMWコネクテッド・ビークル・バックエンドは1,300以上のマイクロサービスから成り、路上の2,400万台の車両にデジタルサービスを提供している。規制産業では、ソフトウェアの品質、安定性、ガバナンス遵守の基準が極めて高い。エージェント構築を支援する研究、フレームワーク、ガイドラインは存在するが、高品質なエージェントを効率的かつスケーラブルに産業化し運用することは依然として大きな課題である。

大規模組織でエージェントAIを展開することは、孤立したチームでは達成できない。集合的な取り組み、現場主導の実験、企業全体での活発な知識共有が必要だ。これにより根本的なガバナンスの二項対立が生まれる。開発チームは迅速に革新する自由を必要とする一方、企業は安全性、セキュリティ、コンポーザビリティ、コスト効率の基準を強制しなければならない。このバランスがなければ、組織はAIの島々と高コストな重複作業の断片化した状況に陥るリスクがある。BMWグループ全体で数百のグローバルに分散したチームがエージェントを構築していることを考えれば、これは現実的な課題である。

BMWのソリューションは単純な前提に基づいている。最初から協調できるエージェントを構築する。これには、単一のフレームワークやツールチェーンを必要とせず、多様性をコンポーザブルでガバナンス可能かつ自動化可能にするアーキテクチャが求められる。このアーキテクチャの中心はエージェント・ハーネスである。大規模言語モデル(LLM)を包むランタイム層で、実行ループ、ツール・ディスパッチ、メモリ管理、自律動作のための可観測性フックを提供する。AWS Well-Architected Frameworkがクラウドインフラ設計を標準化したように、エージェントシステムにも同等のパターンと再利用可能なブループリントが必要であり、ガバナンス、コンポーザビリティ、運用ベストプラクティスを最初からコード化する。

BMWは2023年以降の企業規模でのエージェントシステム構築と運用の実践経験から得た5つの相互に関連する実践を中心にソリューションを構成している。各実践はインフラストラクチャ・アズ・コード(IaC)としてコード化され、DevOpsの速度を妨げることなく、導入を再現可能、監査可能、強制可能にしている。

第一の実践は、事後ではなく事前のガバナンスである。ガバナンスは最初から構造的であり、ライフサイクル全体で維持されなければならない。BMWは効果的なエージェントガバナンスの3つの特性を提唱する。フレームワーク非依存で外部化されていること。認証、認可、レート制限、コンテンツフィルタリングなどのガバナンスルールは、個々のエージェントコードベース内ではなく、Model Context Protocol(MCP)ゲートウェイ、中央エージェントレジストリ、オーケストレーション境界を含む統合レイヤーで適用される。これにより、ガバナンスはフレームワークの移行、モデルの交換、チームの再編成後も存続する。ドメインに敏感で段階的であること。すべてのエージェントアクションが同じリスクを負うわけではない。文書の起草、顧客レコードの更新、本番データベースへの書き込みは、大きく異なる監督レベルを必要とする。BMWはステップごとの自律レベルを通じて段階的信頼を実装する。レベル0(ヒューマン・イン・ザ・ループ)はすべてのアクションに明示的な人間の承認を要求し、新規エージェントと高リスク操作の出発点となる。レベル1(ヒューマン・オン・ザ・ループ)はエージェントが自律的に実行するが、非同期の人間レビューのために決定を表面化する。定義された入力、出力、ロールバックオプションを持つ中リスクタスクに適している。レベル2(ガードレール内での自律)は、厳密に定義されたポリシー境界内で独立して動作し、プロンプト指示ではなく決定論的に適用される。検証済みの実績を持つ低リスクでよく理解された操作に限定される。重要なのは、信頼レベルをエージェントごとではなくステップごとに割り当てることだ。単一のワークフローに3つのレベルすべてのステップを含めることができ、チームは保守的に開始し、測定可能な評価データに基づいて自信を深めながら段階的に自律性を高められる。決定論的に適用されること。ガバナンスはエージェントの推論ループ外の決定論的コードとして実行される。実際には、これは主にCI/CDパイプラインで行われる。権限チェック、ポリシー・アズ・コードルール、コンプライアンス検証が、エージェントが本番に到達する前の各デプロイをゲートする。これらのチェックはエージェントとは別に実行されるため、エージェントもそのプロンプトもそれらを上書きすることはできない。出口制御(受信者の許可リスト、送信秘密スキャン)は、機密データを保持するエージェントが一見合法な呼び出しを通じてそれを開示するのを防ぐのに役立つ。

第二の実践は、継続的な可観測性、検証、評価である。エージェントシステムの可観測性は従来のアプリケーション監視を超える。本当の問いはもはやサービスがHTTP 200ステータスを返したかどうかではなく、エージェントが忠実でポリシーに準拠した出力を生成したか、そしてそれを観測可能な実行トレースを通じてどのように実証できるかである。それに答えるには、一般的なクエリとエッジケースをカバーするグラウンドトゥルースデータセットが必要だ。このデータセットは初日から評価に使用され、品質は合成プロンプトではなく、代表的で適切に統治された評価データセットに対して測定される。このインフラストラクチャは後付けできず、初期設計の一部でなければならない。CI/CDパイプラインがこれを強制するため、計装を欠くエージェントは評価実行前に検証で失敗する。BMWは3つの次元の計装を推奨する。インテント・トレーシング:各実行の観測可能なエージェント軌跡(推論ステップ、ツール呼び出し、コンテキスト取得)をキャプチャする。OpenTelemetryスパンはユーザーリクエストから最終出力までのクエリ可能な系統を作成する。CIとしての検証と評価:エージェントへの変更(プロンプト編集、ツール追加、モデル交換)はパイプラインをトリガーする。検証はまずエージェントコンポーネントとその相互作用をカバーする自動回帰テストで実行される。ほとんどのハーネスコンポーネントは決定論的なので、これらのテストは高速で完全に自動化できる。評価は次に実行され、非決定論的出力をグラウンドトゥルースデータセットに対してスコアリングし、品質閾値でゲートされる。この順序は意図的である。検証はゲートとして機能するため、評価は合格したビルドでのみ実行される。モデル・ティアリングとルーティング・テレメトリ:エージェントがモデル間をルーティングするとき、結果だけでなくルーティング決定とその正当化をキャプチャする。ティア割り当てはタスクタイプごとの評価結果から導出され、不良な結果は新しい評価ケースとしてフィードバックされる。

第三の実践は、焦点を絞って開始し、コンポジションを設計することである。分散クラウドシステムでは、業界はマイクロサービスやサービスメッシュなどのアーキテクチャパターンを採用することでエンドツーエンドワークフローの複雑さを解決した。エージェントシステムの進化も同様の軌跡をたどり、モノリシックな汎用エージェントから複数の協調する専門エージェントへと移行する必要がある。チームはエージェントの機能を検討する前に問題を定義すべきだ。オーケストレーションロジックを書く前に、5つの具体的な成果物を作成する。明確なスコープ定義(エージェントがすべきこととすべきでないこと)、インタラクションモデル(ユーザーや他のエージェントがどのように呼び出すか)、曖昧さのないツール定義(各ツールとパラメータを正確に定義)、グラウンドトゥルースデータセット(実装開始前に確立される評価リファレンス)、評価基準(エージェントが測定される品質閾値とベンチマーク)。この規律はBMWが観察する最も一般的な失敗モードを防ぐ。つまり、あまりに多くの責任を負うエージェントはプロンプトが肥大化し、精度が低下しレイテンシが増加する。単一のエージェントが適切にスコープ設定されると、それはコンポーザブルなビルディングブロックとして設計されなければならない。そこでBMWは3層のコンポジション階層を定義する。MCPツールはアトミックな統合契約である。各ツールは単一の機能(API呼び出しやデータベースクエリなど)をラップし、ワークフローの前提をコード化しない。これは安定した再利用可能な層である。スキルはドメイン固有のMCPツールのバンドルされたコンポジションである。例えばコードレビュースキルは静的解析ツール、スタイルチェックツール、LLMベースの推論ステップを連鎖させることができる。スキルはドメインロジックをコード化するが、ワークフロー間で移植可能なままである。フローはスキルのエンドツーエンドオーケストレーションであり、完全なビジネスプロセス(例えばPRレビューパイプライン全体や要件からデプロイまでのサイクル)を表す。各層はCI/CDパイプラインで独立して検証される。コンポーネントテストはツールとスキルをカバーし、インタラクションテストはそれらがフローに構成されることをカバーする。これらの層はオープンスタンダードを通じて接続される。ツール統合にはMCPとAgent Skills、エージェント間通信にはプロトコル、可観測性にはOpenTelemetryである。

第四の実践は、学習に応じて専門化することである。本番環境では、適切にスコープ設定されたエージェントでも、実際の使用が設計時の想定から逸脱するにつれて機能しなくなることがある。クエリパターンが変化し、ツール選択ロジックが苦戦し、パフォーマンスが予測不能に低下する。正しい対応は、複雑なエージェントを複数の専門エージェントに分解することである。それぞれがより明確な指示、よりシンプルなツールセット、より焦点を絞った推論を持つ。利点は具体的である。独立した進化:要件エンジニアリングエージェントを更新してもコーディングエージェントに触れる必要はない。個別のスケーリング:スコープとインターフェースが明確に定義されていれば、個々のエージェントはシステム全体を再デプロイまたはサイズ変更せずに独立してスケーリングできる。スコープの最小化:1つのエージェントの障害やハルシネーションがワークフロー全体に連鎖しない。コスト削減:範囲の狭いエージェントはより小さなモデルで実行できることが多く、推論とホスティングのコストを削減する。複雑さは2つの軸で削減できる。エージェント内では、ツールと少数ショット例が呼び出しごとにコンテキストを消費し、精度を低下させコストを増加させるため、機能をスキルに分解する。粒度は経験的に決定する。エージェントがめったに選択しないスキルは統合し、入力に応じて異なる動作を生成するスキルは分割する。エージェント間では、ドメイン外の作業を現在のエージェントを拡張するのではなく、A2Aプロトコルを介して専門のピアに委任する。エージェントはコンテキストではなく能力で成長すべきである。重要なことに、各専門エージェントはその役割に必要なデータとツールにのみアクセスするため、このアーキテクチャは設計による最小権限の強制に役立ち、規制産業におけるコンプライアンス要件である。しかしこれらの利点を実現するには、エージェントが互いを見つけて相互運用できる必要がある。AIの島々の出現を防ぐため、BMWはエージェント、ツール、スキルの集中レジストリを維持している。このレジストリは次の役割を果たす。発見メカニズム:ビルド時に保存されたメタデータに基づいて利用可能なエージェント、ツール、スキルをカタログ化する。ガバナンスチェックポイント:本番使用のためのアセットタイプの承認を確認し、監査証跡を維持する。セキュリティチェックポイント:承認前にプロンプトインジェクションなどの自動セキュリティチェックを適用する。重複排除セーフガード:他のチームがすでに維持している同等の機能を特定し、重複作業を回避する。このチェックは登録時に自動的に実行され、承認前に重複をフラグする。

第五の実践は、コード化を通じたスケーリングである。個々のエージェントの管理からエージェントフリートの統治へ移行するには、エージェントアーキテクチャをコード化する必要がある。TerraformやAWS CloudFormationなどのインフラストラクチャ・アズ・コードフレームワークを使用して、チームはエージェントをプロビジョニングおよび管理する……(以下ソーステキストは切り捨て)

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • ガバナンスは構造的かつフレームワーク非依存で、エージェントの推論ループ外の統合レイヤーで決定論的に適用されなければならない。
  • ステップごとの段階的信頼レベル(ヒューマン・イン・ザ・ループ、ヒューマン・オン・ザ・ループ、ガードレール内での自律)により、測定可能な評価データに基づいて自律性を段階的に高められる。
  • 可観測性にはインテント・トレーシング、CIとしての検証と評価、モデル・ティアリング・テレメトリが含まれ、初期設計から組み込む必要がある。
  • 3層のコンポジション階層(MCPツール、スキル、フロー)と集中レジストリにより、発見、重複排除、セキュリティチェック、設計による最小権限が可能になる。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。