自律型AIシステム、物理環境でのガバナンスを試す

自律型AIシステムはソフトウェア環境を超え、倉庫、配送ネットワーク、公共空間へと拡大し始めており、物理環境で動作するシステムに現在のAIルールが適用可能かどうかが注目されている。既存のAIガバナンス枠組みの大半は、バイアス、誤情報、有害なコンテンツなど、オンライン上の危害やモデル出力に焦点を当ててきた。しかし、具現化されたAIシステムは物理環境において、インフラ、財産、人の安全に影響を及ぼすリスクを伴う。

シンガポール情報通信メディア開発庁（IMDA）は5月20日、エージェンティックAI向けのモデルAIガバナンス枠組みバージョン1.5を公開した。この枠組みは、ユーザー定義の目標を達成するために複数のステップにわたって計画、意思決定、行動を実行できるAIエージェントを展開する組織向けのガイダンスを提供する。枠組みは、エージェントがツール、外部システム、他のエージェントと対話できるとし、データベースの更新、ファイルの書き込み、デバイスの制御、トランザクションの実行などを例示。アクセス制御、監視、人間による承認を展開時のガバナンス措置として挙げている。

先週シンガポールで開催されたAIサミットでは、ロボティクスと具現化AIに関する議論が、従来のソフトウェア規制よりも航空、産業システム、重要インフラの監視に一般的に関連する運用上の安全性の問題に焦点を当てた。清華大学AI産業研究院の創設ディーンであるYa-Qin Zhang博士は、具現化AIシステムは自律ソフトウェアにすでに関連するリスクを増幅させると述べた。彼は、デジタル領域のリスクは物理領域で増幅され、物理的結果をもたらすと指摘した。

Grabはシンガポールのポンゴル地区で自動運転車両と配送ロボットを試験運用しており、展開ガバナンスはシミュレーション、テスト、継続的監視に大きく依存していると述べた。最高技術責任者のSuthen Thomas Paradatheth氏は、「私たちは多くのシミュレーションを行い、閉鎖コースやオープンコースで多くのテストを実施し、ロボットの信頼性を確保している」と語った。また、「数百台のロボットに拡大する前に、シミュレーションと少数のロボットでまず問題を解決する」と付け加えた。

MLexは、具現化AIシステムには開発、製造、展開にわたって複数の当事者が関与する可能性があると報じた。これにはAI開発者、ロボット製造業者、半導体サプライヤー、インフラ事業者が含まれる。システムがソフトウェア更新、テレメトリー、運用データを通じて展開後も適応し続ける場合、責任の所在はより困難になる。IMDAは、エージェントが自律的に動作する場合でも、組織と人間はエージェントの行動に対して責任を負うと述べている。

日本では、日経リサーチが5月1日から15日にかけて実施したロイター調査によると、企業の3分の1がAI搭載ロボットをすでに使用しているか、または使用を検討している。製造業が主要なユースケースであり、71％を占めた。日本政府はAIロボットが慢性的な労働力不足に対処し、産業用ロボット分野での地位を強化することを期待している。

シンガポールの枠組みは、エージェンティックAIに関する4つのガバナンス領域を設定している：事前リスク評価、人間の説明責任、技術的統制、エンドユーザーの責任。枠組みは、大規模な場合にすべてのワークフローの継続的なレビューが非現実的になるため、人間による監視はエージェントシステムに適応させる必要があると述べている。高リスクのアクション、不可逆的なアクション、異常な行動など、重要なチェックポイントでの人間の承認を推奨している。

全体として、自律型AIシステムの物理世界への展開は理論から実践へと移行しており、ガバナンス枠組みも進化している。組織はイノベーションと安全性のバランスをとり、シミュレーション、段階的展開、継続的監視を通じて未知のリスクに対処する必要がある。責任配分と技術基準の確立が将来の重要な課題となるだろう。