医療における実験から臨床グレードAIへ

長年、エンタープライズAI戦略は、モデルが十分に良くなれば採用が続くという単純な仮定に基づいていました。しかし、その仮定は今、試され、失敗しています。モデルの能力はほとんどの指標で達成されましたが、自律システムが企業内で安全に運用できるようにするためのインフラストラクチャ、セキュリティ態勢、ワークフローアーキテクチャはまだ整っていません。

このギャップの明確な兆候の一つは連邦政府自体から来ています。NISTが2026年1月にAIエージェントセキュリティに関する正式な情報提供依頼（RFI）を発表したとき、2026年3月9日の締切までに932件の公開コメントが寄せられました。これは、実務者が現在のフレームワークでは対処されていない問題に緊急に取り組んでいることを反映する異例の回答数です。NIST自身の評価は率直です。自律エージェントは、コードの作成と実行、数十の統合サービスにわたるツール呼び出しの連鎖を行っているにもかかわらず、従来のソフトウェアを管理するアイデンティティ管理インフラ、アクセス制御、監査メカニズムなしで本番環境に埋め込まれています。

この懸念の根底にあるセキュリティデータは驚くべきものです。NISTの内部研究で参照された2025年初頭のレッドチーム演習では、AIエージェントに対する新たな攻撃戦略が81%の確率で成功しました。この失敗率は、基盤となるモデルの推論能力とは無関係です。

医療はワークフロー側の問題を最も鋭く示しています。HHSの国家医療ITコーディネーター室に提出された正式なコメントは、データ準備、相互運用性、ライフサイクル監視、監査可能性に関連する能力が、患者、臨床医、医療機関を保護しながらAIの潜在能力を実現するための基盤であり、特に医療機器として規制されずに診療に影響を与える文書化や運用ワークフローに埋め込まれたAIにとって重要であると主張しています。

すべてのソースにわたるパターンは同一です。ボトルネックは知能ではなく、準備態勢です。

Wolters Kluwerのヘルス部門SVP兼CTOであるAlex Tyrrellは、EmerjのAI in BusinessポッドキャストでMatthew DeMelloとともに、エージェンティックAIの成功が今やモデル性能の向上ではなく、エンタープライズインフラ、セキュリティ態勢、ワークフローアーキテクチャの近代化に依存している理由を説明しました。

この記事では、エージェンティックAIの採用がモデル能力ではなくエンタープライズの準備態勢によって制約されている理由を明確にする3つの洞察を検討します。

インフラ準備態勢がゲート要因

Alexは、自律システムはモデルが弱いから失敗するのではなく、エンタープライズスタックが人間のペースで画面ベースのワークフロー用に構築されているから失敗すると指摘します。エージェンティックAIはその摩擦を排除し、以前は隠れていたアーキテクチャの弱点を露呈します。最大の制約はイノベーションへの欲求ではなく、技術的負債です。モノリシックアプリケーション、脆弱なAPI、粗い権限、人間のオペレーター向けに設計された運用ツール。エージェントが機械速度でタスクを実行し始めると、これらの弱点はシステム全体の障害になります。

彼は、エージェントを規制されたワークフローに安全に展開する前に企業が取るべき実用的なステップを強調します。モノリシックをモジュール化して観測可能なコンポーネントに分解する、APIを細粒度で最小特権アクセスに再設計する、機械駆動のトラフィックスパイクに備える、観測可能性と監視を近代化する、エージェントのためのアイデンティティとアクセス制御を強化する。これらが彼の中核的議論を形成します。

ドメイン適応推論がエージェント性能のエンジン

Alexは、企業はエージェントが確実に動作するために必要なドメイン適応の量を一貫して過小評価していると主張します。既成のモデルは単なる出発点です。実際のワークフローに入ると、監督付き指示、ファインチューニング、低ランク適応、動的思考連鎖を通じて、訓練を受けた専門家の推論パターンを反映するまで再形成されなければなりません。これが企業の真の差別化が存在する場所です。

彼は、適応プロセスがモデルを根本的に変える方法を説明します。「基礎的なフロンティアモデルから始めるかもしれませんが、それをドメイン適応させます…そして、それは棚から取り出したものとは見えなくなります。より良くなり、おそらくこれを複数回行うことになるでしょう。」エージェントワークフローの性質上、タスクを推論ユニットに分解する必要があり、場合によっては人間よりも細かく、他の場合には複数の人間のステップを一つにまとめます。適応プロセスはモデルにそれらの決定方法を教えます。

自律セキュリティ態勢が新たなエンタープライズ要件

Alexの最後のテーマは、エージェントが規制環境内で行動し始めると、セキュリティの前提が変わると述べています。攻撃表面が拡大し、アイデンティティモデルが変わり、コンプライアンスフレームワークは機械駆動の行動を説明するために進化しなければなりません。セキュリティはもはや補完的な関心事ではなく、エージェントが実験から本番に移行するときに企業が直面する最初の制約です。アイデンティティ、権限、監査可能性、観測可能性はすべて、自律的なアクターのために再構築されなければなりません。

さらに、脅威アクターも同じ生成能力の恩恵を受けており、攻撃の検出が難しく、拡張性が高く、適応性が高まっています。これにより、企業はエージェントのアイデンティティ検証、エージェント間通信の監視、HIPAA、SOC 2、ISOなどのフレームワーク下でのコンプライアンス維持を再考せざるを得ません。

Alexの最も鋭い観察は、エージェントが人間のクリックを置き換えると、従来の運用シグナルがどのように崩壊するかを説明するときに現れます。「スパイクはどこから来たのか？このエラーはどこから来たのか？観測可能性、監視—それは課題であり、適応しなければなりません。」

結論として、実験から臨床グレードのAIへの移行には、企業がインフラの近代化、ドメイン適応推論、自律セキュリティ態勢を優先することが必要です。これらの要素が整って初めて、AIは概念実証から安全で信頼性の高い臨床応用へと進むことができます。