洗車問題：なぜあなたのIT組織はAI生成コードに対応できていないのか

先週、私のAIデスクトップエージェントが自滅しました。原因はNVIDIAドライバのダウングレードで、古いドライバがエージェント自身のGPUアクセラレーション環境をサポートしなかったため、再起動後に画面が真っ黒になりました。これが「洗車問題」—エージェントが自身の動作条件を破壊する変更をシステムに加えること—の典型例です。この出来事はAIそのものの問題ではなく、反復的なAI駆動の変更を吸収するように設計されていないシステムに起こる現象です。

ジョン・オスターハウトが「少しのゆるみが複雑性を劇的に増大させる」と述べたように、AI支援開発はこれを法則にしました。エージェントは完璧な解決策を一つ書くのではなく、反復します。試行し、テストし、失敗し、調整し、再試行します。20回、30回、時には50回の反復を経て初めてプロダクション品質に達します。このパターンを「ハイパーループ」と呼びます。ベースラインを設定し、反復して解決策を見つけ、次の組み立て段階に昇格させるプロセスです。各段階でバンドル、テスト、昇格を行い、結果としてウォーターフォールというより粒子加速器のようなパイプラインが生まれます。重要なのは、このループはITを必要としないことです。企業の資産とデータ上で、従業員のラップトップと無料のAIアカウントで実行され、ますます認識されなくなっています。

エンタープライズITは過去30年間、生産手段を一元化してきました。開発、デプロイ、変更管理すべてがITを通ります。これは単一スレッドモデル—1つのレビューパイプライン、1つの承認チェーン、1つの管理セット—です。AIはそのモデルを破りました。ソフトウェアアーティファクトのソースはもはやITを通じた単一スレッドではなく、マルチスレッド化され、分散され、ほとんど制御できないエンドポイントマシン上で実行されています。問題はこれを止める方法ではありません—止められないし、試みるべきでもありません。問題は新しい現実に合った受け入れプロセスを構築する方法です。必要なのは「テストハーネス」—公式開発チーム、請負業者、またはプロンプトで動作するマイクロサービスを作り出したビジネスアナリストからのアーティファクトであっても、プロダクション意図とプロダクションデプロイの間に位置する追加の監査ループです。

この移行を経験する組織は同じ三つの壁に直面します。

1. セキュリティテレメトリと爆発半径の制御。ほとんどの企業のデフォルトのセキュリティ姿勢は、既知の開発者セットが既知のパイプラインを通じてコードを生成することを前提としています。誰でもデプロイ可能なアーティファクトを生成できるようになると、その前提は崩壊します。答えはフロントエンドのゲートを厳しくすることではなく、エッジでのより良い封じ込めです。テレメトリ分野の監視ソリューションで広角の可視性を確保し、サーバーレス関数でセーフティネットを提供します。目的は冒険的な従業員が何かを構築するのを防ぐことではなく、何かが壊れたときに爆発半径が数インチ単位になるようにすることです。

1. サプライチェーンの整合性。システムパッチ、依存関係の更新、ソフトウェアサプライチェーンセキュリティは、パイプラインに1つのエントリポイントがある場合でもすでに困難でした。今や、公開レジストリから未固定のバージョンや幻覚のパッケージ名を引き出すAI生成アーティファクトごとにその困難が倍増します。サプライチェーンはますます実行可能な攻撃ベクトルとなっています。ハイパーループ内で外部依存関係を引き出すループはすべて潜在的な妥協ポイントです。組織は、AI生成アーティファクトを証明されるまで高リスクとして扱う自動依存関係スキャン、アーティファクトレベルで強制される厳格な固定ポリシー、そして宣言されただけでなく実際に使用された依存関係を証明できる実行時アテステーションを必要とします。

1. FinOpsとトークンエコノミクス。コスト面は変わりました。トークンマキシング（過剰な推論を実行して解決策を力ずくで見つけること）は市場によって修正されつつありますが、修正は標準を生み出していません。代わりに、ルーティング、優先順位付け、支出管理ソリューションの急増を生み出しています。OpenRouter、Cloudflare AI Gatewayなど十数のソリューションが、AI生成作業の課金プレーンをめぐって競争しています。問題は、統一されたコストモデルがないと、各チームの実験がクレジットカードを使ったシャドーITになることです。答えは実験を禁止することではなく、実験を可視化し、発生源で予算化することです。

ハイパーループモデルはエンタープライズITにとって脅威ではありません。それはITが今後10年間に提供する最も重要な機能です。ITを単一の生産源から、分散型生産のための安全な運用環境の提供者へと移行することはすでに始まっています。これを成功裏に進める組織は、ビジネスが自己破壊せずにソフトウェアを生産できるようにするテストハーネス（監査ループ、受け入れゲート、ガードレール）を構築する組織です。代替の未来は、各チームが独自のループ、依存関係、コストモデル、セキュリティ姿勢を持ち、ITは何かが壊れたときだけそれを知るというものです。洗車問題は現実です。唯一の疑問は、AIエージェントが黒い画面に再起動する前に、あなたの組織がそれに対処するシステムを構築できるかどうかです。