エンタープライズAI：ミステリーミート、キルゾーン、認知降伏、バイブ爆弾

エンタープライズAIプロジェクトの高い失敗率は、システムアーキテクチャと設計の根本的な欠陥、むしろ設計の欠如に起因することが、取締役会で理解されつつあります。ほとんどの組織は、AIシステムを最適化するために特別に設計されたエンタープライズ全体のアーキテクチャを欠いており、この欠陥により、LLMチャットボットの退行的影響に対して脆弱になり、経営陣の注意をより重要な機能からそらします。さらに、従業員は業務成果物にコンシューマーグレードのチャットボットを使い続けており、機密情報の不正開示につながり、組織の将来を危険にさらしています。今月の議論は、強固なガバナンスなしにLLMチャットボットを広範に展開することに伴うエスカレートするリスクに焦点を当てています。

「バイブコーディング」の後遺症

2025年初頭にAI研究者のAndrej Karpathyが作り出した「バイブコーディング」とは、大規模言語モデル（LLM）チャットボットに自然言語でのみプロンプトを送り、アプリケーションを生成するソフトウェア開発手法を指します。この方法は機能的なプロトタイプや小規模な趣味のアプリケーションを作成するには非常に迅速ですが、エンタープライズアーキテクチャに適用すると大きな失敗につながる可能性があります。

開発者が基礎的なアーキテクトとして機能するのではなく、コード生成をLLMチャットボットに依存する場合、その結果は業界で「ミステリーミート」コードベースと呼ばれるものになります。その結果はますます深刻になっています。LLMの本質的な長期アーキテクチャ記憶の欠如により、単一の欠陥を修正しようとすると、しばしば他の場所に複数の新しいエラーが発生します。Stack Overflowの2025年開発者調査（49,000人以上）では、66%が「ほぼ正しい」AI生成コードに苦戦しており、45%がAI生成コードのデバッグに自分で書くよりも時間がかかると報告しています。METRによるランダム化比較試験では、経験豊富な開発者はAIツールを使用すると実際には19%遅くなることが判明しました（ただし、20%速くなったと感じていたにもかかわらず）。認知降伏の問題（後述）は、本番ソフトウェア開発ですでに測定可能です。

LLMで開発された自動化ツールは、しばしば安全でないロジックを生成し、未検証のサードパーティ依存関係を組み込み、ハードコードされたシークレットや過度に寛容なデフォルト設定をアプリケーションに直接埋め込みます。Veracodeの2025年GenAIコードセキュリティレポートでは、AI生成コードの約45%に悪用可能な脆弱性が含まれ、クロスサイトスクリプティングの障害が関連コードサンプルの86%に現れていることがわかりました。2025年12月のCodeRabbitによる470のオープンソースプルリクエストの分析では、AI共同作成コードには人間が書いたコードの約1.7倍の主要な問題が含まれ、セキュリティ脆弱性は2.74倍の頻度で発生していました。

その結果、企業は知らないうちに「バイブ爆弾」と呼ばれるものを導入されており、将来の予測不可能な日時に爆発するよう仕組まれています。圧倒的多数のケースで、人間のエンジニアによるコードレビューは行われていません。

バイブ爆弾 LLMチャットボットが自然言語プロンプトに応答して生成した欠陥のあるソフトウェアによって引き起こされる、エンタープライズネットワークへのランダムに遅延された侵害。