AIが心配？それなら、もっとAIをどうぞ

先月、Anthropicは未リリースのAIモデルMythosを予告した。同社は、このモデルがオペレーティングシステム、ウェブブラウザ、産業用ソフトウェア、医療プラットフォームなど、あらゆるもののセキュリティ脆弱性を発見し悪用するのに異常に優れていると警告した。このニュースは企業界に衝撃を与え、政府関係者も警戒を強めた。現在、Mythosへのアクセスは信頼できるパートナーに限定されているが、専門家は、より安価で広く利用可能で、保護策の少ない同様のモデルが数ヶ月後には登場すると懸念している。これにより、無数の価値ある重要なコンピュータシステムが、新たに力を得た多作なハッカーの格好の標的となるサイバーセキュリティの悪夢シナリオが現実化する可能性がある。Anthropicはその時、悪いニュースとして、Mythosのようなツールの登場はサイバーセキュリティに「 tumultuous 」な期間をもたらすかもしれないと述べた。良いニュースとして、彼らは「セキュリティツールは歴史的に攻撃者よりも防御者に利益をもたらしてきた」とし、「同じことがここでも最終的に当てはまるだろう」と示唆した。つまり、Mythosは恐ろしいが、心配するな。Mythosは助けになるというのだ。

Anthropicの発表直後、OpenAIも独自のモデル更新をリリースした。多くの指標で、同様に新しいハッキング手法を発見し実用化できるものだった。同社のリーダーたちも、「誰もが依存するデジタルインフラストラクチャにおいて、問題をより迅速に発見し修正できるようにする」ことで「防御者」を強化する取り組みについて語った。限定されたパートナーにMythosを提供したAnthropicとはやや対照的に、OpenAIはより販売促進に近い形を取った。同社は今週、AIサイバーセキュリティの終末を生き残る最良の方法は、AIによるサイバー防御に投資することだと示唆した。そしてそれは彼らが提供できるものなのである。

このケースではリスクが異常に明白かつ明確に定義されているかもしれないが、そのダイナミクスはおなじみのものだ。AIモデルがより高性能になり、より多くの人々が利用できるようになるにつれ、それらはさらなるAIでのみ緩和できる問題を生み出してきた。2023年には、AIによって生成された冗長で過剰なメールは、AIによる要約を必要とすることは明らかだった。現在、AI導入が奨励されている職場では、従業員は新しいツールを使用して、大量の「ワークスロップ」を処理している。合成画像や動画で満たされたインターネットは、新しいAI駆動の認証ツールを必要とする。AIエージェントを使って追跡できないほどのコードを生成するプログラマーは、AIエージェントを使ってそれを監査している。安価なAIコンテンツは検索エンジンを圧倒し、その問題はAIを使って検索エンジンを要約ツールに変えることで対処できる。これが新しい「エージェンティック」オンライン経済の基本的な売り込みだ。消費者側でより高性能なAIエージェントが台頭すれば、企業側でもAIエージェントの使用が必要になり、その逆も同様である。

これは陰謀でも、この技術の波に特有のものでもない。新しいテクノロジーはしばしば、経済全体に分散されるか、新しく急速に成長する産業内に大部分が封じ込められる、新規で予期せぬ、そして豊富な労働や物資の需要を生み出す。関連する例として、パソコンの普及はハッカーに巨大な攻撃面をもたらし、その結果、多くの人々がサイバーセキュリティに従事し、大量のアンチウイルスソフトウェアが販売された。より広く言えば、インターネット時代において、サイバーセキュリティは多くの種類の大企業や機関が社内および外部委託の両方で扱うものに成長した。ソフトウェアはさらなるソフトウェアを生み出し、いくつかの仕事を排除し、他の仕事を変え、膨大な新しい仕事のカテゴリーを創り出した。

AIに関するもう一つの大きな懸念である雇用喪失については、このような先例は、ホワイトカラーの仕事が消え去るという話よりも、より慰めとなる物語を語っている。技術関係者が最近ジェボンズのパラドックスをよく口にするのを聞いたことがあるだろう。より効率的な蒸気機関は石炭の需要を減らすどころか増やした。より効率的な電球はエネルギー需要の減少にはつながらず、むしろより多くの灯りを使うことになった。より効率的なソフトウェア開発は、開発者の需要の崩壊ではなく、はるかに広範な目的のためのソフトウェアの大幅な増加をもたらす、という考え方だ。同様に、より敵対的ではあるが、ハッカーがより効率的になれば、実現可能で経済的な標的のリストは劇的に拡大する。同時に、サイバー防御はよりアクセスしやすくなり、この拡大されたリスト上の標的は、突然、新たなサイバーセキュリティのニーズを満たすための新しいサービスを必要とするようになる。この期間中、「攻撃者」と「防御者」のどちらが優勢になるか、そしてそれがどれだけ続くかは、未解決の問題である。しかし、この比較的楽観的な物語によれば、AIサイバーセキュリティの終末とそれに対する経済の対応は、その過程で膨大な需要とおそらく新しい種類の人間の仕事を生み出す可能性がある。

ところが、2026年にこの種の技術楽観主義を維持するのが難しくなっているのは、現時点では、ごく少数の非常に大規模な企業が、その上昇のすべてを獲得する立場にあるように見えるからだ。フロンティアモデルは確かに予期せぬ豊富な新サービスの需要を生み出しているが、それらはまさにフロンティアラボが最も提供しやすいサービスである（最近のトレンドとして、AI企業が社内コンサルタント部門を立ち上げ、AI導入に苦戦するクライアント企業に「前線配備エンジニア」を派遣し、予期せぬ新しい仕事を生み出しながらも社内に留めている）。これは、実質的に5社からなる新たな「産業」の結果であり、そのうち3社は信頼できるフロンティアに近く、そのすべてが—既存のテクノロジー大手（Google、Meta）、新興企業（OpenAI、Anthropic）、または個人化されたビジネスコングロマリットの一部（SpaceXAI）—何らかの形で、兆ドル規模の企業である。これらの企業は、経済の広大なセクターを再構築すると同時に、高度に可視的な垂直統合プロセスを構築している。理想的ではない！

AI企業にとってはすべてうまく聞こえる。もし物事がこのように進むなら（極めて若く、予測不可能で投機的な産業では確実とはほど遠いが）、それは前例のない設備投資と負債の下から抜け出す少なくとも一つの可能な道筋を示している。他のすべての人にとって、このルーチンは少し息苦しくなり始めている。新しいAI能力が登場し、既存のシステムを無用に飽和させるか、すでに脆弱なサイバーセキュリティの均衡を急速に破壊すると脅かす。これらの結果に対処する唯一の方法は、AIで修正することであり、そしてAIはますます高価になっている。数多くの世論調査で、国民は狭く制御され、攻撃的に展開されているように見えるテクノロジーについて不安と懸念を表明している。現在、できるだけ早くAIを採用する競争をしているアメリカ産業も、同様に閉じ込められ始めていると感じるかもしれない。