信頼モデルが反転しつつある

ソフトウェアセキュリティの信頼モデルは、根本的な転換点を迎えている。長年にわたり、人間が書いたコードは、その背後にある人間の判断連鎖——開発者が書き、同僚がレビューし、上級エンジニアが承認する——によって安全とみなされてきた。しかし、AIコードレビューツールの能力が飛躍的に向上したことで、その前提は揺らぎ始めている。AnthropicのClaude MythosがMozilla Firefoxで示した成果は、この変化を如実に物語る。Mythosは単一の評価サイクルで271件の脆弱性を発見した。対照的に、以前の最先端AIモデルであるOpus 4.6が発見したのはわずか22件だった。Firefoxは、長年にわたるファジング、サンドボックス化、メモリ安全性の取り組み、内部セキュリティチーム、バグ報奨金プログラムを備えた、最もセキュアなオープンソースコードベースの一つである。それでもなお、AIは人間のチームが見逃していた脆弱性を大量に表面化させた。これは漸進的な改善ではなく、能力の次元が異なる飛躍である。

信頼のアンカーが移動するとはどういうことか。人間がコードを信頼していたのは、人間が完璧だからではない。ソフトウェアを適切な抽象度で生成し理解できる唯一の存在だったからだ。脆弱性は、作者の意図と実際の動作とのギャップに存在する。人間のセキュリティ研究者は、この両方の視点を持ち、乖離を見つけることに長けている。Mythosが行っているのは、この研究ループを機械規模で実行することだ。コードを読み、仮説を立て、ツールを使い、テストケースを生成し、問題を再現し、説明する。GoogleのProject Naptime、OpenAIのCodex Security、DARPAのAI Cyber Challengeも同様の方向性を示している。AIはコードを生成するだけでなく、コードを尋問する存在になりつつある。モデルが人間よりも効果的にコードを尋問できるようになれば、信頼の基準は「良いエンジニアが書いたか」から「この実装は敵対的な機械規模の精査に耐えたか」へと変わる。

人間が書いたコードの信頼モデルは、認知的限界に依存している。レビュアーがワーキングメモリに保持できるエッジケースの数、セキュリティチームが一つのコードベースに投入できる時間、スプリント内で生成できる攻撃仮説の数には限界がある。一方、AI駆動のレビューは、敵対的な分析を機械規模で実行し、数百の攻撃経路を低コストでシミュレートできる。Anthropicの報告によれば、非専門家でもMythosを使えば主要なOSやブラウザの脆弱性を発見できるため、攻撃者の数は少数のエリートから数千人の初心者へと激増する可能性がある。AIレビューによる信頼の向上は、コード生成によるものではない。AIが生成したコードには、幻覚や安全でないデフォルトなどの問題が依然として存在する。信頼の向上は、実装に対する網羅的な敵対的探索によってもたらされる。将来の安全証明書は「優秀なエンジニアが書いた」ではなく「この実装は機械規模の敵対的レビューに耐え、発見された問題はすべて対処された」となるだろう。

この変化は、ソフトウェア工学で繰り返されてきた抽象化レイヤーの上昇を反映している。アセンブリ言語からコンパイラへ、手動メモリ管理からガベージコレクションへ、オンプレミスからクラウドへ——人間の役割は常に上位の抽象化レイヤーへと移行してきた。セキュリティも今、その転換点にある。人間はソフトウェアの意味を定義する——製品の意図を明確な仕様に変換し、検証可能な境界を設計し、権限の漏洩を最小化する——一方で、実装レイヤー（セキュリティレビューを含む）は機械に委ねられる。これにより、エンジニアの価値はコードを書くことから、安全に実装可能なシステムを定義することへと変化する。ツールRemyはこの方向性を体現している。開発者が仕様を書き、Remyがそれをフルスタックアプリケーションにコンパイルする。コードは派生物であり、仕様が真実の源となる。信頼モデルの反転は遠い未来の話ではなく、今まさに起こりつつある。チームは戦略を適応させるべきだ：主任エンジニアのレビュー役割をコードレベルから意図レベルへと移行し、AIレビューをビルドプロセスに統合して、増大する攻撃面に対処する準備を始める必要がある。