世界の銀行がAnthropicの最新AIモデルを懸念する理由

伝説的なアメリカの銀行強盗ウィリー・サットンは、「そこにお金があるから」銀行を襲った。今や、人工知能（AI）が新たな「強盗役」になるかもしれない。Anthropicの最新AIモデル「Mythos」は、内部テストで主要なオペレーティングシステムやウェブブラウザ全体にわたって数千もの深刻なセキュリティ脆弱性を発見した。その多くは数十年も気づかれていなかった「ゼロデイ脆弱性」である。

金融業界の懸念は、Anthropicが開発したこの強力なAIモデルのサイバー能力に基づいている。一般の人は現時点ではこのモデルにアクセスできない。AnthropicはMythosが「あまりにも有能すぎる」ため、無防備な世界に公開すべきではないと考えているからだ。Mythosの内部テストでは、すべての主要OSとブラウザにわたって数千の深刻な脆弱性が明らかになった。

この新たな脅威に対抗するため、AnthropicはMicrosoft、Amazon Web Services、Apple、Cisco、Linux Foundationを含む防御連合の12のパートナーにモデルへのアクセスを提供した。また、脆弱性の発見と修正のために1億米ドル（約1.4億豪ドル）の使用クレジットと400万米ドル（約560万豪ドル）のオープンソース助成金を拠出することを約束した。さらに、米国の複数の銀行を含む40以上の組織もアクセスを獲得した。しかし、懸念すべきことに、オーストラリア、英国、欧州の銀行にはまだアクセスが許可されていない。さらに水曜日、Anthropicは、少数の不正ユーザーがMythosにアクセスした可能性があるというブルームバーグの報道を調査していることを認めたが、現時点では悪意のある目的であったという示唆はない。

先週、ワシントンで開催された国際通貨基金の春季会議には世界中の規制当局や政策立案者が集まり、イラン戦争が主要議題であったが、参加者は銀行業界に対するこの新たなサイバーセキュリティ脅威について一連の警告を発した。銀行は「お金がある場所」として魅力的な標的であるだけでなく、業界は何十年も前のレガシーシステムで動いており、特にこれらの攻撃に対して脆弱である。

個人が過度に心配する必要はない。多くの国には強力な預金保護制度がある。例えばオーストラリアでは、政府保証の金融請求スキームにより、顧客の預金の最初の25万豪ドルが保険で保護されている。また、オーストラリア証券投資委員会は、銀行が詐欺取引を調査し、顧客に過失がない場合は補償することを義務付けている。したがって、現金を引き出してマットレスの下に隠すのは賢明ではないかもしれない。しかし銀行はこれらの脆弱性を塞ぐために急いでいる（そして実際に取り組んでいる）。

ユーザーは定期的にコンピュータやスマートフォンを更新し、最新のOSと銀行アプリを利用することをお勧めする。新しい脆弱性が発見され修正されるにつれて、近い将来さらに多くのアップデートが行われるだろう。また、銀行の認証情報を入手しようとするフィッシング攻撃（メールやSMS）に常に警戒する必要がある。

長期的には、Mythosは防御が攻撃よりもはるかに難しいという課題を浮き彫りにしている。ソフトウェアは人類が構築する最も複雑な製品の一つであり、バグがないことを保証することはほぼ不可能である。そのため、悪用される前に欠陥を発見して修正するという「悪者」との終わりのない競争に直面している。例えば、EUは年齢確認アプリを大きな華々しさでリリースしたが、数時間以内にセキュリティ専門家が未成年者に悪用される可能性のある脆弱性を発見した。最も重要な場面では、ソフトウェアにバグがないことを数学的に証明しようと試みることができる。例えば、Beneficial AI Foundationは、人気のメッセージアプリSignalが主張通りバグがなくプライバシーを保護することを証明する野心的な「ムーンショット」プロジェクトを発表した。しかし、そのような努力は今日では例外であり、標準ではない。おそらくAIのさらなる進歩がすぐにこの状況を逆転させる助けとなるかもしれない。