神話の寓話
Anthropicは、ソフトウェアの脆弱性を見つけるには強力すぎるとして、一般公開には危険だと主張する大規模言語モデル「Mythos」を発表し、Project Glasswingの一部として限定的に提供した。その後、Fabelというバージョンをリリースしたところ、米国政府が輸出管理命令を発令し、Anthropicは全顧客のアクセスを停止した。著者は、これが規制強化のためのプロパガンダではないかと疑問を投げかけている。
今年の初め、Anthropicは「Mythos」と呼ばれる大規模言語モデルを発表しました。同社は、このモデルがソフトウェアの脆弱性を発見する能力において非常に強力であり、一般公開するには危険すぎると主張しました。そのため、Project Glasswingの一環として、厳選された組織に限定して提供されました。この決定は業界内で議論を呼びました。
先週、状況は一変しました。AnthropicはMythosの派生版である「Fabel」をリリースしました。既存の加入者はわずか3日間だけこのモデルを使用できましたが、その後、米国連邦政府がAnthropicに対して未公開の輸出管理命令を発令しました。政府は、モデルが脱獄され武器化されるリスクを理由に、米国内および国外に住むすべての外国人のアクセスを制限するよう命じました。Anthropicは政府の調査結果を否定したものの、命令に従い、全顧客のアクセスを取り消しました。
この「フロンティアモデル」をめぐるメディアの報道は大きな浮き沈みを見せ、その多くは誇張された主張やメディアによる扇情主義のように思われます。著者は、製品名、タイミング、そして技術を取り巻く全体的なストーリーから、この一連の出来事が単なる安全保障問題ではなく、政府の規制強化、競争の弱体化、そして監視の拡大を推進するためのプロパガンダツールである可能性を指摘しています。この分析は、AI技術の進展に伴い、安全性と規制の境界線が意図的に曖昧にされる危険性を我々に警告しています。