AIリーダーら、AI支援による生物兵器への保護強化を要求

AI業界の最大の競合他社の一部は、多くの対立を一時的に脇に置き、自社技術が生物兵器の開発に使用されるのを防ぐという共通の目的のために団結した。米国の議員に宛てた公開書簡で、ハイテク企業のリーダーたちは、世界的なパンデミックを引き起こす可能性があると彼らが警告する、憂慮すべきバイオセキュリティの隙間を埋めるための規則を議会が制定するよう求めている。

署名者にはAnthropicのDario Amodei、OpenAIのSam Altman、マイクロソフトのMustafa Suleymanが含まれており、オンラインで注文して実験室で組み立てることができる合成DNAとRNAを販売する企業に対し、危険な病原体の製造に使用される可能性のある配列について購入をスクリーニングすることを義務付けるよう米国の議員に求めている。懸念されるのは、AIツールによって潜在的に危険な配列の設計が容易になり、メーカーに注文し、以前はより専門的な知識を必要とした方法で使用できるようになることだ。

他の署名者には、MetaのAI責任者Alexandr Wangや、AIベースのタンパク質予測の業績で2024年のノーベル化学賞を受賞したGoogle DeepMindのDemis Hassabisが含まれる。この書簡には、著名な科学者、国家安全保障と政策の専門家、そして合成遺伝物質の主要販売元であるTwist BioscienceやAnsa Biotechnologiesなどのバイオテクノロジー企業の幹部も署名した。この書簡は、2つのシンクタンク、Foundation for American InnovationとInstitute for Progressによって組織されたと報じられている。

科学者たちは長年、合成生物学の進歩により、科学者が危険な生物を操作したり、長い間絶滅した病原体を復活させたりすることが容易になる可能性があると警告してきた。これらの作業は、誤用されたり、誤った取り扱いを受けたり、事故で放出されたりすると壊滅的な被害をもたらす可能性がある。しかしこれまでは、その力は高度な実験室、設備、リソースにアクセスできる熟練した科学者の手にほぼ独占されていた。現在懸念されているのは、生物学的ツールがより安価で入手しやすくなり、AIモデルがより高性能になるにつれて、悪用を防ぐ障壁が崩れ始めていることだ。専門家はまた、AIが化学兵器などの他の脅威の生成を助ける可能性もあると警告している。

書簡は、合成DNAとRNAの最大手プロバイダーの多くがすでに注文のスクリーニングを自主的に行っていることを認めているが、それは義務的なものではなく任意である。また、初期スクリーニングをすり抜けた脅威を追跡するために、すべての注文の詳細な記録を保持すべきだとしている。

「基盤となる技術の変化の速度を考えると、緊急性は高いと考えます」と書簡は述べている。「これは、しばしば対立するステークホルダー間での稀な合意の瞬間です。政策立案者が断固たる行動で応えてくれることを期待しています。」