変革的AIに関する個人的な手紙

人工知能（AI）の進歩は想像を超える速さで進んでおり、今後数年で人類社会のあらゆる側面を根本から変える可能性があります。これは、Coefficient Givingのグローバルカタストロフィックリスク担当副ディレクターであるGeorge Rosenfeld氏が、家族や友人に宛てた個人的な手紙で述べた核心的な見解です。同氏は「変革的AIをナビゲートする」プログラムを担当し、AIがもたらす極端なシナリオについて考え、世界の準備を支援しています。

Rosenfeld氏は、これらのアイデアがSFのように聞こえることを認めています。AIシステムが人間のあらゆるタスクで人間を上回り、科学的進歩が数ヶ月で数十年分の進展を遂げ、さらには人類が世界の主導権を失う可能性さえあります。こうしたシナリオは主流意見ではありませんが、同氏は長年にわたり懐疑的だったものの、過去2年間で自身の保守的な予測がAIの実際の進歩に一貫して裏切られ、これらの可能性が現実味を帯びてきていると述べています。

AIが従来の技術と根本的に異なる点は、かつて人間だけのものだったオープンエンドな思考を含む、あらゆる人間の仕事を自動化できる可能性があることです。これは単なる失業問題ではなく、人間の労働が科学や経済の進歩のボトルネックではなくなることを意味します。超人的なAIが出現すれば、数百年分の進歩が数年で圧縮され、その変化の規模は1500年から現在までの変革に匹敵するものの、適応する時間ははるかに短くなります。

現在、AIの能力は急速に向上しています。2022年のChatGPTは簡単な会話ができる程度でしたが、2024年には司法試験に合格し、国際数学オリンピックで銀メダルを獲得（2025年には金メダル）。2026年初頭には、AIエージェントが熟練プログラマーが数時間かかるソフトウェアプロジェクトを自律的に完了できるようになりました。METRの測定によると、AIシステムのタイムホライズン（人間の専門家が同じタスクを完了するのにかかる時間で測った自律性の指標）は2019年から2025年まで約7ヶ月ごとに倍増し、最近では4ヶ月ごとに倍増している可能性があります。

投資データもこの傾向を裏付けています。AI企業Anthropicの年間収益は2023年末の1億ドルから2025年末には90億ドルに急増し、2026年には上位5大テクノロジー企業がAIインフラに6000億ドル以上を投じると見られています。これはアポロ計画の総費用（インフレ調整後で約2500億ドル）の2倍以上に相当します。これらの数字はAIが確実に経済を変革することを証明するものではありませんが、能力向上の傾向と合わせると、AIの進歩が間もなく壁にぶつかるか、世界経済の原動力となるかのいずれかであることを示しています。

Rosenfeld氏は、元同僚のAjeya Cotra氏の予測を特に引用しています。Cotra氏は2026年末までにAIが24時間分のソフトウェアエンジニアリングタスクを完了できると予測していましたが、現在では100時間を超え、上限がない可能性があると考えています。Cotra氏は、2030年代初頭にはAIがあらゆるコンピュータベースのタスクで世界最高の人間専門家を凌駕し、肉体労働の自動化も数年以内に続く可能性があると見ています。

不確実性は大きいものの、Rosenfeld氏は世界が歴史の転換点に立っていると確信しています。彼はこの手紙を通じて、より多くの人々がAIの可能性と課題について議論し、来たる変革に備えることを願っています。