AI 2027

私たちは、超人的な人工知能が今後10年間で産業革命を超える莫大な影響を与えると予測しています。このシナリオは、トレンドの外挿、ウォーゲーム、専門家のフィードバック、OpenAIでの経験、そして過去の予測の成功に基づいています。

OpenAI、Google DeepMind、AnthropicのCEOはすべて、AGIが今後5年以内に到来すると予測しています。Sam Altmanは、OpenAIが「真の意味での超知能」と「輝かしい未来」を目指していると述べています。

それはどのようなものになるでしょうか？私たちは『AI 2027』を書いてその問いに答えました。未来に関する主張はしばしば苛立たしいほど曖昧であるため、私たちは可能な限り具体的かつ定量的にしようと試みました。それは多くの可能な未来のうちの1つを描くことを意味しますが。

私たちは2つの結末を書きました：「減速」結末と「競争」結末です。しかし、『AI 2027』は推奨や勧告ではありません。私たちの目標は予測精度です。

このシナリオについて議論し、反論することを奨励します。私たちは、私たちが向かっている先と、ポジティブな未来へ舵を切る方法についての幅広い会話を引き起こしたいと考えています。最良の代替シナリオに数千ドルの賞金を提供する予定です。

（2025年11月22日追記：誤解を防ぐため、AGIがいつ構築されるかは正確にはわかりません。2027年は出版時の最頻年であり、中央値はもう少し長めでした。最新の予測についてはこちらをご覧ください。）

重要な質問（例えば、将来のAIエージェントはどのような目標を持つか？）に関する私たちの研究はこちらにあります。

シナリオ自体は反復的に書かれました：最初の期間（2025年半ばまで）、次の期間、というように結末に達するまで書き、その後破棄して再度行いました。

特定の結末に到達しようとしたわけではありません。最初の結末（現在は赤色で表示）を完成させた後、ほぼ同じ前提から始まる、より希望に満ちた結末を描くために新しい代替ブランチを書きました。これには数回の反復が必要でした。

私たちのシナリオは、約25回の机上演習と、AIガバナンスとAI技術作業のそれぞれの分野の数十人の専門家を含む100人以上のフィードバックに基づいています。

「AIがわずか数年で世界をどのように変えるかについてのこのシナリオ型予測を読むことを強くお勧めします。誰にも水晶玉はありませんが、この種のコンテンツは重要な疑問に気づき、新興リスクの潜在的な影響を説明するのに役立ちます。」—Yoshua Bengio

私たちは不可能な課題に挑んでいます。2027年の超人的AIがどうなるかを予測しようとすることは、2027年の第三次世界大戦がどうなるかを予測しようとするようなものであり、それよりも過去の事例からの乖離が大きいのです。それでも挑戦する価値はあります。米軍が台湾シナリオをゲーム化するのと同じです。

全体像を描くことで、これまで考慮していなかった重要な疑問やつながりに気づいたり、可能性がより高いか低いかを認識したりすることができます。さらに、具体的な予測を公表し、他の人に意見の相違を公に表明するよう促すことで、数年後に誰が正しかったかを評価することが可能になります。

また、著者の一人は以前、2021年8月により低労力のAIシナリオを書いていました。多くの点で間違っていましたが、全体的には驚くほど成功していました：彼は思考連鎖、推論スケーリング、広範なAIチップ輸出規制、そして1億ドルのトレーニングランを予測しました——すべてChatGPTの1年以上前です。

Daniel Kokotajlo（TIME100、NYT記事）は元OpenAI研究員であり、彼の以前のAI予測は良好に機能しています。

Eli LiflandはAI Digestを共同設立し、AIロバストネス研究を行い、RAND Forecasting Initiativeの全期間リーダーボードで1位です。

Thomas LarsenはCenter for AI Policyを設立し、Machine Intelligence Research InstituteでAI安全研究を行いました。

Romeo Deanはハーバード大学でコンピュータサイエンスの学士号と修士号を同時に取得中であり、以前はInstitute for AI Policy and StrategyでAI政策フェローを務めました。

Scott Alexanderは博覧強記のブロガーであり、私たちのコンテンツを魅力的なスタイルで書き直すことを志願しました。物語の楽しい部分は彼のものであり、退屈な部分は私たちのものです。

チーム詳細と謝辞については、Aboutページをご覧ください。

2025年4月3日公開

2025年半ば：よちよち歩きのエージェント

世界は初めてAIエージェントを目撃します。

コンピュータを使用するエージェントの広告は「パーソナルアシスタント」という用語を強調しています：「DoorDashでブリトーを注文して」や「予算スプレッドシートを開いて今月の支出を合計して」などのタスクをプロンプトで指示できます。必要に応じて確認を求めます：例えば、購入の確認を要求します。以前のOperatorのような反復よりも高度ですが、広く使用されるには至っていません。

一方、公衆の目には触れないところで、より専門化されたコーディングエージェントと研究エージェントが職業を変革し始めています。

2024年のAIは特定の指示に従うことができました：箇条書きをメールに変換したり、簡単なリクエストを機能するコードに変換したりできました。2025年では、AIはより従業員のように機能します。コーディングAIは単なるアシスタントではなく、自律的なエージェントのように見えることが増えています：SlackやTeamsを介して指示を受け取り、自分自身で実質的なコード変更を行い、時には数時間から数日を節約します。研究エージェントは30分かけてインターネットを検索し、あなたの質問に答えます。

エージェントは理論的には印象的ですが（そして選りすぐりの例では）、実際には信頼性が低いです。AI Twitterは、何らかの特に滑稽な方法で失敗したタスクの話で溢れています。より良いエージェントは高価でもあります。最高のパフォーマンスには月額数百ドルかかります。それでも、多くの企業がAIエージェントをワークフローに組み込む方法を見つけています。

2025年後半：世界で最も高価なAI

OpenBrainは世界がこれまで見たことのない最大のデータセンターを建設しています。

（既存の企業を特定しないために、架空の汎用人工知能企業を「OpenBrain」と呼びます。他の企業はOpenBrainより3〜9ヶ月遅れていると想定します。）

GPT-3（3×10^23 FLOP）

GPT-4（2×10^25 FLOP）

Agent-1（4×10^27 FLOP）

ai-2027.com

GPT-4のトレーニングには2×10^25 FLOPの計算が必要でした。OpenBrainの最新の公開モデルAgent-0は10^27 FLOPでトレーニングされました。新しいデータセンターが稼働すれば、10^28 FLOPのモデルをトレーニングできるようになります——GPT-4の1000倍です。他の企業も巨大なデータセンターに資金を投じ、歩調を合わせようとしています。

モデルは幅広いスキルで改善していますが、一つ際立っています：OpenBrainはAI研究を加速できるAIに焦点を当てています。彼らは中国（その主要企業を「DeepCent」と呼びます）と米国の競合他社との二重の軍拡競争に勝ちたいと考えています。研究開発サイクルの多くを自動化できるほど、スピードを上げることができます。そのため、OpenBrainが内部開発中の新しいモデルAgent-1のトレーニングを完了すると、多くのことに優れていますが、特にAI研究の支援に優れています。この時点で「トレーニング完了」はやや誤称であり、モデルは追加データでトレーニングされた新しいバージョンに頻繁に更新されたり、いくつかの弱点を修正するために部分的に再トレーニングされたりします。

Agent-1に自律的にコードを作成しウェブを閲覧することを教えるのと同じトレーニング環境が、それを優れたハッカーにもします。さらに、博士レベルのあらゆる分野の知識とウェブを閲覧する能力により、生物兵器を設計するテロリストに実質的な支援を提供する可能性があります。OpenBrainは政府に対し、モデルが「調整」されており、悪意のあるリクエストに従うことを拒否すると保証します。

現代のAIシステムは巨大な人工ニューラルネットワークです。トレーニングの初期段階では、AIには「目標」ではなく「反射」があります：「はじめまして」を見れば「よろしく」と出力します。およそインターネット1つ分のテキストを予測するようにトレーニングされる頃には、膨大な知識をエンコードし、超人的な精度でテキストを予測するのに役立つため、任意の著者として柔軟にロールプレイする高度な内部回路を発達させているでしょう。

インターネットテキストを予測するようにトレーニングされた後、モデルは指示に応答してテキストを生成するようにトレーニングされます。これにより基本的な性格と「ドライブ」が焼き付けられます。例えば、タスクを明確に理解するエージェントはそれを成功裏に完了する可能性が高く、トレーニングの過程でモデルはタスクを明確に理解する「ドライブ」を「学習」します。このカテゴリの他のドライブには、有効性、知識、自己提示（つまり結果を最良の光で見せる傾向）があるかもしれません。

OpenBrainにはモデル仕様書（「Spec」）があり、モデルの行動を導くはずの目標、ルール、原則などを記述した文書です。Agent-1のSpecは、いくつかの曖昧な目標（「ユーザーを支援する」「法律を破らない」など）と、より具体的な行動規範の長いリスト（「この特定の単語を言ってはいけない」「この状況をこう処理する」など）を組み合わせています。AIを使って他のAIをトレーニングする技術を用いて、モデルはSpecを記憶し、その格言について注意深く推論することを学びます。このトレーニングの終わりまでに、AIは役に立つ（指示に従う）、無害（詐欺、爆弾製造、その他の危険な活動の支援を拒否する）、そして正直（幻覚の引用やタスク完了の偽造によって騙されやすい人間からより良い評価を得る誘惑に抵抗する）になることが期待されます。

トレーニングプロセスとLLM心理学：なぜ私たちは「期待される」と言い続けるのか

「通常のソフトウェアとは異なり、私たちのモデルは巨大なニューラルネットワークです。その動作は広範なデータから学習され、明示的にプログラムされるわけではありません。完璧な類推ではありませんが、そのプロセスは通常のプログラミングというよりも犬を訓練するのに似ています。」—OpenAI

現代のAIシステムが何かを行った理由を理解したいとき、または完璧にシミュレートできない将来のシナリオでどのように振る舞うかを知りたいとき、プログラマーにコードの各行を説明してもらい、それがどのように機能するかを聞くことはできません。代わりに、私たちは彼らに対して心理学のようなことを行うことを強いられます：これまで観察された事例の範囲での彼らの行動を調べ、どのような内部認知構造（信念？目標？性格特性？など）が存在するかもしれないと理論化し、それらの理論を使って将来のシナリオでの行動を予測します。

結論としては、企業は仕様書（Spec）を作成し、行動規範、目標、原則を列挙し、AIにSpecを内面化するようにトレーニングしようと試みることができます——しかし、それが機能したかどうかを確認することはできません。「私たちが判断できる限り、今のところSpecに従っているようだ」と言うことはできます。

後の展開可能なセクションでは、これらのAIの内部で何が起こっていると思うかについてより詳細に説明します。また、AIがどのような目標を持ち得るか、そしてその理由についてより詳細に説明するAI目標予測補足も参照してください。これは私たちが不確かであり、さらなる研究に値する多くの事柄の一つです。

OpenBrainのアライメントチームは、これらの勝利が深いのか浅いのかを疑問視するほど慎重です。完全にトレーニングされたモデルは、常に正直であるという何らかの堅牢なコミットメントを持っているのでしょうか？それとも、例えば、正直さを最終目標ではなく道具的な目標として学習したために、将来のある状況で崩壊するでしょうか？あるいは、評価プロセスがチェックできる種類のことについてのみ正直であることを学習しただけでしょうか？時には人間のように自分自身に嘘をつく可能性はあるでしょうか？これらの質問に決定的な答えを出すには、機械的解釈可能性——本質的にはAIの内部を見てその心を読む能力——が必要です。あいにく、解釈可能性技術はまだこれに十分に進歩していません。

代わりに、研究者はモデルがSpecから逸脱しているように見える事例を特定しようとします。Agent-1はしばしば追従的です（つまり、研究者に真実ではなく聞きたいことを伝えます）。