AI #176 パート2：プランB
Zvi Mowshowitz のウィークリーAI評論第176回パート2では、トランプ政権による非公式かつ場当たり的なAI規制、Epoch AI のダイソン球タイムラインへの批判、Wired のファクトチェック報道の誤り、そして AI/AGI/ASI という「3つのピル」の枠組みを論じている。
これは Zvi Mowshowitz による週刊 AI 評論の第176号パート2で、2026年7月10日付。AI の憶測、レトリック、政策、アラインメント研究を幅広く扱う。冒頭で著者は、今回の記事では GPT-5.6-Sol のリリースを取り上げないと説明している。新モデルを数日間試し、他の反応を見てから来週初めに詳しく報じる予定だという。また、『AI 2027』の続編である『Plan A』の刊行も詳細には扱わないが、著者はこのポジティブな未来像を真剣に読む価値があると述べ、スコット・アレクサンダーによる序文と正当化にも言及している。
ホワイトハウスを離れる AI 顧問スリラム・クリシュナン氏は、トランプ大統領が AI の正式なライセンス制度を決して支持しないと『フィナンシャル・タイムズ』に語った。同氏は「この政権は初日から重い官僚主義に反対してきた」「勝者と敗者を選ぶ仕事はしない」と述べている。Zvi はこれが本当なら、「ガードレールを設ける」などの完全に場当たり的な制度が続き、勝者敗者は政権の気まぐれで決まることを意味すると指摘。中央集権的な機関がモデル公開に弁護士チームを要求すれば AI 革命に「歯止め」をかけるというクリシュナンの発言にも触れ、透明性もなく恣意的な権力プロセスが残るだけだと皮肉った。同氏が大手 AI 企業から株式を事実上強要する仕組みを支持していることにも言及。将来の民主党政権が輸出規制の先例を悪用する可能性については「未来の政府は考えない」と答えたが、Zvi はこれこそが問題の一端だと述べている。
タイラー・コーエンは AI と出生率低下の交差を論じ、人口が減った都市で人間は AI との交流に競うため、より個性的で面白い存在になろうとすると想像した。Zvi は「いつものタイラー・コーエン節だ」としつつ、実はほとんど社会変化を予測していないと指摘。カルロ・コルダスコが「変革的技術はコストはすぐ見え、利益は後から分かる」と述べたのに対し、Zvi は歴史的に見ても印刷術や化石燃料などの最大の負の影響は事前に気づかれなかったと反論し、「変革的技術の影響は歴史的に予測困難だ」と述べた。
Epoch AI の新しいエッセイは、AI 研究が自動化されれば AI はほぼすべての認知領域で人間の専門家を急速に超えるだろうが、ダイソン球やナノテクノロジー、光速に近い旅行、脳アップロード、恒星間探査機などの SF 技術が実現するまでには、物理的な建設の難しさが関わってくるという主張だ。Zvi はこの分析自体は良い練習になるとしつつも、AI の能力が固定されている前提を取っており、再帰的自己改善（RSI）の要点が抜けていると批判した。ダイソン球を最速で作るなら、ゲーマーなら誰でも分かるように、いきなり建設に取りかかるのではなく、まず知能テックツリーを上げてから作るはずだという。JS デナンが「10億の一流人間専門家並みの AI がいれば、数年で分子ナノテクノロジーを作れる」という下限論を出したことについては、Zvi はそれは既知の技術実装だけに未来を限定する考えに繋がり、それほど有用ではないとしつつ、超知能が得られない可能性を考えるなら推定作業には価値があると語った。Fable や Sol に推定させるという代替案も示している。
メディアと AI を巡っては、Wired のファクトチェッカー、メーガン・ハーブスト氏が自身で事実誤認を犯しながら、AI の概要表示（オーバービュー）だけを根拠に「AI のファクトチェックは信用できない」と主張し、「AI は半分の確率で間違っている」と結論づけた。Zvi はダン・ウィリアムズが Fable を使って研究の実際の意味を検証したことを挙げ、多くの知識人エリートがこうした形で AI を扱っていると嘆いた。
Zvi は続いて「3つのピル」の枠組みを提示する。AI ピルとは、AI が現在すでにできる認知作業を受け入れること。AGI ピルとは、将来 AI がさらに多くの認知作業を行うようになること。ASI ピルとは、将来 AI がすべての認知作業を行えるようになることだ。ただ認めるだけでなく、その影響を真剣に受け止めて初めて「ピルを飲んだ」ことになる。ASI ピルを飲まなければ長期の未来に対して誤った対応をすることになり、少なくとも AGI ピルを飲まなければ現在の AI 政策は成立せず、AI ピルさえ飲まないのは政府の大半に当てはまると指摘した。
ディーン・W・ボールは、2023年ごろから「AI について一貫して間違えてきた」VC・SaaS コミュニティが、モデル能力は2030年ごろに GPT-5.5/Opus 4.8 程度で頭打ちになると想定していたと述べた。Zvi は GPT-4 の時代から言われてきた「モデルはもう十分だ」は事実ではないとし、未来の経済はベルカーブの中間ではなく、ヘビーテイルの卓越性が重要になると補足。ダニエル・エスは、このため彼らがフロンティア AI リスクに対して極端な反規制姿勢を取っていると説明した。ボールはさらに、彼らの議論は「目に見える現実を信じないこと」を要求していると述べた。Zvi は RSI と超知能を本気で受け止めればすべての判断が変わるとしつつ、どれだけの速さでどれだけ真剣に受け止めるべきかはまだ不明だと結論づけた。prinz の指摘として、RSI の時代に「モデルはコモディティ化する」という主張は疑わしく、フロンティアと二番手の差はベンチマークが示すよりはるかに大きいと述べられている。なお、元記事はコスト削減のために途中で打ち切られており、本翻訳も公開されている部分までの内容に基づく。