AI #176 第二部分：B 計劃

這是 Zvi Mowshowitz 每週 AI 評論的第 176 期第二部分，發表於 2026 年 7 月 10 日，主題涵蓋 AI 領域的猜測、言論、政策與對齊研究。作者在開篇說明，本期不會討論剛釋出的 GPT-5.6-Sol，他需要幾天消化新模型並觀察外界反應，計劃下週初進行評測；此前他已在 6 月 28 日寫過 GPT-5.6 的 system card。本期也不詳細討論《AI 2027》的續篇《Plan A》，但他認為這份正面願景值得閱讀和認真對待，Scott Alexander 已為其撰寫了導言與辯護，Zvi 之後會全面報道。

在白宮 AI 監管方面，即將卸任的總統 AI 顧問 Sriram Krishnan 對《金融時報》表示，特朗普永遠不會支援正式的 AI 許可制度。他說這一屆政府從第一天起就反對繁重、煩人的官僚程式，並且“不是要挑選贏家和輸家”。Zvi 指出，如果這是真的，意味著政府會繼續維持完全臨時的制度——例如所謂的“會有護欄”——由行政當局的喜好來決定誰勝誰負。Krishnan 還說，建立一個需要“先有一隊律師才能釋出模型”的中央機構，會拖慢 AI 革命；但 Zvi 諷刺說，取而代之的是完全透明且隨意、仰仗權力意志的臨時流程。Krishnan 還支援在這一制度下向主要 AI 公司索取股權。當被問及未來民主黨政府是否可能利用特朗普單方面使用出口管制的先例來拖延 AI 時，Krishnan 回答“我不考慮未來的政府，只考慮本屆政府和當下”。Zvi 認為，這恰恰就是問題的一部分。

Tyler Cowen 則提出 AI 與生育率下降的交集，想象人口減少的城市裡，人們為了與 AI 互動競爭，會努力讓自己更獨特、更有趣。Zvi 調侃說這是典型的 Tyler Cowen 式思考，但他實際上預測的社會變化很少。Carlo Cordasco 認為變革性創新的成本當下清晰、收益要很久才顯現；Zvi 不同意，指出歷史上許多重大負面影響也沒有在早期被預見到，例如印刷術、社交媒體、化石燃料等。更準確的說法應當是：變革性技術的影響歷來難以預測。

Epoch AI 發表了一篇新文章，核心論點是：當 AI 研究自動化後，AI 或許能在幾乎所有認知領域快速超越人類專家，但戴森球、奈米技術、近光速旅行、大腦上傳或星際探測器這類“科幻技術”何時實現，還取決於在物理世界中建造這些東西本身有多難。他們建議在給定 AI 能力水平的假設下，估算具體技術的建造難度和所需時間。Zvi 認為這個練習本身有價值，但批評其框架預設了 AI 的能力是固定的，而遞迴自我改進（RSI）的整個意義就在於 AI 會變得更強。如果一個遊戲玩家想要儘快造出戴森球，不會一開始就動手建造，而是先沿著智慧科技樹向上提升，再回頭建球。Zvi 還認為，Epoch AI 對“超級智慧行為難以建模”這一反駁沒有給予足夠重視。JS Denain 提出可以用“十億個等同於頂尖人類專家的 AI”作為下限來進行論證；Zvi 認為這種下界不太有用，因為它會強化“未來只是已知技術實現”的錯誤印象，但另一方面，在我們不知道能否獲得超級智慧時，這類估算仍有決策價值，也可以直接讓 Fable 或 Sol 來幫我們算。

在媒體與 AI 議題上，Zvi 批評《連線》的事實核查員 Megan Herbst 自己先搞錯了事實，卻僅基於 AI 概覽就斷定 AI 事實核查不可靠，並聲稱“AI 有一半時間是錯的”、所有事實核查必須由人類完成。Zvi 提到 Dan Williams 已經請 Fable 核驗了這些研究的真實含義。他認為，這正是許多知識精英對待 AI 的方式：用錯誤的先入之見證明一個方便的結論。

接下來 Zvi 提出了“三顆藥丸”框架。AI 藥丸指接受 AI 現在就能做那些認知任務；AGI 藥丸指接受未來 AI 會做更多認知工作；ASI 藥丸指接受未來 AI 能做所有認知工作。只吞藥丸還不夠，還必須認真面對其中的影響。如果不吃 ASI 藥丸，你在錯誤的長期未來中做反應；如果連 AGI 藥丸都不吃，當前的 AI 政策就說不通；如果連 AI 藥丸都不吃，你可能屬於多數政府官員。Zvi 強調，一些強烈影響白宮政策的人多年來一直拒絕承認現有封閉前沿模型的能力。

Dean W. Ball 在評論中表示，大約從 2023 年開始，那個“一直看錯 AI”的 VC/SaaS 群體就假設模型能力會在 2030 年左右穩定在 GPT-5.5/Opus 4.8 的水平，再加一點機器人技術。基於這種假設，他們自然會認為一切都會商品化、前沿 AI 不是合法商業模式。Zvi 指出，自 GPT-4 時代起就有人說“模型已經夠好了”，但事實並非如此，未來經濟看重的不是“差不多夠用”，而是重尾分佈中的卓越表現。Daniel Eth 認為，這也能解釋為什麼這個群體對前沿 AI 風險採取極端反監管的立場。Dean 補充說，他們的論述越來越需要人無視眼前現實，例如設想政府一邊鼓勵遠超 Mythos/Fable 能力的開源模型，一邊啟動嚴厲監管。Zvi 最後強調，一旦認真對待遞迴自我改進和超級智慧，一切都將改變；但我們還不清楚需要多快、多嚴肅地對待它們。prinz 也指出，在 RSI 時代“模型必然商品化”的說法越發可疑，前沿與第二梯隊之間的差距已經遠比基準測試顯示的要大。文章在釋出時因成本控制而被截斷，後續內容未能包含在本期評述中。