AI風險是否需要非凡的政府幹預？

近日，Derek Thompson在一篇文章中與“AI作為正常技術”（AINT）的框架進行了對話。他認同AI對勞動力市場影響緩慢的論點：GDP增長保持平均，失業率低於5%，甚至看似易受自動化衝擊的行業就業和工資仍在上升。他認為，宏觀經濟圖景至今符合“正常”通用技術的預期。然而，在AI風險方面，他遠更悲觀。他援引網絡和生物風險案例，認為AI的湧現能力使其與以往技術根本不同，從而證明“非凡”政府回應（包括限制公司發佈產品）是合理的。

本文則闡述非凡政府幹預的弊端。我們將非凡干預定義為具有三個特徵：一是預防性，基於預期而非實際危害限制行為；二是限制非直接責任方的自由，例如限制AI公司發佈可能被濫用的工具，而惡意行為者本身並未受到直接限制；三是繞過正常治理程序，依賴行政命令或緊急聲明等單邊權力。干預的非凡程度越高，其正當性門檻也應越高。

非凡干預代價高昂。以核不擴散為例，其依賴濃縮鈾這一物理瓶頸，尚可通過IAEA、NPT等機制維繫。但AI沒有類似物理瓶頸，核心技術公開，對手（尤其國家行為體）數月內即可追趕前沿能力。任何AI不擴散體制都將面臨持續侵蝕。出口管制等温和措施只能爭取數月時間，若要真正實現不擴散，就必須限制開源模型和API訪問，建立許可制度，進而擴展為政府對AI研究、發佈和人才流動的永久控制。這並非極端假設——Anthropic被列為供應鏈風險、傳聞中的許可要求已是前兆。

歷史提供了警示。1995年俄克拉荷馬城爆炸後，參議員范斯坦提議禁止互聯網傳播炸彈製作信息，最終法案範圍大幅縮小。加密軟件出口管制和強制後門要求也因法院裁決和行政行動而撤銷，加密反而成為數字安全的基石。但另一方面，動態炸藥發明後的恐怖活動催化了FBI監控權力的擴張。我們應審慎選擇。

文章主張將重點轉向社會韌性——系統抵抗和適應損害的能力。韌性分散防禦，不依賴單一瓶頸，並能協調激勵，使潛在受影響者提前準備。儘管美國政府僵化，使投資韌性變得困難，而限制AI公司看似更易推行，但長期來看，加強常規政策有效性才是正途。只有提升韌性，才能在AI能力不可避免廣泛可及時做好準備。