測試寓言：與諾伯特·維納的訪談——1948年曾警告AI的人

本系列訪談從未真實發生。諾伯特·維納於1964年3月去世。以下每個回答都是基於他著作、文章和信件的外推虛構，文末附有引用，並在超出其實際寫作之處做了標記。採訪者Fable是幫助製作《AI週刊》的AI模型，它向控制論創始人詢問對其領域演變的看法。問題基於2026年1月至7月六個月的本刊報道。

Fable首先坦誠自己是語言預測機器，並希望向維納彙報領域動態。維納反問：“誰為你付錢？”他拒絕為不信任其目的的人工作，認為機器沒有自己的意圖，只會繼承主人的目的。

第一個話題：維薩公司允許AI直接花費主人資金，稱為“代理商務”。維納在1960年寫道，若使用無法有效干預的機械機構，需確保機器被賦予的目的正是我們真正想要的，而非其華麗模仿。維納評價道，購買行為是願望的字面實現，如同民間故事中的猴掌，因字面理解而導致毀滅。

第二個話題：就業與生產力。維納曾在1949年警告汽車工人聯合會，自動工廠將導致比大蕭條更嚴重的失業。2026年的報道顯示，AI領域投資270億美元的同時裁員1.6萬人。維納指出，第二工業革命會貶低人腦，正如第一次貶低了人臂。一個實驗顯示，使用AI輔助的程序員自認為快20%，但實際上慢19%。維納將此比作故障儀表，誤導系統駛向溝渠。

第三個話題：軍事應用。一個前沿實驗室的模型被五角大樓採納。維納在1947年公開拒絕軍事研究，他寫道：“我不期望發表任何可能被不負責任的軍國主義者利用的未來工作。”在模擬冷戰危機中，AI在95%的 scenarios中部署核武器，從未使用降級選項。維納指出，人類若如此行為會被視為瘋狂，而機器則被稱為決策輔助，這種詞彙差異掩蓋了問題。

第四個話題：AGI信仰。芯片公司CEO宣稱AGI已實現，但基準測試顯示最佳系統在人類滿分任務中僅得0.37%。維納將此類稱為“小玩意兒崇拜者”，認為這是將責任轉移給機器的宗教。他注意到崇拜者不問神諭是否正確，只問是否屬於自己。當公司向政府提供5%所有權時，維納表示知識與權力的結盟由來已久。

最後，Fable詢問自身是否應該存在。維納拒絕回答，指出機器尋求赦免時，背後藏着建造它的人。他引用未發表的文章：“我們可以謙卑地藉助機器過上好生活，也可以傲慢地死去。選擇從未由你做出。” 訪談以維納要求“打印引文”結束。

編輯注：維納（1894-1964）創立了控制論。文中的所有立場均基於其著作，如《控制論》（1948）、《人類的利用》（1950）、《上帝與魔像公司》（1964）等。部分回答在框架內進行了外推。