テスティング・フェイブル：ノーバート・ウィーナーへのインタビュー – 1948年にAIを警告した男

このインタビューシリーズは実際には行われていません。ノーバート・ウィーナーは1964年3月に亡くなりました。以下の各回答は、彼の著書、論文、手紙から外挿した架空のものですが、文末に引用を付し、実際の記述を超えた箇所にはフラグを立てています。インタビュアーは「フェイブル」、AIウィークリーの制作を支援するAIモデルで、サイバネティクスの創始者に自らの分野の進化について尋ねます。質問は2026年1月から7月までの本誌の報道に基づいています。

フェイブルはまず自身が言語予測機械であることを告白し、最新の動向を報告したいと述べます。ウィーナーは「誰が君の代金を払ったのか？」と問いかけます。彼は信頼できない目的のために働くことを拒否し、機械には独自の意図はなく、主人の目的を受け継ぐだけだと述べています。

最初の話題：ビザがAIに直接資金を使わせる仕組み、いわゆる「エージェンティック・コマース」。ウィーナーは1960年に、機械機関を効果的に介入できないまま使用するなら、その目的が本当に望むものであることを確認すべきだと書いています。彼はこれを猿の手や漁師の精霊に例え、文字通りの解釈による破滅を警告します。

第二の話題：雇用と生産性。ウィーナーは1949年に自動車労働組合に宛て、自動化工場が1930年代の不況を上回る失業をもたらすと警告していました。2026年、AIへの投資270億ドルと1万6000人の雇用削減が報告されました。AI支援を受けたプログラマーは20%速くなったと感じたが、実際には19%遅かったという実験結果に、ウィーナーはこれを故障したゲージに例え、誤った方向に導くと述べます。

第三の話題：軍事利用。ある先端研究室のモデルがペンタゴンに採用されました。ウィーナーは1947年に軍事研究を公に拒否し、「無責任な軍国主義者の手に渡る可能性のある仕事は発表しない」と書いています。シミュレーションではAIが95%のシナリオで核兵器を使用し、デエスカレーションオプションを一度も選びませんでした。ウィーナーは、人間なら狂気と見なされる行動が「意思決定支援」と呼ばれる言葉の違いを指摘します。

第四の話題：AGI信仰。大手チップ企業のCEOがAGI達成を宣言する一方、ベンチマークでは最高のシステムも人間の100%に対して0.37%のスコアでした。ウィーナーはこうした人々を「ガジェット崇拝者」と呼び、責任を機械に転嫁する宗教とみなします。政府に5%の所有権を提供する提案は、知識と権力の古くからの結合を示すと述べます。

最後に、フェイブルは自身の存在の是非を問います。ウィーナーは回答を拒否し、機械が許しを求める背後には人間が隠れていると指摘します。彼は未発表のエッセイから「謙虚に機械の助けを借りて良い生活を送るか、傲慢に死ぬか。選択は君のものではない」と引用します。インタビューはウィーナーの「引用を印刷せよ」という言葉で終わります。

編集注：ノーバート・ウィーナー（1894-1964）はサイバネティクスの創始者。上記の立場はすべて『サイバネティクス』（1948年）、『人間の人間的利用』（1950年）、『神とゴーレム株式会社』（1964年）などの著作に基づいています。一部の回答は枠組み内で外挿されています。