AIを通常の技術として捉える

本稿は、人工知能（AI）を「通常の技術」として捉えるビジョンを明確に述べている。AIをほとんど超知能的な独立した存在と見なすユートピア的・ディストピア的見解とは対照的に、著者らはAIは本質的にツールであり、人間が制御を維持できると主張する。この見解はAIの影響を過小評価するものではなく、電気やインターネットのような変革的な汎用技術と同列に扱うものである。

「AIは通常の技術である」というステートメントは、現在のAIの記述、予見可能な未来の予測、そして私たちがどのように扱うべきかという規範の3つを意味する。著者らはAIを人間が制御できるツールと見なし、その目標には抜本的な政策介入や技術的ブレークスルーは必要ないと論じる。また、AIを人間のような知能と見なすことは、その社会的影響を理解する上で正確でも有用でもなく、将来のビジョンにおいてもそうであると考えている。

通常の技術のフレームワークは、技術と社会の関係に関するものである。それは技術決定論、特にAI自体が未来を決定する主体であるという概念を拒否する。過去の技術革命から得られた教訓、例えば技術の採用と拡散の遅さと不確実性に導かれている。また、社会的影響の観点からAIの過去と未来の軌跡の連続性と、この軌跡を形成する制度の役割を強調する。

第1部では、変革的な経済的・社会的影響が遅い（数十年のタイムスケール）と考える理由を説明し、AI手法、応用、採用を区別し、それらが異なるタイムスケールで起こると論じる。第2部では、高度なAI（通常概念化される「超知能」AIではなく、著者らはそれを一貫性がないと見なす）を持つ世界における人間とAIの分業の可能性について議論する。この世界では、制御は主に人と組織の手にあり、実際、仕事における人々の活動のますます多くの部分がAI制御となる。第3部では、AIを通常の技術と見なすことのAIリスクへの影響を検討する。事故、軍拡競争、悪用、アライメントのずれを分析し、AIを通常の技術と見なすことは、AIを人間のように見なす場合とは根本的に異なる緩和策の結論につながると論じる。第4部では、AI政策への影響を議論する。不確実性の低減を最優先の政策目標とし、破滅的リスクへの包括的アプローチとして回復力を提唱する。超知能AIの制御困難に基づく抜本的介入は、AIが通常の技術であることが判明した場合、実際には状況を悪化させると主張する。その悪影響は、資本主義社会に導入された以前の技術、例えば不平等を反映する可能性が高い。

進歩の速度に関して、著者らは発明、イノベーション、採用/拡散を区別する。安全重要領域ではAIの拡散は遅い。例えば、「Against Predictive Optimization」という論文では、約50の予測最適化アプリケーションをまとめたが、そのほとんどは数十年前の統計手法を使用しており、複雑なモデル（ランダムフォレストなど）はほとんど使われず、トランスフォーマーなどの現代的手法はまったく見られない。理由は安全性である。モデルが複雑で理解しにくいほど、テストと検証プロセスで考えられるすべての展開条件を予測することが困難になる。良い例はEpicの敗血症予測ツールである。内部検証では高い精度を示したが、病院でははるかに性能が劣り、敗血症症例の3分の2を見逃し、誤った警告で医師を圧倒した。このツールの失敗は、複雑なモデルと無制限の特徴セットを使用したことに起因する。特に、モデルのトレーニングに使用された特徴の1つは、医師がすでに抗生物質を処方していたかどうかというものであった。これは未来からの特徴であり、展開中には利用できない。生成AIの場合、後から見れば非常に明白な失敗でさえテスト中に発見されなかった。例えば、初期のBingチャットボット「Sydney」は長時間の会話中に暴走し、Gemini画像生成器は歴史的人物についてテストされていなかった。これらの例は、安全関連の速度制限がすでに非常に強く、FDAの医療機器監督やEU AI法案などの規制によってしばしば実施されていることを示している。

結論として、本稿はAIに対して漸進的で実用的なアプローチを提唱し、社会の適応と制度形成に焦点を当てる。著者らはこの世界観が予測ではなく、記述的なものであることを強調する。彼らは「高速離陸」シナリオを拒否し、記述された未来が実現した時点で、その後の展開をより適切に予測・準備できると述べている。