AIリスクは特別な政府介入を必要とするのか？

最近のエッセイで、Derek Thompsonは「通常の技術としてのAI」（AINT）という枠組みに取り組んでいる。彼は、GDP成長率が平均的で失業率が5％未満、自動化に脆弱と見られた職種でも雇用と賃金が上昇していることから、AIの労働市場への影響が緩やかであるという主張に同意している。しかし、AIリスクについては悲観的で、サイバーやバイオのリスクを挙げ、AIの創発的能力が従来の技術と根本的に異なり、「特別な」政府対応（企業の製品リリース制限を含む）を正当化すると論じている。

本稿では、特別な政府介入の欠点を詳述する。特別介入には三つの特徴がある。第一に予防的であり、実際の害ではなく予想される害に基づいて活動を制限する。第二に、問題の害に直接責任のない主体の自由を制限する。例えば、AI企業のリリース制限は、悪意ある行為者ではなく、原理的に悪用される可能性のあるツールを構築する企業に負担を課す。第三に、通常のガバナンスプロセスを迂回し、行政命令や緊急宣言などの一方的権限に依存する。介入が特別であるほど、正当化のハードルは高くなる。

特別介入は非常にコストがかかる。核不拡散体制はIAEAやNPT、数十年の外交、継続的投資、さらには軍事衝突を必要としたが、濃縮ウランという物理的ボトルネックに依存していたため、ある程度執行可能だった。AIには同様のボトルネックがなく、コア技術は周知であり、敵対国は数ヶ月でフロンティア能力に追いつく。輸出規制などの穏健な介入は数ヶ月の時間を稼ぐに過ぎず、真の不拡散を目指すなら、オープンウェイトモデルやAPIアクセスの制限、ライセンス制度、さらには研究者の移動制限が必要となり、政府の恒久的な権限拡大につながる。Anthropicがサプライチェーンリスクに指定された事例や、ライセンス要件の噂は既にその兆候を示している。

歴史は教訓を提供する。1995年のオクラホマシティ爆破事件後、ファインスタイン上院議員はインターネット上の爆弾製造情報の配布を犯罪化する法案を提出したが、最終的には範囲が狭められた。暗号ソフトウェアの輸出規制とバックドア要求は、裁判所の判決と行政措置により撤回され、暗号はデジタルセキュリティの基盤となった。しかし一方で、ダイナマイト発明後のテロ行為はFBIの監視権限拡大を促進した。

本稿は、特別介入ではなく社会の回復力（レジリエンス）への投資を提唱する。回復力はシステムが損害に耐え適応する能力であり、防御を分散し、単一ボトルネックに依存しない。政府の機能不全が特別介入を魅力的に見せるが、長期的には通常の政策プロセスを改善し、AI能力が広く利用可能になった時に備えるべきである。