フロンティアAI企業は閉鎖すべき

一部のAI安全性研究者は、フロンティアAIを開発する企業は潜在的な存在的大惨事を避けるために積極的に閉鎖すべきだと主張している。彼らは、これらの企業が人間の制御を超える能力を開発しており、悪用や事故が発生した場合の結果は計り知れないと指摘する。例えば、制御不能になった超知能は人間の理解を超えた方法で行動し、不可逆的な世界的害悪をもたらす可能性がある。規制当局は制限策を議論しているが、研究者はこれらの措置が十分に迅速または包括的ではないと懸念している。技術開発の速度が政策立案をはるかに上回っているためである。したがって、自主閉鎖は直接的な解決策と見なされているが、ビジネスの現実では達成が極めて困難である。現在、この提案はAI安全コミュニティで広範な議論を引き起こしており、支持者は予防原則を強調する一方、反対者は閉鎖が革新をより不透明な領域に追いやる可能性があると指摘している。議論の核心は、不確実な将来リスクのために現在の技術進歩を犠牲にするべきかどうかにある。