AGIはマイルストーンではない

OpenAIの最新モデルo3の発表により、汎用人工知能（AGI）がすでに達成されたかどうかの議論が再燃している。懐疑論者はAGIの定義に合意がないと指摘するが、それは本質を外している。もしAGIがそれほど重要なマイルストーンならば、達成されたとき明らかになるはずではないか？本稿は、AGIはマイルストーンではないと主張する。それはAIシステムの特性や影響に不連続性をもたらすものではない。たとえ企業がAGIを達成したと宣言しても、それは行動可能な出来事ではない。ビジネス、政策、安全に即座の影響はない。

AGIと核兵器の反類推

AGIを核兵器に例えるのは誤りだ。核兵器は爆発という明確な観測可能性と第二次世界大戦終結という即時的影響を持った。一方、AGIはその逆である：観測不可能であり、明確な能力閾値がなく、世界に即時的影響を与えない。過去の電力やインターネットのような汎用技術と同様、AIの経済的影響は数十年の普及プロセスを経て実現する。

o3はAGIではない証拠

o3の革新は強化学習によるツール使用の学習にあるが、たとえより強力なo3的システムが多くのタスクで人間を超えても、現実世界のタスクでは失敗する。なぜなら経験から学習できないからだ（明示的な再訓練が必要）。したがって、o3はある定義ではAGIを満たすかもしれないが、実世界への影響は限定的である。

経済的影響は数十年

AGIが突然の経済変革をもたらすという考えは、過去の技術普及の歴史に反する。製品開発、労働力訓練、組織変革、法規制など多くのボトルネックが存在し、人間は未自動化のタスクへ適応する。AIの経済的影響は長期的プロセスであり、突然の雇用喪失などは起きない。

地政学的影響は限定的

米中のAI競争において、モデル開発（発明）自体は持続的優位の源泉ではない。技術は急速に普及するため、重要なのは普及を促進する能力である。中国はモデル能力で遅れが小さいが、デジタル化やクラウド導入など普及指標で大きく遅れている。したがって、政策立案者はAGI追求ではなく普及促進に注力すべきだ。

長期的経済影響は不確実

AGIが年10%のGDP成長をもたらす可能性はあるが、歴史的には稀である。産業革命は実現したが、インターネットはGDP成長率をほとんど変えなかった。成長加速には複数のボトルネック解消が必要で、現行の法制度や文化が制約となる。長期的影響はAGI自体の特性ではなく、補完的行動に依存する。

リスクは能力ではなく権限に起因

AGIリスクの議論は、能力（タスク遂行）と権限（環境変更）を混同している。権限は設計によって決まり、人間が制御可能である。能力が向上しても、AIを自律性のないツールとして維持する選択ができる。商業的インセンティブと規制により、これは実現可能である。

超知能への道は開かれていない

AGIが直ちに再帰的自己改善による超知能につながるとは限らない。ボトルネック（データ収集、計算コスト、社会的慣性）が存在し、イノベーションは人間の速度で進む。再帰的自己改善の早期警告システムは必要だが、それはAGI定義とは無関係である。

AGI達成の認識は不可能

AGIの定義は三種類あるが（影響ベース、内部ベース、ベンチマークベース）、すべて致命的欠陥を持つ。影響ベースは世界の状態に依存し、システムの特性ではない。内部ベースは観測困難。ベンチマークベースは実用性を無視する。したがって「見ればわかる」は機能せず、専門家の直感は異なる領域への注目度で分かれる。

企業と政策立案者への提言

企業はAI製品を慎重に導入し、実験を通じて効果を評価すべき。AI製品開発者はドメイン理解を通じて導入障壁に対処せよ。政策立案者は「AGIマンハッタン計画」を放棄し、普及促進策に注力せよ。輸出規制のような短期優位策は、普及が数十年のプロセスである以上、ほとんど意味を持たない。

結論として、AGIを変革的AIのマイルストーンと見なすのは魅力的だが誤りである。AIの影響は、魔法の弾丸へのスプリントではなく、何百万もの退屈な業務プロセス適応と政策調整を通じて実現される。