AIは人間を殺さずとも人類の未来を終わらせることができる

2026年6月29日、シンガポールのTRANTOR LABS創業者KunYuan氏は「AIは人間を殺さずとも人類の未来を終わらせることができる」と題する記事を発表し、AIリスクに関する新たな視点を提示した。同氏は、現在のAIによる絶滅リスク議論では、「人間」を保護する際の「人間」の定義が自明視されていると主張する。

KunYuan氏は、「人間」という概念が文脈によって生物学的集団、選好の集合、権利主体、制度的構成員、未来の可能性など異なる次元で用いられており、これらの意味は自動的に互換性があるわけではないと指摘する。この次元的滑動により、我々は表層的なリスクに対して防御を構築している可能性がある。もし人間が単に生物学的なホモ・サピエンスの個体群であるならば、身体が生き続ける限りリスクは最深部に達していないように見える。しかし、人間が文明的条件の下で判断を形成し、現実に照らして較正し、責任を負い、意味を創造し、未来を形成する能力をも含むのであれば、これらの能力が体系的に空洞化され、生物学的に生きながら社会が効率的に機能し続けても、それは人類の未来の終焉に当たらないだろうか？

この問いは哲学書からではなく、エンジニアリング実践から生まれた。同氏のチームは長期記憶と行動能力を備えたAIコンパニオン製品の構築から始め、徐々に真のAGIアーキテクチャの研究へと進んだ。彼らは、真のAGIには自律的判断、自律的意思決定、自律的実行、自律的調整、自律的進化という五つの接続された能力が必要であり、これらは単なる能力のチェックリストではなく、完全なループを形成すると考える。しかし、実際にシステムを構築しようとすると、コードではなく哲学とカテゴリーが障害となった。誰が判断するのか？誰が行動するのか？誰が評価するのか？誰が決定するのか？責任は誰に帰属するのか？これらは表面上は工学的問題だが、実質的には哲学的・カテゴリー的問題である。

KunYuan氏は、AIが2026年現在、人間の判断の最前線に静かに浸透し始めていると警告する。初期の人とAIの相互作用は主にQ&Aシステムであり、人間が意図を表明しAIが応答を生成していた。しかし、AIがツールを呼び出し、長期的タスクを実行し、組織ワークフローに組み込まれ、他のAIと協調するようになると、単にテキストを生成するだけでなく、ランキング、推薦、承認、配布、実行、意思決定に参加する。核心的な問いは「出力は正しいか」から「行動はどのように形成されるか」「判断はどこで形成されるか」へと変化する。

この変化は単一分野の孤立した変化ではなく、複数の文明システムで同時に現れている。理性主義コミュニティは絶滅と永久の無力化を聞くが、それはリスクマップ上で最も目に見える領域——突然の断絶、権力掌握、制御喪失、物理的破壊——を定義する。しかし、爆発を伴わない別の領域はまだ十分に定義されていない。ガバナンスシステムは証拠のジレンマと規制の失敗を聞くが、より深い問題は規制の前提そのものが失敗していることかもしれない。伝統的ガバナンスは「人間が決定し、道具が人間を支援する」と前提するが、問題定義、材料選択、証拠の順序付け、理由生成がすでにAIによって事前組織化されている場合、規制ファイルに記録された「人間の意思決定者」は存在していても、判断形成の起点ではなくなっている。

KunYuan氏は、この診断は学術論文でも具体的なガバナンス提案でもなく、文明レベルのリスクの立場表明であると強調する。その目的は、人類がまだ完全に気づいていない、あるいは名付けていない文明規模のリスク対象を、EA、LessWrong、および世界中のAIリスクに関心を持つ理性主義コミュニティに提出し、判断と審査を仰ぐことにある。