本文にスキップ
AI News HubLIVE
サイト内リライト5 分で読了

サム・アルトマン氏、国連安全保障理事会でAIについて演説

記事の要約

OpenAIのCEOサム・アルトマン氏は国連安全保障理事会でAIについて演説し、機会の拡大、強力なシステムを人間の管理下に置く重要性、AI安全のための国際協力を論じた。同氏は「制御の喪失」と「権力の集中」という二つのリスクを警告し、三つの原則を示したうえで、国際的なフロンティアAI基準とインシデント報告の仕組みを呼びかけた。

ソースOpenAI News
サム・アルトマン氏、国連安全保障理事会でAIについて演説
誤りを報告

訂正窓口はまだ利用できません。記事情報をコピーして保存できます。

訂正案内
本文へ

2026年9月23日、OpenAIのCEOサム・アルトマン氏は国連安全保障理事会で人工知能について演説した。同氏は、この重要な時に各国代表と話せることを光栄に思うと述べた。人工知能についての議論は何年も続いてきたが、ここ数週間、数か月は様子が違うと同氏は指摘する。モデルの能力が急速に高まったことで、時間軸はより切迫して感じられ、恩恵はより具体的になる一方、リスクもより差し迫ったものになっているという。

同氏は、人類の前には二つの道があると語った。AIは、創造と発見の新たなルネサンスのようなものにも、動揺と混乱に満ちた新たな産業革命のようなものにもなり得る。ルネサンスは、新しい道具、新しい思想、新しい制度が、人ができると信じることを広げた時代だった。AIも現代において同じ役割を果たし得る。人間は自分が想像するよりはるかに有能だが、本来は力を与えるはずの技術が注意をそらし、しばしば奪ってきたために制限されてきたという。

最良のAIは、人を巨大な機械の歯車にすることでも、人間らしさが消えるまで生活のあらゆる部分を最適化することでもない。それは、ますます複雑になる世界で人により大きな主体性、つまり学び、創造し、発見し、築き、参加する力を与えることだ。同時に、AIが自動化できないこと、すべきでないことも多くあると同氏は強調した。AIは人々のために作られるべきで、機械をただ速く回すためにあるのではない。業界にはあまりにディストピア的で、悪いSF映画の筋書きのように聞こえる発言もあると述べた。

これほど強力なものは同時に威圧的でもある。今は、計り知れない可能性と、十分に理解できる不安の両方を感じる複雑な瞬間だ。こうしたモデルは、新薬、より良い医療、より強い教育といった新しい知識の発見を助け、より生産性の高い経済を築くのに役立つ。今日では手が届かないと感じられる夢や野心を追うための新しい道具にもなり得る。一般の人にとって生活の複雑さは劇的に増しており、AIは前例のない発見と革新の道具であると同時に、その複雑さに対する防御の道具にもなり得る。

一方で、AIシステムがより高能力かつ自律的になるにつれ、制度よりも速く動き、権力を少数の手に集中させ、人々がもはや理解も制御もできない決定を下す可能性がある。この懸念は、自らと将来の版を改善できる「再帰的自己改善」システムに近づくにつれて特に重要になる。AIを作る工程が自動化されるほど進歩のペースは加速し得るため、今は極度の注意が必要だ。

アルトマン氏は、ベンジオ教授の見方に概ね同意しつつ、避けるべき悪い道は三つではなく二つだと述べた。第一に、AIに未来の制御を奪われる可能性がある。動きが速すぎて人々が何が起きているかを追えず、必要なときに介入できないというリスクであり、明らかに terrible な事態だ。業界は、恩恵が大きすぎ、重要性が高すぎるという理由だけで過度な技術的リスクを受け入れてはならない。競争の速さで他社に勝つことは軽率な決定の理由にならない。OpenAIは、減速できない競争に閉じ込められているとは考えていない。過去には一方的に速度を落としたし、今後もそうする。アラインメント、監視可能性、安全性の保証ができないシステムは構築したくないし、誰も構築を避けるべきだという。

同氏はさらに、これらのシステムが何をしているかを理解し、非常に賢くなっても、いや特に非常に賢くなったときに、人間の意図通りに動くという強い証拠を持つ必要があると述べた。破滅のリスクを10%と見積もろうと、1%でも12%でも0.1%でも、いずれも到底受け入れられない。人間の管理下に確実に置けるという極めて強い根拠が示せないモデルを訓練すべきではない。

第二に、これらのシステムは権力を少数の手に集中させ得る。どの個人、企業、国家も、最も強力なAIモデルを使って自らの世界観を他者に押し付けるべきではない。この技術を信頼できるのは自分だけだと信じる企業や国家は、その信念でほとんどあらゆる行為を正当化できてしまう。たとえ誰かにとって都合がよくても、そうした論理は拒否しなければならない。

アルトマン氏は、両方のリスクに対処する現実的な道があると考える。OpenAIでは、AIは人々に自分の人生に対するより大きな力、望むままに生きる自由、大小の問題を解決し地域を改善する力を与えるべきだという明確な目標でこれらの問いに向き合っている。盲目的な楽観にも、破滅主義にも陥りたくない。どちらの極端に引っ張られても、世界と人々がこの技術で解決し得る巨大な課題に直面する今、目の前の課題の解決には役立たない。だからこそ両極の間の道を歩もうとしている。

OpenAIにとってそれは三つの原則を意味する。第一に、AIがより高能力になるにつれ、人はAIの意思決定の中心にとどまらなければならない。アラインメントは抽象的な研究課題ではない。これらのシステムが確実に人間の管理下にあり、人間の価値観を反映し、次の発展段階を人が導くのを助けるようにする仕事だ。人間の判断や価値観を自動化しようとはしておらず、してはならない。

第二に、科学の進歩と経済成長の恩恵は人民によって、人民のためにあるべきだ。AIは研究者の発見を助け、医師の治療を助け、教師の教育を助け、起業家の創業を助け、地域が手の届かないと感じていた問題の解決を助けるべきだ。人類の進歩の連続する物語は、道具が人の主体性を置き換えることではなく、適切な道具が人をより有能にすることであり、それは想像以上に遠くまで進むと同氏は信じている。

第三に、この技術は個人を力づけなければならない。偉大な未来は、人が自らの可能性を実現し、自分、地域、国、そしてより広い世界のために価値を築くことから生まれる。OpenAIはこの技術の構築者の一つかもしれないが、この物語の主人公ではない。役割は世界中の人々を可能にし、人類の技能と才能の魔力を信頼することだ。

同氏によれば、現在のモデルはこれまで得られなかった知識を発見できる。数学の進歩を例に挙げた。三年前の夏、モデルは小学校の数学がそこそこできる程度だった。二年前の夏には高校の数学コンテストでかなり良くなった。昨年の夏には最も権威ある国際数学コンテストで金メダル級に達した。そして今年の夏、ほんの数週間前、モデルの一つがミレニアム懸賞問題の一つであるナビエ・ストークス方程式を解いた。この方程式は航空機設計、天気予報、血流の研究に使われる。数学の問題を解くこと自体が目的ではなく、人々が新たな知識を発見し、医療の改善、生活水準の向上、世界中のすべての人の可能性の拡大に役立てるためだ。まだ発見すべきことはあまりに多い。

しかし同氏は、企業が民主的なプロセスを代替してはならないと強調する。AIが民主的であるなら、最も重要な決定はサンフランシスコの研究所だけでなされるべきではなく、民主的なプロセスと、市民に説明責任を負う政府によって形作られるべきだ。国際的なレベルでは、これには協力が必要になる。歴史上、競争し、必ずしも互いを好まない国々が、強力な新技術を前に共通の利益と集合的善のために結束した時代があった。今こそ再びそうならなければならないと同氏は考える。

同氏は、国家と国際の補完的なフロンティアAI基準の仕組みを求めた。能力を測定し、リスクを評価し、保障措置が十分かを判断し、システムがより自律的になるにつれ意味のある人間の監督を保つための基準だ。各国が証拠を比較し、遵守を検証し、何が起きているかについて共通の言語と理解を持てるよう、共通基準が必要だ。失敗が大惨事になる前に世界が学べるよう、正確で迅速なインシデント報告、分類、報告のプロトコルも必要だ。さらに、政府、重要インフラの運営者、技術専門家の間で、新たに生じる脆弱性や脅威を共有する安全な経路も必要だ。

こうした基準は、明らかに既存企業を固定したり、特定のビジネスモデルを優遇したりすべきではない。オープンモデルとクローズドモデルの開発者、新規参入者と確立された研究所、国家の権限と国際協力を支えるものでなければならない。各政府が基準を自国の法体系にどう取り入れるかを決めるべきだが、何が良い証拠、良い保障措置、良い監督なのかについて世界規模で合意できれば、すべての人がより良い状態になる。アルトマン氏は、OpenAIにすべての答えがあるわけではなく、より良い考えを歓迎し、前進する道を見つけるためにあらゆる当事者と協力する用意があると述べた。

最後に同氏は、世界は岐路に立っていると語った。一つの道は、権力が集中し、決定が不透明で、人々が人生で最も重要な技術を自分に押し付けられていると感じる世界につながる。もう一つの道は、AIが人々のために働く世界につながる。人々が民主的制度を通じてその発展の方向を決め導くからだ。科学の進歩が現実の生活を改善し、より多くの人が未来に参加でき、この技術が個人と地域社会により大きな力を与え、自らの選択で生きられるようにし続ける。これは可能性が実現し、興奮と驚きに満ちた未来であり、築く価値があると信じる未来だ。

要点と分析を開く

記事インテリジェンス

エンジニア上級

要点

  • アルトマン氏は、AIは創造と発見の「新たなルネサンス」にも、動揺と混乱の「新たな産業革命」にもなり得るとし、鍵は人間の選択にあると述べた。
  • 同氏は避けるべき二つのリスクとして、人類がAIの未来の制御を失うことと、権力が少数の手に集中することを挙げた。
  • 三つの原則として、AIの意思決定の中心に人を置くこと、進歩の恩恵を人民が享受し人民のために役立てること、個人を力づけることを示した。
  • フロンティアAIの共通基準、迅速で正確なインシデント報告、政府・重要インフラ事業者・技術専門家の間の安全な情報共有の枠組みを求めた。

要点と分析は自動生成され、誤りを含む場合があります。原典をご確認ください。