AI技術は人間の入力なしで発展できるポイントに近づいている

Anthropicの共同創業者Jack Clark氏はBBC Newsnightのインタビューで、人工知能技術が人間の入力なしで自律的に発展できる臨界点に近づいていると警告し、AI研究開発に「ブレーキペダル」を設けるよう呼びかけた。

「アクセルから足を離し、ブレーキを踏むオプションが必要だ」とClark氏は述べた。「現在、AI業界にはアクセルはあるが、ブレーキペダルがない」。同氏は、政府の政策を通じて人々がAIシステムを制御し続ける必要があると強調した。AIシステムはますます強力になり、社会への影響も拡大するからだ。

Clark氏によると、Anthropicの人気チャットボットClaudeは現在、システム自身が書いたコードの80%で動作しており、2年以内に100%に達する可能性があるという。「それは巨大な意味を持つだろう」と同氏は語った。Clark氏はAI研究開発に「ブレーキペダル」をどう作るか具体的に説明しなかったが、AIと前世紀初頭の石油ブームや石油王との類似性を指摘した。

「社会の対応は、石油に対する自信と石油が世界にもたらす利益への信頼を与え、企業を率いる人々の personality を心配する必要がないようにする、賢明な政策と規制の枠組みを考案することだった」とClark氏は述べた。「それが明らかに私たちが最終的に目指すべき方向だ」。

しかし、Anthropicは今週、ドナルド・トランプ米前大統領がAIに関する大統領令を出したことを歓迎した。この大統領令は企業に対する指示が比較的手緩いものだった。AI企業に政府による安全性テストの提出を義務付けておらず、これはまだ自主的な取り組みのままである。Anthropic、OpenAI、Googleなど、AI技術の進歩を追求する大手AI企業も、研究を一時停止するとは表明していない。

設立から5年で急成長したAnthropicは、公開株式市場にデビューする準備を進めている。これは新しいAI企業として最初の公開上場の一つとなり、史上最も価値のある株式上場の一つになる可能性がある。民間投資家によるAnthropicの評価額は約1兆ドル（7450億ポンド）と見積もられている。

Clark氏は、AnthropicがAI技術の成長能力について公に議論する動機は、有料顧客との評判をさらに高めるためではないと述べた。同氏は単に「これらの企業内部でこの異常な技術について何が見えているかを世界に伝えたい」だけだという。

最高経営責任者Dario Amodei氏、Clark氏、その他数名の幹部によって設立されたAnthropicは、AIに由来する潜在的なリスクについて積極的に発言してきた。同社は、自社のAIツールがアメリカ人の大量監視や自律戦争に使用される懸念から、米国防総省と公に論争を繰り広げたことさえある。

「社会としてAIの継続的な進歩の影響について真剣な対話を持たなければ、自分の子供たちの将来が心配だ」とClark氏はNewsnightに語った。「大きな利益の可能性がある一方、リスクもある」。Clark氏はリスクの一つとして経済の混乱を挙げ、特に「エージェント」と呼ばれるAI技術—本質的に日常業務を半自律的に実行する個別のAIボット—が特定の仕事を奪う可能性を懸念した。過去1年、大手テクノロジー企業は大規模なレイオフを実施しており、その理由としてAIツールが数百人から数千人分のソフトウェアエンジニアの仕事をこなせる能力が高まっていることを挙げることが多い。

Clark氏は、より創造的で優れたアイデアを持つ人々は実際にはAI技術よりも有利かもしれないと述べた。「AIシステムが本当に創造的になれるかどうかは未解決の問題だ…まだその証拠はない」と同氏は付け加えた。「Anthropicでは現在、アイデアを現実に変えるエンジニアリング能力よりも、良いアイデアを生み出す能力の方が制約になっている」。

それでもClark氏は、AI主導の経済に自分の居場所がないと感じるかもしれない若者に対して、「趣味を育て」、リベラルアーツ教育を追求するよう提案した。「創造的で広く考えられる人、たくさん読書する人、興味を持つ人が最も恩恵を受ける」とClark氏は述べた。「好奇心を満たすことで、このテクノロジーの使い方が報われるのだ」。