機械の中のオウム

本稿では、人工知能の起源、現状、未来を探る2冊の本を評論する。物語は1950年、クロード・シャノンがベル研究所で行ったローテク実験から始まる。彼は妻ベティに探偵小説の文字を次々と推測させ、彼女が69%の正答率を示したことを記録した。これは、言語の統計的パターンに対する無意識の理解を明らかにするものだった。今日のChatGPTなどのAIは、同じ確率的予測原理に基づいているが、膨大なデータと強力な計算能力を活用している。

2022年11月、OpenAIはChatGPTを公開。5日間で100万人、2か月後には1億人のユーザーを獲得した。ChatGPTはエッセイ、詩、コードなどを生成できるが、しばしば誤った情報を自信満々に出力する「幻覚」を起こす。例えば、映画『ヒート』にアンジェリーナ・ジョリーが出演しているかと尋ねられたAIは、「heat」という単語を生物学的な発情期と誤解した。このような誤りは頻発し、引用を求められたAIは架空のジャーナルや書籍を捏造する。2023年には弁護士が架空の判例を引用して問題になり、2025年5月にはシカゴ・サンタイムズが発表した夏の読書リスト15冊のうち10冊がAIによる創作だった。

教育分野では、学生がChatGPTを使ってレポートを書き、教授たちはカンニングか道具かで議論している。ある教授はAIでAI生成文書を検出しようとし、別の教授は個別フィードバックの無意味さに絶望した。トロントのヨーク大学のロバート・W・ゲールは「私は20年かけて、書くことと議論を通じて大きなアイデアに取り組む教育法を発展させてきたのに、それが盗用された作品に基づく営利企業によって消し去られた」と述べた。

投資面では、マイクロソフトが2023年1月にさらに100億ドルの投資を約束し、世界のAIベンチャー投資は1000億ドルを超えた。AI企業は巨大なデータセンターの建設を急ぎ、その消費電力は都市に匹敵する。OpenAIの「スターゲート」プロジェクトは、テキサス州にセントラルパークほどの広さのキャンパスを建設し、10のデータセンターを液体冷却で運用する計画だ。ドナルド・トランプ前大統領もこれを宣伝した。

しかし、これらのAIは本質的に「合成テキスト押出機」に過ぎないと、言語学者エミリー・M・ベンダーと社会学者アレックス・ハナは『The AI Con』で主張する。意識はなく、GoogleのLaMDAが感情を持つと主張しても、それは確率モデルの出力にすぎない。専門家も対話に引き込まれるが、その限界を認識すべきだ。

政治家も対応に追われる。当時の上院多数党院内総務チャック・シューマーは2023年にフォーラムを開催し、「適切に管理されればAIは計り知れない可能性を約束するが、放置すれば差し迫った長期的リスクをもたらす」とツイートした。イーロン・マスクは2025年末までに人間より賢いAIが現れると予測し、彼のxAI社が開発したGrokの評価額は800億ドルに上る。AnthropicのCEOダリオ・アモデイは、2026年には生物学、プログラミング、数学などの分野でノーベル賞受賞者を超える実体が現れると見込む。

要するに、AIの発展は機会であると同時に脅威でもある。我々はそのメカニズムを理解し、盲目的な信奉や過度のパニックを避け、この変革に適切に対処する必要がある。