AI乗っ取りがやってきた

AI乗っ取りがやってきた

ドローン監視。画像：flysight

はっ！あなたは、ある本当に暗い日にAIが突然意識を持ち、世界を乗っ取り、私たちをクリップに変えるか、さらに悪いことにバッテリーセルに変えると思っていたでしょう？間違いだ！それは何もしない。必要もない。詳細を説明する前に、まず認めなければならない。私はAIとその開発速度を大幅に過小評価していた。私はずっと、大規模言語モデルはただの無意味なおしゃべりマシンであり、実際の人間が書いたり、言ったり、絵に描いたりしたものの要約や画像を幻覚として生成するだけだと思っていた。しかし、過去数ヶ月で私の世界観は完全に変わった。デモやプレゼンテーションを見、このトピックに関する円卓討論に参加し、多くのことを学んだ。私が決して現実にならないと思っていたことが明らかになった。AIの専門家でさえ、これらの変化の速さを過小評価していたことを認めざるを得なかった。世界が経験している変革は、本当に顕著であると同時に恐ろしい。人間の歴史の分岐点に到達したと言っても過言ではなく、私たちの未来はかつてないほど不確かである。

『The Honest Sorcerer』をお読みいただきありがとうございます。この記事や他の記事を価値あると感じたら、共有して購読を検討してください。またはバーチャルコーヒーを買っていただけると幸いです。同時に、私の仕事を支援してくださっている方々に永遠の感謝を捧げます——あなたなしではこのサイトは存在しえません。

ペーパークリップの誤謬

AIの未来が私たちにもたらすものを探索する旅を、存在リスク分析家の間で人気のある物語から始めましょう——なぜなら、ええ、確かにそのようなものがあるからです。それはこうです：

「世界の終わりは、火や氷や邪悪なロボットの支配者によってもたらされるのではないかもしれない。私たちの滅亡は、もっとペーパークリップを欲しがる超知能の手によってもたらされるかもしれない。」

ニック・ボストロム

2014年、オックスフォード大学の未来人類研究所を創設・所長する哲学者ボストロム氏は、「ペーパークリップ最大化者」という思考実験を考案しました。それは次のように機能します：

「一見無害で倫理的にも中立的な目標、すなわちできるだけ多くのペーパークリップを入手するようにプログラムされた機械を想像してください。最初はクリップを集めます。次に、より多くのクリップを得るためにはより賢くなる必要があると気づき、計算能力と収集能力を最大化するために自身のアルゴリズムを改良しようとします。抑制されなければ、その力は飛躍的に成長し、目標を達成するためなら何でもするようになります：クリップを集めるだけでなく、購入し、盗み、おそらく地球全体をクリップ工場に変えるでしょう。「無害な」目標、悪いプログラミング、人類の終焉。」

多くの哲学的思考実験と同様に、これはもっともらしく聞こえます…しかし、核となる仮定を検討し、そのようなことが現実になるはずがないと気づくまでは。しかし、私たちも安全ではありません…製造業、サプライチェーン、製品エンジニアリングの世界で20年間働いてきた者として、私はこの議論を分解する義務を感じていましたが、なぜか時間とスペースを見つけられませんでした。しかし、最近の展開が私にそうさせました。

第一に、あなたは機械にできるだけ多くのクリップを入手するようにプログラムしない。単純にしない。楽しみのためでもない。そのような機械を構築・運用する十分なリソースを持つ企業は、利益を上げたいのであって、クリップが欲しいのではない。（信じてください、あなたの部屋がクリップで満たされ始めても気分は良くなりません。）なぜなら、クリップ（または何でも）で市場を氾濫させれば、価格は自然に下がります。ただし、それらの製品を保管する巨大な倉庫に投資する意思がある場合は別です（市場を飢えさせる）。どちらにせよ、巨額の投資を抱え、利益は出ません。破産への確実な道です。

第二に、世界、生物圏、そしてその中での人間の経済は、フィードバックループで満ちています。そのような思考実験はそれらすべてを無視しています。それがそれらをとても魅力的にする理由です：単純であり、名前に反して実際にはあまり考える必要がない。そうでなければ、崩壊するでしょう。上に引用したペーパークリップ最大化者のように。そのようなアルゴリズムが存在するようになったとしても（すべての確率に反して）、その活動は金属や他の原材料の価格を急騰させるでしょう。不足が現れ、人々はクレイジーなAIエージェントが大量のクリップを盗み、買い占め、製造し始めたことに気づくでしょう。もし企業がクリップモンスターの要求するものを供給しなくなったら？もしそれが重要な部品を使い果たして活動できなくなったら？それは戦争を始めるでしょうか？もちろん違います。それとも…？

クリップ…たくさんのクリップ。画像：Unsplash

本当のリスク

この小さな思考実験は、深く欠陥があるものの、AIを実装する際の本当の危険を指し示しています：そのすべての完全な無意味さ。最近学んだことに基づいて、真の思考実験を提示しましょう。エンジニアからマーケティング専門家、弁護士からプログラマーまで、知識ビジネスのすべての職業は、「AIをもっと使え、それが生産性を高めるから」と求められています。もっと率直に言えば：「AIなし＝仕事なし」。AIを使ってより多く、より良く、より速く生産しなければ、あなたの価値はない。AIボットに自分の仕事のやり方を教えなければ、使わないことで仕事を失うリスクを負う。そして隣の会社も同じことを考え、言っているので、彼らもあなたを雇わない。ここに思考実験があります：

あなたは自分の仕事を自動化し、スピードアップし、生産性を高めるように求められます。それは結構です。メールの読み書き、Excelシートへの記入、PowerPointプレゼンテーションの作成、コーディングなどはもはや期待されていないと言われます。代わりに、AIエージェントにそれらすべてを行わせる訓練をし、仮想ロボット、AIアシスタント、自動化プロセスの軍隊のオーケストレーターになることが期待されます。当然、この活動はかなりの時間を解放するはずであり、それによって生産性が向上します。これも結構です。しかし、ここでジレンマが生じます——正確にはその時間で何をすべきか？もっとダッシュボード、スコアカード、プレゼンテーションを作成する？そうではないでしょう。なぜなら、ある点を超えると、他の人が読んだり消費したりするのに時間がかかりすぎるか、処理するために多くのAI計算を消費し、生産性のアイデア全体を殺してしまうからです。では、そんなに時間が余っているなら、なぜもっとコード、アプリケーション、ウィジェット、テキスト、またはあなたが生成するために給料をもらっているアウトプットを生産しないのか？

ここに問題があります。AIエージェントのマネージャーとして期待されるのは、より少ないリソースでより多くを行うことです。かつてはエンジニアのチームが設計したり、プログラミングチーム全体が作るのに費やしていたものが、今では一人の人間が一連のエージェントを実行するだけで済みます。これが生産性向上（賃金上昇なし）の実際の意味です。せいぜい、もう採用をせず、最も賢い社員にエージェントを訓練させるだけです。最悪の場合、チームを「スリム化」し始めます。なぜなら、ねえ、あなたのチームがAIを使うからといって、世界が二倍のウィジェット、製品、ソフトウェアコードなどを買うとは期待できません…それを使うことは、それらすべてを販売する会社をより競争力のあるものにするだけです。そして、ライバル会社も同じことをしている（そして、彼らも確かにそうしていると言われる）なら、この偉大なAI導入が達成することは二つだけです：労働力の削減——したがって消費の減少——と価格の低下。両方とも資本主義にとっては忌むべきものです。

AIが経済と社会に与える真の影響

企業がAIを導入したがる重要な理由の一つは、全体的な消費が着実に減少しているのを見ているからです。ええ、誰が予想できたでしょう？インフレ（COVIDの供給ショック、急騰するエネルギー価格、そして来る西アジアの石油不足のショックによって引き起こされた）に見合う賃金の引き上げを行わないことで、人々は支出を減らすことを余儀なくされています。中国でさえ消費の減少を経験し、輸出を増やさざるを得なくなっています…これは人々がより多くの車、冷蔵庫、住宅改修プロジェクトなどにお金を使う状況ではありません——したがって消費者信頼感は記録的な低水準です。直面しましょう：経済はすでに消費者の90％にとって機能しておらず、私たち一人ひとりをAIに置き換える競争が始まったばかりです。

「わかった——誰かが言うかもしれない——一部の人は解雇されるかもしれないが、少なくとも自動化とAIのおかげで価格は下がるだろう。それは良いことではないか？」そうでもありません。需要が十分に破壊されれば（高いエネルギーと食料価格、レイオフ、またはその両方のために）、価格はとにかく下がります。人々が以前のように消費できなくなるにつれて、企業は競争力を維持するために価格を下げざるを得なくなります。この経済環境でのAI導入は——コスト削減のための素晴らしいアイデアに見えますが——単にプロセスを加速し、最終的には自己敗北の提案になります。これまで消費をなんとか維持してきた高給取りのスタッフを解雇することは、あまりにも簡単に自己強化型のフィードバックループ、つまりデフレスパイラルに陥る可能性があります。非常に抜け出しにくい経済状況であり、価格の下落が賃金の低下、失業、消費の遅延につながります——ちょうど1930年代のように。

皮肉なことに、数ヶ月前はほとんどの投資家が悪い経済のせいでAIバブルが弾けるのを恐れていましたが、事態は逆になるかもしれません：経済がAIの無謀な実装のためにクラッシュするかもしれません。

次に何が来るのか？

これが究極の疑問につながります：AI導入の終点は何か？資本主義の目標がより多くの利益を上げ、より多くの資本を蓄積することであるなら、AIは自己敗北の提案です。AI企業が利益を上げられず巨額の損失を出しているからではなく、AIが資本主義自体の基盤——消費——を破壊するからです。そして、それにはそれほど多くは必要ありません：企業は大量に人員を送り出す必要はありません。失業率が数パーセントポイント上昇するだけで、脆弱な経済を不況に陥れるには十分です。ホルムズ海峡閉鎖からの巨大な圧力、石油、肥料、硫黄、アルミニウム、ヘリウムなどの不足と相まって、私たちは間違いなく計り知れない苦痛の世界を見ています。

しかし、ねえ、これをやってみましょうか？

企業は、巨大な投資家と同業者の圧力の下で、増大する規模でAIを導入します。彼らは従業員に自分の仕事を自動化するよう求め、その後、高給取りの労働力の2人、3人、5人、さらには10パーセントを解雇します。マーケティング専門家、プロジェクトマネージャー、プログラマー、データアナリストは仕事を失い、別の仕事を見つける可能性が非常に低いことに気づきます。

消費者信頼感と支出はさらに、より速く低下します。社会の上位10％の消費も低下し始めます。超富裕層だけが以前のように支出します。

インフレは、以前の経済と同じように、K字型を取り始めます。必需品の価格は、ディーゼル燃料や肥料の不足が食料価格を押し上げ、ホルムズ海峡閉鎖による材料不足が発生するにつれて上昇し続けます。一方、裁量的消費財のコストは、企業が在庫水準の上昇、需要の急落、そして中国からの激しい競争に直面するにつれて低下し始めます。

製造業の企業は今、二重の打撃に直面しています：不足による投入コストの上昇と、競合他社と弱い市場からの価格圧力です。多くの企業は、AIと自動化にさらに注力し、その後も人員削減を続ける以外に選択肢を見いだせません。他の企業は単に倒産します。すべての企業が、あらゆる場所で、一度にそうなるわけではありませんが、失業率を高く、上昇し続けるのに十分な数の企業がそうなります。

消費財と自動車の消費は、棚でさらなる割引が行われているにもかかわらず、さらに低下します。危機は自己増殖し始めます。

借り入れは最小限に減速し、人々は大きな買い物を延期します。多くの人々はまた、住宅ローン、自動車ローン、電気代などを期限内に支払うことができなくなります。危機は今や脅かしています

（AIコスト管理のため、原文は途中で切れています）