AIで本当に怖れるべきこと (2021)

2021年後半、ChatGPTがリリースされる数ヶ月前に、私はロシア語でこの記事を書いた。以下はその英訳であり、声と主張は変わっていない。再投稿するのは、私が予測を評価するよりも、読者に評価してもらいたいからだ。

2021年から見えなかったことの一つは、企業のAI導入がトップダウンの命令とボトムアップのカルゴカルトの積み重ねとして行われていることだ。プログラミングのバックグラウンドのないジュニア社員に「すべてを自動化せよ」と鍵が渡され、コードベースは誰もエンドツーエンドで読めない複雑さに陥る。そして、最終的に彼らを救うAIクリーンアップコンサルティング市場は、2010年代のセキュリティ侵害復旧産業とよく似たものになるだろう。私はその具体的な形を見逃したが、より広い問題は見えていた。それは簡単な部分だ。私たちは常に、考えることを外部委託する前に、選択を外部委託してきたのだ。

以下がその記事だ。何を見逃したか教えてほしい。

遠い昔、はるか遠くの街ハルキウで、私は7歳だった。その時、私は初めてVHSプレーヤーという奇跡的な新しいテクノロジーを目にした。手には初めてのカセットテープがあった。何を見るかはあまり気にしていなかった。録画されたものを見られるという事実が重要だった。運命が何を用意しているか知らずに、手書きで「ターミネーター2」と書かれたカセットをプレーヤーに突っ込んだ。

子供は想像力が豊かで、大人よりも鮮明に物事を描くと言われる。なぜかは分からないが、私が最もはっきり覚えているシーンは、ロサンゼルスが核弾頭で爆撃される場面だ。私はVCRの前で完全なパニック状態で座り、何度もその恐ろしいフレームを巻き戻して見た。

正気に戻った後、私は大人たちに何を見たのか、いつ起こるのか、誰のせいなのかを尋ね始めた。彼らは笑い飛ばして心配するなと言った。

そして彼らは正しかった。私は成長した。ターミネーター2は単なる怖い映画ではなくなり、子供の頃から覚えている傑作となった。そして人工知能への恐怖は私を悩ませなくなり、人間の知能への恐怖に取って代わられた。

本当に何を怖がる必要があるのか？自動化された核爆撃？ディストピア的なYouTubeビデオの殺人ドローン？同じターミネーターのスピンオフ？あるいは、あのひどいロボコップのリブート？いや、未来は歩く殺人サイボーグで溢れてはいない。キアヌ・リーブスやハリソン・フォードがブレードランナーで2019年11月を見せようと努力しているにもかかわらずだ。

考えてみれば、遠い昔、はるか彼方の銀河では、歯車を詰め込んだドロイドを除いて、人工知能はまったく存在しなかった。そして、フランク・ハーバートを信じるなら、二万年後の遠い未来では、人工知能の創造は死刑に値する。

しかし人生は続く。人生は今、ここにある。そして人々は静かにそれを失い始めている。なぜならAIのことが多すぎるからだ。そして私たちはそれにどう対処すべきか同意できない。ある者は根絶すべきだと言い、マーク・ザッカーバーグは答えは単にAIにもっと働かせることだと主張する。

ここに別の見解がある。この視点について友人に尋ねたところ、ほとんどの人が何となくそれを感じているが、めったに口に出さないことがわかった。

最大の間違いは、コンピュータが考えられると思うことだ

次に起こったことには便利な言葉がある：誤称（misnomer）——何かに間違った言葉や名前を使うこと。最初の真空管がENIACとUNIVACの中で暖まっていた1945年、それらを建造したアメリカ軍人は自分の作品を「電子頭脳」と呼ぶことにした。

そしてそこから大混乱が始まった。当時、誰も脳が実際にどのように働くかについてはほとんど知らなかった。率直に言って、今でも誰もそれを適切に説明できない。私たちにはニューロンがあり、それらが織り合わさって、あなたというジョン・ドウが生まれる。まあ、そう考えている。考えるとき、電気が脳を流れる。考えないときは流れない。ここが肝心だ：脳に記憶を蓄える。しかし、どうやってかは分からない。おそらくニューロンが織り合わさることに関係している。実際にニューロンを数えてみると、どうやって何かを覚えているのか説明できない。ああ、もう一つ。頭をぶつけて自分が誰か忘れる人もいれば、外科医に脳の半分を切除されても平気で歩き回る人もいる。

いいや、真面目な話だ。脳がどのように働くかを完全に理解しているふりをやめよう。「理解」とは心臓を理解するのと同じ意味で。四つの部屋がある。ここに血液が入り、ここからここへ流れ、ここが収縮期血圧、ここが拡張期血圧。本当に悪くなったらペースメーカーを埋め込める。大体どう動くかは分かっている。しかし心臓への命令は脳から来ており、その部分は触っていない。それは人間の制御を超えた脳の部分だ。制御できない。よほどインドの神秘家でない限り。彼らはできるが、多くのことが許されている。

もちろん、神経インターフェースはあるし、MRIスキャンや腫瘍の除去もできる。脳がなければ友人のジョン・ドウはおしまいだと知っている。しかし、実際にどう動くかは分からない。なぜか？ゼロから新しいものを作る方法を知らないからだ。

古いHeathkitの真空管ラジオがどのように動くか理解していれば——60年代にアメリカ中のキッチンテーブルで趣味人が組み立てたようなキットだ——すべての部品の目的がわかり、新しいものを作れる。修理できる。中国製のトランジスタチップに、ディスクリートトランジスタに、あるいは暖かく素敵な真空管に再構築できる。それはHeathkitとは何か、どう動くかを真に理解していることを意味する。

脳は？違う。直感はあるが、確信はない。1945年には、今日脳について知っていることの90％について何も知らなかった。

そして、そのレベルの知識を武器に、誰かが入ってきて言う：「ねえ、諸君、考えたんだけど、これを『電子頭脳』と呼ぶべきだ！」

誤称だ。言葉の間違った使い方。

そして、それは大した問題にならなかったかもしれないが、一部の人がそれを信じた。名前に「脳」という言葉が含まれていれば、コンピュータは脳だ。そして私たちは突き進んだ。コンピュータがどう動くか理解しているプログラマーがいる一方で、脳を再現して生き生きと独立した思考ができるようにしようとするカルト集団がいる。

いくつかのことを棚に上げよう

さて、定義から始めよう。

まず、ウィキペディアに書いてあることは飛ばそう。あれは夜に羽ばたく恐怖のように読める。

代わりにMerriam-Webster辞書を引こう。

人工知能の完全な定義

1: コンピュータにおける知的動作のシミュレーションを扱うコンピュータ科学の一分野

2: 機械が人間の知的行動を模倣する能力

他に何かを発明する必要はない。これがAIとは何かという答えだ。機械による人間の行動の模倣。これが生命の創造と何か関係があるという考えを持っているなら——模倣の定義を調べてみてほしい。

したがって、最初のチェスプログラムはAIと呼べる。ぎこちないが、それでも模倣だ。

さて、この定義を武器に、より具体的な用語に進もう。例えば、機械学習を見てみよう：

機械学習の定義

コンピュータが既存の統計モデルに新しいデータを継続的に組み込むことによって、自身の性能（画像ファイルの分析など）を向上させることができるプロセス。

つまり、機械学習は単に統計モデルにデータを追加することだ。MLネットワークの出力で何が得られるか？0と1の間の浮動小数点数。犬を見ているなら0.999の犬、猫を見ているなら0.998の猫。システムが本当に自信があれば、ちょうど1の犬が出るかもしれない。それは写真の中の100％の犬だ、歯を賭けてもいい。これらのアルゴリズムをより洗練させれば、面白いものが作れる。コンピュータにマリオをプレイさせることを教えられる。テトリスピースを積むこと。位置1は10％良い、位置2は78％良い。

そして、まるでフューチュラマのように：

——美しくないか？ ——もちろん、でも君の美しさの93％に過ぎない。 ——おお、ベンダー！それは計算エラーか、君は私が会った中で最もロマンチックなロボットだ！

完全を期すために、「ニューラルネットワーク」を見てみよう：

多数のプロセッサが人間の脳のニューロン間の接続を連想させる方法で相互接続され、試行錯誤のプロセスによって学習できるコンピュータアーキテクチャ。

結論：プロセッサを特定の方法で配線したアーキテクチャがあり、その上で「機械学習」ができる。

繰り返すが、上記のどこにも脳の代替や実際の知能の存在は示唆されていない。

では、著者は何を不満に思っているのか？

私たちが魔女を火刑に処し、ゴーストバスターズを演じるのが好きだという事実について。おそらくすべてSFのせいか、あるいは何かを見落としているのか、私たちは機械に人間の感情を帰属させ始めている。

そして、核弾頭をいつ発射するかを決めるシステムを構築しようとしているわけではない。いや、そこまで愚かではない。

私たちは代わりに別の愚かなことをしている。

AIに感情と選択能力を委ねている。

TikTokでスワイプアップするたび、Instagramで「いいね」をタップするたび、Facebookフィードをスクロールするたび、私たちは人工知能を信頼して次のコンテンツを選ばせている。

かつて人間の決定の領域だったものがコンピュータに委ねられている。なぜなら、私たちは物理的にその膨大な情報を正しく処理できないからだ。

昔は、吟遊詩人、道化師、語り部、芸能人などがいた。彼らの仕事は私たちを楽しませることだった。そんな人がステージに立つか、友人の輪の中で話し始めると、彼らは部屋の空気を読み、何が起きているかを理解できる。ジョークが滑ったら、状況を分析し、考え、経験に基づいて次に何を言うか決める。

もしリンダがピンクのズボンとユニコーンのジョークで笑わなかったら、良い語り部はリンダが手強い観客だが猫が大好きだと覚えている。だから猫に切り替える。そして物事は軌道に戻るかもしれない。

アルゴリズムが次の動画を提案するとき、それはあなたを理解し許してくれる親友ではない。その仕事はあなたをより良くすることではない。その仕事はあなたをサイトに長く留めておくことだ。そしてあなたの視線は奇妙な動画に留まり、アルゴリズムは何が良くて何が悪いかについてすでに結論を出しており、3時間後には道路脇の動物の死骸動画にどっぷり浸かっている。

誤解しないでほしい

AIには本質的に悪いところは何もない——それが何であるかを受け入れる限り。それはコンピュータアルゴリズムだ。結果を見つけるための一連の行動。結果は正確に定義されないが、それがAIの要点だ。最も確からしいデータセットから最も確からしい結果を見つけること。

AIの働きに影響を与えるものは？入力データとモデル。そのモデルを訓練しデータを収集するのは誰か？人間だ。

すべてのデバイスの背後には常に人間がいる。

機械が何か新しいものの原因になることは決してない。人生の何かの原因は誰かであり、何かではない。たとえ誰かが「考え」、「より完璧な機械を創造する」機械を構築したとしても、それは機械を作る機械を誰かが作ったから起こる。

そして、古典的な銃のシナリオがある。二人の人間に拳銃を渡す。一人目は数百種類の武器を撃った経験豊富な射手。二人目は銃について何も知らないがギャング映画を見た子供。

一人目はおそらく安全装置をかけて銃をしまうだろう。二人目は何かを撃つだろう。一人目は自分が何をしたか、手に何があるか、どう使うかを知っている。一人目は自分が持っているものに対して責任がある。二人目は隣の猫を撃ち、「俺じゃない、勝手に暴発したんだ」と言うだろう。

さらに良い例えは車だ。渋滞で静かに座っている経験豊富なドライバーを見たことがあるだろう。彼は車線を縫って動けばガソリンと時間を無駄にするだけだと知っている。

では、何を恐れるべきか？AIそのものではなく、人間のAIに対する誤解と悪用だ。私たちは未知を恐れるが、それ以上に自分の愚かさを恐れるべきだ。結局のところ、AIは私たち自身を映す鏡なのだ。