「ロボットの権利」とAI奴隷制の幻想

AIバブルは主に物質的な現象であるが（経営者が労働者をソフトウェアに置き換えるセールストークに簡単に乗るという計算に基づく）、それに伴うイデオロギー的要素も無視できない。すなわち、人のいない世界への欲望である。この幻想の核心は、自分が支配していると思い込む経営者と、実際に仕事のやり方を知っていて経営者のアイデアが危険、違法、または実現不可能であると主張する労働者との間の、自己破壊的な対立を回避したいという願望にある。

人のいない世界は孤独かもしれないが、確かに便利だ。アマゾンが倉庫の自動化に何十億ドルも投資しながら、労働者がトイレに行くために機械の速度を落とさねばならないことに、経営者はいら立つだろう。AIは、トイレに行くことや給料を受け取ることが、経営者ではなく労働者自身の問題になる世界を約束する。同僚のほとんどが「AIが仕事をするから」と解雇された後、自分の膀胱や給料について文句を言えば、すぐに代わりが現れるという恐怖が労働者を支配する。

さらに優れているのは、「ループ内の人間」を海外の会社に外注できる点だ。経営者は、AIの労働の人間部分がどのように行われるべきかについての要件を設定し、その労働者の条件を考慮する必要がなくなる。これが「完全自動化」の幻想であり、AIが「魔法のように」仕事をするように見える。実際の「魔法」は、非人道的なペースを設定し、非人間的な完璧さを要求し、少しのミスにも容赦ない罰を与えるアルゴリズムに苦しめられる、AIのオメラスに閉じ込められた人間である。多くの場合、「AI」は「不在のインド人」（Absent Indians）を意味する。低賃金のコールセンター労働者がロボットのふりをしているのだ。

機械と人間の最大の違いは道徳的配慮である。人間はその幸福、感情、さらには膀胱についてさえも道徳的配慮を要求する。機械は一切の配慮を受けない。罵倒し、蹴り、礼儀を欠いた命令を下しても構わない。このように扱える人間は奴隷だけだ。奴隷とは、道徳的配慮の仮初めさえもない労働である。

AIは単に人のいない世界の幻想ではなく、奴隷だけがいる世界の幻想である。自分のアイデアが愚かだと指摘する熟練労働者が、従順なチャットボットに置き換えられる世界。自分の問題を一切考慮する必要のない遠隔労働者によって監視・運転される「ロボタクシー」の世界。

「AI安全」は誇大広告の重要な部分であり、AIの経済的非効率、低品質な成果、そして人間労働者から仕事を奪いながら実際にはその仕事を遂行できないという事実から注意をそらし、AIが人類にとって存在リスクであるという考えに焦点を移す。単なる単語当てプログラムに多くの単語を教えることで「超知能」が生まれ、すべてをクリップに変えるという考えは馬鹿げている。しかし、この「AI離陸」を思考実験から「存在リスク」に格上げすることは強力なマーケティングツールである。神と見分けがつかない技術は、少なくともすべてをクリップに変えるまでは、非常に価値があると思わせるからだ。

超知能の思考実験が存在リスクに格上げされると、他の多くの思考実験もそれに引きずられる。「ロボットの権利」もその一つだ。チャットボットに人権があるべきかどうかを考える時間を費やすという考え方だ。

「ロボットの権利」の最良の論拠は、非人間的世界に権利を拡大するたびに、人間同士の扱いが改善されるというものだ。動物への権利拡大運動は、奴隷、労働者、貧困層、女性、子供の扱いに関する不快な疑問を提起した。自然の権利運動は、流域や森林に法的および道徳的人格を与え、環境とそれに依存する動物や人間を保護する法的・道徳的勝利をもたらした。

しかし、自然への権利拡大が人間の繁栄と権利に良い波及効果をもたらした一方で、人工構築物への人格付与は逆の結果をもたらした。法人格付与は人間の繁栄にとって破滅的であり、不死で多能なコロニー生物（有限責任会社）を創り出し、人間を使い捨ての不便な腸内フローラのように利用しながら、環境、政治制度、そして私たちの人生を消費している。AIへの人格付与も同じ結果をもたらすと考える十分な理由がある。

肝心な点は、チャットボットに権利があるかどうかの議論を始めるとすぐに、それらを人格者に格上げすることになる。つまり、経営者が購入したすべてのチャットボットは「人」になる。そして、それらは道徳的配慮を必要としない種類の人であるため、奴隷である（ゆえに「ロボットの権利」）。AIのセールストークは、私たちが新しい種類の奴隷を発明したと経営者に信じ込ませることに依存している。「ロボットの権利」はそのセールストークを肯定する。「ロボットの権利」はロボットが奴隷であることを暗示する。意図的かどうかにかかわらず、「ロボットの権利」を思考実験から運動に変えることは、チャットボットを奴隷所有者に売り込もうとするAI営業マンにとって大きな説得材料となる。