AIは道具ではない

L. M. Sacasas はニュースレター『Convivial Society』の最新号で、人工知能を「中立的な道具」と見なす一般的な見解を鋭く批判している。彼は冒頭で、AI は自由に手に取ったり置いたりできる道具ではなく、ユーザーがその中に浸かり、内側から形成される環境であると述べる。この環境効果は内容を通じてではなく、マーシャル・マクルーハンが「メディアはメッセージである」と述べたように、感覚の比率や知覚のパターンを変えることで作用する。マクルーハンはまた、「すべてのメディアに対する従来の反応、すなわち重要なのはどのように使うかというのは、技術的な白痴の麻痺した姿勢である。メディアの『内容』は、泥棒が心の番犬の気をそらすために持ち歩くジューシーな肉片のようなものだ」と述べている。Sacasas は、60万人の従業員を抱える大企業の読者の観察を引用する：最も注意深く AI を使用しているチームほど、良い選択肢と単に安全な選択肢を区別する能力を失っている。歪みは慎重な人を避けず、むしろ彼らを徴募する。最近、昼食時に会った高度な資格を持つコンピュータ科学者も、自身の判断力の微妙な変化を感じ、AI の導入が若手の同僚に有害な影響を与えているのを目の当たりにしている。

Sacasas は、教皇フランシスコの AI に関する回勅『Magnifica humanitas』も批判する。彼の友人 Antón Barba-Kay は、回勅が技術の非中立性を「技術はそれを考案し、資金提供し、規制し、使用する人々の特性を帯びる」と述べるが、これはまさに中性論者の立場——技術は善悪どちらにも使え、私たち次第である——にすぎないと指摘する。Barba-Kay は、「AI は注意を要する貴重な道具である」という表現は、「コカインは慎重に吸引すべき貴重な薬物である」と言うのと同義だと皮肉る。また、デジタル技術特に AI は言語のように多様であり、私たちの選択と思考の条件そのものを変えると指摘する。

記事ではさらに、Charley Johnson による Steven Johnson への穏やかな批判も取り上げられる。Steven は AI を認知の外部化ではなく内部化に使うよう勧めているが、Charley は最近の二つの研究を引用して、その見解の限界を指摘する。「メディアが仕事をしているのであって、情報ではない——だからこそ、あなたはすべての提案を拒否しても、一人では到達できなかった場所にたどり着き、その間ずっと自分の足で歩いてきたように感じるのだ」と Charley は観察する。これは AI が道具ではなく環境であることを示している。道具は手に取り置くことができるが、環境は私をその中に吸収する。

最終的に Sacasas は、新興技術への最善の対応は認知主義的なメディアリテラシーではなく、禁欲的な知覚訓練であると主張する。彼はイヴァン・イリイチの後期思想を参照する。20世紀半ばに、私たちは道具の時代からシステムの時代へ移行した。システムは環境であり、人間はその外に立てない。イリイチは1988年に「道具が私たちの知覚に何をするかを考えたい。道具がどのように心を形成し、その使用が現実の知覚を形成するか」と述べている。1990年代半ばには、「システムとなった社会では、感覚を拡張するために設計された道具によって、感覚が役に立たなくなる。人は現実に触れたり抱きしめたりすることを妨げられる」と論じた。イリイチは「技術起源の蜃気楼の社会における感覚的実践の規律ある回復、禁欲主義」を提唱し、それが友情への障害となる技術を放棄するための基本的条件であるとした。Sacasas は、この知覚訓練から友情へのつながりに特に感銘を受けている。そして、少なくとも AI を賢く使うべき道具にすぎないという考えを捨てることが、現在の技術環境への第一歩であると結論づける。