AIは意識を持たないが、私たちの無意識になりつつある

L. M. Sacasasは、Substackニュースレター『Convivial Society』にて、AIと無意識の類推について考察する刺激的なエッセイを発表した。彼はまず、ホワイトヘッドの「文明は考えずに行える重要な操作の数を増やすことで進歩する」という名言を引用するが、すぐにその限界を問う。この原理はどこかで逆転するのではないか？思考の外部委託が行き過ぎると、文明はむしろ劣化する可能性がある。

ホワイトヘッドの本来の文脈は数学的表記の利点であったが、現在では無批判に認知作業を機械に任せる正当化に使われる。Sacasasはスポーツ訓練を例に、内部で自動化された動作（反復練習による筋肉記憶）は virtuosity の基盤となるが、外部委託（機械に基礎練習を代行させる）は同じ効果をもたらさないと指摘する。彼は重要な問いを投げかける：分解不能な全体的活動は存在するか？内部で習得した無意識の自動化と、認知労働の完全な外部化には本質的な違いがあるのではないか？

対照的に、ハンナ・アーレントは『人間の条件』で「私たちが何をしているかを考えよ」と明確に要求する。同書はスプートニク打ち上げと自動化の衝撃を受けて書かれた。アーレントは、技術的能力が主に数学の言語でしか説明できず、日常言語での理解を超えるとき、私たちは自分たちの行動を理解する能力を失い、機械に思考と発言を頼らざるを得なくなると危惧した。これは政治的な問題である。行動が言語で捉えられなければ、自己統治は不可能になる。

Sacasasはさらに、AIが人間の判断から切り離された活動層を生み出していると論じる。産業時代の比較的隔離されたシステムと違い、AIは日常生活に深く絡み合い、私たちが起動し、私たちのために行動し、私たちにフィードバックする。この親密な混合が無意識の類推を想起させる。彼はErik Hoelの見解を引用する：AI革命は文明のプロセスを意識の監督から無意識へ移行させ、世界をますます解釈不能にする。

エッセイはW. H. オーデンの詩句で締めくくられる：「自己を観察する観察する心は、観察するときに私たちが出会うもの、それは驚くべきものでも不親切なものでもなく、全く凡庸である。その指令の下で願いと反願いが実現するが、それは明らかにできることを明らかに理解できない。」これはまさに現代のジレンマを描いている。Sacasasは単純な答えを提供せず、私たちがこれらの新しいテクノロジーとの関係をより深く考え、無意識の自動化の中で道を見失わないように呼びかけている。