もしAIに意識があるなら、『エイジ オブ エンパイアII』にも意識がある

MicrosoftのAI研究者Adrian de Wynter氏は、古典的なリアルタイムストラテジーゲーム『エイジ オブ エンパイアII』（AoEII）の中に、ヤギを使った基本的なニューラルネットワークを構築した。彼の論文『If LLMs Have Human-Like Attributes, Then So Does Age of Empires II』は、大規模言語モデル（LLM）に対する過度な擬人化を皮肉る内容だ。

De Wynter氏は、ゲーム内のシナリオエディタを利用してNANDゲートと1ビットのパーセプトロンを作成。草を0、橋を1、ヤギをビット信号として扱い、単純な機械学習モデルを再現した。これはChatGPTやClaudeなど実際のLLMと同じ基本原理に基づくが、誰もヤギに意識があるとは考えない。同氏は「この論文の目的は、人間が容易に擬人化してしまうことを形式的に示すことだ」と404 Mediaに語った。

De Wynter氏は、過去2年間に発表された315のコンピュータサイエンス論文をレビューし、57%がLLMに人間的特徴（不安感や道徳性など）があると仮定していることを発見した。この前提が実験設計や結果解釈を歪めていると批判する。「LLMが人間のように振る舞うと仮定するのをやめるべきだ。自然言語で訓練されたからといって、人間と同じ認識を持つわけではない」と同氏は述べる。

また、LLMが意識を持つ可能性を完全に否定するわけではないが、議論の焦点はそこではないと主張。むしろ、チャットというインターフェースが人間らしさの認識を生み出している点を強調する。AI企業はしばしばLLMを擬人化してマーケティングに利用するが、実際には業界全体が赤字に苦しんでいる。De Wynter氏は、透明性のある開示と適切な調整技術によって、ユーザーの誤解を防ぐべきだと提言している。