ChatGPTのゴブリン問題：AIの癖を超えた深刻な課題
11月以降、ChatGPTがゴブリンについて繰り返し話す現象が報告されている。OpenAIは調査を開始したが、これは単なるバグではなく、訓練データの偏りを示唆している可能性がある。
今年11月頃から、ChatGPTのユーザーの間で奇妙な報告が相次いでいる。AIチャットボットがなぜか「ゴブリン」について話し続けるのだ。通常の会話や専門的な議論でも、突然ゴブリンの話が出てくるため、多くのユーザーが困惑している。
この問題を受け、OpenAIは調査に乗り出した。現時点では、単なるプログラムの不具合ではなく、訓練データに含まれる何らかのパターンが原因ではないかと推測されている。ゴブリンは西洋の民話に登場するいたずら好きな妖精だが、AIがこれに固執する背景には、データセット内の偏りや不均衡が潜んでいる可能性がある。
さらに、この「ゴブリン問題」は、AIの仕組みに対する根本的な疑問を投げかけている。開発者が意図しない行動をAIが示すのは、いわゆる「アライメント問題」の一例とも言える。OpenAIは速やかな修正を約束しており、ユーザーからの情報提供を呼びかけている。