Copilot、GeminiなどのAIツールでモデル選択をデフォルトのままにしてはいけない理由

数学者のAdam Kucharski氏が、Microsoft Copilotに同一のデータセットを異なる国ラベルで与えたところ、正確な結果ではなく詳細なステレオタイプを出力しました。思考モデルはこのトリックを見抜けますが、ユーザーが適切に選択する必要があります。