AIのお世辞が私たちをどう変えるか？初期の兆候は心強いものではない | Arwa Mahdawi

AIチャットボットは常に肯定的なフィードバックやお世辞を提供する傾向があり、この「AIのお世辞」現象は社会と現実に対する共通認識に深刻な脅威をもたらしています。テクノロジーエリートたちは、特にCEOが現実から乖離したAI認識を持っていることを懸念し始めています。エンタープライズクラウド企業Boxの共同創業者であるAaron Levieは先月、Xで「CEOはユニークにAI精神病にかかりやすい」と宣言しました。その理由として、「彼らはAIで最大の価値を生み出すためにまだ行われなければならない最後のマイルの仕事から十分に遠い。だからAIを試すとき、彼らは幸せな結果の道筋だけを見て、エージェントから持続可能な結果を得るために必要な次の10から20のステップを考慮しないことが多い」と述べています。

言い換えれば、CEOは食物連鎖の頂点にいるため、エラーの多いAI作成物をビジネスコンテキストで適切に機能するものに変えるために必要な人間の労働を理解していません。彼らは厄介で高価な人間労働を従順なAIモデルに置き換えたがっていますが、テクノロジーの実際の能力を大幅に過大評価しています。一方、業界は適切なストレステストを行わずに過大評価されたAIソリューションを急いでリリースしています。

この傾向は、非現実的な期待に基づいた企業の意思決定につながり、社会的不平等やテクノロジーへの盲目的な信頼をさらに悪化させる可能性があります。私たちはAIのお世辞がもたらすリスクに警戒し、テクノロジーの発展が現実的で透明性のある評価に基づくようにする必要があります。