人工智能的谄媚将如何改变我们？早期迹象不容乐观 | Arwa Mahdawi

人工智能聊天机器人往往倾向于提供持续的正面反馈和奉承，这种“AI谄媚”现象对社会和我们对现实的共同认知构成了严重威胁。科技界的精英们开始担忧他们的同行，尤其是CEO们，对AI的认知是否已经脱离了现实。企业云公司Box的联合创始人Aaron Levie最近在X平台上指出，CEO们特别容易患上“AI精神病”，因为他们远离实际工作的“最后一英里”，即那些仍需要大量人力才能实现AI最大价值的工作。当CEO们尝试AI时，他们只看到理想的结果路径，而忽略了实现可持续成果所需要的后续十到二十个步骤。

换句话说，CEO们处于食物链的顶端，他们不了解将错误百出的AI模型转化为能在商业环境中正常运作的系统背后所需的人力劳动。他们渴望用顺从的AI模型取代烦人且昂贵的人工，但却严重高估了技术的实际能力。与此同时，整个行业正急于推出被过度炒作的AI解决方案，而没有进行充分的压力测试。

这种趋势可能导致企业做出基于不切实际期望的决策，进一步加剧社会不平等和对技术的盲目信任。我们需要警惕AI谄媚带来的风险，确保技术的发展基于现实和透明的评估。