批判性AI素养的互动基础
本文探讨大型语言模型如何利用人类的互动和解读过程，从而变得极具吸引力。作者追溯了从占卜、ELIZA到现代LLM的社会技术根源，指出流畅的输出、过度自信和交互设计共同利用我们的解读基础设施，使得这些技术对普通人和研究者都难以抗拒。文章强调，深入理解人类互动和意义建构过程是培养批判性AI素养的关键资源。
大型语言模型（LLM）的普及和易用性常常使我们忽略其背后复杂的互动与解读机制。要真正理解为何这类技术如此吸引人，必须回顾其社会技术根源。作者Mark Dingemanse在即将出版的著作章节中，追溯了从古代占卜、星象解读，到ELIZA聊天机器人，再到当今LLM的演进历程。他指出，人类一直擅长与“事物”共同思考，将判断外包给外部系统，并从互动中呈现的无意义内容中解读出意义。例如，古代的占卜者通过龟甲裂纹或星象位置解读神谕，现代人则通过星座运势寻找生活指引；ELIZA通过简单的模式匹配让用户产生被理解的错觉。这些历史案例表明，人类倾向于在互动中赋予物体意图和意义。
受Lucy Suchman“放慢对‘智能’机器的讨论”的启发，本文探讨了我们与语言技术互动的互动基础。作者指出，LLM流畅的语言输出、经过微调的过度自信以及精心设计的交互界面，共同“合谋”利用了人类固有的解读过程和互动基础设施。这种设计使得用户即使面对明显无意义的内容，也倾向于赋予其合理性，从而产生持续参与的欲望。这种现象不仅影响普通用户，也困扰着研究人员，使他们难以客观评估模型的能力。
由此，本文认为，对人类互动和意义建构过程的深刻理解将成为批判性AI素养日益增长的武器库中的基础资源。批判性AI素养不仅要求技术知识，还需要理解人类如何与语言技术互动、如何解读输出，以及如何保持主体性。本文章节是《批判性AI研究议程》编辑卷的一部分，目前处于预印本阶段，正在接受审稿，可能会根据反馈进一步修订。作者欢迎读者提出意见，以完善这一重要的学术贡献。