批判性AI素養的互動基礎
本文探討大型語言模型如何利用人類的互動和解讀過程，從而變得極具吸引力。作者追溯了從占卜、ELIZA到現代LLM的社會技術根源，指出流暢的輸出、過度自信和互動設計共同利用我們的解讀基礎設施，使得這些技術對普通人和研究者都難以抗拒。文章強調，深入理解人類互動和意義建構過程是培養批判性AI素養的關鍵資源。
大型語言模型（LLM）的普及和易用性常常使我們忽略其背後複雜的互動與解讀機制。要真正理解為何這類技術如此吸引人，必須回顧其社會技術根源。作者Mark Dingemanse在即將出版的著作章節中，追溯了從古代占卜、星象解讀，到ELIZA聊天機器人，再到當今LLM的演進歷程。他指出，人類一直擅長與“事物”共同思考，將判斷外包給外部系統，並從互動中呈現的無意義內容中解讀出意義。例如，古代的占卜者透過龜甲裂紋或星象位置解讀神諭，現代人則透過星座運勢尋找生活指引；ELIZA透過簡單的模式匹配讓使用者產生被理解的錯覺。這些歷史案例表明，人類傾向於在互動中賦予物體意圖和意義。
受Lucy Suchman“放慢對‘智慧’機器的討論”的啟發，本文探討了我們與語言技術互動的互動基礎。作者指出，LLM流暢的語言輸出、經過微調的過度自信以及精心設計的互動介面，共同“合謀”利用了人類固有的解讀過程和互動基礎設施。這種設計使得使用者即使面對明顯無意義的內容，也傾向於賦予其合理性，從而產生持續參與的慾望。這種現象不僅影響普通使用者，也困擾著研究人員，使他們難以客觀評估模型的能力。
由此，本文認為，對人類互動和意義建構過程的深刻理解將成為批判性AI素養日益增長的武器庫中的基礎資源。批判性AI素養不僅要求技術知識，還需要理解人類如何與語言技術互動、如何解讀輸出，以及如何保持主體性。本文章節是《批判性AI研究議程》編輯卷的一部分，目前處於預印本階段，正在接受審稿，可能會根據反饋進一步修訂。作者歡迎讀者提出意見，以完善這一重要的學術貢獻。