在教育中使用人工智能，我们应该讨论哪些问题？

随着各类人工智能系统在社会和教育领域的应用日益广泛，教育工作者和管理者迫切需要暂停脚步，深入探讨这些技术所引发的社会与伦理问题。AI在教育领域是一个快速演变的领域，虽然具有诸多潜在益处，但教育和社会的后果过于重大，不能不以审慎和伦理的态度行事。许多人认为生成式AI的风险超过了其收益。学生有权质疑、探索、抵制、拒绝或学习如何负责任且合乎伦理地使用AI，以促进个人、社会和生态的繁荣。

以下是在AI政治经济与社会权力层面需要关注的总体问题：第一，显著的环境危害，包括大量用水、加剧碳排放、生态破坏、空气污染增加以及数据中心快速扩张的负面影响。第二，AI教育公司的逐利和市场占有可能将教育降格为商业产品。第三，通过语言特权和文化偏见导致文化、思想和知识的同质化；全球北方数据偏见；课程、评估和教育目标的窄化与扁平化。第四，“快速行动，打破常规”的做法可能危及教育的社会契约，违背学校的保护性目的，破坏改进努力并损害社会关系。

在AI模型开发和训练过程中产生的危害包括：第五，用于训练AI模型的知识产权被窃取。第六，“数字血汗工厂”中存在不公平劳动实践，以及AI内容审核员遭受严重的心理伤害。第七，AI模型中“内嵌”的有偏见反应可能产生倒退和边缘化的结果（如种族主义、性别歧视、仇外心理）。

在师生和教育领导者使用过程中出现的问题：第八，虚假信息被当作真实信息推广（即幻觉），且通过AI系统分享错误信息和虚假信息。第九，必须考虑并应对对年轻人的不利健康影响（如对心理健康和青少年自杀的影响）。第十，社交学习过程、认知和社会发展的干扰（如将学习任务外包给AI系统，减少元认知参与和创造力）。第十一，数据隐私和学生安全可能受到损害，需建立防御。

在教师和教育领导者使用过程中：第十二，通过将任务外包给AI系统而削弱教学和领导的专业性，减少对人类专业知识的需要。第十三，鼓励自动化，但自动化不能替代人类劳动和工作；教育本质上是一项人类事业。

关于公平性问题：一些团体正在探索AI是否能支持教育公平。然而，目前生成式AI在教育中的风险超过了其收益。由于AI是一把“双刃剑”，我们都需要为AI在教育中的伦理考量做出空间。AI使用对社会的影响对非主流社区尤为不利，需要努力促进公平。

建议采取的行动包括：基于社会与伦理分析进行教学；教育工作者团队应就13项社会与伦理关切进行反思并指导教学；学习如何教授抵抗AI以及如何塑造更公正的社会技术未来；使用关于人们如何学习的专业知识以及“慢行并建设”的方法来减少伤害；与学生和教师共同设计AI使用方式；让学生参与社会和伦理关切的讨论，共同理解负责任地使用AI；教育学生“科学技术可能引发伦理问题，而科学本身无法提供答案和解决方案”；教育工作者应传授AI系统的环境和社交影响，并采用伦理决策。