计算与人工智能中至关重要的人的因素

4月30日，MIT施瓦茨曼计算机学院的社会与伦理责任计算倡议（SERC）举办了一场为期一天的研究研讨会，审视人工智能如何塑造世界及其对社会的影响。会议包括最新种子基金获得者的研究报告（如空气污染预测和负责任的计算机视觉部署）、关于AI对齐和AI教育的专题讨论，以及康奈尔大学计算机与信息科学教授乔恩·克莱因伯格的主题演讲。此外，还有SERC学者展示其研究项目的海报环节。

“MIT正在进行大量令人惊叹的研究，探索AI和计算机如何成为造福人类的善的力量。看到社区对前沿工作的如此热情，令人鼓舞，”SERC联合副院长、哲学教授布莱恩·海登表示。SERC联合副院长、J.C. Penney管理教授尼科斯·特里卡奇斯补充道：“随着计算和AI几乎嵌入社会的每个维度，SERC的使命是确保伦理反思与技术发展齐头并进。今年的研讨会展示了MIT跨学科的卓越工作，并为社区深入探讨塑造计算未来所应承担的责任提供了论坛。”

在关于AI对齐的专题讨论中，麻省理工学院电气工程与计算机科学系副教授迪伦·哈德菲尔德-梅内尔主持了一场跨学科小组讨论。Google DeepMind研究科学家伊亚森·加布里埃尔以法官为例说明：“我们希望法官有良好品格，但仍能解释规则。对于AI，不应将其建模为完美。AI应该按照指令行动，同时运用其‘品格’依据我们的道德价值观进行解释。”政治学助理教授贝利·弗拉尼根则认为，AI对齐最重要的问题是解决“谁有权首先治理不同类型的AI系统”。政治学副教授贝尔纳多·扎卡指出，鉴于AI的快速发展，“最紧迫的问题之一是理解我们正在取代的系统中蕴含的智慧，以及它们为何如此运作。”尽管部署压力日益增加，但小组成员总体上对AI对齐的轨迹持乐观态度，强调人类在塑造这些系统中的关键作用。

在教育领域，MIT教授与Gemini for Education主任玛塔·麦卡利斯特探讨了AI在课堂中的伦理使用。MIT临时委员会联席主席埃里克·克洛普弗和塞缪尔·马登教授聚焦于一个核心困境：AI是被用于“卸载”工作，还是帮助构建概念理解。马登强调了“认知挣扎”过程——通过反复尝试和失败学习。他指出：“现在学生遇到困难时，第一反应是求助AI。他们没有真正掌握要评估的技能。”克洛普弗建议审视整个课程：“一些核心内容必须删除。我们一直在添加，却没有解析或修剪。”主持人贾斯汀·赖希指出，虽然青少年知道AI不好，但这并未阻止他们使用。邀请学生参与AI实施讨论，进行反思性交流，能让他们更好地选择为何及如何使用这些工具。媒体艺术与科学教授帕特·帕塔拉努塔波恩表示：“AI不是单一的东西。它可以且应该被设计得不同，以促进创造力和批判性思维。我们测量什么、如何测量，不应只看答案是否正确。”

克莱因伯格的主题演讲《AI的世界模型，与我们的世界模型》通过象棋和电影《指环王》的类比，评估了AI系统因其模型与人类模型不匹配而无意中导致失败的情况。现代象棋引擎在超人水平上运行，但人类无法理解其策略。当引擎将回合交给人类时，人类难以跟上引擎的预测模式。克莱因伯格解释道：“人类-算法团队的危险在于，当人类接手时，算法知道下一步要做什么，但人类不知道。”这些类比展示了AI通过预测模拟、模式识别和约束来理解世界，与人类固有的具身知识之间的差异。但问题仍然存在：如果游戏最终将死，这些差异真的重要吗？