AI News HubLIVE
站内改写2 分钟阅读

关于人工智能与数学的莱顿宣言

一份由国际数学联盟(IMU)认可的社区宣言,呼吁数学家应对人工智能在研究中的挑战与威胁,强调数学的核心价值如证明、归属和透明度,并提供个人与机构的建议。

来源Hacker News AI作者: uamuamuam

莱顿宣言是一份由数学界发起、国际数学联盟(IMU)正式认可的声明,旨在应对人工智能(AI)在数学研究中引发的挑战。随着AI技术,包括符号方法和神经网络方法在数学的生成与形式化方面的迅速发展,数学实践正面临前所未有的变革。宣言指出,数学家必须积极行使责任,确保数学学科的持续繁荣,并为个人、机构、政府和工业界提供了具体建议。

宣言首先阐述了数学研究的核心价值。这些价值包括:证明被视为最高确定性的来源,不仅能确认结论的正确性,还能提供理解;研究成果应归属于特定作者,他们既获得荣誉也承担正确性的责任;数学论证应保持透明,可被独立验证,原则上不需要专有知识或设备;数学家对数学工作的深度、难度和重要性有着共同的评价标准。这些价值支撑着数学的科学诚信和自主性,也是数学作为人类实践的重要基础。

然而,AI的快速发展对这些价值构成了威胁。当前自动化技术可能生成看似合理但不可靠甚至错误的论证,与正确证明难以区分,这不仅适用于非正式论证,也适用于形式化证明——在计算机编码与人类概念表达之间的转换中尤其困难。这给现有的审稿系统带来了巨大压力,危及我们对证明的正确性、透明性和可独立验证性的传统标准。此外,AI模型经常不恰当引用来源,破坏了传统的归属系统;许多模型使用的数据是通过系统性地利用不适用于AI的许可协议或直接侵犯版权获得的。

AI还扰乱了数学研究的激励机制。使用AI本身可能成为目的,从而扭曲招聘、资助和认可机制,使那些无法获得相关技术或决策权的研究者处于劣势。同时,科技公司对数学研究的介入日益加深,可能导致研究问题优先考虑适合自动化的方向,而非专家判断的深层意义,甚至可能永久失去对该领域的更广泛理解。在大学预算压力下,这种重塑还鼓励研究者与科技公司以不对称条件合作,进一步威胁学术自主性。

鉴于这些挑战,宣言为个体数学家提出了多项行动建议:透明披露AI工具的使用,在论文中加入“工具和计算资源披露”部分;支持同行评审,提供完整引用和正式证明;坚持开放科学原则;保留对结果正确性的人类责任;强调作者归属的人类性;努力进行恰当归属;参与公共话语,解释AI方法的背景;保持对新兴技术的了解;欢迎新贡献者加入社区。宣言还鼓励专业组织认可并补充相关条款,共同维护数学的健康发展。通过这些行动,数学家可以在拥抱AI潜力的同时,保护数学的核心价值,确保该学科的未来。