跳到主要内容
AI News HubLIVE
站内改写2 分钟阅读

OpenAI 投入 200 万美元支持 AI 与儿童安全研究

文章摘要

OpenAI 在巴黎和平论坛上签署《面向儿童更安全 AI 的承诺宪章》,并出资 200 万美元支持“AI 时代儿童权利与保护联盟”下的科研网络,重点开发可共享的风险与机遇测量工具。

OpenAI 投入 200 万美元支持 AI 与儿童安全研究
报告错误

纠错通道尚未开通,可先复制下方文章信息留存。

查看更正说明
直接读正文

本周早些时候,在巴黎和平论坛上,OpenAI 签署了《面向儿童更安全人工智能的参与宪章》,并承诺投入 200 万美元,用于支持“人工智能时代儿童权利与保护联盟”下属的科学研究网络。这一举措建立在 OpenAI 此前呼吁制定全球青少年 AI 安全标准的基础之上,也延续了其推动政府、研究人员、民间社会与产业界持续协作、将共享证据转化为实际防护措施的立场。

这笔 200 万美元的承诺旨在推动全球范围内的共同努力,更深入地理解人工智能对儿童的影响,并支持儿童的安全与福祉。OpenAI 表示,其贡献将用于支持共享的测量工作:开发研究人员可以用来更好地理解和衡量 AI 对儿童所带来风险与机遇的工具,从而帮助打造更安全的产品,并为更好的政策提供依据。

该宪章为安全、适龄的人工智能确立了共同原则,同时配套设立了一项研究计划,并为该计划的独立性提供保障。根据安排,研究团队保留对其结论的控制权,研究结果将会公开发表,其中也包括负面结果或无法得出结论的结果。这一点被视为确保研究可信度与公信力的关键设计。

OpenAI 指出,这项工作将有助于积累必要的证据,既能支持 AI 为年轻人带来的益处,也能应对其在安全与成长发展方面带来的风险。这一努力也建立在 OpenAI 对全面的青少年 AI 安全立法的支持之上——此类立法应确立强有力且可执行的保护措施,同时保留年轻人获取学习、创造与机会类工具的权利。

在 OpenAI 看来,这样的监管框架应当包含多项要素:默认提供适龄的防护措施、为家长提供相应工具、定期开展风险评估与风险缓解,以及建立有意义的问责机制。公司还表示,期待在欧盟《儿童法案》(EU Kids Act)制定过程中与欧洲政策制定者进行接触,并与世界各地的伙伴合作,为年轻人推动更强的保护与更多的机会。

从时间线来看,OpenAI 本周在巴黎和平论坛上完成签署与承诺,而这一行动距其此前呼吁建立全球青少年 AI 安全标准的时间并不久。相关表态延续了该公司近年来在“全球事务”议题上的公开立场,即强调跨部门协作与基于证据的政策制定。值得注意的是,OpenAI 在同一时期还发布了其他全球事务与公司层面的消息,包括 11 月 5 日关于负责任 AI 基础设施新标准的文章,以及 11 月 2 日推出的 Grid Protectors 计划和 Dan Driscoll 加入 OpenAI 的公告。

总体而言,此次承诺的核心并不只是资金投入,而是围绕“共享测量”建立一套可供研究者、政策制定者与产品团队共同使用的基础设施:通过公开的工具与公开的研究结果,让 AI 对儿童的风险与机会变得可衡量、可比较,进而为产品设计和监管决策提供依据。OpenAI 同时强调,研究独立性、结果公开(包括不利或不确定的发现)以及可执行的问责机制,是这一体系不可或缺的组成部分。

展开要点与分析

文章情报

研究者进阶

要点

  • OpenAI 承诺投入 200 万美元,资助 AI 对儿童影响的独立科学研究网络。
  • 资金用于开发共享测量工具,帮助研究人员评估 AI 对儿童的风险与机遇。
  • 研究团队保留结论自主权,成果(含负面或无结论结果)都将公开发表。
  • OpenAI 同时呼吁建立可执行的青少年 AI 安全立法,包括默认年龄适配保护与定期风险评估。

要点与分析由自动化流程生成,可能有误,请结合原始来源核实。