再次向Public First Action捐赠2000万美元
Anthropic再次向无党派组织Public First Action捐赠2000万美元,用于AI公共教育和政策倡导。文章解释了捐赠的背景:AI模型能力快速提升,如Claude Mythos发现的漏洞,需要政策监管。Anthropic呼吁透明度、独立评估、出口管制等措施,以确保美国AI领导地位并防范风险。
Anthropic于2026年7月21日宣布,将再次向非营利组织Public First Action捐赠2000万美元,使其对该组织的总资助额达到4000万美元。Public First Action是一个无党派组织,致力于教育公众关于人工智能的知识,并与严肃对待AI安全监管的共和党、民主党及独立人士合作。Anthropic强调,所有捐赠均专门用于支持该组织的公共教育和政策使命,绝不用于影响任何联邦、州或地方职位的选举。
Anthropic首次捐赠是在2026年2月,旨在推动维持有意义的安全保障、保持美国AI领导地位以及要求最强大AI模型开发者透明化的政策。此后数月,这些政策的必要性日益凸显。AI模型正以惊人的速度进步。今年早些时候,Anthropic的Claude Mythos预览版发现了数千个高严重性软件漏洞,其中包括每个主流操作系统和浏览器中的漏洞。Anthropic通过Project Glasswing将其有限地提供给网络防御者,以便可信赖的行为者能够发现并修复这些弱点,防止被恶意利用。如果落入不当之手,此类模型可能威胁到国家关键基础设施,如医院和能源电网。
更强大的模型将带来巨大收益——例如加速药物发现、开发对以往无法治愈疾病的治疗方法、将科学进步提速到十年内完成一个世纪的进展、延长人类寿命,并推动经济增长惠及所有人——但首先必须防范风险,才能实现这些收益。政府需要时间来建设既能获得利益又能控制风险的能力,因此必须从现在开始着手。
Anthropic一直主张前沿AI公司应透明公开其模型的能力及风险管理方式,并支持了多个州新通过的法律,要求AI开发者提高透明度。然而,鉴于最强大模型能力的快速进步,仅靠透明度是不够的。Anthropic认为,需要政策制定者和候选人提出缓解风险的措施,这正是其“先进AI框架”的核心内容——该框架是目前任何前沿实验室或政策制定者提出的最强有力的政策提议。政府应能够核查公司的安全声明,通过民事处罚强制执行安全实践,并最终有能力延缓或阻止可能造成灾难性危害的AI模型部署。前沿AI开发者必须对构成灾难性风险的模型进行测试,向公众公开测试结果,提交独立评估,并维持强有力的安全计划。
随着AI进步加速,国家安全风险也在增长。Anthropic在《2028年:全球AI领导力的两种情景》中概述了这一点。美国及其民主盟友目前拥有优势,但这种领先地位并不稳固。为确保美国AI领导力,Anthropic支持对先进芯片和半导体制造设备加强出口管制,并遏制非法模型访问和蒸馏攻击,防止民主国家的最佳技术被用于推进威权AI。
这些政策框架只是起点。Anthropic对Public First Action的捐赠是提升这一紧迫政策辩论重要性的一种方式。