前沿人工智能框架与新纪元的曙光

Demis Hassabis 在最新文章中写道，我们正处于人类历史的关键时刻。通用人工智能（AGI）——一种具备人类所有认知能力的系统——可能仅需几年就能实现。他坚信，如果负责任地构建和部署，AGI将成为有史以来最有益、最具变革性的技术之一，其影响之深远无法与互联网或移动通信相比，更类似于电或火的发现。

Hassabis 指出，AGI 的潜力巨大，可能以10倍于工业革命的速度带来10倍的影响。它将帮助解决社会面临的重大挑战，从加速药物发现到开发清洁能源，再到创造先进材料。他甚至设想了一个资源不再限制人类进步的新时代。

然而，要实现这一愿景，我们必须谨慎应对当前的发展阶段。随着AI能力接近AGI，网络安全、核风险和生物威胁等挑战日益凸显。我们需要强有力的保障措施来保持对日益自主和递归自我改进系统的控制，并解决未来可能出现的未知问题。

Hassabis 强调，目前我们正处于一场激烈的商业和地缘政治竞赛中，这推动了快速进步，但技术前沿的发展速度已超过我们的理解能力。在高度不确定且风险极高的背景下，谨慎乐观是合理的策略。这需要公共政策在促进创新的同时，激励责任和安全，推动国际协作，并审慎考虑AI的社会效益。

为此，他提出建立一个模仿金融业监管局（FINRA）模式的前沿AI标准机构。该机构将作为联邦监管下的公私合作伙伴或自律组织，由独立技术专家和开源代表组成董事会。资金主要来自行业，以吸引顶尖人才和提供必要的计算资源。

该标准机构将负责制定评估协议，并与联邦机构及美国国家实验室合作，测试涉及国家安全的领域。达到一定基准的模型将被视为“前沿级”，其开发组织则成为“前沿实验室”。这些实验室需要遵守最佳实践，如发布模型卡、维护网络安全、审查关键人员等。

初期，前沿实验室将自愿在发布前30天内与标准机构共享模型。一旦评估协议证明有效，将迅速正式化，要求前沿模型必须通过评估才能在美国市场部署。实验室还需与标准机构合作解决发布后的关键漏洞。

模型评估应包括对网络安全、生物威胁等高风险领域的科学评估，以及代理型AI的特定测试，如检测试图绕过安全护栏或欺骗行为，并确保最佳实践，如数字水印和可读输出令牌。

这些评估将定期更新，最初可能每季度一次，淘汰过时的基准。实验室最初参与开发，但最终标准机构应建立独立测试能力，防止过拟合。与美国政府合作，可推广第三方审计生态系统。

Hassabis 认为，这一方法的技术聚焦性使其能够支持创新并激励负责任行为。它可随风险识别而调整，甚至在必要时协调前沿实验室放缓开发。成为前沿实验室将带来声望，并向任何达到基准的组织开放，无论其国家或模型开放与否。非前沿模型（如初创公司或学术机构）可豁免。

这一由美国发起的努力将为制定共享的国际标准奠定基础。由于AI将影响全球，该框架有望推动国际共识，以管理最严重风险并确保人人享有AI机遇。

最后，Hassabis 强调未来尚未确定。在AGI到来之前，我们必须利用这段宝贵窗口期，引导技术造福全人类。通过安全地引入AGI，我们可以进入科学发现与进步的新黄金时代，实现人类繁荣的辉煌未来。