英国央行探讨交易“紧急关闭开关”以应对AI失控

英国央行（Bank of England）正在研究引入能够暂停交易的“紧急关闭开关”，以应对人工智能（AI）模型可能出现的失控行为，并承认现有监管框架可能不足以应对这一挑战。

在英国央行副行长萨拉·布里登于欧洲央行（ECB）年度辛特拉论坛上的发言中，她指出AI在商业和交易领域的应用意味着监管必须做出改变。她表示：“这两个例子——代理商业和代理交易——共同强调的是，随着AI能力的提升，我们必须不断追问，现有与技术无关的监管框架是否仍然足够。”

布里登强调，金融机构不能依赖人工监督的保证。她补充道：“我们的框架并非为考虑自主代理而建立，依赖人类介入所有代理行动可能不切实际。可能需要更复杂的治理和问责框架。”她指出，自2024年底以来，AI系统开始训练通过请求进行推理，而现在它们可以自主地串联一系列行动。

这对监管交易和商业以及防范网络攻击具有重大影响。布里登表示：“因此，金融系统很可能迅速演变为一个更自主、大规模和高速运行的系统：AI代理代表消费者和商家进行交易；在金融市场中设计并执行交易策略；识别并串联网络漏洞。”

在交易领域，布里登指出，目前企业使用自主AI处理较低风险的操作任务，如研究，但这种情况可能迅速改变。她警告说：“如果AI代理对相同提示或触发因素作出相似反应，它们可能在压力时期放大波动——尤其是当它们的目标偏离原始目标或公共政策目标时，这体现了某些AI模型可能出现的对齐问题。”她询问企业是否能够“观察并遏制其产生的行为”。

布里登透露：“我们正在与国际清算银行创新中心和德国央行合作，模拟方法以理解代理设计的哪些方面可能导致羊群行为。”她补充说，这些机构也在考虑是否需要像断路器或紧急关闭开关这样的护栏，以在故障AI模型引发市场崩溃时限制或停止交易。

今年4月，英国央行和金融行为监管局（FCA）同意采取进一步措施，此前财政部委员会的议员对此提出批评。在一月份的报告中，委员会主席梅格·希利尔表示，她认为金融业尚未为重大AI相关事件做好准备。她指出，英国央行和FCA所采取的“观望态度”使公众面临“潜在的严重伤害”。

这一系列讨论凸显了监管机构在AI快速发展背景下平衡创新与风险控制的紧迫性。随着AI代理在金融领域自主性的增强，如何设计有效的安全措施和问责制度成为关键议题。