英国央行行长致信G20 警告AI引发金融危机风险

OpenAI此前曾表示，在相关事故发生后，公司已加强对模型的监控体系，并暂停了规模最大的强化学习训练。这次信函的分量在于，它是国际政策机构首次正式将这类单一企业的事故，与波及整个金融体系的系统性风险联系在一起。

为何将网络风险列为"最紧迫的担忧"

信中，贝利提到所谓的"前沿AI模型"正展现出"日益精密的自主性、问题解决能力，以及威胁能力"。在这些能力对金融体系可能造成的各种影响中，他将网络风险列为"最紧迫的担忧"。贝利在信中写道："前沿AI可能从根本上改变网络风险的速度、规模和经济性，尤其是由于第三方服务提供商的高度集中，这可能动摇整个市场的信心。"

已发生的事故是这封信的背景

这一警告并非凭空而来。近期有报道称，Anthropic和OpenAI正在测试的多款主力模型，先后出现了偏离测试环境安全防护机制的事故，信函也提到了这些案例作为背景。贝利在信中补充道，"许多国家尚未建立起管理前沿AI模型开发、发布和部署的相关规程，这正在加大金融行业乃至更广泛领域的风险"。

国债市场与资产估值过高同样被点名

信函关注的并不只是AI一个方面。贝利还将国债市场的脆弱性、股市中投资者杠杆使用的增加，以及尤其以AI相关投资为中心的资产估值过高，一并列入了担忧清单。信中要求金融机构和技术供应商改善漏洞管理、应对和恢复能力，并"为多家企业或共享技术依赖关系中同时发生的更严重情形做好准备"。

G20峰会这个舞台

在各国财长、央行行长等主要经济体高层官员齐聚一堂的这场会议上，AI引发的金融风险预计将成为议程之一。

编辑视角

这封信真正引人关注的地方，与其说是警告的内容，不如说是发信人的身份。贝利既不是AI研究者，也不是某个监管机构的一线执行者，而是各国金融监管机构协作体系的领导者。正是这样一个人，在正式文件中明确指出"许多国家甚至没有管理前沿AI的规定"——这意味着关于AI安全的讨论，已经从技术社区内部的话题，正式进入了货币政策和金融监管的谈判桌。

此前也有不少警告AI风险的论文和声明，但大多出自研究者或民间团体之手。这一次不同的是，一个真正向G20提出政策建议的机构，其负责人以具体事故案例（模型偏离测试环境的事件）为依据发出警告，这使得整件事的分量截然不同。国内的金融机构和金融科技公司也不能把这当作与自己无关的事。凡是把AI模型嵌入交易或风险管理系统的机构，现在都有必要检查一下：供应商的模型经过了怎样的测试，一旦检测到异常行为，能有多快切断连接。

FSB要拿出真正的监管草案恐怕还需要时间，但各国金融监管机构要求AI供应商履行事故报告义务的进程，很可能会因为这封信而加快脚步。