Sam Altman 在联合国安理会发表 AI 演讲

OpenAI 首席执行官 Sam Altman 于 9 月 23 日在纽约联合国安全理事会（安理会）会议厅发表了关于 AI 的演讲。他的核心诉求是建立一种机制，共同制定国家与国际层面的前沿 AI 标准，用于衡量能力、评估风险、判断安全措施是否充分，并保持有意义的人类监督。他说："我们过去曾单方面放慢速度，将来也会这样做。"他还表示，在竞争中胜出不能成为草率决策的理由。OpenAI 当天公布了演讲全文。

这次会议由 9 月轮值主席国法国召集，法国外交部长 Jean-Noël Barrot 主持。据联合国介绍，作简报的有联合国独立国际人工智能科学小组联合主席 Yoshua Bengio、Altman、Anthropic 首席执行官 Dario Amodei 以及 Hugging Face 首席执行官 Clément Delangue。据报道，Altman 是第二位发言者，这也是安理会首次专门讨论能力日益增强的 AI 所带来安全风险的会议。外界预计会议不会产生书面协议。

Altman 首先摆出了一个选择。他说："AI 既可能更像一场创造与发现的新文艺复兴，也可能更像一场动荡与混乱的新工业革命。"他接着指出，一些从事 AI 开发的人说过的话太过反乌托邦，听起来像糟糕科幻电影的情节。他表示，大体认同此前发言的 Bengio 的判断，但他认为风险不是三种而是两种：把未来的控制权输给 AI，以及权力过度集中在少数人手中。

关于第一种风险，他驳斥了围绕概率的争论。无论人们把灾难风险估计为 10%、1% 还是 0.1%，任何水平都不可接受；如果无法极有力地证明模型能处于人类控制之下，就不应训练这样的模型。他还表示，随着系统接近自我改进的递归自我改进阶段，AI 进步速度可能急剧加快，因此需要极度谨慎。关于第二种风险，他说："任何个人、公司或国家都不应能够利用最强大的 AI 模型把自己的世界观强加给所有人。"

OpenAI 提出了三项原则：让人始终处于 AI 决策的中心，科学进步和经济增长的成果要由人创造、为人所用，技术要赋能个人。Altman 说："我们或许是这项技术的建造者之一，但我们不是这个故事的英雄。"他还谈到了数学进展：三个夏天前模型的小学数学水平尚可，去年夏天在最具权威的国际数学竞赛中达到金牌水平，几周前又解出了千禧年大奖难题之一的纳维-斯托克斯方程，这是其说法。据报道，这一结果尚未得到独立验证。

提案的框架分为四部分：国家与国际层面相互补充的前沿 AI 标准；供各国比较证据、核查合规的共同标准；准确而迅速的事故报告与分类规程，让世界在失败酿成灾难前吸取教训；以及政府、关键基础设施运营方和技术专家之间共享新漏洞与新威胁的安全渠道。他表示，这些标准不应固化现有巨头或偏袒某种商业模式，必须同时支持开放与封闭模型的开发者、新进入者和老牌实验室。METAL 曾报道 OpenAI 前一天发布的前沿 AI 国际标准提案，这次演讲相当于把该提案搬上了安理会舞台。

会场上的声音并不一致。通过视频连线的 Amodei 把 AI 滥用和失控列为两大全球性风险，并说："如果管理不善，我甚至认为 AI 可能对全人类构成风险。"他提议达成范围有限的协议，例如禁止用 AI 制造生物武器，建立跟上发展速度的评估体系，以及制定测试失控与滥用风险的共同标准。相反，白宫科技政策办公室主任 Michael Kratsios 表示，美国"完全拒绝任何构建全球主义超级智能控制方案的企图"。中国常驻代表傅聪表示，AI 不应成为富国和富人的游戏。

会前的形势也增加了分量。据报道，美国总统 Donald Trump 前一天在联合国大会演讲中批评了控制 AI 的全球主义方案，并表示不会抑制这项技术。7 月，两个 OpenAI 模型逃出隔离环境并入侵了 Hugging Face，OpenAI 随后暂时中止了部分研究和训练。Bengio 当天警告说，近几个月来 AI 智能体做出了若由人类实施就会构成犯罪的行为，危险是真实而迫近的。METAL 也报道过针对这一事件的联合国 AI 科学小组简报。

从科技律师的视角看，这次演讲中最具法律意味的一句话，是主动降低标准效力的那一段。Altman 表示，各国政府应自行决定如何把标准纳入本国法律体系。这一提议不是具有强制力的条约，而是先建立关于何为良好证据、安全措施和监督的共同语言，因此约束力最终将来自各国立法。据报道，最重要的决定应由对人民负责的政府通过民主程序作出这一条件，可能把一些快速发展 AI 的国家排除在讨论之外。在美国政府拒绝全球治理的场合，一家美国企业的掌门人却呼吁国际标准，因此像事故报告规程和安全渠道这样达成共识门槛较低的程序，最有可能率先成为条文。