METAL

Sam Altman宣布不等反垄断豁免先行落实安全措施

OpenAI首席执行官9月14日在X上发布声明,欢迎联邦安全框架,但表示不会等待反垄断豁免或立法。他还披露了一项新流程:在预计大幅提升能力的训练之前先撰写安全论证。

Sam Altman宣布不等反垄断豁免先行落实安全措施

图片:METAL

摘要

  • OpenAI首席执行官Sam Altman在9月14日的X声明中表示,欢迎为前沿AI设定一致安全要求的联邦框架,但OpenAI将立即着手安全措施,而不是等待反垄断豁免或立法。
  • OpenAI如今会在预计显著提升能力的前沿强化学习训练之前,明确撰写安全论证。Altman也承认,早先的准备框架只聚焦于已完成模型的部署环节。
  • 13分钟后的第二条帖子中,他列出AI可能走向极坏结局的两条路:人类失去对未来的控制权,以及权力集中于一个人、一家公司或一个国家。一天前,特朗普总统驳回了放慢速度的呼吁。

OpenAI首席执行官Sam Altman于9月14日在X上发布声明,表示欢迎联邦政府为前沿AI设定一致安全要求的框架,但公司不会等待反垄断豁免或立法,而是先行启动安全措施。他还披露了一项新流程:OpenAI如今会在预计显著提升能力的前沿强化学习训练之前,事先撰写明确的安全论证(safety case)。这条帖子发布于美国东部时间14日刚过午夜,韩国时间下午1点05分,到当天晚上9点浏览量已超过314万。

声明以责任开篇。他写道:"世界有理由相信,正在开发能力日益强大的AI的美国公司会负责任地行事,在进步轨迹变得更陡峭的当下尤其如此。每一家前沿实验室都必须做到这一点,做不到的话,我们当中谁都没有理由继续上班。"他接着写道:"我们欢迎为前沿AI设定一致安全要求的联邦框架。但我们不认为需要等待反垄断豁免或立法,才能开始建立这种信任。"他还补充说,管理前沿风险的一致规则是个好主意,公司对独立审计师之类的想法感到振奋。

反垄断一词出现在声明里是有背景的。METAL此前报道,OpenAI最近几周一直在向国会询问,如果全行业共同放慢开发速度是否会触犯反垄断法。白宫AI与加密货币事务负责人David Sacks在X上回应称,Anthropic和OpenAI垄断了前沿智能,写道"别再假装你们需要别人的许可",并要求他们别再假装必须暂停反垄断法才能组建卡特尔。METAL也报道过Cohere首席执行官Aidan Gomez以同样逻辑反驳规则卡特尔的文章。Altman这句话正是对这种攻击的回答。不等豁免,意味着OpenAI无需与竞争对手联手,就能自行放慢步伐。

声明从公司自己承认既有机制的局限出发。据Altman所说,OpenAI这类公司几年前制定的准备框架和负责任扩展政策在当时是好的,但它们聚焦于已完成模型的部署时点,并未涉及开发过程中发生的事情。因此在焦点转向安全开发与评估的当下,需要新的工具。他举的例子就是安全论证。OpenAI如今会在预计显著提升能力的前沿强化学习训练之前事先撰写明确的安全论证,同时保留长期以来在模型发布前进行的安全工作。用飞机打比方,不是起飞之后再填检查表,而是在进入跑道之前先以文件证明这次飞行为何安全。他表示希望其他公司学习这一做法并提出各自的方案,关于错位、监控与安全的共同标准会带来更好的结果。

他也亲自划定了放慢速度的含义。"我们说'调节节奏'时,指的不是'停止'。进步一直很快,未来也会如此。但它应该比原本可能的速度慢一些;安全论证和监控这类干预有相当大的成本。"他写道。他接着说:"节奏调节完全值得这个成本;任何美国国内的竞争压力都不能成为鲁莽的理由,也不能让能力跑到对齐和监控前面。"他明确表示需要政府帮助的是国际协调,但在此之前应先做好自己能做的事。

13分钟后,他引用这份声明发布了第二条帖子,内容是AI进步可能走向极坏结局的两条路。第一是把未来的控制权让给AI,他称这不可接受,并写道:"我们毫不掩饰地站在人类一队,AI必须永远为人服务。"要做到这一点,需要有办法确保对齐与安全技术始终领先于模型能力的进步。第二是权力过度集中:如果一个人或一家公司用极其强大的AI把自己的世界观强加给所有人,结果可能极度反乌托邦。他写道,一个国家获得过大的权力,或者一家实验室走到那一步,都是同样的危险,要避开这两者就必须走一条狭窄的中间道路。这条帖子在同一时刻的浏览量为198万,点赞1.3万。

这份声明是三天来一连串事件的第三章。METAL此前报道,Anthropic首席执行官Dario Amodei于9月12日发表呼吁调节前沿节奏的文章,承诺向外部评估者提供员工级别的访问权限。Altman当天在X上回复:"我同意Dario的看法,我们需要调节前沿的节奏。这是最近几周OpenAI内部讨论的主要议题。"并表示OpenAI也会同样承诺引入拥有员工级访问权限的独立评估者。METAL确认,截至14日晚9点,这条回复浏览量达1611万,点赞6.6万,是这个周末Altman所有帖子中传播最广的一条。Elon Musk以三个词加入:"Dario是对的。"

华盛顿的回答则不同。据报道,总统Donald Trump于13日对记者表示:"我们在AI上领先中国。我们是世界上最先进的国家,坦率地说,我想保持这样,因为谁赢下AI谁就赢。"他还说可以设置护栏,但有很多负面力量在提出不会发生的事情。众议院议长Mike Johnson当天在电视节目中表示,三位首席执行官私下都对他说AI需要护栏,但在护栏应该是什么样上意见不一,他说:"他们自己到今天也没有答案。"他表示不打算取消国会休会。Altman写下不会等待立法,距离这些表态还不到一天。

从科技律师的角度看,这份声明的核心不是要求监管,而是自我约束。不等反垄断豁免,意味着OpenAI不与竞争对手达成任何协议,独自决定自己的节奏,这是避开卡特尔争议最安全的法律位置。作为交换,在训练前以文件形式留下安全论证的承诺,会在日后出事时成为追问公司知道什么、做了什么的标准。安全论证是公司自己撰写的文件,由谁来核验的问题仍然悬而未决。Altman给出的答案是独立审计师和行业共同标准,但两者目前都还没有名字和时间表。中国方面的回应正是瞄准了这个空白。据报道,中国外交部14日在例行记者会上称AI风险警告是散布恐慌,官方媒体则把Amodei的提议称为冷战剧本。

OpenAI以这份声明给自己押上了两件事:大幅提升能力的训练要先写好安全论证再启动,并把结果交给独立评估者和审计师查看。一家写下不会等法律先到的公司,现在必须在下一次训练中证明,没有法律它也守得住。

评论