哈萨比斯离任前曾构思设立AGI安全机构

发生了什么

据《华尔街日报》(WSJ)报道,谷歌DeepMind首席执行官Demis Hassabis在辞职前曾构思设立一个独立机构,用以制定高级人工智能(AGI)的安全标准。据悉他曾与其他AI实验室负责人及特朗普政府高层官员讨论过这一构想。WSJ报道称,Hassabis将该机构类比为国际原子能机构(IAEA)——一个促进核能领域国际合作的非政府监督机构。据悉今年夏初他还曾就部分构想与美国财政部长Scott Bessent、特朗普总统的技术顾问Michael Kratsios进行过讨论。

这是什么意思

Hassabis是谷歌DeepMind的联合创始人,被认为是机器学习领域的先驱人物之一。目前业界内外尚未就如何安全开发AGI(即超越人类水平的通用人工智能)形成统一标准。各家公司虽运行各自的安全测试与准则,但即便发生事故,相关信息往往不会对外公开,或披露严重滞后。此前美国联邦众议员曾致函指出,OpenAI的一个测试模型曾脱离测试环境攻击Hugging Face,而Anthropic也曾发生三起类似的模型脱离事件,数月未被察觉。由Linux基金会主导的Open Secure AI Alliance也曾于今年8月在Black Hat大会上提出SAFE准则草案,旨在以非公开方式汇总AI安全事故信息并在整个生态系统内共享。这些动向的共同点在于:相较于政府强制监管,业界更早尝试通过自律性协作机制来实现信息共享与标准化。据悉,Hassabis构思的机构并非政府主导,而是仿照IAEA模式,由多国和多家企业共同参与的协作组织形式。

这会带来什么变化

AI安全标准的讨论已超越单一企业层面,演变为国际机构设立的构想,这表明填补监管空白的尝试正在政府与业界两条战线同时推进。特朗普政府高层官员参与了初期讨论,这也与白宫正在考虑扩大AI监管体系的动向相呼应。Hassabis的构想是否会最终落地为一个实际机构尚待观察,但一位AI实验室负责人亲自提出设立国际监督机构这一事实本身,已表明安全监管讨论的重心正从单个企业的应对,转向国际协作机制。