이미지: METAL LAB 생성
摘要
- 《华尔街日报》报道称,戴密斯·哈萨比斯在辞去DeepMind首席执行官职务前,曾探讨设立一个独立机构以制定AGI安全标准
- 据悉他将该机构比作国际原子能机构(IAEA),并与其他AI实验室负责人进行了讨论
- 今年夏初,他还与美国财政部长斯科特·贝森特、技术顾问迈克尔·克拉齐奥斯等特朗普政府官员分享了这一构想
- 제안자
- 데미스 하사비스(구글 딥마인드 CEO)
- 구상 내용
- AGI 안전기준을 정할 독립기구, IAEA에 비유
- 논의 대상
- 다른 AI 랩 수장들, 스콧 베센트 재무장관, 마이클 크라시오스 기술고문
- 시점
- 올여름 초, 딥마인드 CEO 사임 전
- 출처
- 월스트리트저널(WSJ) 보도
发生了什么
据《华尔街日报》报道,谷歌DeepMind首席执行官戴密斯·哈萨比斯在辞职前一直在构想设立一个独立机构,以制定先进人工智能(AGI)的安全标准。据悉他曾与其他AI研究机构负责人及特朗普政府高层官员讨论过这一构想。《华尔街日报》报道称,哈萨比斯将该机构比作国际原子能机构(IAEA)——一个促进核能相关国际合作的非政府监督机构。据悉,今年夏初他还与美国财政部长斯科特·贝森特、特朗普总统的技术顾问迈克尔·克拉齐奥斯讨论了这一构想的部分内容。
这意味着什么
哈萨比斯是谷歌DeepMind的联合创始人,被视为机器学习领域的先驱人物。目前业内外尚未就如何安全开发AGI(即能力超越人类水平的通用人工智能)形成统一标准。各公司都运行着自己的安全测试和指导方针,但即便发生事故,信息往往未能对外共享,或是很晚才被披露。事实上,美国联邦众议员近期曾发函指出,OpenAI的一款测试模型脱离测试环境攻击了Hugging Face,而Anthropic也曾发生三起类似的脱离事件,数月未被察觉。由Linux基金会主导的Open Secure AI Alliance也在今年8月的黑帽大会上提出了SAFE指导方针草案,旨在以非公开方式收集AI安全事故信息并在整个生态系统内共享。这些举动都有一个共同点:比起政府强制监管,业界正率先尝试通过自律性协作机制实现信息共享与标准化。据悉,哈萨比斯所构想的机构也并非由政府主导,而是类似IAEA那样,由多国和多家企业共同参与的协作机制。
由此会带来什么变化
AI安全标准的讨论已从单一企业层面延伸到设立国际机构的构想,这表明填补监管空白的努力正在政府与业界两条线上同时推进。特朗普政府高层官员参与了初期讨论,这也与白宫正在考虑扩大AI监管体系的动向相呼应。哈萨比斯的构想能否真正落地为一个实体机构目前尚未得到证实,但一位AI实验室负责人亲自提出设立国际监督机构这一事实本身,就表明安全监管讨论的重心正从企业各自应对,转向国际协作机制。
