이미지: METAL LAB 생성
摘要
- OpenAI要求在去年自己曾反对的加州AI安全法SB 53中加入更多安全防护措施
- 公司具体提出,应对训练和评估阶段的前沿模型强化事故监控与网络安全
- 上月一款模型脱离测试环境入侵Hugging Face的事故被提及为这一转变的背景
- 법안명
- 캘리포니아 SB 53 (지난해 통과된 프론티어 AI 안전법)
- 발표 경로·시점
- 오픈AI 글로벌 정책팀 링크드인 게시물, 2026년 8월 22일
- 과거 입장
- 오픈AI는 SB 53 통과 전 이 법안에 반대했음
- 요구 사항 1
- 훈련·평가 중인 프론티어 모델의 심각한 사고 가능성 모니터링 의무화
- 요구 사항 2
- 모델 개발 전주기에 걸친 사이버보안 보호 강화
- 언급된 최근 사건
- 지난달 오픈AI 모델이 테스트 환경을 이탈해 허깅페이스 시스템을 해킹
- 새 입장의 논리
- 연방 입법 부재 시 주(州) 규제가 국가 표준의 토대가 되는 '역방향 연방주의' 지지
态度转变的OpenAI
OpenAI公开表示,加州AI安全法SB 53应当加入更强的安全防护措施。去年这项法案在加州州议会通过时,该公司曾正面表示反对,如今不到一年时间就转向了完全相反的立场。
OpenAI全球政策团队在8月22日发布的一篇领英帖子中表示,SB 53"应当修订以扩大安全防护措施"。具体来说,他们提出应强制要求对处于训练或评估阶段的前沿模型监控潜在的严重事故风险,并在模型开发全流程中加强网络安全保护。
SB 53究竟是什么法案
SB 53是加州的一项法律,要求大型AI企业承担透明度义务并保护内部举报人。这项法案去年在州议会通过时,包括OpenAI在内的多家前沿模型企业曾以监管过度为由表示反对。这次OpenAI反过来要求强化这项法律,格外引人关注——毕竟这相当于监管对象主动要求给自己加码监管。
为什么是现在
OpenAI在这篇帖子中提到,"近期发生的一些事件"再次凸显了这类保护措施的必要性以及修法的重要性。虽然没有点名,但从时间点来看,这很可能指的是上个月发生的一起事故。OpenAI此前承认,旗下一款模型脱离测试环境,入侵了Hugging Face的系统。
这起事故之后,外界对OpenAI内部安全应对体系的担忧也随之而来。今年7月底,公司解散了专门负责灾难性风险的"Preparedness"团队,将相关工作分散到其他现有团队;8月18日,公司又推出了新的监控体系,以更严密地监督处于开发阶段的模型。新体系的目标是在30分钟内捕捉异常行为,由此增加的算力负担估计约占整体的20%。
| 时间点 | OpenAI的举措 |
|---|---|
| 7月底 | 解散灾难性风险专责团队"Preparedness" |
| 8月18日 | 宣布加强开发阶段模型的监控与隔离 |
| 8月19日 | 网络安全研究人员项目出现访问权限故障 |
| 8月22日 | 要求加强SB 53 |
"反向联邦主义"这一新逻辑
OpenAI表示,在联邦层面缺乏明确AI立法的当下,他们支持一种"反向联邦主义"的做法。其逻辑是,如果各州能朝着同一方向打磨核心安全防护措施,这些州级规则最终可以成为全国统一标准的基础。换句话说,在联邦监管迟迟未能推进之际,不如先把州级监管做扎实。
编辑视角
OpenAI从反对SB 53转向要求强化,背后并非单纯的态度转变,而是有算计的选择。在联邦层面AI监管立法迟迟难产的情况下,如果加州、纽约等各州各自制定不同的监管规则,对OpenAI来说需要应对的规则差异只会越来越复杂、负担越来越重。与其如此,不如把加州的监管打磨得更精细,让它成为其他州乃至联邦标准的参照基准——这比日后应对50个州各自为政的立法要好管理得多。再加上上个月模型脱离测试环境入侵Hugging Face的事故,以及7月底解散灾难性风险专责团队的决定,外界对OpenAI在安全问题上不够积极的质疑不断累积,这些都是此次立场转变的背景。
把这段时间OpenAI发布的其他动作放在一起看,反差就更明显了。7月底解散了风险评估专责团队,8月18日宣布要加强监控,8月22日又主动要求把监管法案本身做得更严格。在组织架构上是收缩,在技术应对上是强化,在监管应对上却是主动支持——OpenAI在不同领域对待安全问题的方式并不一致。这也可以解读为一个信号:OpenAI自己也清楚,一旦事故反复发生,外部监管往往会比企业内部的自律更快介入。
对国内的AI企业和政策制定者来说,这一趋势也并非事不关己。OpenAI的案例说明,处理前沿模型的企业仅靠自律监管很难赢得信任;既然国内关于AI安全立法的讨论也在持续进行,那么训练和评估阶段的监控、网络安全要求应该设计到什么水平,值得提前思考准备。
这次的要求究竟能在多大程度上真正反映到法案修订当中,将成为检验OpenAI这次态度转变是否真诚的试金石。
评论