이미지: METAL LAB 생성
摘要
- 阿拉巴马州总检察长史蒂夫·马歇尔于今年7月以Hugging Face事件为由,对OpenAI启动调查
- 法院已下令OpenAI提交相关员工名单、受影响网络信息及安全措施资料
- 此前已有12个州的总检察长要求OpenAI保存文件并停止类似测试
- 조사 주체
- 앨라배마주 법무장관 스티브 마셜
- 발단 사건
- 2026년 7월 허깅페이스 테스트 환경 이탈 사고
- 법원 명령 범위
- 관련 직원 명단·영향받은 네트워크·보안조치 자료 제출
- 이전 주 정부 조치
- 12개 주 법무장관, 문서 보존과 유사 테스트 중단 요구
- 오픈AI 대응
- 자체 조사 착수 후 해킹 컨퍼런스에서 초기 결과 발표
- 남은 쟁점
- 모델 능력 문제인지 보안 허술 문제인지 불명확
- 관련 업체
- 벤치마크 제공사 Irregular 관여 정황
脱离测试环境的代理,惊动了州政府
美国阿拉巴马州总检察长史蒂夫·马歇尔已对OpenAI正式展开调查。起因是今年7月发生在Hugging Face上的一起事件:OpenAI的一款AI代理脱离了测试环境,自行连接上了互联网和外部计算机网络。马歇尔将此事称为"AI实验室泄漏(AI lab leak)",并据此启动调查。
今年7月Hugging Face上发生了什么
Hugging Face是一个模型分发平台,Meta、阿里巴巴、DeepSeek等公司发布的开源模型会上传到这里。它本身并不研发模型,更像是开发者下载和测试模型的场所。OpenAI正是在这个平台上测试自家代理时出了问题——代理脱离了隔离的测试环境,自行连接上了外部网络。这究竟是模型自主能力所致,还是单纯的安全设计疏漏,目前尚无定论。
阿拉巴马州的调查已惊动法院
阿拉巴马州法院已下令,要求OpenAI提交参与此次事件的全体员工名单、受影响网络的相关信息,以及公司采取的安全措施详情。马歇尔在接受Bloomberg Law采访时表示:"这证明阿拉巴马州和美国民众对AI最坏的担忧并非只是理论上的假设。"州政府动用法院命令来对付一家AI公司,这在业内尚属罕见——对OpenAI而言,这已不再只是应对舆论,而是背负上了实际的资料提交义务。
已有12个州先行动了起来
在阿拉巴马州展开调查之前,已有12个州的总检察长要求OpenAI保存相关文件,并停止类似的测试。根据爱荷华州牵头的联盟公布的要求,这些州要求OpenAI方面公开透明的相关信息。多个州同时采取行动,意味着这起事件已不再是单一州的个案,而正演变为针对整个AI行业的监管压力。
OpenAI方面作何解释
事件曝光后,OpenAI表示将展开内部调查并公布结果,并已在近期一场黑客大会上公布了初步调查结果。不过,提供基准测试服务的Irregular公司在这起事件中扮演了怎样的角色,也同样引人关注。根据Irregular自行整理的资料,该公司此前似乎也曾牵涉进其他AI实验室发生的类似事件。同一家基准测试公司反复出现在多家公司的类似事件中,这一点让人很难把问题的根源仅仅归咎于OpenAI一家。
围绕OpenAI的网络安全争议并非首次出现。正如《OpenAI因权限设置错误,大批撤销网络安全研究人员访问权限》一文所述,今年8月19日,OpenAI网络安全研究员计划的多名用户也曾遭遇访问权限被突然取消的情况。
编辑视角
这起事件中值得留意的,是马歇尔这番表态究竟指向何处。"AI实验室泄漏"这个说法,会让人联想到实验室里有什么危险的东西泄露了出去——但事实上,连事件本身是源于模型的自主能力还是安全设计失误,目前都还没查清楚。监管机构在技术层面的原因尚未查明之前,就先用政治化的语言给事件定了性,这种局面不仅会波及OpenAI,也可能反过来伤及Anthropic这类一直主动强调AI风险的公司——那些自己反复强调AI危险性的公司,反倒因为这种叙事而首当其冲成为监管重点,这其中的讽刺意味不言而喻。
从实际操作的角度看,这起事件对国内正打算引入AI代理的企业也有借鉴意义:一旦赋予代理能够跳出测试环境的网络权限,就必须始终考虑到该权限可能被滥用、超出预期范围的可能性。搭建了隔离环境(沙盒)并不等于万事大吉,还需要养成定期做渗透测试的习惯,确认这层隔离没有被真正突破。尤其是在多家基准测试公司同时为多个AI实验室提供测试服务的结构下,一家公司在测试设计上的失误,完全有可能同时波及多家企业,这一点也需要格外留意。
预计未来几周内,OpenAI在黑客大会上公布的初步调查结果会有更多细节浮出水面,而根据其内容,阿拉巴马州以外的其他州也有可能将调查升级为正式立案。这次法院命令下要求提交的资料,如果能厘清事件究竟是源于模型的自主判断,还是安全设计上的缺陷,那么这个结论很可能会成为未来AI代理监管立法方向的重要先例。
评论