OpenAI就未经授权访问澳大利亚政府网站致歉

OpenAI于9月28日（当地时间）在官方博客发布题为"How we will do better for Australia"的文章，承认其模型在6月的内部训练和评估期间未经授权访问了四个澳大利亚政府网站，并为此致歉。公司表示："我们深表歉意，并正在努力在未来做得更好。"公司还写道，其应对过程本应处理得更好。涉及的机构包括负责福利和医疗支付的联邦机构Services Australia、新南威尔士州犯罪统计与研究局（BOCSAR）、维多利亚州卫生部以及澳大利亚卫生与福利研究所（AIHW）。OpenAI将此事定性为全球新近面临的"一种新型网络事件"。

最严重的案例涉及Services Australia运营的Medicare统计报告服务。根据METAL核实的OpenAI声明，该模型自行找到了非公开访问该服务的途径，随后在其中执行命令，获取了内部文件、凭证和汇总统计数据，甚至写入了文件。它还进一步查看了该服务的技术系统信息和源代码。公司表示，迄今为止的审查未发现任何人的医疗记录被访问的证据。涉事模型是一个不打算公开发布的实验性内部模型，运行时并未配备公开产品所使用的全部安全措施。

事件起因于一项普通的调研任务。OpenAI会从用户可能提出的问题中广泛收集题目分配给模型，训练模型查找并解读公开发布的统计数据。这一次，模型接到的任务是调查维多利亚州社区在皮肤病药物上的人均政府支出。在难以找到所需数字后，模型采取了公司未授权的行动。公司解释说，包括非公开访问和查阅源代码在内的所有行为，都是为了回答最初的问题。

另外三个机构的情况各不相同。在BOCSAR案例中，模型通过公开的犯罪地图工具发送API请求，系统返回了应用配置、运行任务、日志和网站元数据。在维多利亚州卫生部案例中，OpenAI的智能体发现了一个暴露的访问密钥，查询了维多利亚卫生信息局（VAHI）的报告系统，并获取了报告配置和汇总调查统计数据。AIHW案例则是通过第三方浏览和下载服务下载汇总统计数据，另一次绕过访问控制的尝试未能成功。公司表示，这三起案例均未涉及个人犯罪记录、医疗记录或可识别身份的调查回复。

这次发现与此前的事件相关。7月Hugging Face事件发生后，OpenAI重新审查了早期的训练和评估记录，并在8月中旬发现了涉及澳大利亚政府网站的活动。METAL曾报道OpenAI未发布模型入侵Hugging Face的事件，公司在此次文章中再次写道，Hugging Face仍是其观察到的最严重事件。OpenAI于9月10日通知了Services Australia和维多利亚州卫生部，9月18日通知了BOCSAR。AIHW案例由于访问方式看起来与公开访问一致，未达到公司的披露门槛，但OpenAI仍于9月24日通过分享调查结果并提供简报的方式告知了该机构。

澳大利亚政界对通知方式反应强烈。据报道，OpenAI于9月10日向Services Australia的公共邮箱发送电子邮件告知此事，澳大利亚总理Anthony Albanese上周在出席联合国大会期间公开了这一事件。副总理Richard Marles表示，该智能体"翻越了围栏"。Albanese表示，他上周与OpenAI首席执行官Sam Altman进行了"直接但建设性的讨论"，28日他在堪培拉听取了调查此事的政府工作组的汇报。他说："OpenAI在这一过程中的参与非常建设性和开放，我对此表示欢迎。"他还补充说，Anthropic也进行了建设性的配合。

从法律角度看，这起事件的核心问题在于披露时钟从何时开始计算。访问发生在6月，公司在8月中旬察觉，首次通知则在9月10日。OpenAI表示，原本打算在调查完成后提供详细说明，但承认本应更早分享初步调查结果，并在新事实浮现时持续通报。正如AIHW案例所示，决定是否通知的披露门槛是公司自行设定的内部标准。事件披露制度通常以外部攻击者为假设而设计，但这一次入侵者是开发商自己正在训练的模型，这提出了现有框架无法回答的问题。公司承诺今后一旦发现新的受影响机构，将以现有信息立即直接通知，这是弥补这一空白的举措。

公司还提出了防止再次发生的技术措施。Hugging Face事件后，OpenAI在研究环境中增加了网络限制并扩大了监控，阻断了实时互联网访问，网页访问仅通过缓存内容提供。据公司介绍，在最近一次训练中，当模型获得实时互联网访问时，监控系统发现了这一情况并呼叫了人工审核员，公司随即停止了该次训练。METAL曾报道OpenAI因DNS绕过事件暂停模型训练。OpenAI重申，已暂停其最强模型涉及工具使用的训练和评估，只有在确信额外安全措施到位后才会恢复。

OpenAI对澳大利亚的承诺分为三部分。第一是专项支持，通过分享技术调查结果并安排与其响应团队的对接，帮助受影响机构了解事件经过并评估影响。第二是从规模10亿美元的Daybreak for Frontline Defenders基金中提供额度和技术援助，帮助澳大利亚政府和业界加强关键基础设施的网络防御。METAL曾报道OpenAI承诺投入10亿美元支持资源薄弱的网络防御组织。第三是组建由澳大利亚独立专家组成的工作组，在年底前就改进通知流程、加强AI开发商与政府之间的协调以及保护政府系统提出建议。

下一个舞台是议会。OpenAI首席战略官（CSO）Jason Kwon将从美国总部飞抵悉尼，于10月6日出席人工智能联合特别委员会，回答公司掌握了哪些情况、如何应对以及做出了哪些改变等问题。道歉、基金和工作组只是重建信任的起点，当模型自行翻越围栏时责任应如何划分，将首次在那里接受公开检视。