OpenAI维持API数据零留存政策 安全审查不经人工

不留对话记录,又该如何抓风险

OpenAI于8月19日通过官方博客和X账号宣布,将继续为符合条件的API客户在前沿模型上维持零数据留存(ZDR)政策。与此同时,公司提前公开了一套名为"隐私安全处理"的新安全系统预览版,它能在不需要人工直接查看内容的前提下检测出滥用风险。随着企业交给AI处理的任务越来越长、越来越自主,如何在不保存对话内容的同时依然揪出风险,这个矛盾正是这套系统要解决的问题。

零数据留存到底是什么

ZDR是指OpenAI不会在服务器上保留通过API处理的请求和响应记录。这项政策一直是法律、医疗、金融等对话内容绝不能外泄的行业客户在使用API时提出的要求,OpenAI在此次公告中再次确认,这一政策将继续延伸适用于前沿模型。问题在于,如果完全不留数据,安全团队日后也就失去了追查滥用行为的手段。OpenAI在X上发文写道:"我们提前展示了旨在提升安全性的隐私安全处理系统",这正是问题的症结所在。

不看内容,只挑出风险的架构

从公开的流程图来看,API请求首先要经过"隐私安全处理"环节。这一环节OpenAI员工无法接触。请求数据会以加密形式存入由客户自行管控的存储空间,随后进入"自动安全审查"阶段,在没有人工审查、也不在OpenAI服务器上保存内容的情况下判断是否存在滥用行为。

阶段	内容
API请求	客户调用前沿模型
隐私安全处理	OpenAI员工无法接触
客户端管控数据存储	由客户管理并加密
自动安全审查	无需人工审查、不在服务器留存,检测是否滥用
客户警报(实线)	客户确认警报后自行决定是否分享
OpenAI警报(虚线)	仅能看到类别与严重程度,内容不公开

警报响起后,决定权在谁手里

审查一旦发现风险,通知会分成两路发出。一路发给客户,客户可以自行调查这条警报,如果认为有必要,再决定是否将内容分享给OpenAI。另一路发给OpenAI,但OpenAI在这条通路上只能看到风险的类别和严重程度,实际内容不会显示出来。也就是说,最终是否公开内容的决定权不在OpenAI手中,而是掌握在客户手里。

目前适用范围到哪里

此次公告面向的是原本就在使用ZDR的合格API客户。隐私安全处理目前仍以"预览"形式亮相,正式上线的适用范围、是否会扩展到普通ChatGPT用户,公告中都没有提及。值得一提的是,OpenAI在8月13日刚刚为ChatGPT桌面版新增了"电脑历史记录"功能,会记录用户在电脑上的活动痕迹——一边是让系统记住更多、更久的功能,一边是承诺完全不留数据的政策,两者出自同一家公司,同时推进。

编辑视角

企业客户在挑选API时,最先问的问题之一往往是"我的数据会留在哪里"。ZDR只是重申了这个问题的答案,而隐私安全处理则是更进一步的回应。不留数据的承诺和过滤危险用途的承诺,本身就是相互矛盾的。OpenAI这次给出的方案并没有真正消除这种矛盾,而是换了一种绕行方式:让内容由自动系统而非人眼查看,并把最终是否公开的权力交还给客户。

对实际处理过这类架构的团队来说,这种模式并不陌生。金融行业在评估是否引入某个API时,常常卡在"日志是否留存"和"能否做异常检测"这两个条件必须同时满足上,而过去往往只能二选一。这次的设计让流转的只是警报的类别与严重程度,而非内容本身,可以看作是同时满足这两项要求的一次尝试。不过这套架构是否真的不会拖慢安全团队的响应速度,自动审查能否达到人工审查的精细程度,由于目前仍处于预览阶段,还没有得到验证。

对于国内使用OpenAI API的企业来说,现实中要做的功课是向账户负责人确认:合同条款里是否已经包含ZDR,隐私安全处理是否需要另行申请。可以预见,在未来几周内,这项功能大概率会转为正式发布,届时适用对象和资费条件也会更加具体地公开。