Private Safety Processing
OpenAI 在不保存API对话内容、也不让人工查看内容的前提下,自动筛查危险使用行为的安全检测方式。
简单来说
Private Safety Processing 是一种安全检测方式,让 OpenAI 能够在不保存 API 对话内容、也不让任何人直接阅读内容的情况下,自动筛查出危险的使用行为。
打个比方,这就像用X光扫描一个密封的包裹,而不是打开它检查。扫描机器不需要看清包裹里到底装了什么,只要检测到危险信号就能发出警报。OpenAI 的员工无法接触到这个扫描环节,请求数据也只会以加密形式保存在客户自行管理的存储空间中。
一旦触发警报,通知会分成两条路径。客户会收到一份足以调查实际发生了什么的详细警报,而 OpenAI 只会收到风险的类型和严重程度这类概要信息。至于是否真正公开内容,最终决定权在于生成数据的客户,而不是 OpenAI。
在报道中是这样出现的
报道中提到,OpenAI"预览发布了一套名为 Private Safety Processing 的新安全系统,能够在人工不直接查看内容的情况下检测滥用风险"。这很容易被误认为是不保留数据的政策,但两者是不同的概念。Private Safety Processing 是建立在不存储数据政策之上的一层自动检测机制,目的是即便不保留数据,也仍能捕捉到风险。由于目前仍处于预览阶段,正式适用范围以及是否会扩展到普通用户尚未确定。