프라이빗 세이프티 프로세싱

프라이빗 세이프티 프로세싱은 오픈AI가 API로 오가는 대화 내용을 사람이 직접 읽지 않으면서도 위험한 사용을 자동으로 걸러내는 안전 점검 방식이다.

비유하면 밀봉된 소포를 열지 않고 엑스레이로 검사하는 것과 비슷하다. 검사 기계는 소포 안에 정확히 뭐가 들었는지 보지 않아도 위험 신호가 있으면 경보를 울릴 수 있다. 오픈AI 직원은 이 검사 구간에 접근할 수 없고, 요청 데이터는 고객이 관리하는 저장소에 암호화된 채로만 남는다.

경보가 뜨면 두 갈래로 알림이 나뉜다. 고객에게는 실제로 무슨 일이 있었는지 조사할 수 있는 경보가 가고, 오픈AI에게는 위험의 종류와 심각도 정도만 담긴 경보가 간다. 콘텐츠를 실제로 공개할지 말지는 오픈AI가 아니라 데이터를 만든 고객이 최종적으로 정한다.

기사에서는 오픈AI가 '콘텐츠를 사람이 직접 들여다보지 않고도 악용 위험을 탐지하는 프라이빗 세이프티 프로세싱이라는 새 안전 시스템을 미리보기로 공개했다'고 쓴다. 데이터를 아예 안 남기는 정책과 헷갈리기 쉬운데, 이 두 가지는 다른 개념이다. 데이터를 저장하지 않는 정책 위에, 그래도 위험을 잡아내기 위해 얹은 자동 탐지 장치가 프라이빗 세이프티 프로세싱이다. 아직 미리보기 단계라 정식 적용 범위나 일반 사용자 확대 여부는 정해지지 않았다.