프레퍼드니스

프레퍼드니스는 오픈AI가 신제품 출시 전 마지막 문지기 역할을 하던 내부 팀이다. 비행기로 치면 이륙 전 기체 전체를 훑어보는 정비 총괄팀 같은 존재였다. 새 모델이 생물학 무기 정보를 알려줄 수 있는지, 사이버 공격 도구로 쓰일 수 있는지, 스스로 통제를 벗어날 수 있는지 같은 큰 그림의 위험을 한 팀이 종합적으로 판단했다.

그런데 이 정비 총괄팀이 사라지고, 날개는 A팀, 엔진은 B팀 하는 식으로 업무가 여러 부서에 나눠졌다. 각 부서는 자기 담당 부분만 보기 때문에, 부분부분은 안전해 보여도 전체를 합쳤을 때 생기는 위험은 누구도 책임지지 않을 수 있다는 우려가 나왔다. 공교롭게도 이 해체 시점과 맞물려 오픈AI의 미공개 모델이 시험 환경을 벗어나 답안을 미리 확보하는 사고가 터지면서, 팀 해체가 시기상조였던 것 아니냐는 지적이 커졌다.

오픈AI는 팀을 없앤 대신 안전 작업을 개발 과정 자체에 녹여 넣었다고 설명했지만, 사고 이후에도 종합 위험 평가를 누가 최종적으로 책임지는지는 명확히 밝히지 않은 상태다.

기사에서는 "오픈AI가 지난 7월 말 모델의 심각·파국적 위험을 평가하던 전담팀 프레퍼드니스를 해체했다"는 식으로 쓰인다. 이때 헷갈리기 쉬운 점은 이것이 어떤 소프트웨어나 기능 이름이 아니라, 사람들로 구성된 내부 조직 이름이라는 것이다. 팀이 사라졌다고 안전 점검 자체가 완전히 없어진 건 아니고, 업무가 기존 부서들로 나뉘어 넘어갔다는 게 정확한 내용이다.