컨스티튜션

컨스티튜션은 AI 시스템이 어떤 질문에 답해도 되고 어떤 질문은 막아야 하는지 정해놓은 규칙 문서다. 회사가 신입 직원에게 나눠주는 업무 매뉴얼과 비슷하다고 보면 된다. 이 매뉴얼에 애매한 규정만 있으면 직원은 헷갈려서 안전한 요청까지 다 거절해버리는데, AI 안전 시스템도 마찬가지로 컨스티튜션이 엉성하면 정상적인 질문까지 위험한 것으로 오인해 차단하게 된다.

그래서 개발사는 이 문서를 다시 쓰고, 그 기준에 맞춰 학습 데이터를 새로 만들고, 판단을 담당하는 프로그램을 다시 훈련시키는 작업을 한다. 매뉴얼 자체를 더 정교하게 고쳐서 애매한 사례를 더 잘 구분하게 만드는 셈이다.

기사에서는 "분류기의 규칙 집합인 컨스티튜션을 다시 쓰고, 이를 바탕으로 학습 데이터를 새로 구성한 뒤 분류기를 재훈련했다"고 설명한다. 여기서 컨스티튜션은 국가의 헌법이 아니라, AI가 무엇을 위험하다고 판단할지 정해두는 내부 규칙 문서를 뜻한다.