분류기 컨스티튜션

분류기 컨스티튜션은 AI가 어떤 요청을 위험하다고 볼지 판단하는 감시 장치를 훈련시킬 때 쓰는 기준 문서다. 법원이 판결할 때 헌법 조문을 근거로 삼듯, 이 감시 장치도 사람이 미리 정리해둔 규칙집을 보고 무엇을 통과시키고 무엇을 막을지 배운다.

이 규칙집을 짜는 일은 생각보다 까다롭다. 백신을 만들려면 과학자가 위험한 병원체를 직접 배양해야 하고, 어떤 혈압약은 독사의 독 성분에서 나왔다. 유익한 연구와 위험한 연구가 겉보기에는 거의 똑같은 모습을 하고 있어서, 기준을 느슨하게 짜면 위험한 요청이 새어나가고 너무 빡빡하게 짜면 의사나 학생의 정상적인 질문까지 막혀버린다. 그래서 회사들은 안팎의 전문가 의견을 모아 이 규칙집을 여러 차례 고쳐 쓰고, 그걸 바탕으로 감시 장치를 다시 훈련시킨다.

규칙집이 바뀌면 감시 장치의 판단 기준도 통째로 바뀐다. 어제는 막혔던 질문이 오늘은 통과되거나 그 반대가 될 수 있다는 뜻이다.

기사에는 "생물학 안전 분류기의 판단 기준이 되는 분류기 컨스티튜션을 수주에 걸쳐 전면 재작성했다"처럼 쓰인다. '헌법'이라는 이름이 붙었지만 법적 문서가 아니라, 안전 팀이 내부에서 쓰는 훈련용 지침서에 가깝다는 점이 자주 오해된다.