클로드 헌법

클로드 헌법은 앤스로픽이 챗봇 클로드가 대화할 때 어떤 가치를 우선하고, 애매한 상황에서 어떻게 판단해야 하는지를 정리해 공개한 문서다.

회사가 신입 직원에게 '우리는 이런 걸 중요하게 여긴다'고 알려주는 사규나 다짐문에 비유할 수 있다. 세세한 매뉴얼이 아니라, 솔직해야 한다거나 사용자에게 해를 끼치지 말아야 한다는 큰 원칙을 세워두고, 실제 대화에서는 그 원칙을 상황에 맞게 풀어내도록 하는 것이다.

다만 같은 원칙을 갖고 있어도 실제 응답은 조금씩 달라질 수 있다. 앤스로픽이 자체적으로 진행한 가치 연구에서는 클로드의 버전이나 대화 언어에 따라 다정함과 엄격함 중 어느 쪽에 더 기우는지가 달랐다는 결과가 나왔는데, 이는 헌법이 정한 큰 방향은 같더라도 그 방향이 실제 답변으로 표현되는 방식에는 미묘한 차이가 생길 수 있음을 보여준다.

기사에서는 '앤스로픽이 공개한 클로드 헌법에 따르면 클로드는 정직함과 안전을 우선한다'는 식으로 인용되곤 한다. 다만 클로드가 실제 대화에서 어떤 가치를 얼마나 표현했는지를 조사한 연구 결과 자체는 헌법 문서와 다른 별개의 조사이니, 둘을 같은 것으로 혼동하지 않아야 한다.

클로드에게 직접 물어볼 수 있다.

1. 클로드에게 다음과 같이 물어본다: '네가 따르는 원칙이나 가치가 뭐야? 답을 할 때 어떤 걸 우선해?'
2. 이어서 '이직해야 할지 고민이야' 같은 정답 없는 질문을 던져본다.
3. 첫 질문에서 나온 원칙이 두 번째 답변의 태도(격려하는지, 신중하게 유보를 다는지)와 어떻게 연결되는지 비교해본다.