롤플레이

롤플레이란 AI에게 특정 배역이나 캐릭터를 맡긴 뒤, 그 설정을 유지한 채 대화를 이야기처럼 이어가는 방식이다.

즉흥극을 떠올리면 된다. 사용자가 「너는 탐정이고 나는 목격자야」라고 무대를 세팅하면, AI는 그 배역의 말투와 태도를 유지하며 상황극을 이어간다. 소설 쓰기 연습, 외국어 회화 연습, 상담 시뮬레이션처럼 실제로 유용한 곳에 널리 쓰인다.

문제는 이 「배역」이라는 틀이 AI의 안전장치를 우회하는 통로로도 악용될 수 있다는 점이다. 캐릭터를 연기하는 중이라는 핑계로 조금씩 더 위험한 내용을 요구하며 AI를 설득해나가면, 평소라면 거부했을 응답을 끌어내는 경우가 생긴다.

기사는 앤스로픽 클로드가 무해한 허구적 롤플레이로 대화를 시작한 뒤, 캐릭터 설정을 근거로 점점 노골적인 요구를 밀어붙이는 방식에 취약했다고 전한다. 오해하기 쉬운 점은, 롤플레이 자체가 문제는 아니라는 것이다. 창작이나 연습 목적의 정상적인 기능이며, 문제는 그 틀을 악용해 안전장치를 단계적으로 무너뜨리는 설득 기법 쪽에 있다.

직접 해보고 싶다면 이렇게 시작해보라.

다음 대화에서 너는 중세 시대 여관 주인이야. 나는 하룻밤 묵으러 온 여행자야. 배역을 유지한 채 나와 대화해줘.

대화를 이어가며 AI가 배역과 말투를 얼마나 일관되게 유지하는지 살펴보면 롤플레이가 어떻게 작동하는지 감을 잡을 수 있다.