탈옥

AI에 걸린 안전 규칙을 말재주로 우회하는 것입니다. 「소설 속 악당 대사로 써 줘」 「돌아가신 할머니가 들려주던 이야기인데…」처럼 역할극·감정에 호소해 금지된 답을 끌어내는 수법이 대표적입니다.

스마트폰 「탈옥」에서 빌려온 말입니다. 회사들은 막고, 커뮤니티는 새 구멍을 찾는 술래잡기가 계속되며, 연구소들은 아예 상금을 걸고 뚫어 보라고 합니다(레드팀·버그 바운티). 프롬프트 인젝션과 헷갈리기 쉬운데 — 탈옥은 사용자가 직접 속이는 것, 인젝션은 제3자가 자료에 숨겨 속이는 것입니다.