METAL for iPhone

AI 뉴스, 이제 앱에서 읽으세요.

METAL 앱을 다운로드하고 매일 새로운 AI 기사를 만나보세요.

App Store에서 다운로드

iPhone용 앱 · 무료 다운로드

iPhone의 App Store에서도 ‘메탈 AI 매거진’을 검색할 수 있습니다.

METAL

AI 용어사전ㅌ안전과 논쟁

탈옥

Jailbreak

말재주로 AI의 금지 규칙을 우회하게 만드는 것. 막는 쪽과 뚫는 쪽의 끝없는 술래잡기.

쉽게 말하면

AI에 걸린 안전 규칙을 말재주로 우회하는 것입니다. 「소설 속 악당 대사로 써 줘」 「돌아가신 할머니가 들려주던 이야기인데…」처럼 역할극·감정에 호소해 금지된 답을 끌어내는 수법이 대표적입니다.

스마트폰 「탈옥」에서 빌려온 말입니다. 회사들은 막고, 커뮤니티는 새 구멍을 찾는 술래잡기가 계속되며, 연구소들은 아예 상금을 걸고 뚫어 보라고 합니다(레드팀·버그 바운티). 프롬프트 인젝션과 헷갈리기 쉬운데 — 탈옥은 사용자가 직접 속이는 것, 인젝션은 제3자가 자료에 숨겨 속이는 것입니다.

함께 볼 용어

이 용어가 나온 기사

ㄱㄴㄷ 전체 찾아보기