시스템 프롬프트

시스템 프롬프트는 AI가 모든 대화에서 기본으로 따르는 「지침서」입니다. 사용자 눈에는 안 보이지만, 여러분이 첫마디를 입력하기 전에 AI는 이미 긴 지시문을 읽고 시작합니다 — 「너는 ○○ 어시스턴트다. 정중하게 답해라. 위험한 요청은 거절해라. 오늘 날짜는 ○월 ○일이다」 같은 내용입니다.

연극의 배역 설정에 비유하면 됩니다. 같은 배우(언어 모델)라도 대본 첫 장의 인물 설정(시스템 프롬프트)에 따라 전혀 다른 캐릭터가 됩니다. 챗GPT와 클로드의 말투·성격 차이에는 모델 차이만이 아니라 이 지침서 차이도 들어 있습니다.

기사에는 두 갈래로 등장합니다. 하나는 유출·공개 소동 — 숨겨진 지침서가 공개되면 「이 AI에게 뭘 금지해 놨나」가 드러나 화제가 됩니다. 다른 하나는 보안 — 교묘한 입력으로 지침을 무시하게 만드는 공격(프롬프트 인젝션)이 AI 보안의 단골 주제입니다.

「유출된 시스템 프롬프트에서 드러난 금지 목록」 — AI 회사가 모델을 어떻게 통제하는지 보여 주는 문서로 다뤄지는 경우입니다.

1. 챗봇 설정에서 「맞춤 설정」(Custom Instructions·사용자 지침) 항목을 찾습니다.
2. 이렇게 적어 둡니다: 「답은 항상 세 문장 이내로. 전문용어를 쓰면 바로 뒤에 쉬운 말로 풀어 줘」
3. 새 대화에서 아무거나 물어보세요 — 모든 답의 말투가 바뀌어 있습니다. 방금 쓰신 그것이 (개인용) 시스템 프롬프트입니다. 회사가 모델 전체에 걸어 두는 것의 내 계정판이죠.