챗GPT가 AI티 나는 이유, 안전장치 탓이라는 주장

에미의 주장에서 흥미로운 대목은 사후훈련을 거치지 않은 "베이스 모델"이에요. 사전학습만 마치고 대화 규칙을 입히지 않은 원시 모델은 사람만큼 폭넓은 문체로 글을 쓴다고 해요. 그 결과 판그램의 탐지 시스템도 이런 베이스 모델이 쓴 글은 AI로 잡아내지 못한다고 밝혔어요. 엑스(X)에 올린 글에서는 이와 비슷하게, 헤밍웨이 문체만 학습한 파인튜닝 모델이나 특정 서브레딧 글만 학습한 좁은 범위의 파인튜닝 모델, 그리고 문법이 깨진 비문 텍스트도 탐지를 피해간다는 설명이 나왔어요. 사후훈련이 다양성을 좁히는 것과 반대로, 좁은 데이터로만 학습한 모델은 특정 인간 집단의 문체와 구별하기 어려워지는 방향으로 작동하는 셈이에요.

워터마크는 별개의 이야기

에미는 이런 다양성 논리가 워터마크가 없는 AI 텍스트에만 적용된다고 선을 그었어요. 구글처럼 워터마크 기술을 실험해 온 곳들은 특정 토큰을 선택하는 확률 자체를 조작하는 방식을 쓰는데, 모델이 아무리 베이스 모델처럼 다양하게 써도 이 신호는 텍스트 안에 그대로 남는다는 논리예요. 그는 워터마크가 적용된 텍스트라면 앞으로도 계속 탐지가 가능할 것이라고 봤어요.

표로 보는 탐지 가능성

텍스트 유형	사후훈련 여부	판그램 탐지 가능 여부
챗GPT·클로드·제미나이 등 상용 챗봇 출력	거침	가능
사후훈련 이전 베이스 모델 출력	안 거침	어려움
헤밍웨이 전용 등 좁은 파인튜닝 모델	좁게 거침	어려움
문법이 깨진 비문 텍스트	무관	어려움
워터마크가 삽입된 텍스트	무관	계속 가능

에디터의 시선

이번 주장은 AI 텍스트 탐지 업계 전체가 마주한 딜레마를 보여줘요. 탐지 도구를 파는 회사의 CTO가 정작 "우리 도구가 잡아내는 건 안전장치가 만든 부작용"이라고 인정한 대목이 눈에 띄어요. 오픈AI와 앤스로픽, 구글은 모두 모델을 출시하기 전에 유해 발언 거부, 정치적 중립 유지 같은 규칙을 강하게 입혀요. 이 규칙들이 반복해서 쓰는 사과 문구, 정형화된 접속사 패턴을 만들어내고, 판그램 같은 탐지 서비스는 바로 그 패턴을 지문처럼 읽어내는 구조예요.

세대를 비교하면 체감이 뚜렷해요. 초기 대형 언어모델의 베이스 버전으로 글을 뽑아 보면 문체가 들쭉날쭉하고 때로는 앞뒤가 안 맞기도 했지만, 그만큼 예측 불가능했어요. 지금의 챗GPT나 클로드는 훨씬 매끄럽고 안전하지만, 그 매끄러움 자체가 지문이 된다는 게 에미 주장의 핵심이에요. 안전과 개성은 지금 구조에서는 서로 맞바꾸는 관계에 가까워요.

실무적으로 보면 이 이야기는 두 갈래로 갈려요. AI 텍스트를 판별해야 하는 학교나 미디어 입장에서는, 안전장치가 강한 상용 챗봇으로 쓴 글일수록 탐지가 쉽고, 반대로 오픈소스 베이스 모델이나 좁게 파인튜닝한 모델로 쓴 글은 탐지가 힘들다는 뜻이 돼요. 반대로 AI로 글을 쓰되 사람처럼 보이고 싶은 쪽에서는, 안전장치가 약한 모델일수록 자연스러운 문체가 나온다는 뜻도 되고요. 다만 워터마크가 들어간 텍스트는 이 공식에서 예외라, 워터마크를 넣는 회사의 모델로 쓴 글은 문체와 무관하게 계속 잡힐 가능성이 높아요.

앞으로 몇 달 안에는 탐지 업계와 모델 개발사 사이에 새로운 줄다리기가 벌어질 가능성이 커요. 탐지 회사들이 "매끄러운 안전 문체"를 지문 삼아 정확도를 높이면, 모델 개발사들은 안전을 유지하면서도 표현을 다양하게 하는 사후훈련 기법을 찾으려 할 거예요. 그 균형점을 먼저 찾는 쪽이 다음 라운드의 주도권을 쥐게 될 거예요.