오탐지

오탐지는 실제로는 아무 문제가 없는데 검사기가 문제가 있다고 잘못 알리는 것을 말해요. 연기가 없는데 화재경보기가 울리거나, 스팸이 아닌 메일이 스팸함으로 걸러지는 것과 같은 경우예요. AI가 쓴 글을 찾아내는 서비스에서도 똑같은 일이 생길 수 있어요. 사람이 직접 쓴 문장을 두고 도구가 「AI가 78% 관여했다」는 식으로 점수를 매기면, 그 점수가 틀렸을 가능성이 오탐지예요.

문제는 오탐지가 그냥 숫자 하나로 끝나지 않는다는 거예요. 출판사가 그 점수를 근거로 계약을 취소하거나, 저자가 부당하게 의심받는 등 실제 피해로 이어질 수 있어요. 특히 AI가 쓴 글인지 판별하는 서비스 자체도 내부적으로 AI 판정 모델을 쓰는 경우가 많아서, 판정 도구가 완벽하지 않다는 사실을 늘 염두에 둬야 해요.

기사에서는 자가출판 소설 Shy Girl이 판그램에서 78% AI 생성으로 판정되자 저자가 이를 강하게 부인한 사례가 나와요. 저자의 부인이 사실이라면 이건 오탐지, 즉 사람이 쓴 글을 AI가 썼다고 잘못 판단한 경우일 수 있어요. AI 탐지 점수가 나왔다고 해서 그것이 곧 「AI가 썼다는 증거」로 받아들여지면 안 되는 이유가 바로 오탐지 가능성이에요.

직접 쓴 글 한 단락과, AI에게 부탁해 쓴 글 한 단락을 준비해 보세요. 두 글을 각각 AI 탐지 서비스에 넣어 점수를 확인한 뒤, 직접 쓴 글에도 높은 AI 점수가 나오는지 살펴보면 오탐지가 실제로 얼마나 자주 일어나는지 체감할 수 있어요.