AI 대필 의혹에 집필 기록 도구 등장

AI가 쓴 글이라는 의혹을 받은 작가가 스스로를 변호할 길을 찾는 사이, 집필 과정을 기록해 사람이 썼다는 증거를 남겨 주는 집필 기록 도구가 잇따라 등장하고 있다. 워킹스, 블라인드프루프, 윈터텍스트, 휴먼잉크, 오브라베라 같은 플랫폼은 작가가 글을 써 나가는 과정을 추적하고, 일부는 원고나 타자 리듬에 고유한 암호 지문을 새겨 저작 기록을 만든다. 보도에 따르면 미국 작가 단체 작가조합에도 이런 회사 여럿이 찾아와 서비스를 소개했다. 그러나 작가조합 대표와 AI 탐지 회사 대표, 출판 전문가 모두 이 도구가 AI 대필 의혹의 해법이 되기는 어렵다고 짚었다.

의혹의 무게를 보여 준 사건은 올해 3월에 터졌다. 공포 소설 「샤이 걸」의 상당 부분을 AI가 썼다는 추측이 소셜미디어에 번지고 언론 보도가 나오자, 아셰트 북 그룹은 예정된 미국 출간을 취소하고 이미 책이 나와 있던 영국에서도 판매를 중단했다. AI 탐지 도구 판그램은 이 소설 본문의 약 78%를 AI 생성 텍스트로 판정했다. 작가 미아 발라드는 AI로 소설을 쓰지 않았다며, 앞서 자비 출판했던 판본을 고치는 과정에서 편집자가 AI를 이용해 수정했다고 주장했고 법적 대응을 예고했다. 이후 단편 소설상을 받은 작가와, 출판사들이 수백만 달러 단위로 판권 경쟁을 벌인 범죄 소설의 작가도 같은 의혹에 휘말렸다. 두 사람 모두 의혹을 부인했다.

스릴러 작가 앤드리아 바츠는 이런 흐름을 가장 가까이서 지켜본 사람 가운데 하나다. 바츠는 2019년 이후 스릴러 다섯 권을 냈고, 작품 판권이 넷플릭스와 훌루에 팔렸으며, 리스 위더스푼의 북클럽 추천도 받은 베스트셀러 작가다. 해적 사이트에서 저작권 있는 책 수백만 권을 내려받아 모델 학습에 썼다며 앤스로픽을 상대로 낸 집단소송의 대표 원고도 바츠였다. 앤스로픽은 지난해 미국 저작권 분쟁 사상 최대 규모인 15억 달러 합의에 동의했다. 바츠는 「샤이 걸」 논란이 터졌을 때 "곧바로 이게 마녀사냥으로 이어질 수 있겠다고 느꼈다"고 말했다. 바츠는 출판계에 AI가 들어오는 일이 피할 수 없는 만큼 누구든 누구를 AI 사용자로 몰 수 있는 상황이 생긴다며, 사람이 썼다는 것을 입증할 "합의된 기준이 없다"고 지적했다.

도구들이 내세우는 쓸모는 두 갈래다. 하나는 누군가 대형 언어 모델을 썼다고 의심할 때 작가가 내밀 수 있는 기록이고, 다른 하나는 글이 저작자 정보 없이 AI 학습 데이터로 긁혀 갈 때 원작자를 증명하는 출처 기록이다. 작가조합의 메리 라센버거 최고경영자는 조합이 특정 도구를 추천할 수는 없지만 작가들이 일종의 안전망으로 이런 도구가 있다는 사실은 알아 두기를 바란다고 밝혔다. 동시에 라센버거는 작가가 이런 절차를 거쳐야 한다는 것 자체가 "모욕적"이고 "부담"이라며 "작가에게 영수증을 챙기라고 요구해서는 안 된다고 본다"고 말했다. 다른 업체들이 조합을 찾아왔다는 사실은 조합의 우마이르 카지 정책·옹호 담당 디렉터가 전했다.

라센버거는 출판계의 AI 남용이 생각만큼 흔하지 않다고 본다. 라센버거는 "당신이 파는 것이 당신의 말과 목소리, 상상력, 창의성이라면 AI를 쓰는 건 말이 되지 않는다"며 작가들의 자부심이 AI 저질 글의 유입을 막고 있다고 말했다. 순문학 논픽션과 소설 편집자들 가운데는 AI가 쓴 투고를 본 적이 없고, 보면 알아챌 것이라고 말하는 이들도 있었다는 것이 라센버거의 설명이다. 라센버거가 더 걱정하는 것은 불신의 분위기와 탐지 도구에 대한 과신이다. 판그램은 창작 글에서 오탐률이 0.01%로 업계 최저 수준이라고 내세우지만, 라센버거는 작가조합이 자기가 직접 쓴 글을 판그램에 넣었다가 AI 생성 판정을 받았다는 사례를 "많이" 들었다고 밝혔다. 라센버거는 작가들이 다른 작가를 고발하는 일을 삼가야 한다며 그런 고발이 건강한 문학 공동체에 도움이 되지 않는다고 말했다.

집필 기록 도구도 빈틈이 있다는 점은 탐지 회사 쪽에서도 인정한다. 판그램은 구글 문서에서 집필 과정을 추적하는 제품도 내놓고 있다. 판그램 공동창업자 맥스 스페로 최고경영자는 "많은 사용자가 유용하다고 느낀다"면서도 "이른바 집필 기록 도구가 모든 걸 잡아내는 완벽한 그물은 아니다, 누군가 AI가 쓴 글을 손으로 옮겨 치거나 자동 타자 프로그램을 쓸 수도 있다"고 말했다. 스페로는 글쓰기 자체의 지저분함도 문제로 꼽았다. 그는 "보통 작가는 그냥 앉아서 책 한 권을 타자로 쳐 내려가지 않는다"며 여러 파일을 오가고 원고를 주고받고 이동 중에 음성 메모를 남기는 과정이 집필 도구에 다 담기지는 않는다고 설명했다.

도구가 실제로 증명하는 범위도 생각보다 좁다. 글의 패턴과 음성 녹음에 암호 지문을 새기는 오브라베라의 브래디 리지웨이 기술 창업자는 이 플랫폼이 등록한 사용자가 데이터베이스에 저장한 자료의 재사용을 추적하도록 설계됐다고 설명했다. 타임스탬프와 암호 해시를 붙여 두면, 그 글이 엉뚱한 곳에 나타나거나 다른 사람이 자기 것이라고 주장할 때 "이 문장은 이 시각에 이 사람이 만들었다"고 말할 수 있다는 것이다. 그러나 AI를 썼는지 여부는 등록한 사람이 스스로 신고하는 몫이다. 리지웨이는 5월 커먼웰스 단편 소설상 수상작이 AI 생성물이라는 의혹을 받은 사례를 들며 "그가 그 단편을 낸 사람이라는 데는 모두 동의하는 것 같다"고 말했다. 소프트웨어가 해 줄 수 있는 것은 누군가 그날 사람만 썼다거나 AI 도움을 받지 않았다고 신고했다는 사실까지이고, 그 신고가 참인지는 확인하지 못한다.

출판계가 이런 검증을 제도로 받아들일 가능성도 낮다는 전망이 나온다. 작가이자 출판 비즈니스 전문가인 제인 프리드먼은 자신의 업계 뉴스레터에서, 판그램 같은 탐지 도구가 나아지고 작가들이 AI 글을 자기 글로 내놓았을 때의 결과를 본 만큼 AI 스캔들의 시대는 짧게 끝날 것이라고 주장했다. 프리드먼은 에이전트와 출판사가 "돈이나 시간이 더 드는" 사람 저작 검증 방식은 들이지 않을 것이라며 "합의를 끌어내는 건 고양이 떼를 모는 일과 같을 것"이라고 말했다. 출판이 새 기술, 그중에서도 업계 바깥 사람이 만든 기술을 받아들이는 데 느리다는 이유다. 프리드먼은 기존 제작 과정에 인증을 끼워 넣는 실무 문제와 "위조되거나 조작된" 인증서 문제도 남는다고 짚었다. 작가가 마음의 평화를 위해 돈을 낼 수는 있어도, 에이전트와 출판사가 어느 앱의 증명이든 받아 줄 것이라고 믿기는 어렵다는 것이 프리드먼의 결론이다.

뚜렷한 해법이 없는 동안 작가들은 각자 자신을 지켜야 한다. 바츠는 AI에 속을지 모른다는 독자들의 반응이 지나치게 열띠다고 우려했다. 바츠는 "낯선 사람 하나가 책이 AI처럼 읽힌다고 느끼자 모두가 달려들어 굿리즈에서 평점 테러를 당한 작가들 이야기를 들었다"며 "2022년 이후에 나온 책은 아무것도 안 읽겠다, 그래야 생성형 AI가 안 들어갔다고 확신할 수 있으니까라고 말하는 독자들도 봤다"고 말했다. 바츠는 이를 두고 "산업 전체를 한꺼번에 무너뜨리는 아주 좋은 방법"이라고 꼬집었다. 메탈은 판그램이 AI 탐지의 기준처럼 자리 잡으며 출판계를 흔들었지만 신뢰성 논란을 낳은 과정과 앤스로픽과의 저작권 분쟁에서 이긴 작가의 경고를 보도한 바 있다.

바츠 자신도 이 불안에서 자유롭지 않다. 2027년에 나올 바츠의 새 책 「딜리트 유어 어카운트」는 생성형 AI를 정면으로 다룬다. 글이 막힌 작가가 좋아하는 스릴러를 흉내 내 달라고 AI 챗봇에 지시했다가 그 원작 이야기 속에 갇혀 죽음을 맞을 처지가 되는 줄거리다. 바츠는 "대형 언어 모델처럼 들리도록 일부러 쓴 부분이 있다, 지어낸 대화 기록과 가상의 AI 회사가 낸 거슬리는 AI풍 홍보 문구 같은 것들"이라며 "그중 어느 하나라도 AI가 쓴 것으로 나오면 어떻게 해야 할지 모르겠다"고 말했다. 메탈이 확인한 도구 개발사들의 설명을 보면, 집필 기록 도구는 글 속 문장이 사람 손에서 나왔다는 사실 자체를 보증하지는 못한다. 도구가 남기는 것은 언제 누가 무엇을 썼다고 말했는가에 대한 기록이다.

테크 변호사의 눈으로 보면 이 논쟁의 핵심은 기술보다 입증 책임이 누구에게 넘어가느냐에 있다. 탐지 도구가 의심을 만들고 기록 도구가 그 의심에 대한 해명을 상품으로 판다면, 증명의 부담은 고발한 쪽이 아니라 고발당한 작가에게 쌓인다. 작가조합이 영수증을 챙기라는 요구 자체를 거부하고, 프리드먼이 출판계 공통 기준은 오지 않을 것이라고 내다본 이유도 여기에 있다. 문학 공동체가 지켜야 할 것은 완벽한 판별 장치가 아니라, 근거 없는 고발이 한 작가의 생계를 무너뜨리지 못하게 하는 절차라는 것이 이번 논쟁이 남긴 질문이다.