구글, SynthID Detector 일반 공개

구글이 AI로 만든 이미지와 영상, 음성을 누구나 가려 볼 수 있는 SynthID Detector를 일반 공개했다. 구글 딥마인드는 10월 7일 이 검사 도구를 이날부터 전 세계에 영어로 연다고 밝혔다. 이용자는 synthid.com에 파일을 올려 구글 AI나 파트너사 도구로 만든 것인지 확인할 수 있다. 파트너사에는 오픈AI와 엔비디아, 카카오가 들어 있고 애플도 곧 합류한다.

이 도구는 지난해 초기판으로 먼저 나왔다. 당시에는 언론인과 연구자 같은 미디어 전문가가 대기자 명단을 거쳐야 쓸 수 있었다. 보도에 따르면 이번 공개로 대기자 명단이 사라졌고, 구글이나 애플, 오픈AI 계정으로 로그인하면 바로 쓸 수 있다. 구글 딥마인드에서 과학·전략 이니셔티브를 맡은 푸시밋 콜리 부사장은 발표 글에서 "AI 도구가 더 좋아지고 쓰기 쉬워질수록, 온라인에서 마주치는 콘텐츠에 대한 분명한 맥락이 무엇을 믿을지 판단하는 데 도움이 된다"고 썼다.

바탕은 2023년에 나온 SynthID 워터마크다. 생성 시점에 이미지·영상의 픽셀이나 음성 신호 안에 사람 눈과 귀로는 알아챌 수 없는 신호를 심는다. 눈에 보이는 표식이나 메타데이터에 기대지 않기 때문에 잘라내기와 압축, 색 보정, 음성 처리를 거친 뒤에도 남도록 설계됐다고 보도됐다. 구글에 따르면 지금까지 1800억 장이 넘는 이미지·영상과 24만 년 분량의 음성에 이 워터마크가 들어갔다.

메탈이 확인한 발표문의 시연 화면에는 10초짜리 너구리 야간 영상을 올린 결과가 담겼다. "SynthID was detected"라는 판정 아래 이 미디어가 구글 AI로 만들어졌거나 편집됐다는 문구가 뜨고, 영상 트랙과 음성 트랙이 각각 감지 구간으로 칠해진다. 같은 화면은 그 뒤에 파일이 더 편집됐을 수 있다는 안내도 붙인다. 보도에 따르면 검사기는 파일 전체에 대한 판정만 내놓지 않고 워터마크가 잡힌 영역이나 구간을 짚는다. 생성형 편집 도구가 사진 속 물체 하나나 음성 한 토막만 바꾼 경우를 가려내는 기능이다.

검사는 이미 구글 제품 안에서도 돌고 있다. 콜리 부사장은 이 도구가 검색과 제미나이 앱, 크롬에 들어간 검증 기능과 나란히 서며, 이 기능들이 이제 하루 100만 건이 넘는 요청을 처리한다고 밝혔다. 그는 "이 모든 것은 온라인에서 보는 미디어에 더 많은 맥락을 줘서 자신 있게 웹을 탐색하도록 돕는 작업의 일부"라고 덧붙였다. 구글 딥마인드가 공식 X 계정에 올린 공개 소식은 메탈이 확인한 시점에 조회수 6만3000회를 넘겼다.

파트너 확대가 이번 공개의 다른 축이다. 워터마크 검사는 생성기가 같은 신호를 심어 둬야만 작동한다. synthid.com 첫 화면도 이 도구가 범용 AI 탐지기가 아니며 SynthID를 도입한 회사의 결과물만 가려낸다고 못 박고, 정확도를 높이려면 가능한 한 화질이 높은 파일을 올리라고 안내한다. 구글 바깥의 오픈AI와 엔비디아, 카카오 도구로 만든 결과물까지 한 창구에서 확인할 수 있게 된 것이 그래서 의미가 있다. 애플 몫은 아직 예고 단계다. 보도에 따르면 구글은 애플 인텔리전스로 만든 이미지가 "곧" SynthID 워터마크를 갖게 된다고 밝혔다. 파트너사라고 해서 그 회사의 모든 모델과 과거 결과물에 워터마크가 들어간 것은 아니며, 미드저니와 개인 컴퓨터에서 돌리는 다수의 오픈소스 모델은 이 체계 밖에 있다는 점도 보도됐다.

검증 열쇠는 구글이 쥔다. 보도에 따르면 파일은 구글 서버로 올라가 분석되고, 이번 공개에 오프라인 검증기나 제한 없는 API는 포함되지 않았다. 프로그램으로 대량 검사를 하려면 구글 클라우드의 AI 콘텐츠 탐지 API(AI Content Detection API)를 써야 하는데, 이 API는 선택된 파트너에게만 열려 있다. 구글이 만든 이미지에는 암호 서명된 출처 기록인 C2PA 콘텐츠 자격증명이 함께 붙을 수 있고, 이 기록에 SynthID 워터마크가 들어 있다는 선언을 담을 수 있다. C2PA 기록은 메타데이터를 지우면 사라지지만, SynthID는 콘텐츠 안에 신호를 넣어 복사와 편집을 더 잘 견딘다.

법적 다툼의 눈으로 보면 판정문의 문장 하나하나가 무겁다. 양성 판정은 지원되는 시스템이 파일의 적어도 일부를 만들거나 고쳤다는 뜻이다. 그 안의 사건이나 발언, 주장이 사실인지는 말해 주지 않는다. 음성 판정 역시 진본 증명이 아니다. 지원되지 않는 생성기와 오래된 모델의 결과물, 강한 재인코딩과 의도적 변조는 빈 결과를 낼 수 있고, 탐지는 확률에 기댄다. 그래서 이 결과를 분쟁이나 신고 처리의 근거로 쓰려면 판정 점수와 위치 정보, 파일 이력, C2PA 기록을 함께 남겨야 한다는 지적이 나온다. 메탈은 구글 딥마인드가 같은 이름을 단 SynthID Bio를 공개했다고 보도한 바 있다.

이번 공개로 SynthID는 구글 제품의 꼬리표에서 여러 회사가 함께 쓰는 판독 창구로 자리를 옮겼다. 표식을 심는 회사가 늘수록 한 번의 업로드로 확인할 수 있는 범위도 넓어지고, 반대로 표식을 심지 않는 생성기의 결과물은 더 또렷하게 빈칸으로 남는다. 판정 한 줄을 결론으로 삼을지, 출처 기록과 이력 확인을 겹쳐 쓰는 출발점으로 삼을지는 검사기를 쓰는 사람과 플랫폼의 몫이다.