구글 딥마인드, 싱가포르와 사기 탐지 모델 공개

구글 딥마인드가 싱가포르 정부기술청(GovTech)과 함께 스마트폰 안에서 돌아가는 사기 탐지 모델을 10월 14일 공개했다. 구글의 경량 오픈 모델 Gemma를 싱가포르 현지 사기 대화로 미세조정한 이 모델은 메신저 대화를 클라우드로 보내지 않고 기기 안에서 읽다가 조작 의도가 보이면 송금이나 민감한 정보 공유 전에 실시간 경고를 띄운다. 딥마인드는 이 모델이 싱가포르에서 쓰이는 일반적인 스마트폰에서 돌도록 최적화됐다고 밝혔다. 발표는 싱가포르 국제사이버주간(SICW 2026) 현장에서 나왔다.

출발점은 피해 규모다. 딥마인드 발표문에 따르면 사기는 싱가포르에 신고된 범죄의 절반 이상을 차지하고, 2019년 이후 누적 피해액은 40억 싱가포르달러를 넘었다. 수법도 바뀌었다. 단순한 피싱 대신 그럴듯한 대화로 피해자를 길들인 뒤 돈을 요구하는 사회공학형 사기가 늘었고, 이런 사기가 전체 피해액의 최대 80%를 차지한다.

AI는 그 대화를 더 그럴듯하게 만든다. 같은 날 국제사이버주간 둘째 날 개막 연설에 나선 조세핀 테오 싱가포르 디지털개발정보부 장관은 올해 초 한 피해자가 로런스 웡 총리와 고위 관료들이 참석한 것처럼 보이는 화상회의에 초대된 사례를 들었다. 얼굴은 딥페이크로 만든 가짜였고, 노련한 전문직이던 피해자는 국제 공익 사업에 기여한다고 믿고 500만 싱가포르달러 가까이를 보냈다. 테오 장관은 "사기꾼은 언제나 사람의 신뢰를 파고들었다. AI가 바꾼 것은 속임수의 비용"이라고 말했다.

모델을 기기 안에 둔 이유는 암호화에 있다. 지금까지 위협 탐지는 서버가 클라우드에서 메시지를 훑는 방식이었지만, 종단간 암호화를 쓰는 메신저는 운영사도 개인 대화를 들여다볼 수 없다. 딥마인드는 위협 분석을 단말기로 옮기면 대화 흐름을 더 빨리 분석해 금전이나 계정 정보가 넘어가기 전에 사용자가 멈출 수 있다고 설명했다. 보도에 따르면 이 모델은 왓츠앱과 텔레그램 같은 메신저의 문자 대화를 실시간으로 분석하며 안드로이드 사용자를 대상으로 개발되고 있다. 마크 첸 GovTech 신뢰·안전 디렉터는 "사기와 싸우는 일이 개인의 프라이버시를 희생하는 일이어서는 안 된다"며 "표적이 정교한 현지 사기 시도를 실시간으로 잡으면서도 개인 대화는 완전히 비공개로 유지한다"고 밝혔다.

범용 모델은 지역마다 다른 속임수를 잘 잡지 못한다. 그래서 Gemma는 공공기관과 은행, 현지 유명 인사를 사칭하는 대화부터 그 지역에서 유행하는 수법까지 현지 사기 대화로 다시 학습했다. 목표는 평범한 잡담과 진짜 조작을 가려내는 것이다. 메탈은 구글이 Gemma로 기기 안에서 돌아가는 오프라인 음성 번역기를 내놨다고 보도한 바 있으며, 이번 모델은 같은 경량 오픈 모델을 보안 경보 장치로 쓴 사례다.

배터리가 다음 관문이다. 휴대폰에서 복잡한 분류기를 상시 돌리면 전력이 버티지 못한다. 딥마인드는 처리를 두 단계로 나눴다. 1단계에서는 전력을 거의 쓰지 않는 가벼운 분류기가 들어오는 메시지를 걸러 잠재 위협만 골라낸다. 2단계에서는 미세조정한 Gemma가 대화의 더 큰 부분을 읽고 맥락을 따져 위협을 확정하거나 오경보를 버린다.

법적 쟁점이 생기기 쉬운 지점은 학습 데이터다. 딥마인드가 밝힌 거버넌스 원칙은 세 가지다. 첫째는 주권 샌드박스로, 미세조정은 GovTech가 관리·운영하는 구글 클라우드 플랫폼(GCP) 환경 안에서만 이뤄져 학습 데이터가 격리됐다. 둘째는 시민 데이터 배제로, 개인 정보와 개인 식별 정보를 학습에서 빼고 사기 신고와 정보 피드에서 나온 익명화 데이터만 썼다. 셋째는 스트레스 테스트로, 합성 대화와 현지 말뭉치로 여러 사기 유형과 계속 바뀌는 사칭 수법을 시험했다. 학습은 정부가 관리하는 환경에 묶고 판정은 사용자 기기에서 끝내는 구조라, 보호를 위해 대화 내용을 누군가에게 넘겨야 하느냐는 질문에 기술 설계로 답한 셈이다.

이 모델은 싱가포르가 이미 돌리는 방어망 위에 얹힌다. 메탈이 확인한 싱가포르 사이버보안청 공개 연설문에 따르면 GovTech와 싱가포르 경찰이 함께 만든 사기 분석·전술 대응 시스템 SATIS는 하루 60만 개 넘는 웹사이트를 사이트당 몇 초 만에 점검하고, 매달 약 2만 개의 악성 사이트를 차단한다. 대상은 의심스러운 휴대폰 번호와 온라인 플랫폼으로도 넓어졌다. 경찰이 정보를 넘겨 메타가 페이스북과 인스타그램에서 사기와 연결된 개체·페이지·계정 380만 개 가까이를 지우거나 제한했다. 싱가포르가 제안한 아세안 사기 대응 정책·모범 사례 가이드는 올해 회원국 승인을 받았다. 테오 장관은 피해자가 소셜미디어에서 메신저, 전화, 금융기관 송금으로 옮겨 가는 사기 사슬을 짚으며 "어느 한 방어자도 사슬 전체를 보지 못한다"고 말했다.

파트너십의 뿌리는 지난봄이다. 보도에 따르면 이번 모델은 구글 딥마인드가 5월 20일 발표한 싱가포르 정부와의 국가 AI 파트너십에서 나온 결과물이며, 딥마인드는 그 전해 싱가포르에 연구소를 열었다. 같은 파트너십 아래 공공 의료기관과의 AI 공동 진료 탐색, 시각장애 선수를 위한 Gemma 기반 러닝 보조 도구, 다국어 안전성 벤치마크 연구가 함께 진행되고 있다. 딥마인드는 X에서 "Gemma를 현지 사기 수법으로 미세조정해 개인 프라이버시를 해치지 않고 위협을 실시간으로 식별한다"고 소개했다.

남은 것은 배포 경로다. 보도에 따르면 출시 일정은 공개되지 않았고, 안드로이드 운영체제의 기본 기능으로 들어갈지도 알려지지 않았다. 딥마인드는 메신저 플랫폼과 운영체제 업체가 이 경량 모델을 직접 통합해 사용자를 기기 안에서 보호할 수 있다고 밝혔다. 서버가 볼 수 없는 대화에서 벌어지는 범죄를 막는 일은 결국 단말기 안의 판단으로 옮겨 가고 있고, 그 판단이 얼마나 많은 휴대폰에 실릴지는 정부와 모델 제공사가 아니라 메신저와 운영체제를 쥔 회사들의 선택에 달려 있다.