구글, 어스 AI 기능 공개 하루 만에 내렸다

구글이 어스 AI 기능을 공개한 지 하루 만에 내렸다. 해당 기능이 잘못된 정보를 퍼뜨릴 수 있다는 비판이 나온 직후였다.

기능을 붙이는 속도만큼 떼는 속도도 빨라졌다는 이야기이기도 하고, 출시 전 검증에서 이 리스크가 걸러지지 않았다는 이야기이기도 하다.

지도 위에 생성형을 얹는 일의 난이도

지도는 사용자가 사실로 받아들이는 인터페이스다. 챗봇의 답이 틀리면 사용자는 의심할 여지를 갖지만, 지도 위에 표시된 정보는 측량된 사실처럼 읽힌다. 생성형 출력이 그 자리에 놓이는 순간, 오답의 비용이 다른 제품군과 달라진다.

구분	일반 챗봇	지도 위 생성형
사용자의 기본 태도	검증 대상	사실로 수용
오답의 형태	문장 하나	위치·경계·지형에 대한 주장
정정 난이도	재질문	화면에서 사라지지 않으면 계속 확산
파급	개인 판단	재난 대응 · 행정 · 분쟁 지역

지리 정보에는 정치적으로 민감한 영역도 섞여 있다. 국경선, 지명, 영유권 표기는 어느 나라에서 보느냐에 따라 달라지고, 지도 서비스는 이 문제를 오랫동안 수작업 정책으로 관리해 왔다. 생성형 텍스트가 그 위에 얹히면 관리 범위 밖에서 문장이 만들어진다.

하루 만의 철회가 말해 주는 것

빠른 철회 자체는 나쁜 신호가 아니다. 오히려 되돌릴 수 있게 만들어 뒀다는 뜻이다. 기능 플래그로 켜고 끄는 구조가 없으면 하루 만에 내릴 수 없다.

문제는 앞단이다. 지리 정보처럼 사실성이 강하게 요구되는 도메인에서는 일반적인 유해성 필터로 부족하다. 필터는 대체로 "말해서는 안 되는 것"을 막지만, 여기서 문제가 된 것은 **"틀린 것을 사실처럼 말하는 것"**이다. 이건 다른 종류의 검증이다.

제품 만드는 쪽에서 가져갈 것

1. 사실성 등급을 도메인별로 나눈다. 같은 모델이라도 지도·의료·법률 위에 얹을 때의 통과 기준은 달라야 한다. 오답률 3%가 어떤 화면에서는 괜찮고 어떤 화면에서는 사고다.
2. 출처를 화면에 남긴다. 생성된 설명과 측량된 데이터를 시각적으로 구분하지 않으면 사용자는 구분하지 못한다. 색·아이콘·라벨 중 최소 하나는 써야 한다.
3. 끄는 스위치를 먼저 만든다. 이번 사례에서 구글이 하루 만에 내릴 수 있었던 건 그 스위치가 있었기 때문이다. 기능 플래그를 나중에 붙이면 롤백이 배포가 된다.
4. 출시 전 적대적 검토를 넣는다. "이 기능으로 가장 그럴듯한 거짓말을 만들어 보라"는 과제를 내부에 던지는 것이 리뷰보다 빠르다.
5. 정정 경로를 준비한다. 잘못된 출력이 캐시·스크린샷·검색 색인에 남았을 때 어떻게 정정할지가 실제 대응의 대부분이다.

플랫폼들이 선을 긋기 시작했다

사례	조치	성격
구글 어스 AI	공개 하루 만에 기능 철회	사실성 리스크
스냅챗 스포트라이트	완전 AI 생성 콘텐츠 보상 중단	경제 설계

방향은 다르지만 공통점이 있다. AI 기능을 붙였다 떼는 절차 자체가 제품의 일부가 되고 있다는 것이다.

국내 서비스에 적용한다면

지도·부동산·교통·재난 정보를 다루는 국내 서비스가 생성형 요약을 붙일 때 같은 문제를 만난다. 특히 주소·행정구역·시설 운영시간처럼 사용자가 바로 행동으로 옮기는 정보는 오답 비용이 크다.

원본 데이터베이스에서 확인 가능한 항목은 생성하지 말고 조회로 처리하고, 생성형은 설명과 요약에만 쓰는 분리가 가장 안전하다. 어느 문장이 조회 결과이고 어느 문장이 생성물인지 화면에서 구분되면 더 좋다.

출처: TechCrunch 보도. 기능의 구체적 사양은 철회로 확인이 어렵다.