앤스로픽, 클로드 악용 8개월치 다 공개했다

러시아 조직에 붙은 이름은 GTG-20006이에요. 회사는 이 조직의 귀속이 미드나이트 블리자드로 알려진 집단과 이어진다는 공개 보도와 맞는다고 적었고, 운영자 한 명은 JackPoterz라는 이름을 쓰는 러시아어 사용자라고 밝혔어요. 이 조직이 노린 곳은 20곳이 넘었고 우크라이나 정부와 유럽 외교 공관, 방위 산업체가 몰려 있었어요. 북아프리카의 한 정부 기술 기관에서는 30만 건이 넘는 국민 신원 기록과 50만 곳이 넘는 기업 등기 정보를 통째로 빼냈어요.

이 조직이 보여 준 건 규모보다 속도예요. 배포한 악성코드가 보안 제품에 걸리면 감시하던 AI 에이전트가 스스로 코드를 고쳐 다시 만들고, 걸리지 않을 때까지 그 과정을 반복했어요. 보고서는 이 때문에 비용 구조가 뒤집혔다고 봤어요. 회사는 "능력 있는 공격자는 방어자가 탐지 규칙을 만들어 배포하는 속도보다 빠르게 그 고리를 닫아 버릴 수 있습니다"라고 적었어요.

돈을 노린 쪽의 숫자는 더 커요. 샤이니헌터스 계열로 지목된 운영자들은 클라우드 작업기 열 대를 굴려 안드로이드 앱 180만 개를 내려받아 뜯어 보고, 코드 안에 박힌 열쇠를 긁어모았어요. 한 기술 기업에서는 1테라바이트가 넘는 자료가 빠져나갔고, 한 항공사에서는 수천만 건의 탑승객 기록이 담긴 시스템이 열렸어요. 한 에너지 기업 사례에서는 고객 집에 설치된 전기차 충전기의 충전 전류를 원격으로 조절할 수 있다고 공격자들이 주장했어요.

시간을 보면 감이 더 분명해져요. 이들은 소프트웨어 서비스 업체 한 곳을 뚫은 뒤 그 회사 고객사 200곳가량의 자료를 꺼냈고, 34시간 남짓 만에 40개가 넘는 기업 계정 공간에 걸친 2,100개 이상의 인증 토큰 묶음을 쓸어 담았어요. 회사는 이 작업의 거의 전부를 AI 에이전트가 수행했다고 적었어요. 다른 사례에서는 훔친 개발자 토큰 하나가 세 시간 만에 클라우드 환경 전체의 관리자 권한으로 커졌어요.

공격자의 얼굴도 예전과 달라요. 중국어를 쓰는 GTG-10007은 후난성 창사에 머무는 것으로 보이는데, 운영자 두 명은 후난의 한 대학 컴퓨터통신공학부 학부생으로 확인됐어요. 한 명은 중국 보안기업 Sangfor에서 인턴을 했고 다른 보안기업 QiAnXin의 공격 부문 자리에 지원해 면접을 보던 중이었어요. 이들이 굴린 자동 취약점 연구는 네트워크 장비를 상대로 한 달에 열두 건이 넘는 미공개 취약점 후보를 뽑아냈고, 수집용 AI 에이전트 열세 대가 일정에 맞춰 계속 돌아갔어요.

여기서 이 보고서의 가장 불편한 대목이 나와요. 공격에 쓰인 AI 연산 상당수가 공격자 자신의 계정이 아니라 남의 계정에서 나왔다는 점이에요. 한 러시아어 사용자 집단은 AI 업체의 자동 평가 샌드박스에 명령을 심어 그 안에 있던 여러 공급사의 운영용 API 키를 받아 냈고, 같은 기반으로 나흘 만에 서른 곳 안팎의 AI 기업을 공격했어요. 회사는 이 사건에서 "관련된 키는 모두 고객 환경에서 훔친 고객의 키였고, 이 공격자가 앤스로픽 자체 시스템을 침해한 적은 없습니다"라고 선을 그었어요.

같은 집단이 열두 갈래가 넘는 경로로 노린 것은 공개 전 클로드 모델 접근이었고, 회사는 모든 경로가 실패했다고 밝혔어요. 열쇠 자체가 상품이 되면서 가짜 판매상도 생겼어요. kl1zy라는 이름을 쓴 러시아어와 우크라이나어 사용 집단은 싼값에 클로드를 쓰게 해 준다며 손님을 모았는데, 실제로는 요청을 다른 모델로 몰래 돌리면서 손님 기기에 자격증명 수집기를 심어 앤스로픽 계정 정보를 빼내 다른 판매상에게 되팔았어요.

메탈이 확인한 보고서 본문에서 회사가 되풀이해 말하는 문장은 정교함이 더는 신호가 아니라는 거예요. 예전 같으면 숙련된 인력 여러 명이 붙어야 했던 다중 피해자 작전을, 훔친 키를 쓴 활동가 한 명과 흩어진 범죄자들, 국가 첩보 요원이 각각 혼자 감당했어요. 메탈은 대만 보안기업이 중국 국가 배후 조직의 공격이 AI 도입 뒤 두 배로 늘었다고 밝힌 일을 보도한 바 있는데, 이번 보고서는 그 증가가 어떤 모양으로 벌어지는지를 사례로 채워 넣은 셈이에요.

회사가 스스로 인정한 한계도 있어요. 보고서는 정교하고 끈질긴 공격자들이 자사 안전장치를 끊임없이 시험하고 우회하려 한다고 적었고, 여기 실린 사례는 흔한 악용이 아니라 지금까지 확인한 것 중 가장 두드러지고 새로운 활동이라고 밝혔어요. 흔한 악용이 아니라는 말은 걸러 낸 것 말고 아직 걸리지 않은 것이 있다는 뜻이기도 해요.

정리하면 앤스로픽은 자기 모델이 어디까지 나쁘게 쓰였는지를 사례와 지표까지 붙여 내놨어요. AI가 줄인 것은 공격 도구가 아니라 공격에 필요한 인력과 시간이었고, 그 연산을 대는 값은 열쇠를 도둑맞은 기업이 떠안았어요. 남은 문제는 기술이 아니라 책임의 자리예요. API 키 하나가 새는 순간 그 회사가 자기 사고의 피해자이면서 남의 공격을 대는 자금줄이 되는 구조를, 계약서와 규제가 아직 따라잡지 못하고 있어요.