미국·러시아, 유엔 AI 무기 합의문 약화

미국과 러시아 외교관들이 이달 초 유엔 자율살상무기 협상 마지막 날 합의문에서 AI 무기 안전장치를 대거 걷어 냈다고 9월 26일 보도됐어요. 협상 사정을 아는 세 사람과 문서에 따르면, 두 나라 대표단은 약 15시간 동안 합의문을 고쳐 AI가 만든 공격 목표를 타격 전에 사람이 검토해야 한다는 조항을 지웠어요. 킬러 AI 무기를 규율하는 첫 국제 합의를 향한 문서가 가장 멀리 나아간 지점에서 약화된 셈이에요.

협상의 무대는 스위스 제네바의 특정재래식무기금지협약(CCW) 정부전문가그룹이었어요. 보도에 따르면 이 그룹은 8월 31일부터 모여 9월 5일 마지막 회기를 마쳤고, 협상에는 협약 당사국 128개국을 포함해 129개국이 참여했어요. 이 논의는 2014년부터 이어져 왔고, 지금 형식의 협상만 3년째였어요.

지워진 조항은 셋으로 모여요. AI 무기가 예측 가능하고 신뢰할 수 있게 작동해야 한다는 문구, AI 무기를 쓸 때 윤리적 고려를 반영해야 한다는 조항, 그리고 AI가 뽑은 군사 목표를 사람이 타격 전에 검토해야 한다는 조항이에요. 보도에 따르면 원래 초안은 폭넓은 국제법을 근거로 들었지만, 최종 문서는 그 범위를 국제인도법 하나로 좁혀 국제인권법을 빼 버렸어요.

바뀐 방식도 문제로 떠올랐어요. 수정은 유엔 카메라가 꺼지고 시민사회 참관인이 밖으로 나간 비공개 회의에서 이뤄졌어요. 미국과 러시아는 각각 약 10명의 변호사를 투입했는데, 다른 대표단의 두 배에 가까운 규모였어요. 수정 속도가 워낙 빨라 작은 나라 대표단은 어지러울 지경이었다고 세 사람은 전했어요. 그중 한 명은 "천 번의 작은 종이 베임으로 죽어 간 협상이었다"고 표현했어요. 미 국무부와 러시아 외무부, 유엔은 논평 요청에 답하지 않았어요.

반대편의 목소리는 날카로웠어요. 휴먼라이츠워치 위기·분쟁·무기국의 버리티 코일 무기 담당 부국장은 "기계가 사람의 통제 없이 삶과 죽음을 결정할 수 있다는 뜻이 될 수 있다"며 "민간인 피해는 늘고 책임은 줄고, 더 위험한 자동화 전쟁으로 빠르게 미끄러질 것"이라고 경고했어요. 국제 비정부 연합 Stop Killer Robots의 니콜 반 루이옌 사무총장은 두 나라가 "구속력 있는 조약으로 나아가려는 대다수 국가의 의미 있는 진전을 막을 힘이 있다"고 말했어요.

그 힘의 근원은 합의제예요. CCW는 모든 나라가 동의해야 결론을 내는 구조라, 한 나라만 버텨도 사실상 거부권이 생겨요. 보도에 따르면 삭제되거나 약해진 핵심 요소를 앞으로의 구속력 있는 협상 토대로 삼자고 지지한 나라는 CCW 당사국 70개국을 포함해 최소 76개국이었어요. 미국과 러시아는 표결에서 이길 필요가 없었고, 고집만 부리면 됐어요.

전장의 현실은 이미 앞서 있어요. 보도에 따르면 미군은 이란과의 전쟁 첫 24시간 동안 앤스로픽의 챗봇으로 타격 목표 1,000개 가까이를 찾아냈어요. 이번 주 유엔 안전보장이사회에서는 샘 올트먼 오픈AI 최고경영자와 다리오 아모데이 앤스로픽 최고경영자가 국제 AI 거버넌스 모델을 함께 만들자고 호소했어요. 올트먼은 규제가 "국민에게 책임지는 정부가 민주적 절차로 만들어야 한다"며 "국제적으로는 협력을 뜻한다"고 말했어요. 메탈은 올트먼의 유엔 안보리 AI 연설과 유엔 AI 과학패널의 통제 상실 브리프를 보도한 바 있어요.

미국 정부의 입장은 반대쪽을 가리켜요. 도널드 트럼프 대통령은 화요일 유엔에서 "미국은 이른바 초지능이라 불리는 AI를 통제하려는 어떤 세계주의적 구상도 전면 거부한다"고 밝혔어요. 국내에서는 국방부가 2023년 바이든 행정부 때 만든 자율무기 지침을 고쳐 쓰고 있어요. 이 지침에는 자율·반자율 무기를 사람의 판단으로 점검해야 한다는 조항과 전쟁법 준수 의무가 담겼는데, 유엔 문서에서 빠진 조항과 닮았어요. 트럼프 대통령은 6월 국가안보 각서로 90일 안에 지침을 새로 쓰라고 지시했지만, 9월 말까지 새 판은 나오지 않았어요.

메탈이 확인한 협상 경과로 보면 유엔 자율무기 논의는 지금도 구속력이 없어요. 다음 분수령은 11월 제네바에서 열리는 CCW 제7차 검토회의예요. 여기서 협상을 공식 권한으로 격상할지, 나아가 구속력 있는 조약으로 갈지를 논의해요. 국제적십자위원회 법률팀의 리처드 레넌 군축 자문관은 "처벌이 아니라 규범을 세우고 행동에 영향을 주는 일"이라며 화학·생물무기와 대인지뢰, 집속탄 규범이 사용을 줄인 효과를 근거로 들었어요.

테크 변호사의 눈으로 보면 이번 삭제는 문구 몇 줄이 아니라 책임의 주소를 지운 작업이에요. 사람이 목표를 검토한다는 조항은 오판이 났을 때 누가 결정했는지를 묻게 해 주는 유일한 연결고리였고, 국제인권법을 빼면 전시가 아닌 국경 감시나 치안에 쓰이는 자율 시스템을 따질 근거도 약해져요. 코일 부국장은 미국이 군사적 우위를 지키려 할 때 구속력 있는 규칙 대신 자발적 지침을 밀어 왔고 사이버와 우주에서도 같은 각본을 봤다고 짚었어요. 11월 회의에서 76개국이 합의제 안에 남을지, 지뢰와 집속탄 때처럼 CCW 밖에서 별도 조약을 꾸릴지가 AI 무기 규범의 첫 갈림길이에요.