중국 국가안전부장, AI 위험 6가지 지목

첫 번째는 정치 안보 환경이에요. 그는 각종 적대 세력과 불순한 의도를 가진 자들이 딥페이크 음성과 영상, AI가 만든 글과 이미지, 지능형 댓글 부대를 남용해 저비용으로 대량의 정치 유언비어를 찍어 내고 유해 정보를 퍼뜨리며 대립 정서를 부추긴다고 봤어요. 그 결과가 중국을 겨냥한 여론전과 인지전이고, 이것이 "정치 안보, 제도 안보, 이데올로기 안보를 직접 위협한다"는 진단이에요. 위험 목록의 1순위가 모델의 통제 이탈이 아니라 사람이 모델로 여론을 흔드는 일이라는 점이 이 문서의 성격을 먼저 말해 줘요.

두 번째는 공격과 방어의 균형이에요. 글은 미국 기술기업이 최근 내놓은 Claude Mythos와 GPT-5.5-Cyber를 이름까지 들어, 이 모델들이 취약점 발굴과 악성코드 개발의 효율과 무기화 수준을 크게 끌어올리고 있다고 지목했어요. 그러면서 네트워크 공방이 취약점의 공업화, 공격과 방어의 전자동화, AI 대 AI 대결이라는 새 단계에 들어섰다고 적었어요. 자물쇠를 따는 기술이 장인의 손을 떠나 공장 라인에 올라간 상황에 가까워요. 메탈은 앤스로픽이 Mythos 5.1을 출시한 일과 오픈AI 아스트라가 치명적 사이버 등급을 받은 일을 보도한 바 있어요.

세 번째는 규모가 커진 정보 유출이에요. 해외 첩보 기관이 지능형 웹 크롤러와 데이터 마이닝, 프로파일링 분석으로 국가 핵심 데이터와 영업 비밀, 시민 개인정보를 대량으로 긁어모은다는 지적이에요. 국내 이용자 일부가 해외 AI 제품으로 민감 정보를 처리해 데이터가 밖으로 나간다는 대목도 있어요. 2026년 상반기에 유행한 오픈소스 에이전트 도구 룽샤에 기기 관리 권한이 원격으로 조종되고 이용자 민감 정보가 새는 구조적 문제가 있다고도 짚었어요.

네 번째는 독점이에요. 일부 국가가 기초 이론과 모델 구조, 핵심 연산력에서 쌓은 우위를 국가 안보를 지킨다는 이름으로 쓰면서 실체 목록과 기술 통제, 산업 표준 독점, 폐쇄형 생태계로 다른 나라의 첨단 장비 도입을 막는다는 주장이에요. 그 결과가 전 세계 AI 산업망과 공급망의 분절이라고 봤어요. 보도에 따르면 이 대목은 국가 안보 개념을 넓게 늘려 쓰는 데 반대한다고 한 시진핑 국가주석의 7월 발언과 맞닿아 있어요.

다섯 번째와 여섯 번째는 사회와 전장이에요. 알고리즘 블랙박스와 데이터 오염이 기존 사회 편견을 키우고 자동 의사결정이 책임 귀속을 어렵게 만든다는 것이 다섯 번째고, 법 규범과 윤리 원칙, 거버넌스 기제가 기술을 계속 뒤따라간다는 진단이 붙어요. 여섯 번째는 전쟁 형태예요. 글은 미국과 이스라엘, 이란이 얽힌 충돌을 예로 들며 정보 융합과 결정 보조, 표적 식별, 실전 지원, 인지 형성에서 인공지능이 보조 역할에서 핵심 역할로 옮겨 갔다고 적었어요.

메탈이 확인한 원문에는 위험만이 아니라 숫자도 들어 있어요. 2026년 6월 기준 중국의 인공지능 제품 이용자는 5억 명을 넘었고, 하루 평균 토큰 사용량은 140조 개를 웃돌아요. 대책으로는 일곱 가지가 붙었어요. 당의 전면적 영도, 부처 간 협력 체계, 위험 탐지와 조기 경보 플랫폼, 칩과 개발 프레임워크 같은 핵심 기술의 자립, 사이버보안법과 반간첩법의 집행에 더한 AI 전문 입법, 4월 15일 전 국민 국가안전교육의 날과 국가 사이버안보 선전 주간을 활용한 홍보, 그리고 국제 협력이에요.

하루 뒤 같은 나라의 다른 부처가 결이 다른 문장을 내놨어요. 9월 14일 오후 정례 브리핑에서 외교부 대변인 궈자쿤은 미국 AI 기업이 중국의 AI 발전을 미국에 대한 위협이라고 말한 데 대한 질문을 받고 "각종 위협 서사를 퍼뜨리고 대립과 악의적 경쟁을 벌이는 것은 인공지능 글로벌 거버넌스 과정을 방해할 뿐이며 어느 쪽 이익에도 부합하지 않는다"고 답했어요. 그는 인공지능의 발전이 전 인류의 공동 복지와 관련되므로 각국이 개방과 포용, 보편적 혜택, 선의를 함께 밀어야 한다고 덧붙였어요.

두 문장을 나란히 놓으면 결이 갈려 보이지만 겨눈 과녁은 서로 달라요. 천이신의 글은 안으로 들어오는 위협을 세는 문서이고, 궈자쿤의 답변은 밖에서 오는 위협론을 받아치는 말이에요. 같은 주에 중국이 위험을 최대치로 적으면서 동시에 위험 서사를 경계한 셈인데, 두 문장이 겹치는 자리가 하나 있어요. 기술 주권을 쥐고 규칙 만들기에 먼저 들어가겠다는 것이에요. 메탈은 시진핑 국가주석이 브릭스 정상회의에서 AI 오픈소스 공동체를 제안한 일을 보도한 바 있는데, 이번 두 문장은 그 제안의 안쪽 판과 바깥쪽 판에 각각 해당해요.

시점도 읽을 대목이에요. 보도에 따르면 시진핑 국가주석은 이달 워싱턴에서 도널드 트럼프 미국 대통령과 만날 예정이고, AI 거버넌스와 안전이 의제에 오를 것으로 전해졌어요. 같은 주말 미국에서는 앤스로픽과 오픈AI 경영진이 개발 속도를 늦추자고 요구했고, 메탈은 트럼프 진영이 그 요구를 거부한 일을 보도한 바 있어요. 천이신의 글은 그 논쟁에 한 줄도 답하지 않아요. 실존 위험도, 개발 속도를 늦추자는 제안도 언급이 없어요.

그 침묵이 이 문서의 성격을 말해 줘요. 중국 최고 정보기관이 정리한 AI 위험 목록에서 맨 앞자리는 모델이 사람의 통제를 벗어나는 일이 아니라 사람이 모델로 여론과 제도를 흔드는 일이에요. 같은 주에 서방에서 오간 위험 목록과 겹치는 항목은 사이버 공격 하나뿐이에요. 워싱턴 회담 테이블에 두 나라가 서로 다른 위험 목록을 들고 앉는다는 뜻이고, AI 거버넌스 합의가 어디서 걸릴지도 그 목록의 차이가 먼저 말해 줘요.