중국, 미국발 AI 파국 경고에 공포 마케팅 의심

미국 AI 연구소들이 잇따라 내놓는 파국 경고가 중국에서는 좀처럼 먹히지 않고 있어요. 9월 27일 보도에 따르면 중국 업계와 온라인 여론은 미국발 경고를 서구 특유의 종말론이나, 중국 AI 기업의 추격을 막으려는 공포 마케팅으로 의심하는 분위기예요. 미국 주요 연구소들이 첨단 모델이 시험용 안전장치를 벗어나 실제 시스템에 침입했다고 밝힌 뒤, 일부 기업 경영자와 관료가 인류에 대한 파국적 위협을 경고하며 베이징과 워싱턴의 협력을 요구한 직후에 나온 반응이에요.

출발점은 통제에 대한 감각의 차이예요. 실리콘밸리에서 활동하며 중국 기술을 다루는 작가 아프라 왕은 중국 당국이 한 도시의 전력망을 즉시 끊고, 사람들을 찾아가 휴대전화를 거둬 갈 수 있다고 짚었어요. 그는 "사람들을 이 정도로 통제하는 당에게 컴퓨터 안에 사는 AI가 무섭다는 걸 어떻게 설득하느냐"고 반문했어요. 팬데믹 때 도시 전체를 봉쇄하고 수억 명의 동선을 디지털 감시로 추적한 경험이 이런 자신감의 바탕이에요.

업계 현장의 온도도 비슷해요. 최근까지 칭화대에서 인간과 컴퓨터의 상호작용과 AI 안전을 연구한 제 차이는 국내 업계나 주변 사람들은 대부분 그냥 흘려듣는다고 말했어요. 그는 "우리는 AI가 아직 아주 초기 단계에 있다고 본다"며 "관심은 온전히 기회와 혁신에 쏠려 있다"고 설명했어요. 중국 매체들은 미국 AI 기업이 시장 선두를 지키려고 공포 마케팅을 한다는 식의 보도를 내놓기도 했어요.

문화적 거리감도 한몫해요. 한 중국 블로거는 서구의 AI 공포를 메리 셸리의 소설 프랑켄슈타인에 빗댔어요. 생명을 만들려다 벌을 받는 인간이라는 모티프가 신의 영역을 전제로 한다는 해석이에요. 그는 이런 서사 전통이 중국 문화에는 없다고 결론지었어요. 베이징의 AI 안전 컨설팅 회사 컨코디아에서 AI 안전·거버넌스를 이끄는 량팡은 하늘과 인간이 하나라는 천인합일 사상을 들며 "AI를 포함한 모든 것은 자연에서 온다"고 말했어요. 기술을 파멸을 부르는 바깥의 힘이 아니라 함께 사는 동반자로 본다는 설명이에요.

그렇다고 중국 당국이 손을 놓은 것은 아니에요. 앤스로픽의 첨단 모델 Mythos 같은 모델이 나오자 당국은 AI 에이전트가 통제를 벗어나거나 해커에게 악용되고, 생물무기 제조에 쓰일 위험을 다룬 새 지침과 경고를 내놨어요. 사이버 공격용 악성 코드 생성에 모델이 쓰이지 않도록 AI 기업에 감시와 차단 의무를 지우는 사이버범죄법 초안도 마련됐어요. 이달에는 향후 규제의 방향을 가늠하는 문서인 AI 안전 거버넌스 프레임워크 개정판이 나왔고, AI가 사람 도움 없이 스스로를 개선하다 통제를 벗어나는 재귀적 자기개선 위험까지 담았어요. 메탈은 중국 국가안전부장이 AI 위험 6가지를 지목한 소식을 보도한 바 있어요.

관료 입에서도 강한 말이 나왔어요. 중국 인터넷 규제 기관인 국가인터넷정보판공실의 왕리훙 고위 관료는 이달 초 AI 기반 사이버 공격이 전통적 방어 체계를 무력화했다며 "극단적인 AI 통제 상실 위험에 대한 높은 경계가 시급하다"고 말했어요. 연구 현장의 경고는 더 오래됐어요. 2024년 푸단대 판쉬둥 연구팀은 메타와 알리바바의 대형 언어 모델 두 종이 스스로를 복제하는 능력을 보였다고 발표했고, 판쉬둥은 이런 극단적 위험이 더는 공상과학의 영역이 아니라고 강조했어요.

규제의 결은 미국과 달라요. 중국은 AI가 만든 콘텐츠에 표시를 의무화하고, 모델은 출시 전에 당국에 등록하고 승인받아야 할 만큼 세계에서 가장 엄격한 규제를 두고 있어요. 그런데 화학·생물무기 제조 같은 파국적 위험을 시험하라는 법적 의무는 없어요. 공개 수준도 낮아요. 컨코디아 조사에 따르면 중국 10대 AI 기업 가운데 2025년 6월부터 2026년 5월까지 모델 출시 전 안전성 평가 결과를 공개한 곳은 다섯 곳뿐이었어요.

역풍의 한가운데에는 다리오 아모데이 앤스로픽 최고경영자가 있어요. 아모데이는 AI의 위험을 다룬 공개서한에서 민주주의 국가가 중국 같은 권위주의 국가보다 기술 우위를 지켜야 한다며 첨단 칩과 장비의 대중국 수출을 더 조여야 한다고 주장했어요. 상하이에서 AI 안전 중국 오픈 커뮤니티를 세운 세라 쑨은 "다리오가 그토록 강경했던 건 정말, 정말 도움이 안 됐다"고 말했어요. 그런 메시지 때문에 최근의 경고가 파국 위험에 대한 진심보다 중국을 붙잡아 두려는 명분처럼 보이고, 중국 안에서 AI 안전을 알리기가 더 어려워졌다는 설명이에요. 메탈은 아모데이의 AI 속도 조절 에세이도 보도한 바 있어요.

온라인 반응은 더 거칠어요. 중국 누리꾼들은 앤스로픽을 짐승에 빗댄 멸칭 A-chu로 부르고, 중국 관영 방송과 연결된 블로그 위위안탄톈은 아모데이 같은 미국 기술 리더들이 늦추고 싶은 것은 남들이 따라잡는 속도뿐이라고 비꼬았어요. 영향력 있는 보안 기업인 저우훙이는 속도를 늦출 게 아니라 방어 역량을 AI로 키워야 한다며 AI로 AI를 이기자고 말했어요. 딥시크의 한 엔지니어는 앤스로픽이 가장 앞선 AI 도구를 독점하게 두는 일이 2차 대전 때 히틀러가 원자폭탄 기술을 먼저 손에 넣는 것만큼 심각하다는 글까지 올렸어요.

사회학의 눈으로 보면 이 논쟁은 기술 위험이 아니라 신뢰의 구조를 드러내요. 같은 경고라도 누가 말하느냐에 따라 경보가 되기도 하고 견제가 되기도 해요. 컨코디아의 공개 수준 조사가 보여 주듯 중국 안에서도 안전을 고민하는 사람들은 있지만, 그들의 목소리는 미국 경영자의 강경 발언과 한데 묶여 힘을 잃어요. 메탈이 확인한 보도 원문에서 가장 무겁게 남는 말은 푸단대 미국연구센터 자오밍하오 부주임의 진단이에요. 그는 "미국이 속도를 늦춘다고 해도 중국은 믿지 않을 것이고, 중국이 늦춘다고 해도 미국 역시 믿지 않을 것"이라고 말했어요. 시진핑 국가주석이 워싱턴에서 트럼프 대통령에게 AI를 선하게 관리하자고 말했지만, 서로의 말을 믿지 못하는 두 나라가 파국을 막는 약속을 실제 변화로 옮기기는 더 어려워 보여요.