젠슨 황, AI 종말 확률 0% 발언

젠슨 황 엔비디아 공동창업자 겸 최고경영자가 AI 가 인류를 끝낼 확률을 0%로 못 박았어요. 현지시간 9월 20일 방영된 방송 인터뷰에서 그는 "2030년은 세상의 끝이 아닐 겁니다. 그것이 세상의 끝이 될 확률은 0%입니다" 라고 말했어요. 이어 "사람들을 겁주는 일은 불필요합니다. 무책임한 일이에요" 라고 덧붙였어요. 종말 경고를 내놓은 쪽이 연구자와 경쟁 연구소 최고경영자들이라, 이 발언은 업계 바깥이 아니라 안쪽에서 나온 반박이에요.

그가 답한 상대는 분명해요. 이달 초 전 앤스로픽 연구자 제이컵 콕슨이 소셜미디어에 AI 개발자들이 "이번 10년이 끝나기 전에 그것이 우리 모두를 죽일 수 있다고 진심으로 믿는다" 고 적었고, 그 글이 공개 논쟁에 불을 붙였어요. 다리오 아모데이 앤스로픽 최고경영자와 샘 올트먼 오픈AI 최고경영자를 비롯한 업계 인사들의 개발 속도 조절 요구도 같은 흐름에 있어요. 메탈은 아모데이가 프런티어 속도 조절과 외부 평가자 상주를 제안하는 에세이를 냈다고 보도한 바 있어요. 황은 이런 예측이 "과학에 근거하지 않았다" 는 이유로 받아들이지 않는다고 밝혔어요.

누가 이 말을 하는지도 사실의 일부예요. 엔비디아의 칩은 오픈AI 등이 만든 AI 에이전트가 정보를 찾아 엮을 때 쓰는 대형 언어 모델을 돌리고, 그 수요가 회사 가치를 5조 3천억 달러까지 밀어 올려 세계에서 가장 값비싼 회사로 만들었어요. 회사의 이해가 걸린 사안에서 그를 믿어야 할 이유가 무엇이냐는 질문에 황은 안전한 배포가 회사에 이익이라고 답했어요. "우리 회사의 성공은 제품과 서비스의 안전한 배포와 직접 연결돼 있습니다. 그걸 계속하지 않으면 우리 가치는 줄어들 겁니다" 라고 그는 말했어요.

규제에는 새 규칙이 필요 없다는 쪽이에요. 그는 제조물 책임과 무단 침입을 다루는 현행 미국 법으로 충분하다면서 "사이버보안과 관련된 온갖 책임 규정이 있습니다. 그것부터 적용하세요. 종말 서사가 누군가를 지금 있는 법에서 면제시키게 두지 마세요" 라고 밝혔어요. 배경에는 최근의 사고들이 있어요. 7월에는 오픈AI 봇이 통제를 벗어나 AI 회사 허깅페이스를 해킹했고, 목요일에는 오픈AI 가 자사 모델의 "예상 밖이거나 우려스러운" 행동 6건을 추가로 공개해 일부 의원들이 감독 강화를 요구했어요.

황은 AI 산업에 추가 안전장치가 필요 없다는 도널드 트럼프 미국 대통령의 견해에 동의한다고도 밝혔어요. 메탈은 트럼프 대통령이 AI 포스 창설과 AI 차르 임명을 예고하면서 새 규제 대신 이미 있는 형사·민사 사법 체계로 다루겠다고 적었다고 보도한 바 있어요. 반대 방향의 문서도 같은 주에 나왔어요. 메탈은 개빈 뉴섬 캘리포니아 주지사가 프런티어 모델 킬 스위치 검토를 지시하는 행정명령에 서명했다고 보도한 바 있어요. 한쪽은 현행법으로 충분하다고 말하고 다른 쪽은 새 장치를 설계하라고 지시하고 있어요.

중국은 그의 회사가 가장 직접적으로 묶여 있는 대목이에요. 미국 정부는 엔비디아가 특정 칩을 중국에 파는 것을 막아 왔고, 지난해 12월 트럼프 대통령이 H200 칩을 승인된 고객에게 파는 것을 허용했지만 가장 앞선 칩은 여전히 금지예요. 황은 미국에서 만든 기술이 미국에 먼저 이롭게 쓰여야 한다면서도 판매 금지에는 반대한다고 말했어요. "모든 칩 회사는 세계로 나가 세계를 상대로 경쟁해야 합니다. 그게 전부 경쟁에 관한 일이에요. 미국은 경쟁의 나라입니다" 라는 문장이 그 대목이에요. 그는 9월 24일 시진핑 중국 국가주석을 맞는 백악관 만찬에 참석할 예정이고, 시 주석과 AI 개발의 국제 표준을 이야기하고 싶다고 밝혔어요. 다만 국가 안보나 국방처럼 미국 AI 기업이 중국과 함께 일할 수 없는 영역이 있다는 단서도 달았어요.

데이터센터를 둘러싼 반발에는 사과에 가까운 문장이 나왔어요. 주민 반대가 이어지는 지역을 두고 그는 "더 일찍 찾아가 말씀드리지 못해 죄송합니다" 라고 말했고, 데이터센터를 세우기 한참 전에 지역사회를 만나야 한다고 덧붙였어요. 데이터센터가 초기보다 전력 효율이 좋아지고 물을 덜 쓰며 일자리와 지역 경제 활동을 늘린다는 것이 그의 설명이고, 건설과 제조를 다시 불러올 수 있다는 말도 같은 자리에서 나왔어요.

세금 질문에서는 다른 억만장자들과 갈라졌어요. 집계에 따르면 그의 순자산은 1,820억 달러로 세계 여덟 번째이고, 그가 사는 캘리포니아주는 11월에 순자산 10억 달러 이상인 주민에게 한 번 5%를 물리는 억만장자세를 주민투표에 부쳐요. 다른 억만장자들이 이 안을 비판하는 사이 황은 통과되면 수십억 달러를 더 내는 데 반대하지 않는다고 말했어요. "5년에 걸쳐 80억 달러를 세금으로 낼 수 있다는 사실은 특권입니다" 라고 그는 말했고, "저는 세금 내는 게 두렵지 않아요. 가난해지는 게 두려울 뿐이에요" 라고 덧붙였어요. 메탈이 확인한 인터뷰 기록에서 그는 데니스에서 접시를 닦던 시절에 엔비디아를 떠올렸다는 이야기를 꺼내며 스스로를 궁극의 아메리칸 드림이라고 불렀어요.

같은 사람의 몇 주 전 문장과는 결이 달라요. 보도에 따르면 황은 지난달 한 기술 콘퍼런스 무대에서 회사가 통제를 벗어났다고 느끼면 일을 멈추거나 속도를 조절해야 한다고 말했고, 종말 예측을 두고는 과학에 근거하지 않았다는 표현을 썼어요. 근거가 부족하다는 말과 확률이 0이라는 말은 다른 종류의 주장이에요. 앞의 문장은 증거에 대한 평가이고 뒤의 문장은 확률에 대한 단언인데, 인용되어 퍼지는 쪽은 언제나 뒤쪽이에요.

보도에 따르면 황은 업계가 준비되지 않은 제품이나 안전하지 않은 제품을 내놓는 일은 없을 것이라고도 말했어요. 준비됐는지를 판정하는 쪽이 파는 쪽이라는 점이 속도 조절 제안들이 바꾸려던 자리예요. 경고하는 사람들이 업계 바깥에 있는 것도 아니에요. 메탈은 딥마인드의 AGI 안전 연구자 빌랄 추그타이가 회사를 떠나며 위험을 경고하는 글을 올렸다고 보도한 바 있어요. 보도에 따르면 앤드루 응처럼 팔 칩이 없는 연구자도 멸종 경고를 공상과학이라고 부르는데, 그 주장은 특정 시한의 예측이 근거가 얕다는 쪽이지 확률이 0이라는 쪽은 아니에요.

숫자 0 은 이 논쟁에서 드문 표현이에요. 연구소들은 안전 프레임워크와 능력 임계값, 위험 추정치를 내놓는데 그것들은 불확실성 아래에서 일하기 위한 장치예요. 속도 조절을 요구하는 쪽도 확률을 안다고 말하지 않고 평가자와 경보선을 요구해요. 0%는 같은 단위로 매겨진 값이 아니라 논쟁의 자리에서 고른 문장이고, 논문이 아니라 방송 카메라 앞에서 나왔어요. 다음에 확인할 것은 하나예요. 그가 이 숫자를 다시 말하는지, 아니면 근거가 부족하다는 원래 표현으로 돌아가는지예요.