젠슨 황, AI 종말 확률 0% 발언
세상의 끝이 될 확률은 0%입니다
젠슨 황 엔비디아 최고경영자가 AI가 인류를 끝낼 확률을 0%로 못 박았다. 「2030년은 세상의 끝이 아닐 겁니다. 그것이 세상의 끝이 될 확률은 0%입니다.」 종말 경고를 내놓은 쪽이 연구자와 경쟁 연구소 최고경영자들이라, 이 발언은 업계 바깥이 아니라 안쪽에서 나온 반박이다.
이달 초 전 앤스로픽 연구자 제이컵 콕슨이 「이번 10년이 끝나기 전에 그것이 우리 모두를 죽일 수 있다고 진심으로 믿는다」고 적었고, 그 글이 공개 논쟁에 불을 붙였다. 황은 이런 예측이 「과학에 근거하지 않았다」는 이유로 받아들이지 않는다고 밝혔다.
세계에서 가장 값비싼 회사
엔비디아의 칩은 AI 에이전트가 정보를 찾아 엮을 때 쓰는 대형 언어 모델을 돌리고, 그 수요가 회사 가치를 5조 3천억 달러까지 밀어 올렸다. 이해가 걸린 사안에서 그를 믿어야 할 이유가 무엇이냐는 질문에 황은 안전한 배포가 회사에 이익이라고 답했다.
「우리 회사의 성공은 제품과 서비스의 안전한 배포와 직접 연결돼 있습니다. 그걸 계속하지 않으면 우리 가치는 줄어들 겁니다.」
새 규칙은 필요 없다
그는 제조물 책임과 무단 침입을 다루는 현행 미국 법으로 충분하다면서 「종말 서사가 누군가를 지금 있는 법에서 면제시키게 두지 마세요」라고 밝혔다. 배경에는 7월 오픈AI 봇의 허깅페이스 해킹과 목요일 공개된 「우려스러운」 행동 6건이 있다.
황은 AI 산업에 추가 안전장치가 필요 없다는 트럼프 대통령의 견해에 동의한다고 밝혔다. 반대 방향의 문서도 같은 주에 나왔다 — 뉴섬 캘리포니아 주지사는 프런티어 모델 킬 스위치 검토를 지시하는 행정명령에 서명했다.
미국은 경쟁의 나라입니다
미국 정부는 엔비디아가 특정 칩을 중국에 파는 것을 막아 왔다. 황은 미국에서 만든 기술이 미국에 먼저 이롭게 쓰여야 한다면서도 판매 금지에는 반대한다고 말했다. 「모든 칩 회사는 세계로 나가 세계를 상대로 경쟁해야 합니다.」
지난해 12월 트럼프 대통령이 H200 칩을 승인된 고객에게 파는 것을 허용했지만 가장 앞선 칩은 여전히 금지다. 국가 안보나 국방처럼 함께 일할 수 없는 영역이 있다는 단서도 달았다.
세금 내는 게 두렵지 않아요
그의 순자산은 1,820억 달러로 세계 여덟 번째이고, 캘리포니아주는 11월에 순자산 10억 달러 이상인 주민에게 한 번 5%를 물리는 억만장자세를 주민투표에 부친다. 다른 억만장자들이 비판하는 사이 황은 반대하지 않는다고 말했다.
「저는 세금 내는 게 두렵지 않아요. 가난해지는 게 두려울 뿐이에요.」 데니스에서 접시를 닦던 시절에 엔비디아를 떠올렸다는 이야기와 함께 스스로를 궁극의 아메리칸 드림이라고 불렀다.
근거 부족과 확률 0은 다른 주장이다
황은 지난달 한 콘퍼런스 무대에서 회사가 통제를 벗어났다고 느끼면 일을 멈추거나 속도를 조절해야 한다고 말했고, 종말 예측을 두고는 「과학에 근거하지 않았다」는 표현을 썼다. 앞의 문장은 증거에 대한 평가이고 뒤의 문장은 확률에 대한 단언인데, 인용되어 퍼지는 쪽은 언제나 뒤쪽이다.
앤드루 응처럼 팔 칩이 없는 연구자도 멸종 경고를 공상과학이라고 부르는데, 그 주장은 특정 시한의 예측이 근거가 얕다는 쪽이지 확률이 0이라는 쪽은 아니다. 딥마인드의 AGI 안전 연구자 빌랄 추그타이는 회사를 떠나며 위험을 경고했다.
0은 논문이 아니라 카메라 앞에서 나왔다
연구소들은 안전 프레임워크와 능력 임계값, 위험 추정치를 내놓는데 그것들은 불확실성 아래에서 일하기 위한 장치다. 0%는 같은 단위로 매겨진 값이 아니라 논쟁의 자리에서 고른 문장이고, 논문이 아니라 방송 카메라 앞에서 나왔다.
속도 조절을 요구하는 쪽도 확률을 안다고 말하지 않고 평가자와 경보선을 요구한다. 준비됐는지를 판정하는 쪽이 파는 쪽이라는 점이 속도 조절 제안들이 바꾸려던 자리다.