빌 게이츠 "AI 위험, 업계가 알면서도 숨긴다"

왜 지금 나섰을까요. 게이츠는 인생에서 기술에 정말로 놀란 순간이 세 번 있었다고 했어요.

1. 1980년, 그래픽 유저 인터페이스를 처음 봤을 때예요. 현대 PC의 출발점이 된 그 화면이에요.
2. 2022년, 오픈AI 사람들이 그의 집에 찾아와 챗GPT가 될 물건을 시연했을 때예요.
3. 최근, 앤스로픽의 클로드 코드가 이룬 진전을 들여다봤을 때예요.

코딩은 그가 세상에서 가장 잘 아는 주제인데요, "이제 이것들이 의미 있는 수준에서 나보다 낫다는 건, 대체 이게 무슨 일인가 싶다"고 말했어요.

발표 시점에는 이유가 하나 더 있어요. AI가 만든 이가 통제하지 못하는 상황을 벗어나거나 생물무기 제조법을 내놓는 것처럼, 업계가 한때 "이 선을 넘으면 더 조심해야 한다"고 스스로 정해 뒀던 이정표들이 실제로 지나갔는데도 아무 일 없이 넘어갔다는 거예요. 게이츠는 MIT테크놀로지리뷰 인터뷰에서 더 직설적으로 말했어요. "바이오 능력, 사이버 능력, 심리사회적 능력, 일자리 파괴 능력, 심지어 통제 상실까지, 우리는 이미 임계점을 넘었어요."

이번에는 다르다, 일자리

과거의 기술 혁신은 없앤 일자리보다 많은 일자리를 만들어 왔어요. 게이츠도 그 역사를 인정해요. 그런데 이번에는 "완전히, 절대적으로, 전적으로, 총체적으로 다르다"고 말해요. "내가 아는 모든 것을 걸고 하는 주장"이라는 말도 붙였어요. AI는 특정 산업이 아니라 경제 전체에 동시에 퍼지기 때문에, 한 산업에서 밀려난 사람을 받아 줄 다른 산업이 남지 않는다는 논리예요. 마이크로소프트를 포함한 빅테크가 기업 고객의 AI 도입을 도우려 경쟁하는 지금 구조라면, 대응 없는 대량 실직은 피할 수 없다고 봤어요.

그래서 내놓은 제안이 토큰세예요. AI 연산의 기본 단위인 토큰 사용에 세금을 매겨서, 사람을 기계로 바꾸는 비용을 높이고 그 세수로 일자리를 잃은 사람들을 지원하자는 거예요. 그는 MIT테크놀로지리뷰에 주류나 담배에 붙는 세금처럼 품목형 판매세 구조가 될 수 있다며 "토큰 매출의 50%를 정부에 내는 식"이라는 예까지 들었어요. 뉴욕타임스는 이 아이디어가 월가에서도 논의되기 시작했다고 전했어요.

두 번째 제안은 그가 '휴먼 리저브드'라고 이름 붙인 인간 전용 직군이에요. 돌봄처럼 깊이 인간적인 일, 또는 대체되면 새 일자리를 찾기 어려운 사람들의 일은 AI로 바꾸는 것 자체를 금지하자는 거예요. 에세이에서는 자연보호구역에 빗댔어요. 건물과 도로를 지을 수 있지만 잃는 것이 너무 커서 짓지 않기로 한 땅처럼, 일의 영역에도 그런 구역을 두자는 거예요. 로봇에 대한 전망은 더 급해요. 로봇이 공장에서 쓸 만해지는 순간 요리, 청소, 건설, 물류까지 한꺼번에 넘어가는데, 그게 일자리의 약 30%라고 짚었어요.

"가장 위험한 도구에 자율규제라니, 사양합니다"

바이오테러 쪽 제안은 더 구체적이에요. 극단적 위험을 감시하고 제한하는 기준을 국제 협약으로 만들고, 무기화될 수 있는 AI, 그러니까 새로운 분자를 설계할 수 있는 모델은 의무적으로 심사하자는 거예요. 고급 AI에 접근하는 소수의 사람만으로도 새로운 병원체를 만들 수 있다고 봤거든요. 그는 이 위험을 자연 팬데믹보다 "50배 더 무섭고 더 가능성이 크다"고 평가했어요. 백악관과 업계가 만들고 있는 자율 규제 조치에 대해서는 이렇게 말했어요. "역사상 가장 위험한 도구에 자율규제라고요? 사양합니다!"

같은 경고를 먼저 한 사람이 있다

이 우려들은 앤스로픽 공동창업자 다리오 아모데이가 몇 년째 해 온 경고와 상당 부분 겹쳐요. 아모데이는 작년 5월 악시오스 인터뷰에서 AI가 15년 안에 신입급 사무직 일자리의 절반을 없애고 실업률을 1020%까지 밀어 올릴 수 있다고 경고했어요. AI를 악용한 생물·화학무기 개발을 사이버 공격보다 큰 위협으로 지목해 온 것으로도 알려져 있고요. 게이츠의 대량 실업 경고와 바이오테러 경고는 이 두 축을 거의 그대로 따라가요.

차이는 대접이에요. 아모데이의 경고는 그를 펜타곤, 백악관, 업계 대부분과 대립하게 만들었어요. 이달에는 투자자 개빈 베이커가 "아모데이는 이 논쟁에서 이미 졌다"며 IPO를 앞둔 회사 수장답게 산업에 우호적으로 말하라고 공개 압박했고, 아모데이가 "규제 대 권력집중은 거짓 선택"이라고 직접 반박하는 일도 있었어요. 미 하원의원들이 시험 환경을 탈출한 AI 모델 사건을 두고 올트먼과 아모데이에게 공개 서한을 보낸 것도 이달이에요. 게이츠는 이 상황을 두고 "단점을 가장 솔직하게 말하는 사람이 공격받고 있다"고 말했어요.

3년 만에 뒤집힌 결론

게이츠가 처음부터 경고파였던 건 아니에요. 2023년 7월에 쓴 에세이 제목은 「AI의 위험은 실재하지만 관리 가능하다」였어요. 3년 만에 결론이 "임계점을 넘었는데 계획이 없다"로 뒤집힌 거예요. 최근의 성능 향상이 자신의 예상을 훨씬 넘어섰다는 게 그가 밝힌 이유예요.

복귀의 배경에는 오점도 있어요. 올해 초 제프리 엡스틴의 이메일이 공개되면서 게이츠와의 교류가 다시 조명됐고, 2월에는 예정됐던 AI 콘퍼런스에서 빠졌고, 6월에는 하원 위원회에서 6시간 동안 증언했어요. 그는 이 일들과 2021년 이혼으로 이어진 사생활 논란을 "모두 내가 만든 실수"라고 인정했어요. 막대한 부와 마이크로소프트 시절의 공격적 경영, 2000년 반독점 패소 이력 때문에 자신이 흠 있는 메신저일 수 있다는 점도 받아들였고요. 그래도 회사를 운영하며 이익을 좇을 이유가 없는 업계 내부자이자 재단에서 수십 년간 불평등을 다뤄 온 사람으로서 자신이 이 문제에 적임이라고 주장했어요.

이번 에세이는 시작이에요. 게이츠는 연말 전에 바이오 위험만 따로 다루는 두 번째 에세이를 내겠다고 예고했고, 앞으로 세계 정상들을 만날 때마다 글로벌 헬스와 AI 두 가지 의제만 꺼내겠다고 했어요. 인터뷰는 이 말로 끝나요. "나쁜 소식을 전하는 것도, 혁신이 순손실일 수 있다고 말하는 것도 싫어요. 하지만 우리가 서 있는 곳이 거기예요."

에디터의 시선

이 경고의 무게는 내용이 아니라 발화자의 위치에서 나와요. 내용만 보면 아모데이의 경고와 겹치지만, 프런티어 랩 CEO의 말은 규제가 경쟁사를 때리길 바라는 포지셔닝으로 읽히곤 했어요. 게이츠는 그 반박이 안 통하는 사람이에요. 팔 모델도, 앞둔 IPO도 없는 업계 원로가 "내가 아는 전부를 걸고" 같은 편의 낙관 진영에서 이탈한 거예요. 아모데이 입장에서는 가장 든든한 원군이 생긴 셈이고요. 2023년 「관리 가능하다」에서 2026년 「계획이 없다」까지 3년의 궤적 자체가, 이 기간 AI가 얼마나 빨리 움직였는지 보여 주는 데이터이기도 해요.

한국 독자에게 실질적인 대목은 토큰세예요. 지금 기업의 AI 도입 논리는 대부분 인건비 절감인데, 토큰세는 정확히 그 절감분에 세금을 매겨 도입의 손익 계산을 바꾸는 장치예요. 월가가 이미 이 아이디어를 굴리기 시작했다는 건, 언젠가 한국 국회에도 같은 법안이 올라온다는 뜻이에요. AI 전환의 다음 논쟁은 기술이 무엇을 할 수 있느냐가 아니라 그 이익을 누가 가져가느냐로 옮겨 가요. 게이츠의 에세이는 그 논쟁의 개회 선언이에요.