빌 게이츠 "AI 위험, 업계가 알면서도 숨긴다"

마이크로소프트를 만든 사람이 경고장을 썼다

마이크로소프트 공동창업자 빌 게이츠가 8월 26일(현지시간) 개인 사이트 게이츠노츠에 AI 위험을 다룬 약 6,000단어짜리 에세이 「격동의 AI 시대가 왔다(The turbulent AI era is here)」를 올렸어요. 월스트리트저널이 세어 보니 정확히 5,784단어였다고 해요. 같은 날 뉴욕타임스는 지난주 시애틀 인근 게이츠의 사무실에서 진행한 1시간짜리 인터뷰를 실었고, MIT테크놀로지리뷰·긱와이어·세마포 인터뷰도 줄줄이 나왔어요. 은퇴한 창업자의 회고가 아니라 채널을 총동원한 계획된 캠페인이에요.

요지는 한 문장이에요. "AI 시대로의 진입을 부드럽게 만들어 줄 계획이 없다." 게이츠는 AI가 일자리와 인간의 생명에 중대한 위협이 되고 있고, 이 위험에 대응하는 일이 "세계 최우선 과제"가 돼야 한다고 썼어요. 에세이에서 가장 유명해질 문장은 이거예요. "AI는 지금껏 발명된 가장 위대한 평등 장치가 되거나, 최악의 불의의 원천이 될 거예요."

게이츠가 겨눈 곳은 기술 자체보다 업계의 침묵이에요. 그는 뉴욕타임스에 "사적으로는, 이게 얼마나 뛰어나고 얼마나 빠르게 좋아지는지 아는 사람들은 매우 걱정하고 있다"며 "그런데 서로 이렇게 말해요. '이봐, 그런 말 하지 마. 우리가 모으려는 다음 1조 달러에 안 좋아'"라고 말했어요.

업계가 데이터센터에 수조 달러를 쏟아붓고 대형 IPO를 앞둔 지금, 돈이 걸려 있어서 위험을 알면서도 축소하고 있다는 거예요. "다들 좋은 것이 나쁜 것을 상쇄하기를 바라면서 전속력으로 달리기만 해요."

세마포에는 감정을 더 그대로 드러냈어요. "내가 처음으로 '이건 미쳤다, 제정신이 아니다'라고 말하는 사람 축에 든다는 게 충격이에요. 침묵이 귀가 먹먹할 정도예요." 지적할 사람이 없어서가 아니라, 지적해야 할 위치의 사람들이 입을 다물고 있어서 자기가 나섰다는 거예요.

세 번째 충격은 클로드 코드였다

왜 지금 나섰을까요. 게이츠는 인생에서 기술에 정말로 놀란 순간이 세 번 있었다고 했어요.

1. 1980년, 그래픽 유저 인터페이스를 처음 봤을 때예요. 현대 PC의 출발점이 된 그 화면이에요.
2. 2022년, 오픈AI 사람들이 그의 집에 찾아와 챗GPT가 될 물건을 시연했을 때예요.
3. 최근, 앤스로픽의 클로드 코드가 이룬 진전을 들여다봤을 때예요.

코딩은 그가 세상에서 가장 잘 아는 주제인데요, "이제 이것들이 의미 있는 수준에서 나보다 낫다는 건, 대체 이게 무슨 일인가 싶다"고 말했어요.

MIT테크놀로지리뷰에는 더 구체적으로 짚었어요. "클로드 코드, 컨텍스트 버퍼, 에이전트 접근법, 그리고 그 밑의 모델까지. 코딩에서 우리는 거대한 문턱을 넘었어요."

발표 시점에는 이유가 하나 더 있어요. AI가 만든 이가 통제하지 못하는 상황을 벗어나거나 생물무기 제조법을 내놓는 것처럼, 업계가 한때 "이 선을 넘으면 더 조심해야 한다"고 스스로 정해 뒀던 이정표들이 있는데, "우리는 지금 그 문턱을 하나도 빠짐없이 전부 넘는 중"이라는 거예요.

MIT테크놀로지리뷰 인터뷰에서는 다섯 개를 꼽았어요. "바이오 능력, 사이버 능력, 심리사회적 능력, 일자리 파괴 능력, 심지어 통제 상실까지, 우리는 이미 임계점을 넘었어요."

통제 상실은 그가 오랫동안 먼 미래의 일로 미뤄 뒀던 항목인데, 이제는 그렇게 생각하지 않는다고 했어요. "이 분야 최고 전문가들이 '음, 어쩌면 우리가 이것들을 통제하지 못할 수도 있겠다'고 말하고 있어요. 우리가 대체 어떤 위험을 감수하기로 한 거죠?"

업계 내부의 온도에 대해서는 이렇게 정리했어요. "내가 아는 사람은 전부 걱정하고 있어요. 기본적으로 일론 머스크만 빼고 전부요."

이번에는 다르다, 일자리

에세이는 위험을 크게 셋으로 나눠요. 일자리, 안보, 그리고 아이들이에요. 셋째가 낯설 텐데요, AI 컴패니언이 사회적 고립과 중독을 부추겨 소셜미디어가 끼친 해악을 더 큰 규모로 반복하고 "아이들이 자라는 방식을 근본적으로 바꿀 것"이라는 경고예요.

에세이가 나열한 목록은 길어요. 사기와 딥페이크의 폭증, 병원·전력망 같은 기반시설을 노리는 사이버 공격의 문턱 하락, 신종 병원체 설계, 인간이 개입하지 않는 살상 결정까지 들어 있어요.

그중 가장 많은 지면을 쓴 게 일자리예요. 과거의 기술 혁신은 없앤 일자리보다 많은 일자리를 만들어 왔고, 게이츠도 그 역사를 인정해요. 그런데 이번에는 "완전히, 절대적으로, 전적으로, 총체적으로 다르다"고 말해요. "내가 아는 모든 것을 걸고 하는 주장"이라는 말도 붙였어요.

AI는 특정 산업이 아니라 경제 전체에 동시에 퍼지기 때문에, 한 산업에서 밀려난 사람을 받아 줄 다른 산업이 남지 않는다는 논리예요. 시점도 짚었어요. 노동자에게 가장 큰 변화는 AI가 거의 오류 없는 결과물을 내놓는 순간 오는데, 그때부터는 사람이 확인하지 않아도 혼자 굴러가고 기업은 그렇게 두도록 할 모든 경제적 유인을 갖게 된다는 거예요.

그 결과로 "많은 일자리가 영원히 사라질 거예요"라고 했어요. 법률 사무소, 콜센터, 병원, 소프트웨어 회사, 공장까지 화이트칼라와 블루칼라를 가리지 않고요.

로봇에 대한 전망은 더 급해요. 로봇이 공장에서 쓸 만해지는 순간 요리, 청소, 건설, 물류까지 한꺼번에 넘어가는데, 그게 일자리의 약 30%라고 짚었어요. 순서는 화이트칼라가 먼저, 부유한 나라가 먼저예요. 마이크로소프트를 포함한 빅테크가 기업 고객의 AI 도입을 도우려 경쟁하는 지금 구조라면, 대응 없는 대량 실직은 피할 수 없다고 봤어요.

사람을 쓰면 세금, 기계를 쓰면 공제

그래서 내놓은 첫 제안이 토큰세예요. 지금 세제는 이상한 방향으로 기울어 있어요. 사람을 고용하면 급여세가 붙는데, 사람을 대체하는 로봇과 AI 비용은 전액 공제받거든요. 해고를 세제가 보조하는 셈이에요.

게이츠는 AI 연산의 기본 단위인 토큰 사용에 세금을 매겨 이 기울기를 반대로 세우고, 그 세수로 일자리를 잃은 사람들을 지원하자고 해요. 사실 재탕이에요. 그는 2017년에도 로봇세를 제안했다가 "널리 무시당했다"고 스스로 적었어요. 9년이 지나 판이 바뀌었으니 다시 꺼낸 거예요.

그는 MIT테크놀로지리뷰에 주류나 담배에 붙는 세금처럼 품목형 소비세 구조가 될 수 있다며 "토큰 매출의 50%를 정부에 내는 식"이라는 예까지 들었어요. 뉴욕타임스는 이 아이디어가 월가에서도 논의되기 시작했다고 전했어요.

경제학자들이 싫어할 걸 그도 알아요. 에세이에서 이 세금이 경제적으로 효율적이지 않다는 점을 인정하면서, 혁신이 이만큼 빨라졌으니 사람들을 고용 상태로 유지하는 대가로 약간의 비효율은 감당할 수 있다고 맞받았어요. 세금의 목적이 세수가 아니라 속도 조절이라는 거예요.

두 번째 제안은 그가 '휴먼 리저브드'라고 이름 붙인 인간 전용 직군이에요. 돌봄처럼 깊이 인간적인 일, 또는 대체되면 새 일자리를 찾기 어려운 사람들의 일은 AI로 바꾸는 것 자체를 금지하자는 거예요. 에세이에서는 자연보호구역에 빗댔어요. 건물과 도로를 지을 수 있지만 잃는 것이 너무 커서 짓지 않기로 한 땅처럼, 일의 영역에도 그런 구역을 두자는 거예요.

이 대목에는 개인사가 깔려 있어요. 게이츠는 알츠하이머를 앓던 아버지를 돌본 간병인들을 떠올리며 그 일을 "대체 불가능하게 인간적인 일"이라고 불렀어요. 뉴욕타임스에 든 예시는 더 구체적이에요. 불치병 판정을 로봇이 통보하는 일은 기술적으로 못 할 이유가 없지만, 그래도 해서는 안 된다는 거예요.

간병, 보육, 스포츠처럼 사람이 한다는 사실 자체가 가치인 일이 후보예요. 여기에 노동시간 단축과 조기 은퇴를 더해 인간 몫의 일을 전체의 40% 수준으로 지켜 내는 그림까지 거론했고, 고령화로 간병 인력이 모자란 일본 같은 나라는 로봇을 택할 수도 있다는 단서도 달았어요.

"가장 위험한 도구에 자율규제라니, 사양합니다"

바이오테러 쪽 제안은 더 구체적이에요. 극단적 위험을 감시하고 제한하는 기준을 국제 협약으로 만들고, 무기화될 수 있는 AI, 그러니까 "새로운 분자를 설계할 수 있는 모델은 전부 감시 대상"으로 두자는 거예요. 고급 AI에 접근하는 소수의 사람만으로도 새로운 병원체를 만들 수 있다고 봤거든요.

그는 이 위험을 자연 팬데믹보다 "50배 더 무섭고 더 가능성이 크다"고 평가했어요. 사이버 쪽 문장도 섬뜩해요. "아주 제한된 기술을 가진 범죄자도 모든 규모의 피해자를 노릴 수 있게 될 거예요."

참고할 틀은 이미 있다고 해요. "핵무기에는 사찰 체제가 있고, 국제 항공에는 규정이 있고, 오존층을 지키는 협약이 있어요." AI에는 그런 게 없으니, 부처를 가로질러 우선순위를 정할 국가 기구와 국경을 넘는 위험을 다룰 국제기구를 새로 만들자는 거예요.

일자리·안보·보건·에너지·선거를 한꺼번에 건드리는 기술을 위해 설계된 기관이 지금은 하나도 없다는 게 이유예요. "미국과 중국 사이에 어느 정도의 협력은 반드시 필요할 거예요"라고도 썼어요.

현행 체계에 대한 평가는 박해요. 백악관이 행정명령으로 만든 사전 테스트 체계, 그러니까 AI 기업이 출시 30일 전에 모델을 정부 테스트에 제출하되 인허가 요건으로는 쓰지 못하게 막아 둔 프레임워크를 두고 이렇게 말했어요. "검사하는 문턱이 뭐고, 그 문턱을 넘으면 어떤 조치를 하는데요? 전부 텅 비어 보여요."

업계가 만들고 있는 자율 규제 조치에 대해서는 한 문장이면 됐어요. "역사상 가장 위험한 도구에 자율규제라고요? 사양합니다!"

속도 자체를 늦추는 건 어떨까요. 게이츠는 누가 전 세계적으로 AI 속도를 늦출 신뢰할 만한 계획을 가져온다면 지지할 생각이 있다고 썼어요. 그리고 바로 다음 문장에서 그런 계획은 기대하지 않는다고 했어요. 지정학적·경제적 힘이 너무 세다는 거예요.

먼저 경고한 사람, 바로 반박한 사람

이 우려들은 앤스로픽 공동창업자 다리오 아모데이가 몇 년째 해 온 경고와 상당 부분 겹쳐요. 아모데이는 작년 5월 악시오스 인터뷰에서 AI가 1~5년 안에 신입급 사무직 일자리의 절반을 없애고 실업률을 10~20%까지 밀어 올릴 수 있다고 경고했어요. AI를 악용한 생물·화학무기 개발을 사이버 공격보다 큰 위협으로 지목해 온 것으로도 알려져 있고요. 게이츠의 대량 실업 경고와 바이오테러 경고는 이 두 축을 거의 그대로 따라가요.

차이는 대접이에요. 아모데이의 경고는 그를 펜타곤, 백악관, 업계 대부분과 대립하게 만들었어요. 이달에는 투자자 개빈 베이커가 "아모데이는 이 논쟁에서 이미 졌다"며 IPO를 앞둔 회사 수장답게 산업에 우호적으로 말하라고 공개 압박했고, 아모데이가 "규제 대 권력집중은 거짓 선택"이라고 직접 반박하는 일도 있었어요.

미 하원의원들이 시험 환경을 탈출한 AI 모델 사건을 두고 올트먼과 아모데이에게 공개 서한을 보낸 것도 이달이에요. 게이츠는 이 상황을 두고 "단점을 가장 솔직하게 말하는 사람이 공격받고 있다"고 말했어요.

반박도 하루 만에 나왔어요. 앨런AI연구소 초대 CEO를 지낸 워싱턴대 오렌 에치오니 교수는 ABC뉴스에 "토큰에 세금을 매기는 건 타자기의 키 입력에 세금을 매기는 것과 같아요. 말이 안 돼요"라고 했어요. 미국 토큰에 세금을 매기면 사람들이 중국 모델로 옮겨 갈 뿐이고, 새 기구를 만들기보다 기존 기관이 제대로 된 정책을 내는 게 낫다는 거예요.

진단의 시급성에는 에치오니도 동의했어요. "3년 뒤면 정말로 너무 늦을 수 있다"며 지금 움직여야 한다는 데는 게이츠와 같은 편에 섰어요.

3년 만에 뒤집힌 결론

게이츠가 처음부터 경고파였던 건 아니에요. 2018년에는 AI를 "기본적으로 더 나은 소프트웨어"라고 불렀고, 2023년 7월에 쓴 에세이 제목은 「AI의 위험은 실재하지만 관리 가능하다」였어요. 3년 만에 결론이 "임계점을 넘었는데 계획이 없다"로 뒤집힌 거예요.

최근의 성능 향상이 자신의 예상을 훨씬 넘어섰다는 게 그가 밝힌 이유인데, 에세이 첫머리의 고백이 이 반전을 요약해요. "기억하는 한 평생, 나는 혁신이 더 빨리 일어나기를 바랐어요. AI에 대해서는 감정이 더 복잡해요."

복귀의 배경에는 오점도 있어요. 올해 초 제프리 엡스틴의 이메일이 공개되면서 게이츠와의 교류가 다시 조명됐고, 2월에는 예정됐던 AI 콘퍼런스에서 빠졌고, 6월에는 하원 위원회에서 6시간 동안 증언했어요. 그는 이 일들과 2021년 이혼으로 이어진 사생활 논란을 "모두 내가 만든 실수"라고 인정했어요.

막대한 부와 마이크로소프트 시절의 공격적 경영, 2000년 반독점 패소 이력 때문에 자신이 흠 있는 메신저일 수 있다는 점도 받아들였어요. 그래도 회사를 운영하며 이익을 좇을 이유가 없는 업계 내부자이자 재단에서 수십 년간 불평등을 다뤄 온 사람으로서 자신이 이 문제에 적임이라고 주장했어요.

경고하는 동안에도 AI 예찬은 멈추지 않았어요. 그는 지금도 클로드와 챗GPT를 붙들고 살고, "새벽 3시에 나트륨 배터리가 궁금해지면 이제 잘 이유가 없어요. 바로 가는 거죠"라며 웃었고, 생산성 면에서는 "우리는 천국에 있어요"라고 했어요.

AI의 혜택이 부유한 나라보다 가난한 나라의 보건·농업에서 더 클 거라고 보고, 재단의 골키퍼스 행사에서 아프리카 언어로도 영어만큼 작동하는 모델 이야기를 꺼낼 계획이에요. 비관론자가 된 게 아니라, 낙관에 조건을 다는 쪽으로 옮겨 간 거예요.

이번 에세이는 시작이에요. 게이츠는 연말 전에 바이오 위험만 따로 다루는 두 번째 에세이를 내겠다고 예고했고, 앞으로 세계 정상들을 만날 때마다 글로벌 헬스와 AI 두 가지 의제만 꺼내겠다고 했어요.

인터뷰는 이 말로 끝나요. "나쁜 소식을 전하는 것도, 혁신이 순손실일 수 있다고 말하는 것도 싫어요. 하지만 우리가 서 있는 곳이 거기예요."

에디터의 시선

이 경고의 무게는 내용이 아니라 발화자의 위치에서 나와요. 내용만 보면 아모데이의 경고와 겹치지만, 프런티어 랩 CEO의 말은 규제가 경쟁사를 때리길 바라는 포지셔닝으로 읽히곤 했어요. 게이츠는 그 반박이 안 통하는 사람이에요. 팔 모델도, 앞둔 IPO도 없는 업계 원로가 "내가 아는 전부를 걸고" 같은 편의 낙관 진영에서 이탈한 거예요.

아모데이 입장에서는 가장 든든한 원군이 생긴 셈이에요. 2023년 「관리 가능하다」에서 2026년 「계획이 없다」까지 3년의 궤적 자체가, 이 기간 AI가 얼마나 빨리 움직였는지 보여 주는 데이터이기도 해요. 이 3년 사이 무엇이 바뀌었는지 물으면 게이츠의 답은 결국 하나, 에이전트예요. 챗봇이 질문에 답하는 동안에는 "관리 가능"이었는데, 일을 통째로 맡아 혼자 끝내는 걸 본 순간 결론이 뒤집혔어요.

그 감각은 에이전트 코딩 도구로 매일 일해 본 사람이라면 부정하기 어려워요. 작년까지는 사람이 쓰고 AI가 거드는 구도였는데, 올해는 일의 단위를 통째로 맡기고 사람이 검수하는 구도로 넘어왔거든요. 게이츠가 말한 "거의 오류 없는 결과물"의 문턱이 넘어가는 순간, 검수마저 얇아진다는 게 그의 경고인 거예요. 세계에서 코딩을 가장 잘 아는 축에 드는 70세가 자기 전문 분야에서 백기를 든 장면이, 이 에세이에서 가장 무거운 대목이에요.

에세이에서 가장 새로운 대목은 세 번째 리스크, 아이들이에요. 일자리와 바이오는 몇 년째 논쟁 중인 주제지만, AI 컴패니언과 아이들의 성장은 이제 막 데이터가 쌓이기 시작한 영역이에요. 소셜미디어는 해악이 통계로 확인되기까지 십수 년이 걸렸고, 규제는 그보다 더 늦었어요. 게이츠가 이 항목을 대량 실업·바이오테러와 같은 줄에 세운 건, 같은 실수를 반복할 시간이 없다는 판단으로 읽혀요.

기업이 당장 챙길 대목도 있어요. 게이츠의 시나리오에서 규제는 모델이 아니라 '대체'에 붙어요. 토큰세든 휴먼 리저브드든, 과세와 금지의 단위가 기술이 아니라 사람을 빼낸 자리라는 거예요. AI 도입의 손익 계산서에서 인건비 절감분을 전부 이익으로 잡는 회사라면, 그 줄이 몇 년 안에 세금 줄로 바뀔 수 있다는 변수까지 넣어 두는 게 안전해요.

가장 실질적인 대목은 토큰세예요. 지금 기업의 AI 도입 논리는 대부분 인건비 절감인데, 토큰세는 정확히 그 절감분에 세금을 매겨 도입의 손익 계산을 바꾸는 장치예요. 에치오니의 반박이 보여 주듯 설계는 아직 거칠고, 중국 모델로 우회하는 구멍도 뻔히 보여요.

그래도 월가가 이미 이 아이디어를 굴리기 시작했고, 사람을 쓰면 세금을 내고 기계를 쓰면 공제받는 세제의 비대칭은 미국만의 일이 아니에요. 어느 나라 의회에든 같은 법안이 올라올 때, 이 에세이가 논쟁의 원형이 될 거예요.

AI 전환의 다음 논쟁은 기술이 무엇을 할 수 있느냐가 아니라 그 이익을 누가 가져가느냐로 옮겨 가요. 게이츠의 에세이는 그 논쟁의 개회 선언이에요.