오픈AI 전략미래팀, 차세대 경제 에세이 발표

오픈AI 전략미래팀의 블로그 인텔리전스 에이지가 10월 1일(현지시간) 차세대 경제(The Next Economy) 시리즈의 첫 에세이 영원한 보완재(The eternal complement)를 발표했다. 필자는 헤만스 아시르바탐과 엘리엇 모크스키 두 사람이다. 에세이의 결론은 초지능 시대에 기계 지능 대부분이 번뜩이는 발견보다 아이디어를 현실로 옮기는 실행과 조율, 곧 관료제의 일에 쓰일 수 있다는 것이다. 필자들은 이 글이 범용인공지능(AGI) 이후의 미래를 탐구하는 독립적 목소리를 싣는 새 플랫폼의 일부이며, 오픈AI나 동료들이 아니라 자신들의 견해라고 밝혔다.

인텔리전스 에이지는 8월 20일 딘 볼이 쓴 창간 글로 문을 열었다. 창간 글에 따르면 이 블로그는 오픈AI 안에 새로 꾸려진 소규모 조직인 전략미래팀의 지면이고, 팀은 "자유 사회가 개인의 권리와 주체성을 지키면서 변혁적 AI의 출현을 수용하려면 어떻게 재구성돼야 하는가"라는 하나의 질문에 답하는 것을 목표로 삼는다. 볼은 AI 정책 논의에서 권력 집중 위험으로 불리는 이 범주가 장기적으로 가장 크고 심각한 위험이라고 주장했다. 블로그 이름은 비영리 단체 AI 퓨처스 프로젝트와 헷갈리지 않도록 한 차례 바꿨다고 창간 글 말미에 적혀 있다.

에세이는 망원경 이야기에서 출발한다. 갈릴레오는 렌즈 두 장과 관 하나로 시야를 넓혔지만, 오늘날 인류가 다시 시야를 넓히려고 만든 제임스 웹 우주망원경은 100억 달러짜리 관측소다. 로켓 안에 접혀 100만 마일 떨어진 곳까지 날아갔고, 거대한 거울 조각 18개는 50나노미터 정밀도로 가공됐으며, 14개국 300개 조직이 제작에 참여했다. 필자들은 더 멀리 보는 데 더 밝은 두뇌만 필요했던 것이 아니라 더 큰 관료제가 필요했다고 썼다.

근거로 든 수치는 연구 생산성의 하락이다. 에세이는 경제학자 니컬러스 블룸과 공저자들의 연구를 인용해, 무어의 법칙을 유지하는 데 1970년대 초보다 18배 넘는 연구자가 필요하고, 1930년대 이후 미국 경제 전체의 실효 연구 노력은 23배 늘었지만 측정된 연구 생산성은 41분의 1로 떨어졌다고 전했다. 메탈이 확인한 원 논문(2020년 아메리칸 이코노믹 리뷰 게재, 41쪽)에 따르면 이 기간 연구 노력은 연평균 4.3% 늘었고 연구 생산성은 연평균 5.1%씩 줄었다. 에세이는 여기에 기술 인력이 과학자보다 두 배 빠르게 늘고 있고, 과학에서 특수 장비 사용이 40년 동안 두 배가 됐으며, 오늘날 반도체 공장 한 곳의 비용이 30년 전의 다섯 배라는 수치를 보탰다.

에세이가 근거로 건 미국 국립과학재단(NSF) 통계표도 같은 그림을 보여 준다. 메탈이 확인한 NSF 25-354 보고서의 표 50에 따르면 2023년 미국 내 기업의 연구개발 고용은 212만6000명이고, 이 가운데 연구자는 143만7000명, 박사 학위 연구자는 14만8000명이다. 연구개발 기술 인력과 그에 준하는 인력이 50만2000명, 그 밖의 지원 인력이 18만7000명으로, 연구자 한 명의 아이디어 뒤에 실행을 맡는 사람들이 층층이 붙어 있다.

필자들이 꺼낸 개념은 경제학의 보완재다. 한쪽이 늘수록 다른 쪽의 가치가 커지는 두 투입물을 보완재라 부르는데, 좋은 망원경은 좋은 천문학 질문의 값어치를 키우고 좋은 질문은 망원경의 값어치를 키운다. 보완재 가운데는 입자가속기나 에너지처럼 눈에 보이는 것도 있지만 법, 관료제, 자금 조달 장치, 공급망처럼 눈에 잘 띄지 않는 것도 있다. 필자들은 아이디어가 이 제도들을 거치며 수많은 올바른 실무 판단을 통과해야 한다는 점에서 이것을 제도적 지능, 곧 실행의 지능이라고 이름 붙였다. 초지능을 10억 명의 아인슈타인으로 상상하더라도, 그 문명은 그중 대부분에게 채석장 일과 회계를 맡겨야 한다는 것이 에세이의 비유다.

지금의 AI는 그 반대편에서 먼저 힘을 쓰고 있다. 필자들에 따르면 AI는 이미 코드를 짜고, 낯선 분야의 문헌을 뒤지고, 스케치를 작동하는 시제품으로 바꾸면서 실행을 덜 희소하게 만들고 있다. 한때 조직 하나가 필요했던 아이디어를 야심 있는 개인 한 명이 밀어붙일 수 있게 됐고, 2억 달러를 손에 쥐지 못한 영화감독이나 남의 구상을 구현하며 경력을 보내는 게임 디자이너가 자기 작품을 만들 수 있게 된다는 설명이다. 이 단계에서 희소한 자원은 실행에서 취향으로 옮겨 간다. 무엇을 만들 가치가 있는지, 어떤 질문을 던질지 고르는 능력이다.

필자들은 이 상태가 끝이 아닐 수 있다고 봤다. 수학 같은 영역에서 이미 보이듯 AI가 스스로 새로운 통찰에 이르기 시작하면 노동뿐 아니라 연구 의제까지 내놓게 되고, 아이디어가 그것을 받아낼 기반 시설보다 빠르게 쏟아진다. 메탈은 오픈AI가 수학자 아홉 명으로 독립 자문그룹을 꾸린 소식을 보도한 바 있으며, 에세이가 짚은 수학 분야의 변화는 그 연장선에 있다. 오늘의 AI가 좋은 아이디어에 마침내 제값을 쳐 주는 유예기라면, 내일은 좋은 아이디어가 너무 많아 어느 때보다 실행에 굶주리게 될 수 있다는 것이 필자들의 진단이다.

에세이는 여기서 두 갈래의 문명을 그린다. 지성이 지식을 넓히는 길은 원리에서 추론하기, 이미 쌓인 증거에서 새 통찰 끌어내기, 세계를 관찰하고 개입해 새 증거 모으기의 세 가지다. 깊이의 문명은 앞의 두 길로 멀리 가는 세계다. 시뮬레이션이 대부분의 가설을 걸러 내고 현실에서 확인할 실험은 꼭 필요한 몇 개로 줄어든다. 필자들은 주기율표의 빈칸을 예언한 멘델레예프와 관측 수십 년 전에 힉스 입자를 예상하게 한 표준모형을 들어, 거의 완성된 과학은 마지막 발견이 오히려 쉬워지는 직소 퍼즐과 같을 수 있다고 설명했다.

너비의 문명은 세 번째 길이 병목이 되는 세계다. 필자들은 생물학을 그 예고편으로 꼽았다. 컴퓨터가 생물학적 과정을 흉내 내도 신약은 여전히 많은 사람을 대상으로 한 임상시험을 거쳐야 하고, 기계가 후보 물질을 더 많이 내놓을수록 실험이 더 큰 병목이 된다. 에세이는 초지능이 한 세기 분량의 실험을 오후 한나절에 설계하고 그 세기를 자연과 기계가 따라오기를 기다리며 보낼 수 있다고 썼다. 이 세계에서 연구실은 자동화되고 공장은 늘고 에너지 생산은 커지며, 그 극단의 이미지가 별의 에너지를 거둬들이는 다이슨 구다. 필자들은 그런 사업이 인류가 벌인 일 가운데 가장 반복적이고 단조로우며 조직하기 어려운 사업이 될 것이라며 "거의 모든 기계 지능은 탁월한 일이 아니라 지루한 일을 하는 데 투입될 것"이라고 내다봤다.

그렇다고 인간의 호기심이 쓸모없어지지는 않는다는 것이 에세이의 마지막 논지다. 필자들은 세 가지 이유를 들었다. 기계가 더 잘해 보이더라도 세계를 스스로 이해하려는 의무는 남는다는 것, 인간이 둘 다 기계보다 못하더라도 상대적으로 더 나은 쪽인 프런티어 지능에 특화할 비교우위가 있다는 것, 그리고 인간이 지닌 고유함이 창의적 다양성을 보탠다는 것이다. 기계 지능 대부분은 스스로 굴러가는 체계 안에 머물고 그 일부만 인간의 창작 의지에 따라 쓰이겠지만, 그 일부만으로도 오늘 인류가 가진 자원보다 훨씬 크다고 필자들은 덧붙였다.

사회학의 눈으로 보면 이 에세이는 AI 담론의 주인공을 바꾼다. 그동안 초지능 이야기의 중심에는 천재가 있었지만, 이 글은 망원경에 들어갈 나사를 용접한 사람과 학교의 보험을 맡은 사람처럼 위업의 서사에서 지워져 온 사람들의 일을 지능의 본령으로 다시 불러낸다. 창간 글에서 볼이 내건 원칙과 겹쳐 읽으면 질문은 더 무거워진다. 볼은 국가가 군인과 경찰과 거대한 관료제의 협력 없이도 힘을 행사하게 되면 권력이 더 이상 사회 전체와의 협상을 필요로 하지 않을 수 있다고 경고했고, AI가 고위험 행동을 할 때 그 행동이 책임 있는 인간이나 인간이 통제하는 조직으로 거슬러 연결돼야 한다고 적었다. 기계가 관료제의 일을 맡게 된다면 그 관료제의 결재선을 누가 쥐는가가 다음 질문이 된다.

에세이는 오늘날 인간 지능의 상당 부분이 아이디어를 현실로 바꾸는 이름 없는 일에 쓰이고 있으며, 기계 지성도 같은 의존을 물려받을 것이라고 정리했다. 필자들은 "기계 지성도 모두가 위인일 수는 없고, 관료이기도 해야 한다"고 썼다. 우리의 다음 이야기와 그 속도는 위대한 정신이 세계를 더 많이 필요로 하는지, 아니면 더 적은 것으로 더 많은 일을 해내는지에 달려 있다고 필자들은 결론지었다.