데이터센터가 하는 일, 10의 27제곱 번의 계산

데이터센터가 밤낮으로 하는 일은 덧셈과 곱셈 두 가지다. 챗GPT 같은 AI 를 만드는 과정은 다음에 올 단어를 조금 더 잘 맞히도록 숫자를 고치는 일의 반복이고, 그 한 번 한 번은 계산기로도 할 수 있을 만큼 작다. 다만 횟수가 상상을 넘는다. 2026년에 나온 OpenAI 의 GPT 6 Astra 를 학습시키는 데는 이 계산이 약 10의 27제곱 번, 곧 1 뒤에 0 이 27개 붙는 횟수만큼 들어간 것으로 추정된다. 2018년 첫 모델 GPT 1 의 5,000만 배가 넘고, 관측 가능한 우주에 있는 별의 수보다 1,000배 많은 횟수다. 이 계산을 하려고 지은 건물이 데이터센터이고, 그 건물이 이제 도시 하나만큼의 전기를 쓴다.

먼저 건물 안부터 보자. AI 데이터센터는 겉으로는 창문 없는 큰 창고다. 에포크 AI 의 데이터센터 연구 책임자 벤 코티어와 최고전략책임자 야파 에델먼이 쓴 데이터센터 개요에 따르면 그 안에는 냉장고만 한 금속 캐비닛, 서버 랙이 줄지어 서 있다. 요즘 AI 용 표준 랙인 엔비디아 NVL72 한 대에는 GPU 72개가 들어가고, 높이는 2미터 남짓, 바닥 면적은 0.5제곱미터다. 그 작은 부피 안에서 100킬로와트가 넘는 전기를 쓰는데, 미국 가정 100채가 동시에 쓰는 양이다. AI 용이 아닌 보통 데이터센터의 랙은 10킬로와트 정도를 쓰니 열 배 차이가 난다.

칩을 이렇게 빽빽하게 붙여 놓는 이유는 칩끼리 쉴 새 없이 데이터를 주고받아야 하기 때문이다. 대신 열이 문제가 된다. 보통 데이터센터는 큰 선풍기와 에어컨으로 열을 식히지만, AI 데이터센터는 그 방법으로는 감당이 안 돼 액체 냉각을 쓴다. 칩 위에 금속판을 얹고 그 안으로 냉각액을 흘려 열을 받아낸 뒤, 그 열을 다시 물에 옮겨 건물 밖으로 내보낸다.

코티어와 에델먼은 뜨거운 냄비를 찬바람으로 식히는 것보다 찬물을 끼얹는 편이 훨씬 빠른 것과 같은 이치라고 설명한다. 밖으로 나온 뜨거운 물은 냉각탑에서 공기에 닿아 증발하면서 식는데, 우리 몸의 땀이 마르며 시원해지는 것과 같은 원리다. 데이터센터가 물을 많이 쓴다는 말이 여기서 나온다. 이 냉각 장비가 워낙 커서 위성사진만 봐도 어떤 건물이 데이터센터인지 알 수 있다.

다음은 전기다. 데이터센터는 전력망에 선을 대고, 그것으로 모자라면 발전소를 직접 짓는다. OpenAI 의 텍사스 스타게이트 애빌린 데이터센터는 처음에는 부지 안의 천연가스 발전으로 돌리다가 나중에 전력망에 붙여 전력을 키우는 계획이고, 전력이 끊길 때를 대비해 디젤 비상발전기도 둔다. 앤스로픽이 쓰는 아마존의 한 데이터센터 계획서에는 디젤 비상발전기 238대가 적혀 있다. xAI 는 멤피스에 140메가와트짜리 콜로서스 1 을 122일 만에 세웠다. 천연가스를 많이 쓰는 이유는 값이 싸고 하루 종일 돌릴 수 있고 발전소를 빨리 지을 수 있기 때문이다.

그래서 데이터센터는 전기가 있는 곳에 들어선다. 메탈이 확인한 에포크 AI 데이터센터 데이터베이스(10월 19일 갱신)에 따르면 미국 안에서는 텍사스에 14곳, 오하이오와 버지니아에 각각 7곳이 몰려 있고, 새 부지는 대부분 큰 발전 설비와 광케이블이 있는 중서부와 남부에 붙는다. 사용자와 가까워야 한다는 생각은 사실과 다르다. 코티어와 에델먼의 계산으로는 모델이 답을 만드는 시간이 데이터가 지구를 건너는 시간보다 수백 배 길어서, 데이터센터를 달에 두더라도 지연은 2초 정도에 그친다. 입지를 정하는 것은 거리가 아니라 전기다.

크기는 이렇다. 스타게이트 애빌린 한 곳이 쓰는 전기는 시애틀 시 전체가 쓰는 양과 같고, 부지는 축구장 450개보다 넓으며, 건설과 장비에 320억 달러가 들고, 2025년 7월에는 공사 인력 3,000명이 현장에 있었다. 이런 건물이 땅을 고른 뒤 가동까지 2년 안팎이면 된다. 에포크 AI 가 추적하는 94곳의 전력 용량을 합치면 설비 기준 18.5기가와트인데, 뉴욕시의 최대 전력 수요 11기가와트보다 크다. 전력 기준으로 가장 큰 곳은 인디애나주 뉴칼라일의 앤스로픽·아마존 데이터센터로 1,037메가와트이고, 계산 능력 기준으로는 멤피스의 콜로서스 2 가 H100 칩 111만 개에 해당하는 능력으로 1위다. 메타가 루이지애나에 짓는 하이페리온은 2028년 초 1단계만으로 1.7기가와트, 시애틀의 최대 수요와 맞먹는다.

이 건물들이 하는 일이 앞서 말한 계산이다. 가장 큰 언어 모델 안에는 다음 단어를 맞히는 데 쓰는 수조 개의 숫자가 들어 있고, 업계는 이를 매개변수라고 부른다. 처음에는 전부 무작위 값이라 답도 엉망이다. 학습은 문장 일부를 넣어 다음 단어를 맞히게 한 뒤 틀린 만큼 숫자를 조금씩 고치는 과정이고, 이것을 수조 개 단어에 걸쳐 되풀이한다. 숫자 하나를 한 번 고치는 데는 덧셈과 곱셈 몇 번이면 되지만, 수조 개의 숫자를 수조 번 고치면 횟수는 곱셈으로 불어난다.

2020년 1월 OpenAI 연구진이 낸 스케일링 법칙 논문은 총 계산량이 대략 매개변수 수 곱하기 학습 단어 수 곱하기 6 이라고 정리했다. 모델을 10배 키우고 데이터도 10배 늘리면 계산은 100배가 된다.

회사들이 계산을 줄이지 않고 늘리는 이유는 단순하다. 더 많이 계산한 모델이 더 똑똑했기 때문이다. 보도에 실린 실험에서 같은 문장을 세 세대 모델에 넣자 GPT 1 은 "넌 채식주의자가 아니야"를 수십 번 되풀이하는 앞뒤 없는 문답을 토해냈고, GPT 2 는 아인슈타인이 1879년 베를린에서 태어났다는 식의 틀린 문장을 썼으며, GPT 3.5 는 3리터와 5리터 물병으로 4리터를 만드는 여섯 단계를 정확히 풀었다. 에포크 AI 가 수학, 코딩, 일반 지식, 추론 시험 수십 개를 하나의 점수로 묶은 에포크 역량 지수(ECI)는 2024년 9월 추론 모델이 나온 뒤 해마다 14점씩 올랐다. 그 전 모델들의 상승폭은 해마다 6점이었다. 메탈이 확인한 에포크 AI 추세 대시보드(2월 5일 갱신)에 따르면 최전선 언어 모델의 학습 계산량은 2020년 이후 해마다 5배씩 늘었고, 학습 비용도 해마다 3.5배씩 올랐다.

10의 27제곱 번이 어느 정도인지는 보도에 실린 환산표가 보여 준다. 기계가 최고 속도의 절반으로 돈다고 가정했을 때 iPhone 17 Pro 한 대로는 1,300만 년, 플레이스테이션 5 로는 300만 년, 고급 게이밍 PC 로는 30만 년, 엔비디아 H100 칩 한 개로는 6만 4,000년이 걸린다. H100 10만 개를 묶으면 8개월이다. 펜실베이니아대학교 공학 교수 벤저민 리는 보도에서 "컴퓨터 한 대로는 그 모든 데이터를 처리할 수 없으니, 결국 여러 조각으로 나눠야 한다"고 말했다. 회사들은 학습 데이터를 작은 묶음으로 쪼개 수만 개의 칩에 나눠 보내고, 칩들은 한 건물 안에서 한 대의 거대한 컴퓨터처럼 함께 돈다.

에포크 AI 최고경영자 하이메 세비야는 보도에서 "데이터 센터는 사실 잘못 붙인 이름이다. 연산 센터라고 부르는 편이 더 적절하다"고 말했다. 자료를 보관하는 창고가 아니라 계산을 하는 공장이라는 뜻이다. 그 공장이 거칠게 돌아간다는 비판은 업계 안에서도 나온다. Sustainable AI Group 공동창립자이자 최고과학책임자 사샤 루치오니는 보도에서 "요즘 생성형 AI 모델을 학습시키는 방식은 사실상 무차별 대입식 접근과 같다"며, 모델을 더 키우고 데이터와 컴퓨팅을 가능한 한 많이 쓰는 것이 그 전부라고 설명했다.

이 계산은 돈과 전기와 탄소로 바뀐다. 에포크 AI 가 지난해 9월 12일 낸 추정에 따르면 xAI 의 Grok 4 를 한 번 학습시키는 데 전기 310기가와트시가 들었다. 미국인 4,000명이 사는 마을이 1년 동안 쓰는 전기다. 하드웨어와 전기 비용은 약 4억 9,000만 달러, 이산화탄소 배출은 약 15만 톤으로 보잉 여객기 한 대가 3년 동안 내는 양과 같았다. 냉각에는 올림픽 수영장 300개를 채우는 7억 5,000만 리터의 물이 들어갔다. 보도는 이 배출량을 미국인 약 1만 명의 1년치 탄소 발자국으로 환산했다.

그런데 우리가 챗봇에 한 번 질문할 때 드는 전기는 뜻밖에 작다. 에포크 AI 의 에너지 사용 개요에 따르면 무료 챗봇에 100단어짜리 질문을 하나 보내면 모델 개발 비용까지 나눠 얹어도 약 0.6와트시가 들고, 이는 전자레인지를 10초 돌리는 것보다 적다. 미국의 보통 가정이 하루 전기 사용량을 1% 늘리려면 챗봇 메시지를 하루 400개 넘게 보내야 한다. 구글이 2026년 환경보고서에 적은 수치는 더 작아서, 제미나이 앱의 중간값 질문 하나는 전기 0.24와트시, 물 0.26밀리리터, 곧 다섯 방울을 쓰고, TV 를 9초 보는 것과 같은 전기다. 문제는 이 작은 숫자가 수십억 번 쌓이고, 에이전트는 사람이 한 줄 묻는 것과 다르게 문제를 풀 때까지 수천 번 스스로 계산한다는 점이다. 보도에 따르면 OpenAI 의 에이전트들은 9월 밀레니엄 상금 수학 문제를 푸는 닷새 동안 메시지 490만 건을 주고받았고, 공개된 요금으로 계산한 비용은 1,500만 달러였다.

그래서 전체 그림은 크다. 2026년 중반 기준 세계 AI 컴퓨팅이 쓰는 전력은 수십 기가와트로 뉴욕주의 최대 전력 사용량과 비슷하다. 다만 미국 전체로 보면 AI 는 아직 연간 전력 소비의 몇 퍼센트 수준이고, 에어컨이 12%, 조명이 8%를 쓰는 것에 비하면 작다. 국제에너지기구의 2025년 보고서 기준으로 데이터센터 전체가 세계 이산화탄소 배출의 1% 미만이며 AI 는 그 일부다.

물도 비슷해서 2023년 미국 데이터센터가 직접 쓴 물은 174억 갤런이었는데 농업은 36조 5,000억 갤런으로 2,000배 많았다. 숫자만 보면 아직 작다는 말이고, 속도를 보면 다른 말이 된다. 데이터센터 전력 수요는 해마다 대략 두 배씩 늘고 있다.

전력이 핵심 변수가 되는 지점이 여기다. 칩은 분명히 좋아진다. 에포크 AI 에 따르면 최상급 AI GPU 의 에너지 효율은 해마다 40%씩 개선된다. 그런데 학습 계산량이 해마다 5배씩 늘면 효율 개선 1.4배로는 나머지 3.6배를 메울 수 없고, 그 차이가 전력으로 남는다.

에포크 AI 와 미국 전력연구원(EPRI)이 지난해 8월 11일 낸 백서는 가장 큰 모델 한 건의 학습 전력이 해마다 2.2배씩 늘어 이미 100메가와트를 넘었고, 2030년에는 학습 한 건이 4~16기가와트를 끌어 쓸 것으로 내다봤다. 보도는 같은 전망을 2030년 가장 큰 모델의 학습 전력이 뉴욕시 전체 소비와 비슷해진다는 말로 옮겼고, 에너지 전문가들은 그때 데이터센터가 미국 전력의 약 12%를 쓸 수 있다고 봤다. 미국에서 가장 큰 발전소의 용량이 약 7기가와트라서, 학습 한 건이 10기가와트를 넘기면 발전소 하나로는 모자란다.

동네 단위로 내려오면 영향은 이미 보인다. 멤피스에서는 xAI 가 콜로서스 1 을 돌리려고 급히 설치한 가스터빈 뒤로 주변 동네의 이산화질소 농도가 뛰었다는 분석이 나왔다. 이산화질소는 호흡기 질환을 악화시키는 오염물질이다. 전기요금은 아직 논쟁 중이다.

2020년부터 2025년까지는 데이터센터가 많은 버지니아, 오리건, 아이오와의 요금 상승폭이 오히려 전국 평균보다 작았지만, 2026년 1분기 미국 중부와 대서양 연안 주의 도매 전기요금이 1년 전보다 76% 오른 데는 데이터센터 건설이 최대 4분의 1을 보탰다는 시장 감시기관의 분석이 있다. 데이터센터를 돌리는 전기는 2026년 기준 65%가 화석연료로 미국 전력망 평균 57%보다 조금 더 더럽다. 가스터빈은 전력망에 줄을 서는 것보다 빠르기 때문이다.

구글은 이 긴장을 숫자로 보여 주는 회사다. 구글이 6월에 낸 2026년 환경보고서에 따르면 2025년 한 해 구글의 전기 사용량은 37% 늘었고, 2019년과 견주면 250% 넘게 늘었다. 구글 데이터센터의 전력 효율 지표 PUE 는 1.09 로, 서버가 100의 전기를 쓸 때 냉각과 배전에 9만 더 쓴다는 뜻이다. 업계 평균 데이터센터는 54를 더 쓰고, 구글이 2006년 처음 지은 오리건주 더 댈러스 데이터센터는 2025년 4분기에 6~10만 더 썼다. 구글은 2025년에 12기가와트의 새 청정전력 계약을 맺어 역대 최대를 기록했고, 사용 전력 전체를 연간 기준으로 재생에너지 구매와 맞춘 것이 9년째다.

그런데 같은 보고서가 어려워진 쪽도 적었다. 구글의 운영 배출은 2% 줄었지만 공급망 배출은 25% 늘었고, 데이터센터 건설에서만 230만 톤이 나왔다. 물 사용은 109억 갤런으로 34% 늘었고, 지역 물 보충 사업으로 되돌린 양은 그중 78%였다. 보도에 따르면 구글은 2030년까지 전력 사용의 탄소 배출을 상쇄하겠다던 목표가 인프라의 급속한 확장 때문에 계속 힘겹게 추구해야 하는 목표로 남아 있다고 밝혔고, 환경보고서는 같은 사정을 기후 목표에 이르는 길이 점점 어려워지고 있다고 적었다. 구글이 2029년 초 재가동을 목표로 아이오와의 듀에인 아놀드 원자력발전소 600메가와트 계약을 맺고, 소형모듈원자로 50메가와트, 핵융합 200메가와트, 탄소 포집을 붙인 가스발전까지 계약한 이유가 여기 있다. 리 교수는 보도에서 효율이 좋아지더라도 필요한 전력을 전부 재생에너지로 대는 것은 더 이상 실현 가능하지 않다며 "규모가 너무나 크다"고 말했다.

계산이 이렇게까지 커진 데는 목표가 바뀐 탓이 크다. 챗GPT 이전의 AI 는 스팸 걸러내기, 상품 리뷰 분석, 다음에 볼 영화 추천처럼 좁은 일을 했다. 지금의 생성형 AI 는 어떤 질문이든 답하도록 범용으로 만들어졌고, 리 교수는 보도에서 "이러한 범용성 때문에 모델이 훨씬 커졌고, 학습 비용도 훨씬 비싸졌다"고 말했다. 메탈은 내몽골 울란차브에 12.5기가와트 데이터센터가 들어서는 과정과 중국이 버려지는 재생에너지를 AI 데이터센터로 돌리려는 계획, 펜실베이니아에서 데이터센터 반대가 초당적으로 번진 사정을 보도한 바 있으며, 세 이야기를 움직이는 변수는 전부 이 산술이다.

데이터센터가 하는 일의 답은 처음과 같다. 덧셈과 곱셈이고, 그것을 10의 27제곱 번 하려고 축구장 450개 넓이에 냉장고만 한 랙을 줄 세우고 가스터빈과 원자로를 붙인다. 에포크 AI 는 2030년까지 지금의 200배 규모 학습이 기술적으로 가능하고 거기에는 5기가와트가 넘는 전력이 든다고 계산했다. 계산 한 번의 값은 0에 가깝지만 횟수가 발전소를 짓게 한다. 2030년의 모델 하나를 학습시키는 건물은 도시 하나만큼의 전기를 당겨 쓴다.