AI끼리는 말로 하지 않는 편이 빠르다 — 필즈상 수학자가 모델 사이에 놓은 다리

풀어서 설명하면, 지금까지 모델 둘을 함께 쓰는 방법은 한쪽이 답을 글로 써서 다른 쪽에게 읽히는 것이었어요. 사람으로 치면 옆자리 동료에게 생각을 전할 때마다 반드시 편지를 써서 건네는 셈이에요. 모스틱이 한 일은 그 편지를 없애고 두 사람의 머릿속을 짧은 다리로 이어 붙인 거예요.

편지를 쓰는 값

모델을 여럿 묶어 쓰는 건 새로운 아이디어가 아니에요. 지금도 큰 모델이 계획을 세우고 작은 모델이 실행하거나, 여러 모델의 답을 모아 다수결을 내는 구성이 흔해요. 문제는 그 사이를 잇는 통로예요. 표준 방법은 한쪽의 출력을 그대로 다른 쪽의 입력으로 넣는 것인데, 이 통로에는 값이 두 번 붙어요.

첫째는 시간과 돈이에요. 글은 한 토큰씩 차례로 만들어져요. 앞 모델이 500 토큰을 쓰는 데 시간이 걸리고, 뒤 모델은 그 500 토큰을 처음부터 다시 읽어 이해해야 해요. 두 모델을 이었을 뿐인데 계산이 두 번 일어나는 구조예요.

둘째는 손실이에요. 모델 안에서 벌어지는 계산은 수천 차원짜리 숫자 배열인데, 그걸 문장으로 바꾸는 순간 그 배열의 대부분이 버려져요. 모델이 「확신은 없지만 A쪽이 조금 더 그럴듯하다」고 판단한 미묘한 무게 차이는 「A입니다」라는 문장 하나로 눌려요. 받는 쪽은 눌린 문장만 보고 처음부터 다시 짐작해야 해요.

이건 모스틱만의 관찰이 아니에요. 지난해 나온 논문 Cache-to-Cache는 텍스트로 모델을 잇는 방식이 「내부 표현을 토큰 열로 바꾸도록 강제해 풍부한 의미를 잃고 토큰 단위 지연을 만든다」고 지적하면서, 두 모델의 내부 캐시를 직접 잇는 방법을 제안했어요. 그 논문의 실측으로는 텍스트로 잇는 방식보다 정확도가 3.1~5.4% 높았고 속도는 평균 2.5배 빨랐어요. 모델끼리 말을 걸지 않게 만들면 더 낫다는 결과가 이미 학계 쪽에도 쌓이고 있었던 거예요.

다리는 가중치 위에 놓인다

모스틱이 고른 자리는 그보다 조금 더 안쪽이에요. 오가는 중간값이 아니라 가중치, 그러니까 학습이 끝난 뒤 굳어 있는 숫자를 기준으로 두 모델을 맞춰요. 가중치는 그 모델이 세상을 어떻게 나누어 보는지가 새겨진 지도 같은 거예요. 두 모델이 각자 다른 데이터로 그린 다른 지도를 들고 있으니, 같은 개념이라도 서로 다른 좌표에 찍혀 있어요. 다리를 놓는다는 건 그 두 지도 사이의 환산표를 찾아낸다는 뜻이에요.

환산표가 있으면 큰 모델의 판단을 문장으로 옮기지 않고도 작은 모델에게 건넬 수 있어요. 작은 모델은 자기 힘으로 못 푸는 대목 앞에서 큰 모델 쪽 지도를 잠깐 빌려 보고 계속 달려요. 편지를 주고받는 대신 어깨너머로 흘끗 보는 쪽에 가까워요.

20분의 1 비용, 정확히 중간의 성능

대회에 낸 모델은 비공개지만, 아이디어를 보여 주려고 회사는 중국 오픈웨이트 모델 두 개로 시연을 만들었어요. 한쪽은 매개변수 7,530억 개짜리 GLM-5.2 최대 버전이고, 다른 한쪽은 휴대폰에서도 도는 매개변수 40억 개짜리 Qwen-3.5예요. 둘의 크기 차이는 약 188배예요.

이은 것	매개변수	도는 자리
GLM-5.2 최대 버전	7,530억	데이터센터
Qwen-3.5 소형	40억	휴대폰
둘을 다리로 이은 하이브리드	—	비용은 GLM 단독의 20분의 1 · 성능은 두 모델의 정확히 중간

숫자를 다시 읽어 볼게요. 비용은 20분의 1로 떨어졌는데 성능은 바닥이 아니라 중간이에요. 188배 작은 모델을 붙였는데 성능이 작은 모델 쪽으로 끌려 내려가지 않았다는 게 이 시연의 요지예요. 서비스를 운영하는 입장에서 이 지점이 매력적인 이유는 분명해요. 원가는 큰 모델 근처가 아니라 작은 모델 근처에 붙는데, 답의 품질은 그 중간에서 시작하니까요.

돼지 무게 맞히기

말리셰바는 이 접근의 뿌리가 아주 오래된 통계 상식이라고 말해요. 「모델의 앙상블이 개별 모델보다 더 나은 성능을 낸다는 건 기계 학습에서 잘 알려진 사실이에요.」 회사 안에서는 이걸 돼지 무게 맞히기에 빗대는 농담이 돈다고 해요. 무작위로 모인 사람 여럿의 추측을 모아 평균을 내면 전문가 한 명보다 가축의 무게를 더 정확하게 맞힌다는 이야기예요.

이 이야기의 원형은 1906년 영국 플리머스의 가축 품평회예요. 통계학자 프랜시스 골턴이 황소 무게 맞히기 대회의 응모지를 모아 세어 봤더니, 유효한 787장의 중앙값은 1,208파운드였고 손질한 황소의 실제 무게는 1,197파운드였어요. 오차가 1%도 안 됐어요. 개인은 저마다 틀렸지만 틀린 방향이 서로 달라서, 모아 놓자 오차가 상쇄된 거예요. 골턴은 이 결과를 이듬해 「Vox Populi」라는 제목으로 발표했어요.

AI 모델도 사정이 비슷해요. 같은 질문에 여러 모델이 답하면 각자 다른 곳에서 틀리기 때문에, 답을 모으면 하나짜리보다 나은 결과가 나오는 경우가 많아요. 문제는 그 모아 놓기를 하려면 지금까지는 모델들에게 각자 답을 다 쓰게 해야 했다는 점이에요. 열 명에게 물어보려면 열 통의 편지를 받아야 했어요. 모스틱의 다리는 그 편지 값을 없애는 쪽을 노려요.

필즈상 수학자가 이 문제 앞에 앉은 이유

모스틱의 수석 과학자는 제네바 대학 교수이자 2010년 필즈상 수상자인 스타니슬라프 스미르노프(Stanislav Smirnov)예요. 필즈상은 4년에 한 번, 마흔 살 이하 수학자에게만 주는 상이에요. 그런 사람이 갓 출발한 스타트업의 연구를 이끄는 데에는 이유가 있어요. 이 문제가 공학 문제이기 전에 수학 문제이기 때문이에요.

스미르노프는 두 AI 모델 사이의 공통분모를 찾는 일이 놀라울 만큼 어렵다고 말해요. 「아직 적절한 수학적 언어가 없는 것 같아요.」 두 모델을 나란히 놓고 「이 부분과 저 부분이 같은 것을 뜻한다」고 말할 수 있는 도구 자체가 아직 없다는 뜻이에요. 그래서 지금의 다리는 그 언어가 생기기 전에 임시로 놓은 구조물에 가까워요. 임시라는 말이 약점처럼 들리지만, 수학에서는 도구가 없을 때 먼저 건너가 본 사람이 다음 도구의 모양을 정하는 일이 흔해요.

그는 이 작업이 AI 모델이 실제로 어떻게 작동하는지, 그리고 그것이 사람의 뇌와 얼마나 닮았는지를 새로 알려 줄 수도 있다고 봐요. 두 모델 사이의 환산표를 파고들다 보면, 어려운 문제를 풀 때 기계와 사람이 공유하는 무언가가 드러날지도 모른다는 거예요.

아직 논문이 없다

여기서 한 걸음 물러설 필요가 있어요. 지금 공개된 것은 결과 발표가 아니라 시연이에요. 회사는 대회 우승을 이유로 핵심 방법을 설명하지 않았고, 바깥 연구자가 직접 돌려 볼 수 있는 논문도 벤치마크 묶음도 아직 없어요. 「비용 20분의 1, 성능 정확히 중간」이라는 수치도 회사가 밝힌 값이지 제3자가 재현한 값이 아니에요.

회사를 아는 사람들의 평가는 대체로 호의적이에요. AI 소프트웨어 회사 러버블(Lovable)의 기술 책임자 블라디미르 아루스타미안(Vladimir Arustamian)은 「이 팀은 불과 몇 달 동안 이 일을 해 왔는데, 제가 몇 년은 더 걸릴 거라고 봤던 것을 벌써 작동시키고 있어요」라고 말해요. 그는 모스틱이 프런티어 모델과 생물학·물리학 같은 분야별 모델을 짝지을 수 있게 만든다면 훨씬 더 많은 전문 모델이 학습될 거라고 봐요.

구글 딥마인드에서 일했던 연구자 카를 타윌스(Karl Tuyls)의 설명은 좀 더 실무적이에요. 이 기술은 「큰 모델이 전체 과정을 다 처리하지 않고도 큰 모델에 가까운 품질에 다다를 수 있고, 옆에서 함께 도는 작은 모델만으로 상당한 개선을 얻는다」는 뜻이라는 거예요. 모델을 최대한 효율적으로 돌려야 하는 사람이라면 마다할 이유가 없는 방법이라고도 했어요.

그래도 순서는 지켜서 읽는 게 좋아요. 지금 확실한 것은 「이런 방향이 가능해 보인다」까지고, 「이만큼 좋다」는 아직 회사의 말이에요. 다음에 나와야 할 것은 논문과, 남이 돌려 볼 수 있는 코드예요.

저울이 오픈웨이트 쪽으로 기운다

다리를 놓으려면 양쪽 모델의 가중치를 들여다볼 수 있어야 해요. API 뒤에 숨어 있는 폐쇄형 모델은 애초에 다리의 재료가 되지 못해요. 그래서 이 방식이 자리를 잡으면 값이 오르는 쪽은 가중치가 열려 있는 모델이에요. 시연에 중국 오픈웨이트 모델 두 개가 쓰인 것도 우연이 아니에요. 지금 세상에서 마음대로 가져다 이어 붙일 수 있는 큰 모델이 그쪽에 몰려 있어요.

이 그림이 굳으면 오픈웨이트 진영은 앤스로픽이나 오픈AI 같은 프런티어 연구소의 폐쇄형 모델과 겨룰 무기를 하나 더 얻어요. 단일 모델 성능으로는 밀리더라도, 여럿을 싸게 이어 붙여 만든 조합으로 맞붙을 수 있으니까요.

말리셰바가 보는 그림도 그쪽이에요. 「개인적으로는 앞으로 하나의 거대한 모델이 존재하거나, 모델의 능력이 규모를 키우는 데서 나올 거라고 생각하지 않아요.」 모델을 더 크게 만들고 데이터를 더 먹이는 전략을 두고 한 말이에요. 능력이 여러 모델에 흩어져 있는 편이 자연스럽고, 그렇다면 진짜 기술은 흩어진 것을 모으는 쪽에 있다는 관점이에요.

국내에서 읽는 법

이 이야기가 국내에 주는 실마리는 두 가지예요.

하나는 원가예요. AI 서비스의 원가는 결국 「어느 크기의 모델을 몇 번 부르느냐」로 정해져요. 지금까지 선택지는 둘이었어요. 비싼 큰 모델을 부르거나, 싼 작은 모델을 쓰고 품질을 내려놓거나. 다리 방식은 그 사이에 세 번째 칸을 만들어요. 평소에는 작은 모델이 달리고, 막히는 대목에서만 큰 모델의 판단을 잠깐 빌려 오는 구조예요. 기기 안에서 도는 모델을 진지하게 붙들고 있는 팀이라면 특히 눈여겨볼 만해요.

다른 하나는 재료의 문제예요. 다리는 가중치가 열려 있는 모델 위에서만 놓여요. 기반 모델을 고를 때 지금까지는 성능과 가격을 봤다면, 앞으로는 「나중에 다른 모델과 이어 붙일 수 있는가」가 항목 하나로 더 붙어요. 열린 가중치가 왜 자산인지에 대한 답이 하나 늘어난 셈이에요.

말리셰바는 오빠가 자기가 풀던 수학 올림피아드 문제를 너는 못 풀 거라고 말한 뒤에야 수학에 재능이 있다는 걸 알았다고 해요. 몇 년 뒤 그는 상트페테르부르크의 손꼽히는 학교에서 공부하고 있었어요. 이번 다리 방식을 시작할 때도 주변에서 비슷한 말을 들었대요. 「어린 여자아이한테는 너무 어려울 거라고들 했어요. 저는 그들이 틀렸다는 걸 증명해야겠다고 마음먹었어요.」

지난 몇 년간 AI의 발전은 「더 크게, 더 많이」 한 줄로 설명됐어요. 모델을 키우고 데이터를 늘리면 성능이 따라 올라온다는 믿음이 투자와 전력망과 데이터센터를 움직였어요. 모스틱이 건드리는 건 그 믿음의 반대편이에요. 능력이 이미 여러 모델에 흩어져 있다면 다음 과제는 더 큰 하나를 만드는 게 아니라 흩어진 것들을 싸게 잇는 일이라는 거예요.

그리고 그 잇는 일에서 가장 비싼 부품이 다름 아닌 「말」이었어요. 사람이 읽을 수 있게 문장으로 바꾸는 그 한 단계가 시간과 돈과 정보를 함께 먹고 있었어요. 모델끼리 대화할 때 사람이 알아들을 필요가 없다는 걸 인정하는 순간 그 부품은 빠져요. 러시아 수학자들이 놓은 다리가 정말 튼튼한지는 논문이 나와야 알 수 있어요. 하지만 「말을 거치지 않는 편이 낫다」는 방향 자체는 여러 연구가 이미 같은 곳을 가리키고 있어요. AI의 다음 판은 더 큰 모델이 아니라 모델과 모델 사이의 좁은 통로에서 갈려요.