멀티버스, 4비트로 줄인 모델이 원본보다 똑똑해

AI 모델을 가볍게 만드는 표준 절차는 두 단계로 이뤄져요. 먼저 레이어나 뉴런 수를 줄이는 구조 압축을 하고, 그다음 남은 가중치를 16비트에서 4비트로 낮추는 양자화를 거치죠. 두 단계 모두 메모리와 연산량을 크게 줄여주지만, 그 대가로 추론·수학·코드 생성처럼 사람들이 실제로 신경 쓰는 능력이 떨어지는 게 보통이에요. 그래서 실전 배포 파이프라인은 압축과 양자화 다음에 '힐링(healing)'이라는 회복 단계를 하나 더 거쳐요. 모델 경량화를 연구하는 멀티버스 컴퓨팅이 지난 8월 25일 허깅페이스 블로그에 올린 논문에서, 이 회복 단계를 다시 설계한 '양자화 인지 힐링(Quantization-Aware Healing, QAH)' 기법을 소개했어요.

기존 회복 기법 두 가지의 한계

지금까지 널리 쓰인 회복 기법은 크게 두 가지였어요. 하나는 양자화 인지 학습(QAT)인데, 순전파 과정에 가짜 양자화 연산을 끼워 넣고 과제 손실 함수로 계속 미세조정하는 방식이에요. 문제는 이미 값비싼 사전학습·지도미세조정·RLHF 과정을 거친 모델을, 잡음 섞인 저정밀도 순전파로 또 한 번 돌려야 한다는 점이에요. 비용이 많이 들고, 학습을 최적점 이후까지 끌고 가면 오히려 불안정해질 수 있어요.

다른 방법인 양자화 인지 증류(QAD)는 이 반복 학습을 건너뛰어요. 대신 얼려둔 전체정밀도 교사 모델의 출력 분포를 KL-divergence(두 확률분포가 얼마나 다른지 재는 지표) 손실로 학생 모델에 옮겨요. 다만 이 방식은 양자화만 달라졌을 때는 잘 통해도, 레이어·헤드·뉴런 수 자체가 줄어드는 구조 압축까지 겹치면 문제가 생겨요. 압축된 아키텍처와 똑같은 크기의 독립적인 전체정밀도 모델이 애초에 존재하지 않기 때문이에요. 남는 후보 교사는 결국 압축 후 복구된 bfloat16 체크포인트뿐인데, 이건 그 자체로 원본을 근사한 결과물이라 학생 모델의 정확도가 그 체크포인트 수준을 넘지 못하는 천장이 생겨요.

원본에서 직접 배우게 했다

QAH가 바꾼 건 딱 하나예요. 복구된 체크포인트가 아니라 압축 이전의 원본 모델에서 직접 지식을 옮기는 거죠. 교사와 학생은 아키텍처조차 같지 않아요. 교사는 원래 크기의 전체정밀도 모델이고, 학생은 절반 크기에 MXFP4로 돌아가는 모델이에요. 교사의 출력 분포는 구조와 무관하게 정의되기 때문에 크기나 형태가 달라도 지식 전달에는 지장이 없다는 게 멀티버스 컴퓨팅의 설명이에요. 학생 모델은 정답 레이블을 보지 않고, 오직 교사의 출력 분포를 KL발산으로 맞추는 방식으로 학습해요. 이렇게 보면 양자화 단계의 의미가 달라져요. 기존에는 힐링이 끝난 뒤에 붙는 손실 처리 과정이었다면, QAH에서는 원본 교사를 상대로 한 두 번째 증류 과정이 되는 거예요.

벤치마크: 4비트가 16비트를 이겼다

멀티버스 컴퓨팅은 오픈AI가 공개한 오픈웨이트 모델 GPT-OSS 120B를 60B 파라미터로 구조 압축하고 bfloat16으로 복구한 다음, QAH로 다시 MXFP4까지 양자화해 검증했어요. 비교 대상은 같은 60B 아키텍처의 bfloat16 체크포인트, 즉 이 구조에서 나올 수 있는 최선의 전체정밀도 버전이에요.

벤치마크	QAH 4비트 vs bfloat16 60B	비고
AA-LCR (장문맥)	+7.4점	가장 큰 개선폭
AIME 2025 (수학)	+5.6점	두 번째로 큰 개선폭
MMLU-Pro	1.5점 이내 열세	뒤처진 2개 중 하나
SciCode	소폭 열세	뒤처진 2개 중 하나
종합	9개 중 7개 우위	bfloat16 원본을 상회

압축 전 원본인 120B 교사 모델과 비교해도 결과가 인상적이에요. QAH 모델은 파라미터 수가 교사의 절반, 가중치 메모리는 약 4분의 1 수준인데도 LiveCodeBench에서 66.5점을 기록해 교사의 66.0점을 앞섰고, GPQA Diamond에서도 67.4점으로 교사의 69.0점에 1.6점 차로 따라붙었어요. 남은 격차 중 가장 큰 곳은 극단적으로 긴 문맥을 다루는 AA-LCR인데, 압축으로 잃은 용량을 되살리기가 원래 가장 어려운 영역이라고 회사는 설명했어요.

QAT보다 7배 빨리, 그리고 흔들리지 않는다

손실 함수 자체의 효과만 따로 떼어보기 위해 GPT-OSS 9B 모델을 MXFP4로 양자화하면서 QAH와 QAT를 같은 조건에서 맞붙인 실험도 진행했어요. MMLU-Pro, LiveCodeBench, GPQA Diamond 평균 점수를 학습 스텝별로 추적한 결과예요.

구분	도달 스텝	점수	이후 추이
QAH	약 100스텝	54.9점(정점)	정점 대비 2점 안쪽 유지
QAT	약 700스텝	54.6점(정점)	1200스텝까지 19점 가까이 하락

두 방식의 최고 점수 자체는 54.9점과 54.6점으로 사실상 같아요. 차이는 거기까지 가는 속도와 그 이후예요. QAH는 QAT보다 7배 가까이 빠른 100스텝 만에 정점에 닿고 그 수준을 계속 유지하는 반면, QAT는 정점을 지나자마자 무너져 1200스텝에는 35점대까지 떨어져요. 실무적으로는 QAT 체크포인트를 배포하려면 성능이 꺾이기 전에 정확한 시점을 잡아 학습을 멈추는 별도 검증이 필요하지만, QAH는 학생이 교사 분포를 따라잡은 뒤에는 더 움직일 유인이 없어서 충분히 학습된 체크포인트를 그대로 서비스에 써도 안전하다는 게 멀티버스 컴퓨팅의 설명이에요.

메모리와 연산량은 얼마나 줄었나

정확도만 좋아진 게 아니라 애초에 압축을 하는 이유였던 효율성도 그대로 남아요. 4비트로 줄인 QAH 모델은 bfloat16으로 학습된 학생 모델보다 가중치 메모리를 약 4분의 1만 써요. 파라미터 수도 120B 교사의 절반이라 토큰당 연산량이 대략 절반으로 줄고요. bfloat16으로 서비스하는 다른 모델 계열에 이 방식을 적용하면 파라미터 감소와 정밀도 감소가 겹쳐 토큰당 연산량이 최대 8분의 1까지 줄어들 수 있다고 회사는 설명했어요.

모델을 가볍게 만들면서 성능을 지키려는 시도는 이번이 처음이 아니에요. Liquid AI, 온디바이스 벤치마크 Pipette 오픈소스 공개 기사에서도 비슷한 문제의식을 다뤘어요.

에디터의 시선

"양자화가 손실을 감수하는 세금이 아니라 모델을 한 번 더 가르칠 기회가 된다"는 이번 논문의 주장은 압축 파이프라인을 바라보는 시각 자체를 바꿔놔요. 지금까지 업계는 압축→양자화→회복이라는 3단계를 '원본보다 나쁠 수밖에 없는 손실을 최소화하는 과정'으로 여겼는데, QAH는 회복 단계를 원본 교사에게 다시 배우는 두 번째 학습 기회로 재정의했어요. 이 발상이 다른 모델 계열에서도 통한다면, 앞으로 압축 모델의 벤치마크 표에서 원본을 앞서는 결과가 예외가 아니라 흔한 일이 될 수 있어요.

작은 오픈웨이트 모델을 실무에 붙여본 경험이 있다면 이 결과가 왜 눈에 띄는지 감이 올 거예요. 예전에는 파라미터를 절반으로 줄이고 4비트로 낮추면 장문맥 처리나 수학 문제에서 티가 나게 흔들렸어요. 그런데 이번 QAH 모델은 오히려 그 두 영역, AA-LCR과 AIME 2025에서 가장 큰 폭으로 개선됐죠. 압축이 가장 크게 갉아먹는 영역을 정확히 겨냥해 회복시킨 셈이에요.

국내에서 자체 sLLM을 굴리거나 온프레미스로 모델을 서빙하는 팀이라면 이 결과를 가격표로 읽어야 해요. 같은 성능을 내는 데 필요한 GPU 메모리가 4분의 1로 줄고 토큰당 연산량이 절반 이하로 떨어진다는 건, 추론 서버 대수를 그만큼 줄이거나 같은 예산으로 더 큰 트래픽을 받을 수 있다는 뜻이거든요. 다만 QAH는 압축 이전 원본 모델의 로짓을 미리 계산해 교사로 써야 하므로, 원본 모델에 접근 권한이 없는 팀이 곧바로 따라 하기는 어려워요. 오픈웨이트 모델을 다루는 팀부터 먼저 시도해볼 만한 방법이에요.

QAT가 표준으로 자리 잡은 지 오래인 만큼, 다음 몇 달 안에 다른 오픈웨이트 모델 계열에서도 QAH 방식을 적용한 재현 실험이 나올 가능성이 높아요. 그 결과가 이번 GPT-OSS 실험과 비슷하게 나온다면, '양자화하면 성능이 떨어진다'는 전제 자체가 업계 표준 문서에서 빠지는 시점이 머지않았어요.