프랑스어 특화 소형 AI 'Luth-2', 3배 큰 모델 제쳤다

20억 파라미터가 60억대 모델을 넘어섰다

개발팀 kurakurai가 프랑스어에 특화된 소형언어모델 Luth-2-0.8B와 Luth-2-2B를 공개했다. 파라미터 규모는 각각 8억, 20억으로 스마트폰이나 노트북에서도 굴릴 수 있는 몸집이다. 두 모델 모두 별도의 사고 과정을 거치지 않고 바로 답을 내놓는 'non-reasoning' 방식으로 만들어졌다.

공개된 벤치마크 점수를 보면 체급 차이가 눈에 띈다. Luth-2-2B는 지시 이행 능력을 측정하는 Multi-IF에서 69.67점을 받아, 3배가량 몸집이 큰 Gemma-4-E2B-it(65.17점)을 앞질렀다. 수학 추론 벤치마크 MGSM-Rev2에서는 Luth-2-0.8B가 72.92점으로 granite-4.0-h-micro(55.60점)를 큰 차이로 따돌렸다. Math-500에서도 Luth-2-2B가 81.52점을 기록해 Gemma-4-E2B-it(81.24점)과 근소한 차이로 우위를 보였다.

왜 프랑스어에서 이런 결과가 나왔나

소형언어모델(SLM)은 대형 모델의 성능을 최대한 유지하면서 몸집을 줄인 모델을 뜻한다. 스마트폰이나 개인 PC에서 인터넷 연결 없이 돌리는 온디바이스 AI의 핵심 재료다. 문제는 영어 이외 언어에서 성능이 뚝 떨어지는 경우가 많다는 점인데, 프랑스어처럼 학습 데이터가 비교적 풍부한 언어조차 예외가 아니었다는 게 팀의 설명이다.

Luth-2는 이 격차를 줄이기 위해 세 가지를 바꿨다. 먼저 수학, 지식, 코드, 도구 호출, 지시 따르기, 다중 턴 대화, 과학을 아우르는 30억 토큰 규모의 지도학습(SFT) 데이터를 새로 구성했다. 여기에 전문가별 특화 강화학습과 다중도메인 온폴리시 증류(MOPD) — 큰 모델의 최신 판단을 작은 모델에 실시간으로 옮겨 심는 학습법 — 를 더했다. 백본은 이전 세대의 기반 모델 대신 Qwen3.5로 교체했는데, 사후 학습(post-training)에 훨씬 잘 반응했다는 게 팀의 설명이다.

Qwen 계열을 뼈대 삼아 각국 언어나 특정 분야에 맞춘 파생 모델을 내놓는 흐름은 최근 몇 주 사이 두드러졌다. Qwen 조직이 지난 8월 초 30개 언어와 22개 중국 방언을 지원하는 경량 음성인식 모델 Qwen3-ASR-0.6B를 공개한 것도 같은 맥락이다.

큐원, 경량 음성인식 모델 Qwen3-ASR-0.6B 공개

큐원, 경량 음성인식 모델 Qwen3-ASR-0.6B 공개

그래서 뭐가 달라지나

Luth-2는 모델 가중치뿐 아니라 학습에 쓰인 SFT·RL 데이터셋과 학습 코드까지 함께 공개됐다. 프랑스어 성능만 따로 비교하는 리더보드도 마련돼 있어, 개발자가 직접 재현하거나 다른 언어로 같은 방법론을 옮겨볼 여지가 열렸다. 특히 8억 파라미터 모델이 5배 가까운 크기의 모델을 수학 벤치마크에서 앞선 결과는, 언어별 튜닝을 정교하게 하면 몸집을 키우지 않고도 격차를 좁힐 수 있다는 신호로 읽힌다.