이미지: X — 모델·오픈소스
요약
- 허깅페이스가 8월 14일 공개한 'State of Open Models, Summer 2026' 보고서에서 큐원이 로컬 추론 1위, 젬마가 2위로 확인됐다
- 보고서는 프런티어 모델이 대형화되는 와중에도 실제 현장에서는 소형 모델이 더 많이 쓰인다고 짚었다
- 이 결과는 큐원이 8월 초 Agentic Index 1위, 이어 27B 오픈웨이트를 공개한 흐름과 시점이 겹친다
- 보고서명
- Hugging Face 'State of Open Models, Summer 2026'
- 발행일
- 2026-08-14
- 로컬 추론 순위
- 1위 Qwen, 2위 Gemma
- 보고서 핵심 관찰
- 프런티어 모델은 대형화, 실사용은 소형 모델이 주도
- 부가 관찰
- AI 에이전트가 허브 내 비중을 키우는 중
- Qwen3.8-Max 벤치마크(8/6 발표)
- Artificial Analysis Agentic Index 1위, Intelligence Index 5위(56점)
- Qwen3.8-27B 공개
- 8월 14일 아파치 2.0 라이선스로 허깅페이스 공개
허깅페이스가 확인한 흐름: 로컬 추론은 큐원이 이끈다
허깅페이스가 8월 14일 공개한 'State of Open Models, Summer 2026' 보고서는 오픈소스 AI 생태계의 최근 흐름을 짚었다. 이 보고서는 프런티어 모델들이 계속 몸집을 키우는 와중에도, 실제 현장에서 쓰이는 건 여전히 작은 모델이라는 점을 지적했다. 그리고 로컬에서 돌아가는 추론(inference) 분야에서는 알리바바 큐원(Qwen)이 1위, 구글 젬마(Gemma)가 그 뒤를 이었다고 밝혔다.
로컬 추론은 클라우드 서버가 아니라 사용자의 PC나 자체 장비 안에서 모델을 직접 실행하는 방식을 뜻한다. 알리바바 큐원 팀은 이 결과를 자사 X 계정으로 알리며 "작은 모델이 현실 세계에 큰 영향을 준다"고 짧게 소감을 남겼다.
로컬 추론이 지표가 되는 이유
허깅페이스 허브는 전 세계 개발자들이 오픈소스 모델 가중치를 올리고 내려받는 장소다. 이곳에서 어떤 모델이 로컬로 가장 많이 받아지고 실제로 돌아가는지는 화려한 데모보다 정직한 실사용 지표에 가깝다. 로컬로 모델을 돌리면 데이터를 외부로 보내지 않아도 되고, 반복 호출 비용도 API 요금 대신 전기료 수준으로 낮아진다. 보고서는 이와 함께 AI 에이전트 — 답만 내놓는 게 아니라 검색이나 파일 생성 같은 작업을 대신 수행하는 AI — 가 허브에서 점점 더 큰 비중을 차지하고 있다고도 짚었다.
큐원의 최근 행보와 겹치는 시점
이번 결과는 큐원의 최근 발표 흐름과 시점이 겹친다. 알리바바 큐원은 지난 8월 6일 Qwen3.8-Max가 Artificial Analysis의 Intelligence Index에서 5위(56점), 같은 기관의 Agentic Index에서는 1위를 기록했다고 밝힌 바 있다. 이어 8월 14일에는 2.4조 파라미터급 대형 모델과 별개로, 로컬 환경에서 돌리기 수월한 27B(270억 파라미터) 규모의 Qwen3.8-27B 가중치를 아파치 2.0 라이선스로 허깅페이스에 공개했다. 허깅페이스의 로컬 추론 1위 발표가 같은 날 나오면서, 큐원이 대형 모델과 소형 모델 양쪽에서 동시에 존재감을 키우는 그림이 만들어졌다.
| 지표 | 1위 | 비고 |
|---|---|---|
| 허깅페이스 로컬 추론 (8/14) | Qwen | 2위 Gemma |
| Artificial Analysis Agentic Index (8/6) | Qwen3.8-Max | - |
| Artificial Analysis Intelligence Index (8/6) | Qwen3.8-Max | 5위, 56점 |
에디터의 시선
이 결과가 흥미로운 건 순위 자체보다 순위가 매겨진 방식이다. 벤치마크 점수는 얼마든지 조작적 정의로 흔들릴 수 있지만, 허깅페이스 허브에서 누가 실제로 다운로드되고 로컬에서 돌아가는지는 개발자들의 발로 찍은 투표에 가깝다. 큐원이 대형 모델 경쟁(Qwen3.8-Max의 Agentic Index 1위)과 소형 모델 경쟁(허깅페이스 로컬 추론 1위) 두 트랙에서 동시에 앞서 있다는 건, 알리바바가 '누가 더 똑똑한가' 경쟁과 '누가 더 많이 쓰이는가' 경쟁을 따로 관리하고 있다는 뜻으로 읽힌다.
오픈소스 LLM을 실무에 붙여본 사람이라면 이 흐름이 낯설지 않다. 몇 년 전만 해도 로컬 환경에서 쓸 만한 오픈 모델을 찾는 건 라마(Llama) 계열이 거의 유일한 선택지였는데, 최근 1~2년 사이 큐원과 젬마가 그 자리를 나눠 가지는 구도로 바뀌었다. 실제로 27B급 오픈 모델을 로컬에서 돌려보면 결론은 늘 비슷하다 — 최신 대형 모델만큼 똑똑하진 않아도, 반복적인 문서 요약이나 코드 리뷰 같은 정형화된 작업에서는 API 비용 없이 충분히 쓸 만하다는 것.
국내 기업이나 개발팀 입장에서 이건 실용적인 신호다. 모든 작업에 최고 성능 모델을 API로 호출할 필요는 없다. 반복 작업, 내부 문서 처리, 민감 정보가 섞인 업무라면 27B급 오픈 모델을 자체 서버에 올려두는 편이 비용과 보안 양쪽에서 더 나을 수 있다. 다만 이건 정형화된 작업에 한정된 이야기고, 복잡한 추론이나 창의적 판단이 필요한 일은 여전히 대형 모델 쪽으로 넘기는 게 맞다.
앞으로 몇 주 안에 허깅페이스 허브의 다운로드 순위표에 다른 오픈 모델 계열이 도전장을 내밀 가능성이 크다. 로컬 추론 경쟁은 이제 막 본격화된 트랙이고, 큐원과 젬마 뒤를 이을 세 번째 이름이 언제 등장할지가 다음 관전 포인트다.
