소형 언어 모델

Small Language Model — 폰·노트북에서 돌아갈 만큼 작게 만든 언어 모델입니다. 수조 단위 파라미터의 대형 모델과 달리 수억~수십억 규모로, 온디바이스 AI의 심장입니다.

「작지만 특정 일은 충분히 잘한다」가 존재 이유입니다. 요약·번역·일정 정리 같은 일상 작업엔 굳이 프론티어 모델이 필요 없으니까요. 증류·양자화 기술이 발전하며 소형 모델의 실력이 빠르게 올라왔고, 「3B 모델이 작년 대형 모델급」이라는 유형의 기사가 반복되고 있습니다.