미스트랄 3 3B

미스트랄 3 3B는 프랑스 AI 기업 미스트랄(Mistral AI)이 만든 몸집이 작은 AI 모델이다. 흔히 '거대 AI 모델'이라고 하면 슈퍼컴퓨터급 장비가 필요할 것 같지만, 이 모델은 이름처럼 규모(3B, 약 30억 개의 계산 단위)를 크게 줄여 노트북이나 소형 서버에서도 돌아갈 수 있게 설계됐다. 덩치 큰 트럭 대신 배달용 오토바이를 만든 셈이다.

작다고 할 줄 아는 일이 적은 건 아니다. 이 모델은 문서를 읽고 이해하거나(DocVQA), 차트를 해석하거나(ChartQA), 이미지 속 특정 물체를 짚어내는(RefCOCO) 등 이미지와 텍스트를 함께 다루는 시험에서 점수를 낸다. 실제로 코히어(Cohere)가 자사의 초소형 모델 노스 마이크로 비전을 공개하며 비교 대상으로 삼은 것도 이 모델이었다.

비교 결과 미스트랄 3 3B는 문서 이해나 차트 해석에서는 준수한 점수를 냈지만, 이미지 속 물체를 정확히 짚어내는 능력에서는 상대적으로 약한 모습을 보였다. 소형 모델끼리도 잘하는 영역이 갈린다는 점을 보여주는 사례다.

기사는 코히어의 노스 마이크로 비전을 소개하며 "North Micro Vision을 Ministral 3 3B, LFM2.5-VL-1.6B, Phi-3.5-vision-instruct... 와 나란히 놓고 점수를 비교했다"고 전한다. 여기서 미스트랄 3 3B는 새로 나온 모델이 아니라 경쟁 소형 모델을 가늠하는 기준점으로 등장한다. '3B'라는 숫자만 보고 성능이 무조건 낮을 거라 오해하기 쉬운데, 벤치마크 표를 보면 문서·차트 이해에서는 자신보다 큰 모델과 견줄 만한 점수를 냈다.

미스트랄 3 3B처럼 가벼운 모델의 특징을 체감하려면, 다음과 같은 프롬프트를 텍스트 기반 AI 모델에 입력해보자.

"이 문서 이미지에서 표의 제목과 첫 번째 항목만 요약해줘."

대형 모델과 답변 속도, 응답의 세밀함을 비교해보면 소형 모델이 어느 지점에서 강점과 한계를 보이는지 감이 잡힌다.