每天早上一封邮件,把昨天的 AI 梳理好订阅邮件

METAL LAB

AI 용어사전쓰다 보면 만나는 말

링 3.0 타이니

Ling 3.0 Tiny

앤트그룹이 공개한 오픈웨이트 소형 모델로, 모르는 문제는 답하지 않아 환각률을 크게 낮췄다.

쉽게 말하면

링 3.0 타이니는 중국 앤트그룹(Ant Group)이 공개한 작은 크기의 오픈웨이트 인공지능 모델이다. 이 모델은 아는 척을 하지 않는다. 지식을 묻는 문제의 37%에만 답을 시도하고 나머지는 그냥 넘겼다. 그 결과 틀린 답을 내놓는 비율이 비교 대상 12개 모델 가운데 가장 낮았다. 시험을 볼 때 확신 없는 문항은 비워두는 학생과 비슷한 전략이다.

이 모델은 전체 저장 용량은 크지만 질문 하나를 처리할 때는 그중 일부만 켠다. 전체 규모는 79억 개 단위(7.9B)지만 실제로 작동해 답을 만드는 부분은 13억 개(1.3B)뿐이다. 큰 창고에 물건이 많아도 필요한 만큼만 꺼내 쓰는 셈이다. 이렇게 작동 부분이 작으면 메모리를 덜 먹어 노트북이나 GPU 한 대에서도 돌릴 여지가 생긴다.

다만 공짜는 아니다. 답을 내기 전에 스스로 따져보는 과정에 글자(토큰) 단위 계산을 많이 쓴다. 문제 하나당 평균 5만 1000개의 출력 토큰을 썼는데, 이는 비교 대상 모델 중 가장 많은 양이다. 정답률 자체는 9%로 목록 최하위지만, 애초에 목표가 '많이 맞히기'가 아니라 '틀리지 않기'였던 셈이다.

기사에서 이렇게 나와요

기사는 "낮은 시도율이 환각을 줄였다"는 아티피셜 애널리시스의 평가를 인용한다. 오해하기 쉬운 지점: 이 모델의 지수가 상위권이라는 게 정답을 많이 맞힌다는 뜻은 아니다. 실제 정답률은 9%로 비교 대상 중 최하위이며, 강점은 오답을 내지 않는 절제력에 있다.

직접 해보기

이런 프롬프트로 다른 언어 모델에도 같은 실험을 해볼 수 있다: "확실하지 않은 내용이면 추측하지 말고 '모른다'고 답해줘. 확실한 것만 답변해." 이렇게 지시했을 때 답변 개수가 얼마나 줄고, 그 대신 오답이 얼마나 줄어드는지 비교해보면 링 3.0 타이니가 택한 전략을 체감할 수 있다.

함께 볼 용어

이 용어가 나온 기사

ㄱㄴㄷ 전체 찾아보기