5년 된 폰에서 도는 모델 18개 나왔다

이미지: METAL

요약

Desert Ant Labs가 9월 8일 출범하면서 기기 안에서 도는 모델 18개를 공개했어요. 안정판 12개와 베타 6개를 Swift·Kotlin·JavaScript용 SDK 하나로 묶었어요.
받아쓰기 모델 Voz는 아이폰에서 10분 오디오를 2초에 처리하고, 30분 연속 기준 실시간의 319배로 Whisper large-v3-turbo의 50배를 크게 앞섰어요.
12MB짜리 Redact는 개인정보 88.8%를 잡아 2.3GB GLiNER-PII의 91.1%에는 못 미쳤어요. 회사는 자기 영상 앱에서 Claude Sonnet을 284MB Clips로 바꿨다고 밝혔어요.

출범: 2026년 9월 8일 · 유럽 기반 온디바이스 전문 랩 · 창업자 겸 대표 폴 뵈헌 · 영상 앱 Detail 팀이 모체
모델: 18개(안정 12·베타 6) — 오디오 Voz·Clear·Clips·Align·Ear·Uhm, 텍스트 Redact·Tongue·Gist·Title·Emo, 비전 Shapes 등
속도: Voz 30분 오디오 실시간 대비 319배(SpeechAnalyzer 78배·Whisper large-v3-turbo 50배) · Clear 9MB로 아이폰 16 Pro 302배·M5 맥북 프로 345배
정확도: Redact 12MB 88.8%(GLiNER-PII 2.3GB 91.1%·Rampart 14.7MB 61.4%·오픈AI 필터 3GB 60.2%) · Tongue 2MB 0.933(293MB 판별기 0.887)
근거: 엔비디아 연구진 추정 — 에이전트 시스템의 대형 모델 호출 40~70%를 소형 특화 모델로 대체 가능 · SDK당 월간 활성 기기 10만 대까지 사용자당 추론 무제한

유럽에 새로 생긴 AI 랩 Desert Ant Labs가 기기 안에서 도는 모델 18개를 한꺼번에 내놨어요. 9월 8일 올린 출범 글에서 회사는 안정판 12개와 베타 6개를 Swift와 Kotlin, JavaScript용 SDK 하나로 묶었다고 밝혔어요. 큰 모델 하나가 여러 일을 맡는 대신 과제 하나에 모델 하나를 붙이는 구성이에요.

회사가 내세운 기준은 크기가 아니라 응답 시간이에요. 창업자 겸 대표 폴 뵈헌은 "우리는 오디오와 비전, 텍스트를 위한 작고 특화된 모델을 만들고 있고, 각 모델은 밀리초 단위로 답합니다"라고 적었어요. 5년 된 폰에서도 돌아가고 영상 프레임마다 또는 자판을 누를 때마다 불러도 버틸 만큼 빨라야 한다는 게 설계 조건이에요. 호출 한 번의 비용이 사라지면 확인할 수 있는 것만 확인하는 대신 모든 메시지에 기능을 걸 수 있다는 게 회사의 주장이에요.

숫자는 과제별로 나뉘어 있어요. 받아쓰기 모델 Voz는 아이폰에서 10분짜리 오디오를 2초에 옮기고 낱말마다 시작과 끝 시각을 붙여요. 회사가 공개한 측정에서 30분 연속 오디오 기준 실시간 대비 배속은 Voz가 319배, 애플 SpeechAnalyzer가 78배, Whisper large-v3-turbo가 50배였어요. 아이폰 17 Pro에서는 298배가 나왔어요.

오디오를 다듬는 Clear는 9MB짜리예요. 5분 길이 노트북 녹음을 1초 만에 스튜디오 품질로 바꾼다고 회사는 설명했어요. 아이폰 16 Pro에서 실시간의 302배, M5 맥북 프로에서 345배로 측정됐어요. 같은 가중치가 아이폰에서는 뉴럴 엔진으로, 브라우저에서는 WebAssembly로 돌아가요.

개인정보를 가리는 Redact에서는 회사가 밀린 대목도 그대로 실렸어요. 12MB인 Redact는 문서에 든 개인정보의 88.8%를 잡아내는데, 2.3GB짜리 GLiNER-PII의 91.1%보다 낮아요. 대신 14.7MB의 Rampart는 61.4%, 3GB짜리 오픈AI 필터는 60.2%에 그쳤어요. 언어를 가려내는 Tongue은 2MB로 세 낱말만 보고 84개 언어를 구분해 0.933을 기록했고, 293MB짜리 판별기는 0.887이었어요.

회사는 자기 앱에서 먼저 갈아 끼웠어요. 5년 동안 만들어 온 영상 앱 Detail에서 오디오 개선은 Dolby를 Clear로, 받아쓰기는 5배 빠른 Voz로 바꿨어요. 10분 영상을 열두 개 클립으로 자르는 일은 284MB짜리 Clips가 5초에 처리하는데, 회사는 이 자리에서 Claude Sonnet을 대체했고 속도는 10배 빠르며 에너지는 470배 적게 쓰면서 품질은 같다고 밝혔어요. iOS 27과 함께 나올 Detail 6은 클라우드 API를 전부 걷어내고 기기 안에서만 돌아간다고 해요.

엔지니어 입장에서 이 발표의 핵심은 모델 크기가 아니라 호출을 어디로 보내느냐예요. 메탈이 확인한 출범 글은 엔비디아 연구진이 에이전트 시스템 세 종류를 뜯어 보고 대형 모델 호출의 40~70%를 작고 특화된 모델로 옮길 수 있다고 추정한 결과를 근거로 들어요. 하루에 십만 번씩 똑같이 도는 일, 그러니까 녹음 정리하기와 사진에 꼬리표 붙이기, 문장에서 날짜 뽑아내기, 서버에 닿기 전에 이름을 걸러 내기 같은 작업에는 프런티어 모델이 필요 없다는 이야기예요. 회사는 이 층을 늘 도는 일을 맡는 소뇌에 비유하고, 어떤 모델이 답할지 고르는 대뇌 층을 다음 순서로 두겠다고 했어요.

연산 자원이 이미 사람들 손에 있다는 계산도 붙였어요. 회사는 올해 데이터센터에 약 4,500억 달러가 쓰일 것으로 보면서도 "지구상의 모든 AI 데이터센터를 합친 것보다 사람들의 손안에 더 많은 연산 자원이 있습니다"라고 적었어요. 해마다 10억 대가 넘는 폰과 태블릿, 노트북이 점점 좋아지는 칩을 달고 나오기 때문이에요. 모델은 SDK마다 월간 활성 기기 10만 대까지 쓸 수 있고 사용자당 추론 횟수에는 제한을 두지 않았어요.

만드는 위치도 설계의 일부라고 회사는 적었어요. 유럽에서는 기기 안에서 도는 것이 기본값이고, 데이터가 고객의 손을 떠나지 않으면 기능이 남의 클라우드에 매이지 않으며, 올라간 적 없는 자료는 내놓으라고 요구할 수도 없다는 논리예요. 작은 모델을 기기에 올리려는 시도는 올여름부터 눈에 띄게 늘었어요. 메탈은 Liquid AI가 온디바이스 모델 평가 도구 Pipette을 오픈소스로 공개한 일을 보도한 바 있는데, 이번 발표가 그 흐름과 갈리는 지점은 평가 도구나 단일 모델이 아니라 과제별 모델 묶음과 상용 조건을 한꺼번에 내놓았다는 데 있어요.

정리하면 Desert Ant Labs는 과제 하나에 모델 하나를 붙인 18개짜리 묶음과 SDK 하나로 출발했고, 자기 앱에서 클라우드 호출을 걷어내는 방식으로 그 주장을 먼저 증명했어요. 공개된 수치는 속도와 크기에서 크게 앞서고 정확도에서는 큰 모델에 조금 못 미쳐요. 앞으로 볼 것은 두 가지예요. 활성 기기 10만 대 구간을 넘긴 앱에 어떤 조건이 붙는지, 그리고 회사가 예고한 대뇌 층, 그러니까 어떤 모델에 일을 넘길지 고르는 층이 실제로 나오는지예요.