METAL for iPhone

AI 뉴스, 이제 앱에서 읽으세요.

METAL 앱을 다운로드하고 매일 새로운 AI 기사를 만나보세요.

App Store에서 다운로드

iPhone용 앱 · 무료 다운로드

iPhone의 App Store에서도 ‘메탈 AI 매거진’을 검색할 수 있습니다.

METAL

AI 용어사전G쓰다 보면 만나는 말

Groq 3 LPX

엔비디아 베라 루빈 시스템에 결합된 추론 가속기로, 토큰을 빠르게 뽑아내는 데 특화된 하드웨어다.

쉽게 말하면

Groq 3 LPX는 AI가 답을 한 글자, 한 단어씩 뽑아내는 과정만 전담해서 빠르게 처리하는 전용 하드웨어예요. 식당에 비유하면, 주방에서 재료를 손질하고 요리를 구상하는 일은 다른 담당(엔비디아의 대형 그래픽 처리 장치)이 맡고, 완성된 요리를 쉬지 않고 손님 테이블에 나르는 전담 서빙팀이 바로 이 장치라고 보면 돼요. AI 에이전트는 질문에 답하는 동안 계속 생각하고, 도구를 부르고, 다시 답을 이어 쓰는데, 이때 '다음 글자를 얼마나 빨리 내놓는가'가 사람이 체감하는 반응 속도를 좌우해요.

이 장치 여러 개를 죽 이어 붙이면 마치 하나의 거대한 서빙팀처럼 움직여요. 몇 개를 묶든 같은 질문에는 항상 같은 속도로 답을 내놓도록 설계돼 있어서, 속도가 들쭉날쭉하지 않고 예측 가능하다는 게 특징이에요.

기사에서 이렇게 나와요

기사에서는 "베라 루빈 NVL72 랙스케일 시스템에 Groq 3 LPX를 결합해 완전 양산 단계에 들어갔다"는 식으로 쓰여요. 여기서 오해하기 쉬운 부분은, 이 장치가 엔비디아의 그래픽 처리 장치를 대체한다는 게 아니라는 점이에요. 문맥을 이해하고 준비하는 일은 여전히 그래픽 처리 장치가 맡고, Groq 3 LPX는 그 뒤에 이어지는 '토큰을 계속 뽑아내는' 구간만 전담해서 속도를 끌어올리는 보완 장치예요.

함께 볼 용어

이 용어가 나온 기사

ㄱㄴㄷ 전체 찾아보기