METAL for iPhone

AI 뉴스, 이제 앱에서 읽으세요.

METAL 앱을 다운로드하고 매일 새로운 AI 기사를 만나보세요.

App Store에서 다운로드

iPhone용 앱 · 무료 다운로드

iPhone의 App Store에서도 ‘메탈 AI 매거진’을 검색할 수 있습니다.

METAL

AI 용어사전D기사에 자주 나오는 기술 용어

DFlash 병렬 백본

DFlash parallel backbone

초안 모델이 여러 토큰 후보의 내부 상태를 한 번에 동시 계산하게 만든 신경망 구조로, 스펙큘러티브 디코딩 속도를 좌우한다.

쉽게 말하면

DFlash 병렬 백본은 AI가 다음에 나올 여러 단어(토큰) 후보를 한 번에 동시에 계산해내는 내부 구조다. 보통 작은 보조 모델도 단어를 하나씩 순서대로 만들려면 시간이 걸리는데, DFlash는 이 순서를 없애고 여러 후보를 한꺼번에 뽑아낸다. 여러 사람이 릴레이로 한 줄씩 이어 쓰는 대신, 한 사람이 초안 여러 줄을 동시에 스케치해 버리는 것과 비슷하다.

이 구조는 리퀴드AI(Liquid AI)가 만든 DSpark라는 보조 모델을 이루는 세 부품 중 하나다. 정답을 최종적으로 내는 큰 모델이 방금까지 만든 문장의 맥락 정보를 넘겨주면, DFlash는 그 다음에 올 법한 토큰 여러 개의 내부 상태를 병렬로 미리 뽑아낸다. 이렇게 준비해 둔 후보 묶음을 큰 모델이 한 번의 계산으로 검사해서 맞은 부분만큼 여러 토큰을 한꺼번에 확정하면, 전체 문장이 만들어지는 속도가 빨라진다.

DFlash 자체는 최종 답을 내놓는 모델이 아니라 속도를 위한 보조 장치일 뿐이다. 그래서 이 구조를 쓰든 안 쓰든 결과 문장은 똑같이 나오고, 오직 같은 답을 얼마나 빨리 뽑아내느냐만 달라진다.

기사에서 이렇게 나와요

기사에서는 "대상 모델의 문맥 특징을 조건으로 받아 초안 토큰 전체의 은닉 상태를 한 번에 뽑는 DFlash 계열 병렬 백본"이라는 식으로, DSpark 초안 모델을 구성하는 세 부품 중 하나로 등장한다. DFlash가 독립된 완성형 모델이라고 오해하기 쉽지만, 실제로는 초안 모델 내부의 하위 구조이며 단독으로 쓰이지 않는다.

함께 볼 용어

이 용어가 나온 기사

ㄱㄴㄷ 전체 찾아보기