데카르트 최적화 스택

데카르트 최적화 스택(DOS)은 이스라엘 스타트업 데카르트가 만든 소프트웨어로, AI 모델이 사용자 질문에 답을 계산해 내는 과정을 같은 하드웨어에서 훨씬 빠르고 싸게 처리하도록 손보는 층이다. 눈에 보이는 앱이나 서비스가 아니라, 그 아래 깔려 성능을 짜내는 부품에 가깝다.

비유하자면 자동차 엔진을 새로 사는 대신 튜닝해서 같은 기름으로 두 배 멀리 달리게 만드는 것과 비슷하다. 칩을 더 사는 대신, 이미 있는 칩의 계산 능력을 낭비 없이 끝까지 쥐어짜는 방식이다. 데카르트는 이 방식으로 업계 평균보다 훨씬 빠른 응답 속도와 훨씬 높은 칩 활용률을 냈다고 밝히고 있다.

중요한 특징은 특정 회사 칩에 묶이지 않는다는 점이다. 엔비디아 칩뿐 아니라 구글, 아마존, AMD의 칩에서도 같은 방식으로 작동하도록 만들어졌다고 회사는 설명한다.

기사에서는 "앤스로픽이 60억 달러에 사려는 것은 데카르트가 만든 영상이 아니라 DOS다"라는 식으로 쓰인다. 오해하기 쉬운 지점은, 데카르트가 원래 영상 생성 AI로 알려진 회사라 인수 목적도 영상 기술로 짐작하기 쉽다는 것이다. 하지만 보도에 따르면 앤스로픽이 노리는 것은 그 영상을 값싸게 만들 수 있게 해 준 밑단 최적화 기술, 즉 DOS 쪽이다.