이미지: Hacker News (200↑)
요약
- 세레브라스가 차세대 AI 추론 하드웨어 CS-4를 공개했다. GPU 시스템 대비 추론 속도가 최대 30배 빠르다고 밝혔다.
- 웨이퍼 간 통신 지연을 2마이크로초로 줄여 10조 매개변수 이상 모델에서도 초당 1,000토큰 이상 생성 속도를 유지한다.
- 전원·냉각·연산을 분리한 모듈형 구조로 배포 시간을 며칠에서 몇 시간으로 줄였다.
- 추론 속도
- GPU 시스템 대비 최대 30배
- 전력 효율
- CS-3 대비 와트당 처리량 최대 10배
- 웨이퍼 간 지연시간
- 2마이크로초
- 생성 속도
- 10조 매개변수 이상 모델에서 초당 1,000토큰 이상
- 전력 공급 거리
- 프로세서에서 0.5mm (기존 GPU 보드 약 50mm 대비 약 100배 근접)
- 배포 시간
- 며칠에서 몇 시간으로 단축
- 부품 수
- 웨이퍼 스케일 백팩 기준 50% 감소
무엇이 바뀌었나
세레브라스가 새 추론 하드웨어 CS-4를 공개했다. 회사가 밝힌 핵심 수치는 하나다. GPU 시스템과 비교했을 때 추론 속도가 최대 30배 빠르다는 것이다. 신형 프로세서 WSE-Turbo가 이 성능을 뒷받침하며, 웨이퍼 한 장 기준으로도 전작 대비 속도가 2배 올랐다.
세레브라스는 GPU 여러 장을 엮는 대신 AI 모델 전체를 하나의 거대한 실리콘 웨이퍼 위에 올리는 방식을 써왔다. 지난 8월 6일 Lovable·Cerebras, AI 응답 속도 인프라 파트너십 기사에서 다룬 것처럼, 이 웨이퍼 스케일 엔진은 칩과 칩 사이를 오가는 통신 비용 자체를 없애 지연시간을 줄이는 구조다. CS-4는 이 접근을 한 단계 더 밀어붙인 결과물이다.
10조 매개변수급 모델도 실시간으로
세레브라스에 따르면 CS-4는 웨이퍼와 웨이퍼 사이의 통신 지연을 2마이크로초까지 줄였다. 이 덕분에 매개변수가 10조 개를 넘는 초대형 모델에서도 초당 1,000토큰 이상을 생성하며 대화형 응답 속도를 유지한다고 회사는 설명했다. 같은 조건에서 전력당 처리량은 전작 CS-3 대비 최대 10배로 올랐다. 속도와 전력 효율을 동시에 높였다는 뜻이다.
넥서스 플랫폼과 웨이퍼 스케일 백팩
CS-4는 세레브라스가 새로 내놓은 '넥서스 플랫폼 아키텍처'의 첫 제품이다. 연산(Compute)·전원(Power)·입출력(I/O)을 별개 모듈로 나눈 구조가 특징이다. 이 가운데 '웨이퍼 스케일 백팩'은 웨이퍼 본체와 전원 변환, 직접 액체 냉각, 고속 I/O, 제어 전자장치를 하나의 3D 패키지에 압축한 조립체로, 부품 수를 기존 대비 50% 줄였다고 회사는 밝혔다.
전원 공급 거리도 크게 짧아졌다. 프로세서에서 전원까지의 거리가 0.5밀리미터로, 기존 GPU 보드의 약 50밀리미터보다 100배 가깝다. 이 구조 덕분에 보드 단에서 새는 전력 손실이 거의 사라지고, WSE-Turbo에 공급할 수 있는 전력량이 두 배로 늘어 더 높은 동작 주파수와 빠른 토큰 생성이 가능해졌다고 세레브라스는 설명했다. 새 I/O 서브시스템은 대역폭을 두 배로 늘리고 지연을 줄였으며, 별도 스위치 없이 랙 내부와 랙 간에 웨이퍼를 연결하는 '웨이퍼 I/O 모듈'도 이번에 함께 소개됐다.
CS-3 대비 무엇이 달라졌나
| 항목 | CS-3 | CS-4 |
|---|---|---|
| 웨이퍼당 성능 | 기준 | 최대 2배 향상 |
| 와트당 처리량 | 기준 | 최대 10배 향상 |
| 웨이퍼 간 지연시간 | 상대적으로 높음 | 2마이크로초 |
| 전원-프로세서 거리 | 기존 GPU 보드 수준 | 0.5mm |
| 배포 시간 | 상대적으로 김 | 며칠→몇 시간 |
세레브라스는 전원·냉각·네트워크 계층을 담은 '파워랙'을 연산 모듈이 도착하기 전에 먼저 설치하고 현장 인증을 마칠 수 있다고 설명했다. 이후 연산용 백팩을 랙에 꽂아 넣기만 하면 되는 구조여서, 배포 시간이 며칠 단위에서 몇 시간 단위로 줄었다는 것이다.
실제로 어디에 쓰이나
세레브라스의 웨이퍼 스케일 엔진은 이미 실제 서비스에 붙어 있다. 바이브코딩 스타트업 러버블은 지난달 세레브라스와 파트너십을 맺고 지연에 민감한 코딩 에이전트 워크로드부터 이 인프라로 옮기고 있다고 밝힌 바 있다. 같은 시기 러버블은 8개월 만에 기업가치를 133억달러로 두 배 키운 상태다. CS-4가 내세우는 초당 1,000토큰 이상의 생성 속도는 이런 실시간 코딩 에이전트나 대화형 서비스에서 응답 지연을 체감상 줄이는 방향으로 이어질 가능성이 크다. 다만 CS-4가 실제 클라우드 서비스에 언제 투입되는지, 구체적인 이용 조건이 무엇인지는 이번 발표에서 확인되지 않았다.
에디터의 시선
지금 AI 추론 인프라 경쟁은 두 갈래로 갈린다. 엔비디아처럼 범용 GPU를 대량으로 엮어 확장하는 쪽과, 세레브라스처럼 모델 전체를 하나의 초거대 웨이퍼에 올려 칩 간 통신 비용 자체를 없애는 쪽이다. CS-4가 강조하는 숫자들—2마이크로초 지연, 0.5mm 전원 거리—은 결국 후자의 논리를 극단까지 밀어붙인 결과다. 매개변수가 10조 개를 넘는 모델을 실시간으로 돌리는 시점이 오면, 칩과 칩 사이의 물리적 거리 자체가 병목이 된다는 걸 이 발표가 숫자로 보여준다.
이전 세대인 CS-3와 비교하면 이번 발표에서 눈에 띄는 건 속도 숫자보다 '조립 방식'이다. 웨이퍼·전원·냉각을 하나로 압축한 백팩 구조, 부품 수 50% 감소, 배포 시간 며칠에서 몇 시간으로 단축이라는 조합은 이 회사가 이제 칩 성능만이 아니라 데이터센터에 실제로 얼마나 빨리 꽂아 넣을 수 있느냐를 경쟁 축으로 삼고 있다는 뜻이다. 하이퍼스케일 인프라를 다뤄본 팀이라면 알겠지만, 실제 병목은 종종 칩 성능이 아니라 설치와 인증에 걸리는 시간이었다.
국내 기업 입장에서 이 발표가 당장 의미 있는 건 클라우드 서비스형으로 이 인프라를 빌려 쓸 수 있는 스타트업들이다. 러버블처럼 지연에 민감한 에이전트 서비스를 운영한다면, 자체 GPU 클러스터를 늘리는 대신 이런 특화 하드웨어를 임대하는 선택지가 이미 현실화돼 있다. 다만 초대형 모델을 자체 인프라에 직접 도입하는 건 여전히 대형 클라우드 사업자와 소수 하이퍼스케일러의 영역이다.
앞으로 몇 주 안에 나올 관전 포인트는 CS-4가 실제 클라우드 API 형태로 언제, 어떤 가격 조건으로 열리느냐다. 세레브라스가 이 속도 우위를 얼마나 빨리 상용 서비스로 옮기느냐에 따라, GPU 기반 추론 서비스와의 가격·속도 경쟁 구도가 다음 분기 안에 한 번 더 움직일 것으로 보인다.
