이미지: METAL LAB 생성
요약
- Together AI가 인도 건설·엔지니어링 기업 라센앤투브로(Larsen & Toubro)와 함께 NVIDIA B300 GPU 1만 장 규모의 클러스터를 구축한다고 밝혔다
- 이 클러스터는 인도 내 최대 규모 AI 팩토리로 소개됐으며, 오픈소스 모델의 추론·파인튜닝·대규모 훈련을 지원하는 목적으로 알려졌다
- Together AI는 최근 IBM·NVIDIA와의 B300 클러스터 구축, 8억 달러 규모 시리즈 C 유치 등 인프라 확장을 잇따라 발표해온 흐름 위에 있다
- 발표 계정
- Together AI (X 공식 계정, 2026-08-13)
- 파트너사
- Larsen & Toubro (인도 건설·엔지니어링 기업)
- GPU 규모
- NVIDIA B300 1만 장
- 지역 규모 표현
- 인도 최대(India's largest) AI 팩토리로 소개
- 용도
- 오픈소스 모델 추론·파인튜닝·대규모 훈련 지원
- 최근 관련 발표
- Together AI-IBM-NVIDIA, IBM Cloud B300 전용 클러스터 구축 (2026-08-12)
- 최근 투자 유치
- Together AI, 8억 달러 규모 시리즈 C 유치 (지난달)
GPU 1만 장, 인도 최대 규모로 소개
Together AI가 인도 건설·엔지니어링 기업 라센앤투브로(Larsen & Toubro)와 함께 NVIDIA B300 GPU 1만 장 규모의 클러스터를 구축한다고 밝혔다. Together AI는 이를 "인도 최대 AI 팩토리"로 소개하며, 오픈소스 모델의 추론·파인튜닝·대규모 훈련을 지원하는 인프라로 쓰일 것이라고 설명했다.
B300은 NVIDIA의 최신 세대 데이터센터 GPU다. GPU 1만 장은 대형 언어모델을 처음부터 학습시키거나 여러 기업의 추론 요청을 동시에 처리할 수 있는 규모로, 개별 스타트업이 감당하기 어려운 투자 단위다. 이런 클러스터를 흔히 'AI 팩토리'라고 부르는데, 전력·냉각·네트워킹까지 통째로 설계된 대형 컴퓨팅 시설을 뜻한다.
Together AI의 잇따른 인프라 확장
이번 발표는 Together AI가 최근 한 달 새 이어온 인프라 확장의 연장선에 있다. 지난 8월 12일 Together AI는 IBM, NVIDIA와 손잡고 IBM Cloud에 B300 전용 클러스터와 Spectrum-X 네트워킹을 결합한 구성을 구축한다고 밝혔다. IBM Cloud에서는 처음 시도되는 형태로 알려졌다. 여기에 앞서 Together AI는 지난달 8억 달러 규모 시리즈 C 투자를 유치한 바 있다.
짧은 기간에 미국(IBM Cloud)과 인도(라센앤투브로) 양쪽에서 대형 클러스터 구축을 잇달아 발표한 셈이다. 오픈소스 모델을 호스팅하고 추론 서비스를 제공하는 Together AI 입장에서는 지역별 데이터센터 확보가 곧 서비스 지연 시간 단축과 고객 확보로 이어진다.
다른 지역의 AI 팩토리들과 비교하면
비슷한 시기 여러 지역에서 대형 GPU 클러스터 구축 소식이 이어지고 있다. 지난 8월 8일에는 AI 클라우드 기업 Firebird가 아르메니아 흐라즈단에 CIS(독립국가연합) 지역 최대 규모 AI 팩토리를 가동했다고 NVIDIA가 밝혔다. Firebird는 2027년 말까지 NVIDIA Rubin·Blackwell GPU 7만 장 이상, 300메가와트 규모 인프라 구축을 계획하고 있다.
| 프로젝트 | 파트너 | 위치 | GPU 규모 |
|---|---|---|---|
| Firebird AI 팩토리 | Firebird | 아르메니아 흐라즈단 | Rubin·Blackwell 7만 장+ (2027 목표) |
| Together AI-IBM 클러스터 | Together AI, IBM, NVIDIA | IBM Cloud | B300 전용 클러스터 |
| Together AI-L&T 클러스터 | Together AI, Larsen & Toubro | 인도 | B300 1만 장 |
각 지역이 내세우는 것은 '자국 또는 자사 클라우드 안에서 가장 큰 규모'라는 점이다. 인도, 아르메니아, 미국 IBM Cloud로 무대는 다르지만 공통적으로 오픈소스 모델의 추론·훈련을 자국·자사 인프라에서 처리하겠다는 목적을 내세우고 있다.
그래서 무엇이 달라지나
인도에 오픈소스 모델을 위한 대형 컴퓨팅 인프라가 생긴다는 것은, 인도 내 스타트업과 기업들이 해외 클라우드를 거치지 않고도 대규모 파인튜닝이나 추론 서비스를 이용할 수 있는 선택지가 늘어난다는 뜻이다. Together AI로서는 미국·인도 양쪽에 대형 클러스터를 두면서 오픈소스 모델 호스팅 시장에서의 처리 용량과 지역 대응력을 동시에 넓히는 셈이다. GPU 대수나 가동 시점 등 구체적인 운영 일정은 아직 추가로 확인되지 않았다.
