이미지: METAL LAB 생성
摘要
- Together AI宣布将与印度建筑工程企业Larsen & Toubro合作,搭建一套规模达1万块NVIDIA B300 GPU的集群
- 该集群被称为印度国内最大规模的AI工厂,据悉将用于支持开源模型的推理、微调及大规模训练
- Together AI近期已连续宣布与IBM、NVIDIA合建B300集群、完成8亿美元C轮融资等基础设施扩张举措,此次公告延续了这一趋势
- 발표 계정
- Together AI (X 공식 계정, 2026-08-13)
- 파트너사
- Larsen & Toubro (인도 건설·엔지니어링 기업)
- GPU 규모
- NVIDIA B300 1만 장
- 지역 규모 표현
- 인도 최대(India's largest) AI 팩토리로 소개
- 용도
- 오픈소스 모델 추론·파인튜닝·대규모 훈련 지원
- 최근 관련 발표
- Together AI-IBM-NVIDIA, IBM Cloud B300 전용 클러스터 구축 (2026-08-12)
- 최근 투자 유치
- Together AI, 8억 달러 규모 시리즈 C 유치 (지난달)
1万块GPU,号称印度规模最大
Together AI宣布将与印度建筑工程企业Larsen & Toubro合作,搭建一套规模达1万块NVIDIA B300 GPU的集群。Together AI将其称为“印度最大的AI工厂”,并表示该基础设施将用于支持开源模型的推理、微调及大规模训练。
B300是NVIDIA最新一代数据中心GPU。1万块GPU的规模,足以从零训练大型语言模型,或同时处理多家企业的推理请求,是单一初创公司难以承担的投资体量。这类集群通常被称为“AI工厂”,指的是从电力、散热到网络都一体化设计的大型计算设施。
Together AI持续扩张基础设施
此次公告延续了Together AI最近一个月来的基础设施扩张动作。8月12日,Together AI曾宣布与IBM、NVIDIA合作,在IBM Cloud上搭建结合B300专用集群与Spectrum-X网络的配置,据悉这是IBM Cloud首次尝试此类架构。在此之前,Together AI上个月还完成了一轮8亿美元规模的C轮融资。
也就是说,Together AI在短时间内接连宣布了在美国(IBM Cloud)和印度(Larsen & Toubro)两地建设大型集群的计划。对于以托管开源模型、提供推理服务为主业的Together AI而言,在各地区布局数据中心,直接关系到服务延迟的降低和客户的获取。
与其他地区AI工厂的比较
近期,多个地区相继传出建设大型GPU集群的消息。8月8日,NVIDIA宣布AI云服务商Firebird已在亚美尼亚拉兹丹(Hrazdan)启动了独联体(CIS)地区规模最大的AI工厂。Firebird计划到2027年底前部署超过7万块NVIDIA Rubin与Blackwell GPU,总功率规模达300兆瓦。
| 项目 | 合作方 | 地点 | GPU规模 |
|---|---|---|---|
| Firebird AI工厂 | Firebird | 亚美尼亚拉兹丹 | Rubin·Blackwell 7万块+(目标2027年) |
| Together AI-IBM集群 | Together AI、IBM、NVIDIA | IBM Cloud | B300专用集群 |
| Together AI-L&T集群 | Together AI、Larsen & Toubro | 印度 | B300 1万块 |
各地区都在强调“本国或本公司云内规模最大”这一点。虽然舞台分别是印度、亚美尼亚和美国的IBM Cloud,但共同点在于,都致力于在本国或本公司的基础设施上处理开源模型的推理与训练。
这意味着什么
印度出现面向开源模型的大型计算基础设施,意味着印度国内的初创企业和公司在进行大规模微调或使用推理服务时,多了一个不必依赖海外云服务的选项。对Together AI而言,在美国和印度同时拥有大型集群,相当于在开源模型托管市场上同步扩大了处理能力和区域响应能力。至于GPU数量或具体投运时间等运营细节,目前尚未获得进一步确认。
