이미지: X — 인프라·칩
摘要
- Together AI表示已与IBM、NVIDIA联手，在IBM Cloud上构建企业级AI推理基础设施。
- 该方案将专用NVIDIA B300集群与Spectrum-X网络相结合，据称是IBM Cloud上首次采用这种配置。
- Together AI上月完成8亿美元C轮融资后，接连宣布多项合作，正加快在推理基础设施市场的扩张步伐。
- 파트너사
- Together AI, IBM, NVIDIA
- GPU 클러스터
- NVIDIA B300 전용 클러스터
- 네트워킹
- NVIDIA Spectrum-X
- 구축 대상
- IBM Cloud
- 특징
- IBM Cloud 내 이런 구성으로는 처음이라고 발표
- 발표일
- 2026년 8월 11일
- 직전 투자
- 2026년 7월 1일 시리즈 C 8억 달러 유치
B300集群首次进驻IBM Cloud
Together AI宣布将与IBM、NVIDIA共同在IBM Cloud上构建新的AI推理基础设施。核心是由NVIDIA最新一代GPU B300组成的专用集群。此外还结合了NVIDIA的高速网络技术Spectrum-X，Together AI表示这一组合在IBM Cloud上尚属首次尝试。Together AI将其称为"企业级AI推理"。
三家公司各司其职
分工十分明确：NVIDIA提供硬件（B300 GPU与Spectrum-X网络），IBM将其接入自有云平台并向企业客户销售，Together AI则负责在此之上运行模型的推理软件层。据悉，Together AI将在这套集群上运营其自称"生产就绪的推理平台"的服务。
这种三方结构意味着，云服务商不再只是出租GPU，而是将实际服务模型所需的软件也打包出售。对企业客户而言，这意味着无需分别签约获取GPU资源和推理优化服务，一次性即可解决问题。
Together AI为何近期接连推出合作
Together AI于7月1日宣布完成8亿美元C轮融资，并将其定位为加速向开源AI转型的举措。同期还一并公布了与Y Combinator的专属GPU集群合作、B200按需服务，以及对MiniMax-M3的推理支持。其提供的GPU产品线也十分广泛，涵盖GB300、GB200、B200、H200、H100。
此后动作也很密集。8月6日，编程智能体工具Roomote宣布将Together AI作为其推理服务提供商；与本次IBM、NVIDIA合作同一天的8月11日，Together AI又推出了可检索匹配600余种语音的TTS模型工具"voice finder"。次日8月12日，公司又开始支持DeepSeek V4 Flash 0731模型的微调。融资、大型云合作、开发者工具、新模型支持在一个月内接连落地。
| 日期 | 发布内容 |
|---|---|
| 2026-07-01 | 完成8亿美元C轮融资，YC专属集群，B200按需服务 |
| 2026-08-06 | Roomote将其作为推理服务提供商 |
| 2026-08-11 | 发布voice finder（可检索600余种语音） |
| 2026-08-11 | 与IBM、NVIDIA达成IBM Cloud合作，部署B300集群 |
| 2026-08-12 | 开始支持DeepSeek V4 Flash 0731模型微调 |
B300与Spectrum-X是什么
B300是NVIDIA最新一代数据中心GPU，用于运行大语言模型的推理任务。Spectrum-X是NVIDIA打造的基于以太网的网络平台，作用是将多台GPU连接成统一集群，减少数据传输过程中产生的瓶颈。业界普遍认为，推理速度往往并不会随GPU数量线性增长，而是常常受限于此类瓶颈，将两者结合使用可以减少这种损耗。
由此带来的变化
对企业客户而言，已经在使用IBM Cloud的组织，如今无需另行签约GPU云服务，就能直接接入Together AI的推理技术栈。在推理基础设施市场竞争的核心正转向"谁能更快、更稳定地服务开源模型"的背景下，Together AI在完成融资后紧接着与大型云服务商结盟，扩张势头明显。而像IBM这样拥有庄庆企业客户基础的云服务商加入此类合作，也被视为一个信号：开放权重模型的采用已不再局限于初创企业，正在向保守的大型企业市场扩散。
