B300 集群

B300集群是把多台英伟达制造的图形处理器(GPU)捆绑在一起组成的计算基础设施。这就好比几个力气再大的工人,单独一个人也搬不动巨大的货物,但组成团队协作后就能完成更大的工作。训练AI模型或生成回答需要庞大的计算量,一两台GPU根本无法承受,所以企业会把多台GPU捆绑成集群来运行。

这类集群实际安装在数据中心内,企业可以自己搭建,也可以通过云服务公司租用。当某个基础设施被称为“B300集群”时,通常指的是基于英伟达某款特定GPU型号搭建的大规模部署案例。

在报道中,常出现类似“Together AI、IBM与英伟达合作,在IBM云上搭建B300集群”这样的语境,指多家公司合作在特定云平台上搭建这种GPU集群。这里常见的误解是把搭建集群的公司和制造其中芯片的公司混为一谈,但实际上,制造GPU的公司(英伟达)、负责在数据中心安装运营的公司,以及把它作为云服务提供给客户的公司,往往是各不相同的企业。