이미지: X — 벤치마크·평가 화면 갈무리
摘要
- Epoch AI分析2023至2025年各季度实际AI芯片采购数据发现,每美元算力性能年均提升49%,即每21个月翻一番
- 提升速度并不均匀。2023年几乎停滞,B200开始铺货的2024年提升44%,支出转向新一代芯片的2025年猛增80%
- 谷歌TPU v6e相比H100的性能/美元比约高出6倍,原因被指是自研自产结构成本更低,而非英伟达式的高利润率
- 연평균 성능/달러 개선율
- 49%(90% 신뢰구간 36~66%), 21개월마다 두 배
- 연도별 개선폭
- 2023년 거의 정체 → 2024년 +44% → 2025년 +80%
- GB300 vs P100(2016, 2025년 달러 기준)
- 가격 약 5.5배, 성능 약 200배, 비용효율 약 37배
- TPU v6e 성능/달러
- H100 대비 약 6배(그래프상 약 4.5~5x 구간)
- 분석 방식
- 2023~2025년 분기별 실제 구매 칩 기준, 버블 크기가 해당 분기 지출액
- 출처·발행
- Epoch AI, 2026년 8월 13일
1美元买到的算力,每21个月翻一番
投入AI基础设施的资金逐年增加,但同样1美元能买到的算力也在同步增长。AI研究机构Epoch AI分析了2023年至2025年间按季度实际采购的AI芯片数据,发现每美元性能年均改善49%。这一速度相当于每21个月翻一番。据悉,该数据并非基于某款芯片的规格表,而是以该期间实际销售和部署的芯片为基础、按支出加权平均得出的数字。置信区间为年增长36%至66%,虽区间较宽,但方向性十分明确。
不是平滑曲线,而是阶梯式跃升
值得注意的是,这一改善过程并非平滑推进。2023年,大部分支出集中在英伟达H100这一款芯片上,导致每美元性能几乎停滞不前。进入2024年,随着B200开始出货,这一指标提升了44%;到2025年,大部分支出转向最新一代芯片,涨幅达到80%。每当新一代芯片问世,价格都会上涨,但性能提升幅度远超价格涨幅,结果反而带来了性价比的改善。
英伟达的GB300就是典型案例。以2025年美元计算,GB300的价格约为2016年发布的P100的5.5倍,但性能约为其200倍,由此推算成本效率提升了约37倍。9年间价格上涨了5倍多,但性能却提升了200倍,可以说这不仅仅是"更贵的芯片",而是"性价比大幅提升的芯片"。
各芯片每美元性能:以H100为基准
Epoch AI公布的图表显示,不同芯片世代之间差距明显。下表以H100 2025年的价格为1倍(1x)基准,列出各芯片大致的每美元性能区间。
| 芯片 | 出现时期 | 每美元性能(H100=1x) |
|---|---|---|
| H20 | 2024年第1季度~2025年第3季度 | 0.3倍 |
| A100 | 2023年第1~3季度 | 0.55~0.6倍 |
| H100/H200 | 2023年第1季度~2025年第3季度 | 0.75~0.95倍 |
| GB200 | 2025年第1~3季度 | 1.6~1.7倍 |
| GB300 | 2025年第3季度~ | 2~2.2倍 |
| Trainium2 | 2024年第3季度~2025年第3季度 | 3.7~4倍 |
| TPU v6e | 2024年第3季度~2025年第3季度 | 4.5~5倍 |
如表所示,Epoch AI估计,谷歌自研芯片TPU v6e相比英伟达H100的每美元性能高出约6倍。原因被指是谷歌绕开英伟达,直接签订设计与制造合同,从而压低了利润率。亚马逊的自研芯片Trainium2相比H100也展现出约4倍左右的性价比,这组数字也从侧面印证了各大云计算巨头纷纷投入自研芯片研发的原因。
为何这一数据成为基础设施竞争的背景
此前于7月31日已确认,谷歌近期为Anthropic提供了150亿美元规模的金融担保,同时以德州数据中心20%股权及自研TPU供应体系作为配套。这类交易背后,归根结底是"用同样的钱能获得多少算力"的考量。在每美元性能逐年大幅提升的阶段,与其将旧款芯片绑定在长期合约中,不如迅速转向新一代芯片更为有利。AI企业频繁短周期重新谈判数据中心合约,或纷纷投入自研芯片设计,其背景也与这一趋势密切相关。
由此可以得出什么结论
这份分析表明,AI基础设施投资并非"无底洞式的资金投入"。支出持续增加,但同样支出所能买到的算力增长得更快。不过,这种改善集中出现在特定芯片世代问世的时间点上,这对云计算企业和AI公司都具有重要启示——一旦错过新一代芯片导入的时机,就意味着要以远高于竞争对手的价格购买同等算力。像谷歌这样自研芯片的一方与依赖英伟达芯片的一方之间的成本差距,通过这次数据以具体数字的形式呈现出来,为今后观察数据中心合约与芯片采购策略增添了一个可供参考的基准点。
