이미지: METAL LAB 생성
摘要
- OpenAI在Hot Chips大会上公开了首款自研推理芯片Jalapeño的首批基准测试结果。
- 在SemiAnalysis的InferenceX测试中,该芯片每瓦处理量最高达NVIDIA Blackwell系统的1.9倍。
- 这款与Broadcom联合打造的芯片将于2026年底开始小批量部署,2027年正式扩大规模。
- 발표 계기
- 미국 팔로알토 Hot Chips 콘퍼런스, 2026년 8월 25일(화)
- 칩 이름
- Jalapeño, 오픈AI 첫 자체 추론 전용 칩
- 개발 파트너
- 브로드컴과 공동 개발, 2024년 중반 설계 시작·2025년 11월 양산 착수
- 테스트 모델
- GPT-OSS 120B·DeepSeek R1 670B·Kimi K2.5 1T
- 핵심 성능
- 와트당 AI 작업량 1.5~1.9배, 종단 지연 1.7~3.6배 감소, 대화형 워크로드 2.1~4.1배
- GPT-OSS 처리량
- 85,448 tokens/sec/kW (기존 최고 44,960 대비 1.9배)
- 배포 일정
- 2026년 말 소량, 2027년 본격 확대 (오픈AI 하드웨어 총괄 리처드 호)
OpenAI公开了其自主研发的专用推理芯片Jalapeño的首份成绩单。这是在美国帕洛阿尔托举行的Hot Chips大会上披露的数据:用SemiAnalysis公开的基准测试工具InferenceX测得的结果显示,该芯片的每瓦处理量最高达现有最强系统的1.9倍。
这是今年6月就已曝光的那款芯片
Jalapeño这个名字其实早在今年6月就已经公开。这次公布的是此后实测测试的首批结果。OpenAI硬件负责人Richard Ho在媒体电话会议上解释说,这款芯片在单位功耗下能处理更多AI任务,响应速度也更快。不过需要指出的是,对比对象并非NVIDIA最新的Rubin,而是上一代的Blackwell系统。等到Jalapeño真正大规模部署的时候,竞争产品很可能也已经向前迈进了不少。
三款模型跑出的数字
SemiAnalysis公开的InferenceX基准测试分别用GPT-OSS 120B、DeepSeek R1 670B、Kimi K2.5 1T三款模型进行了测试。数据由OpenAI提供,部分运行过程由SemiAnalysis在现场进行了验证。
| 模型(参数量) | Jalapeño | 现有最强系统 | 倍率 |
|---|---|---|---|
| GPT-OSS · 120B | 85,448 | 44,960 | 1.9倍 |
| DeepSeek R1 · 670B | 19,641 | 11,781 | 1.7倍 |
| Kimi K2.5 · 1T | 18,195 | 11,862 | 1.5倍 |
单位是每秒混合token数除以千瓦。换算成实际使用体验,OpenAI的发布材料显示:以GPT-OSS为基准,单个用户每秒可获得约1,400个token;以DeepSeek R1为基准,单次并发请求每秒能输出超过700个token。值得注意的是,Jalapeño取得这些成绩时并未使用多token预测或推测解码等加速技术,而对比系统中部分已经在使用这类技术——这也意味着未来还有提升空间。
历时16个月推出的第一代芯片
Jalapeño是OpenAI与Broadcom合作打造的。设计工作从2024年年中启动,2025年11月最终设计定案投入量产线,从首个芯片设计定型到成品图纸送厂,总共花了9个月时间。OpenAI表示自家模型也直接参与了这一过程:旧一代模型协助了芯片设计,最新模型则协助了编程与优化工作。
SemiAnalysis首席执行官Dylan Patel在推文中评价称:"通常第一代芯片都没什么竞争力,但OpenAI这次连NVIDIA的Blackwell和Rubin都超越了。"SemiAnalysis认为,即便与内存规格相同的NVIDIA Vera Rubin相比,Jalapeño在每兆瓦输出token数上依然领先;不过若按总拥有成本(每token TCO)计算,两套系统几乎处于同一水平。
既是竞争对手,也仍是客户
Jalapeño并非专为OpenAI自家模型调优的芯片,而是一款通用大语言模型推理加速器。它无法用于训练,只能处理推理任务。OpenAI首席财务官Sarah Friar解释说,这款芯片是OpenAI公开的算力战略文件中的一环——该文件将数据中心、芯片、模型、开发者平台、产品和设备整合为一套系统。OpenAI方面表示,这并非要取代与NVIDIA、AMD、AWS、Cerebras、CoreWeave等既有伙伴的合作关系,而是作为补充。而实际上,NVIDIA、AMD、AWS本身也是OpenAI的投资方兼算力合作伙伴,这也让此次发布呈现出合作与竞争交织并存的局面。
目前仍处于工程样品阶段
NVIDIA和AMD已经公开了用DeepSeek V4 Pro、Kimi K3等更大规模模型跑出的结果,而Jalapeño目前尚未用这些模型进行测试。Rubin系统已经开始向客户出货,但据了解Jalapeño目前仍未脱离工程样品阶段。Richard Ho表示,计划今年年底开始小批量部署,2027年正式扩大规模。
编辑视角
OpenAI去年就宣布要自主研发芯片,但这是第一次拿出实测数据。而这些数据的对比基准并非竞争对手的最新一代产品,而是上一代产品,这一事实恰好帮我们准确衡量了这次发布的分量。第一代芯片能打赢商用系统本身固然意义不小,但真正的胜负关键,要看到2027年Jalapeño正式大规模部署时,NVIDIA的Rubin又推进到了哪一步。
这次发布中比基准数字更值得关注的,其实是开发过程本身。OpenAI表示用旧模型来设计芯片,再用新模型优化这一设计——如果属实,这意味着OpenAI正在不依赖外部工具链的情况下,用自家AI积累半导体设计所需的know-how。SemiAnalysis写下"NVIDIA的CUDA护城河可能已经失效"这句话,针对的正是这一点。未来芯片竞争的真正标准,或许就在于新芯片能多快地跑起新模型。
对国内企业来说,读这条新闻的方式很简单:眼下还没有办法租用Jalapeño。但如果推理成本占营收比重较大的服务型企业,应该把这条消息看作一个信号——从2027年起,拥有自研芯片的大型科技公司和依赖NVIDIA的其他企业之间,成本差距可能会开始拉开。现阶段比较现实的应对方式,是持续关注哪种云服务与模型组合能把单token成本控制得最好。
未来几个月内,很可能会出现第二轮基准测试,用DeepSeek V4 Pro或Kimi K3这类更大规模的模型,让Jalapeño与NVIDIA Rubin正面对决。那时的结果,才能真正验证这份第一代成绩单的意义所在。
评论