Etched估值一个月内涨至210亿美元,Jane Street领投

Etched出售的不是单颗芯片,而是完整的系统。公司将其称为"前沿推理集群(frontier inference cluster)"。这种整套系统出售的方式,与竞争对手NVIDIA将自家系统称为"AI工厂"的思路类似。不过,如果说NVIDIA是从游戏显卡起家、如今在整个AI芯片市场"卖铲子"的公司,那么Etched则是一家从一开始就专门为推理打造硬件的初创公司。

将预填充与解码拆分设计的芯片

推理指的是从用户输入提示词到系统给出答案之间的计算过程。据Etched联合创始人兼COO Robert Wachen介绍,这一过程分为预填充(prefill)和解码(decode)两个阶段。预填充阶段是理解提示词和上下文的计算密集型环节,解码阶段则是逐个token生成用户实际看到答案的内存密集型环节。

Etched为处理预填充阶段专门设计了低电压芯片。通过降低电压来集成更多晶体管,同时避开了高端AI芯片常见的发热问题,公司称这样能以更快速度处理更多token。针对解码阶段,公司则开发了新型内存形态及连接这些内存的专用互联技术。公司将其称为"集群级内存(cluster-scale memory)",即通过连接多颗芯片,让它们共享一个速度极快、几乎零延迟的内存池。公司表示,这一组合既提高了速度,又降低了成本。

Jane Street已开始实际运行机架

Jane Street在宣布投资的博客文章中表示:"我们测试了这款芯片,对初期结果感到满意。"该公司补充说,Etched的推理方式为其复杂的运算任务提供了所需的精度,目前已在自家数据中心部署自有机架并投入运行。

"把模型刻入芯片"的名称已名不副实

Etched这个名字源于公司创立初期"将特定模型刻入芯片"的构想,即每颗芯片都为某一款前沿模型量身定制,这也确实是公司最初的计划。但如今情况已不同。Etched的系统不再专为特定模型设计,而是可以运行任何前沿模型。公司目前仍不时面对因这一名称而产生的误解。

本轮融资除Jane Street外,还有Kleiner Perkins、红杉资本(Sequoia Capital)、Andreessen Horowitz、Peter Thiel、老虎环球基金(Tiger Global)、贝恩资本创投(Bain Capital Ventures)、NEA、Stripes、Primary、Positive Sum、Diffusion、Arg0、黑石(Blackstone)参与。

编辑视角

一个月内估值翻倍,靠的不是投资情绪,而是真实的使用案例。Jane Street作为一家量化交易公司,毫秒级的延迟都直接关系到盈亏。这样一家公司购买芯片并在自家数据中心投入运行机架,这一事实所代表的验证力度,远比任何基准测试数字都更有分量。在专用推理芯片这一赛道,Groq、Cerebras等公司多年来一直在押注同样的方向,但像这样有真实客户公开表示满意的案例并不多见。

观察推理芯片初创公司会发现一个反复出现的模式:起初以针对特定模型的极致优化硅片吸引关注,随后逐步扩展通用性,借此提升估值。Etched也走上了同样的路径。名字依然指向"刻入模型的芯片",但实际产品已经变成能运行任何前沿模型的通用系统。这一转型与估值上涨同时发生,并非巧合——比起绑定单一模型的硬件,能运行多种模型的硬件更容易获得更广泛的客户群体。

对国内企业而言,值得关注的是预填充与解码分离设计的思路。对于推理成本敏感的团队来说,区分提示词冗长复杂的工作负载(预填充瓶颈)与生成答案较长的工作负载(解码瓶颈)来选择基础设施,实际上会拉开成本差距。虽然目前会直接采用Etched硬件的国内企业不多,但按推理阶段拆分优化的思路本身,在选择云端GPU实例时也具有参考价值。

未来几周内,除Jane Street外,很可能会有其他大型客户的实际使用反馈陆续出现。鉴于估值上涨如此之快,如果还有下一轮融资,能否有真实营收和部署规模作为支撑将是关键。