Perplexity 发布搜索 API 预设 Fast Search

摘要

Perplexity 发布面向智能体的搜索 API 预设 Fast Search，单次搜索中位延迟 160 毫秒，第 95 百分位延迟 230 毫秒。
Nous Research 将 Hermes Agent 的默认搜索改为 Fast Search，并在 Nous Portal 所有套餐中免费提供。
底层引擎 Photon 是用 Rust 重写的检索与排序引擎，把第 99 百分位响应时间从约 800 毫秒降到 65 毫秒。

Photon: Building a Retrieval and Ranking Engine From Scratch

Perplexity 推出了专为 AI 智能体设计的搜索 API 预设 Fast Search。单次搜索调用的中位耗时为 160 毫秒，第 95 百分位为 230 毫秒，也就是 95% 的调用在这个时间内完成。同一天，Nous Research 把其开源智能体 Hermes Agent 的默认搜索换成了 Fast Search，并在 Nous Portal 所有套餐中免费开放。Nous Research 在 X 上写道"Hermes Agent 的网页搜索现在又快又免费"，这条帖子不到一天浏览量就超过 15 万次。

Fast Search 的背后是 Perplexity 从零打造的搜索引擎 Photon。根据 Perplexity API 论坛的公告，Photon 是一套基于 Rust 的检索与排序服务，由一支小型工程师团队与数百个智能体共同构建。工程博客对此的描述是，一支小型工程团队与一群持续运行的编程智能体并肩工作。公告称，它能在 230 毫秒以内返回 95% 的搜索结果。

对智能体搜索来说，速度之所以重要，在于调用次数。人一个问题只搜一两次，研究型智能体为完成一项任务却可能连续调用几十次搜索。每次慢上几百毫秒，延迟就会在整个任务中层层累积。在 Perplexity 公布的自测图表中，Fast Search 160 毫秒的中位延迟领先于竞争对手各自公布的数字：Exa Instant 178 毫秒、Parallel Turbo 200 毫秒、Exa Fast 423 毫秒、Parallel Fast 700 毫秒。不过公司在图注中说明，各家的百分位口径和测量环境不同，并非同条件对比。

成本方面的数字更大。Perplexity 从 WideSearch、BrowseComp、DSQA、FRAMES、SEAL-0、SEAL-Hard 六个智能体基准中选取 3,554 项任务测试 Fast Search。按任务数加权的得分几乎相同，Fast Search 为 64.3%，默认预设为 64.0%，而模型与搜索合计的估算总成本，Fast Search 低约 68%。公司表示，在所测试的配置中它得分最高、成本最低。

검색 API 한 번 호출에 걸리는 시간 비교 도표. Fast Search 중앙값 160밀리초·95번째 백분위 230밀리초와 경쟁 API들의 자체 공개 수치

速度来自整体更换引擎。Perplexity 原本在自家分支上改造并使用一款开源搜索引擎。博客称，随着索引和负载增长，在成本、尾部延迟和节点恢复时间上都碰到了瓶颈。旧系统第 99 百分位响应时间约为 800 毫秒，合并磁盘索引期间还会在 10 到 15 分钟内飙升到约 1.2 秒。部署新集群并同步数据有时要花一周以上。

에이전트 벤치마크 6종 3,554개 과제에서 점수와 추정 총비용을 비교한 도표. Fast Search 64.3%로 가장 높고 비용은 가장 낮음

迁移到 Photon 后，生产环境的第 99 百分位响应时间降到约 65 毫秒。服务机器比旧系统少用约 20%，每篇文档存储的数据却增加到约 2.5 倍。公司估算，若要把同样的数据全部锁定在内存中，需要比现在多约 4.6 倍的内存。重建整个网页索引只需个位数小时，在对时效性要求高的搜索领域，文档几分钟内就能进入索引。

设计的核心是只读取需要的部分。每个词都对应一份包含它的文档列表，存储格式随列表长度和密度而变化。排序时，每篇文档只打开一条名为 docblob 的压缩记录，并且只解码与查询词匹配的部分。需要从磁盘读取的记录通过 Linux 的 io_uring 批量请求，使等待时间相互重叠。索引构建与查询服务分在不同机器上运行，构建新索引时不再与实时查询争抢 CPU。

上线是分阶段推进的。在回放搜索日志的负载测试和离线质量评估之后，Perplexity 把真实查询同时发给两套引擎，以影子流量对比结果。随后先为小部分用户开启 Photon，再逐步扩大范围，如今它已处理全部生产流量。公司称，第一个版本在验收测试中没有出现质量退化。

Fast Search 在排序上比默认预设使用更少算力。因此在覆盖长尾查询、广泛覆盖和结果多样性的内部评估中，相关度得分从 2.45 降到 2.21，低 0.24 分，可获得答案的比例低约 3 个百分点。Perplexity 表示："模型自身的推理和知识能够弥补这一差距，我们认为这对智能体工作流是合理的取舍。"同时称"对于不那么紧急、更困难或更模糊的问题，默认预设能提供更稳健的质量"，只建议在日常智能体任务中使用 Fast Search。

METAL 核实的 Perplexity 开发者账号公告写明，Fast Search 已成为 Nous Portal 订阅用户 Hermes Agent 的默认搜索。METAL 此前曾报道 Nous Research 发布 Hermes 插件目录以及推出 Hermes 商业版与企业版套餐。在这款开源智能体向企业级产品扩张的过程中，这一次它用外部基础设施补上了搜索这项基本功。

智能体时代的搜索竞争，正从谁找得更多转向谁找得更快更省。Perplexity 表示，继 CobbleDB 和搜索 API 之后，它正把包括 Photon 在内的搜索基础设施逐步迁移到自研的 Rust 技术栈上。这次发布值得关注的不只是数字，而是产生这些数字的方式：少数工程师与数百个智能体一起从零重写了核心引擎，而这个引擎如今又在支撑另一家公司的智能体。