工作日早上 7 点读 AI,周日早上 8 点读周报订阅邮件

METAL LAB

Perplexity 推出无需云端的 DGX Spark 本地智能体

从编排器到子智能体再到执行框架全部在本地运行的"便携式计算机",现已面向 Pro 和 Max 订阅用户开放。

이미지: @perplexity_ai (X) 영상 갈무리

摘要

  • Perplexity 于 8 月 25 日发布了完全在 NVIDIA DGX Spark 上运行的本地版"便携式计算机"。官方表示,编排器 LLM、子智能体 LLM 和智能体执行框架全部运行在用户自己的硬件上,不依赖云端。
  • 在 Local Knowledge Work Bench 测试中,Computer 执行框架搭配 PPLX 27B 的组合得分最高,达到 85.4%;而在使用同一款 Qwen 3.8 27B 模型的情况下,不同执行框架分别得出 82.6%、77.6%、74.0% 的成绩,差异明显。
  • 该功能面向 Perplexity Pro 和 Max 订阅用户开放,目前可选的运行模型有 PPLX 27B 和 Qwen 3.8 27B 两款,NVIDIA Nemotron 3.5 Lightning 也将很快加入。
原文视频
발표
퍼플렉시티, 2026-08-25
제품
Portable Computer — Perplexity Computer의 완전 로컬 버전
구동 하드웨어
NVIDIA DGX Spark
로컬 실행 범위
오케스트레이터 LLM · 서브에이전트 LLM · 에이전트 하네스 전체, 클라우드 의존 없음
이용 대상
Perplexity Pro · Max 구독자
실행 모델
PPLX 27B(퍼플렉시티가 후속 학습), Qwen 3.8 27B, Nemotron 3.5 Lightning(예정)
벤치마크 설계
Local Knowledge Work Bench, 53개 과제 · 과제당 3회 · 조건당 159 롤아웃, 95% 신뢰구간
최고 점수
Computer 하네스 + PPLX 27B 85.4%

一台桌面设备,85.4% 的成绩

53 项任务、每项任务重复三次,每种条件下共跑 159 次得出的分数是 85.4%。产出这个数字的不是数据中心,而是一台 NVIDIA DGX Spark。Perplexity 在 8 月 25 日通过官方账号发布公告,推出了面向 DGX Spark 的"便携式计算机(Portable Computer)"。

左侧是同一款 Qwen 3.8 27B 模型,经过中间的执行框架后连接到右侧的成功率。模型与执行框架之间用实线固定连接,但执行框架与成功率之间用虚线表示,显示出根据执行框架种类不同,结果会在 74% 到 85% 之间大幅波动。

便携式计算机是现有 Perplexity Computer 的完全本地化版本。据官方说明,负责分配任务并下达指令的编排器 LLM、实际执行任务的子智能体 LLM,以及将这两者与工具、文件连接起来的智能体执行框架,整个运行环境都在用户自己的硬件上运转。官方明确表示不依赖云端。

这里的"执行框架"一词可能有点陌生。它指的是一种外壳程序,让模型不只是给出答案,还能打开文件、执行命令、再读取结果。智能体能否真正完成工作,往往取决于这个外壳,和模型本身同样重要。

同一模型,不同执行框架

Perplexity 同时公布的 Local Knowledge Work Bench 测试结果正说明了这一点。四种组合全部在 DGX Spark 上运行,每根柱状图都标注了 95% 置信区间。

执行框架 + 模型得分
Computer + PPLX 27B85.4%85
Computer + Qwen 3.8 27B82.6%83
Pi + Qwen 3.8 27B77.6%78
Hermes + Qwen 3.8 27B74.0%74

下面三行使用的模型都是同一款 Qwen 3.8 27B。但只把执行框架换成 Perplexity 的 Computer,分数就从 74.0% 跳升到 82.6%,相差 8.6 个百分点。换执行框架带来的影响比换模型更大,不过这毕竟是自家评测自家执行框架的结果,读的时候要留有余地。

使用方式

所需条件 — 一台 DGX Spark,以及 Perplexity Pro 或 Max 订阅。据 TestingCatalog 的整理,目前只有这两档订阅用户可以使用便携式计算机。

使用流程 — 目前已确认的流程如下。

  1. 在 DGX Spark 上部署 Perplexity 的便携式计算机运行环境。编排器、子智能体、执行框架作为一整套打包进设备内部。
  2. 选择要运行的模型。目前可选的是 Perplexity 后训练调优的 PPLX 27B 和 Qwen 3.8 27B 两款,NVIDIA Nemotron 3.5 Lightning 据称即将加入。
  3. 用平时交给 Perplexity Computer 的方式布置任务即可,唯一区别是请求内容和中间产出不会离开设备。

适用场景 — 比如让它整份读取合同文件夹并按条款梳理,或者只用内部资料起草报告初稿,又或者摘要尚未对外公开的企划方案。这些都是一旦把资料上传到外部服务器就会被审批卡住的工作。

이미지: @perplexity_ai (X)

处在 8 月 DGX Spark 潮流的延续线上

这次发布并非凭空出现。8 月 11 日,开发自动化初创公司 Factory 就基于 DGX Spark 和 Nemotron 3.5 Lightning,推出了源代码不外流的开发环境。8 月 22 日,Apache 软件基金会孵化项目中的本地优先智能体工作空间"Maca"登上了 GitHub 热榜。整个 8 月,业界一直在尝试把整套智能体搬到桌面设备上运行,Perplexity 这次正是加入了这条趋势线。

资金动向也在同一时期交叠。就在前一天,8 月 24 日,有消息称 NVIDIA 正在洽谈以超过 300 亿美元估值投资 Perplexity。而被认为推动 Perplexity 年化收入从 2.5 亿美元跃升至超过 7.5 亿美元的关键因素,正是"Perplexity Computer"。

编辑视角

这次发布中最有价值的数字,不是 85.4%,而是 74.0% 到 82.6% 之间那 8.6 个百分点的差距。因为这个差距是在模型完全相同、只换了外壳程序的情况下产生的。过去两年里,尝试接入本地智能体的团队反复卡在同一个地方:把开源模型下载下来装到设备上,半天就能搞定,但要让这个模型学会打开文件、执行命令、在失败时回退,这中间的"接线"工作往往要耗上几周。Perplexity 卖的不是那款 27B 模型,而是这套接线本身。

把 27B 级模型放到实际工作中检验,得出的结论大多相似:在一问一答就能结束的任务上,与云端大模型的差距体感明显;但在固定文件夹、固定格式下反复进行的办公类工作上,这种差距很大程度上可以被弥补。便携式计算机瞄准的任务性质,正如其名所示,就是"本地知识工作"。它并不是想用 27B 模型实现 GPT 级别的推理,而是提出了一个方案:把不能外传的资料留在内部处理。

对国内团队来说,这或许值得换一种思路来算账。以往做本地化 AI 部署,起点往往是 GPU 服务器机架的报价单;而现在,给几台 DGX Spark 级别的机器装上智能体运行环境,在这之前又多了一个新选项。不过,订阅费加设备成本的总支出,以及在自己文档上的实际成功率,都需要用自己的任务重新测量,而不是照搬厂商的评测数据。53 项任务测出的 85.4%,不会原封不动地出现在你公司的合同文件夹里。如果提前用公司内部 30 到 50 份文档做同样方式的重复测试,搭建出一张自己的成绩表,以后换模型时也能拿这张表作为判断依据。

对 NVIDIA 来说,这个组合也是一笔划算的生意。本地智能体越好用,卖出去的就不是云端计算时长,而是设备本身。等即将加入的 Nemotron 3.5 Lightning 到位后,DGX Spark 有望从"开发者实验设备"升级为"一个部门就能用的办公机器"。可以预见,不出几周,其他智能体公司也会为同款硬件推出本地版本。8 月里 Factory 和 Perplexity 已经接连出手,后面的队伍恐怕早已排好。

评论