每天早上一封邮件,把昨天的 AI 梳理好订阅邮件

METAL LAB

Databricks正式推出AI网关 防止"代币浪费"

Unity AI Gateway转为正式服务,通过实时预算策略控制模型选择

이미지: X — 인프라·칩

摘要

  • Databricks宣布于8月4日正式推出(GA)Unity AI Gateway
  • 在Data+AI Summit演示中,公开了实时预算策略引导开发者选用更节省代币的模型的方式
  • 该网关由代理注册表、访问控制、场景化策略、预算、智能路由、代理追踪等六项功能构成
原文视频
발표일
2026년 8월 4일
제품명
Unity AI Gateway
상태
정식 출시(Generally Available)
발표 주체
Databricks
데모 발표자
Databricks 소프트웨어 엔지니어 Ankit Mathur (@ankit_math)
공개 행사
Data+AI Summit
핵심 기능
Agent Registry, Access Control, Contextual Policies, Budgets, Smart Routing, Agent Tracing
제품 가치 3축
Cost(비용 관측·통제), Control(통합 거버넌스), Choice(오픈 멀티 AI 접근)

从"代币最大化"到"价值最大化"

Databricks在官方博客中表示,已于2026年8月4日将Unity AI Gateway转为正式服务(GA)。公司将此描述为组织需要从"代币最大化"时代过渡到"价值最大化"时代。所谓代币最大化,是指不顾模型消耗多少代币——AI处理文本的最小单位——只一味追求性能的做法。价值最大化则相反,更看重以更低成本获得同样结果的方式。

这一理念在Data+AI Summit现场演示中得到具体呈现。Databricks软件工程师Ankit Mathur演示了实时预算策略如何引导开发者转向更节省代币的模型。这意味着,当预算接近上限时,系统可以自动将流量转移到更便宜的模型,从而实现相应的控制。

이미지: X — 인프라·칩

网关内置的六项功能

根据活动幻灯片,Unity AI Gateway由六个功能模块构成。

功能作用
Agent Registry在一处统一注册和管理组织内的AI代理
Access Control控制对模型和代理的访问权限
Contextual Policies根据不同场景应用不同规则的策略引擎
Budgets设置和监控实时成本上限
Smart Routing将请求自动分配至更合适或更便宜的模型
Agent Tracing追踪和审计代理的行为路径

博客正文将这些功能归纳为三大价值。在成本方面,强调完整的AI可观测性与成本控制;在管控方面,强调通过单一控制面板对数据和AI进行治理;在选择方面,强调不受制于特定厂商的开放式多AI接入方式。

为何在此时推出

自8月初以来,Databricks已陆续公布了一系列面向代理运营的基础设施。此前在会计与咨询公司CLA的案例中,该公司曾展示以Lakebase Postgres为后端,将队列、重试、调度整合进单一数据库的方式。长时间运行的AI代理往往面临队列、调度器、缓存、监控工具不断增加的问题,而此次的Unity AI Gateway正是正面瞄准了其中的成本控制与模型选择领域。

企业在同时使用多个AI模型的情况下,很难掌握哪个模型被使用的频率及成本,这类不满一直存在。该网关可以被视为一种将这些问题汇聚到单一控制面板下的尝试。

那么,究竟改变了什么

此前,组织层面很难实时掌控开发者调用哪个模型、调用频率如何。随着Unity AI Gateway正式化,管理员现在可以仅凭一项预算策略,自动过滤昂贵的模型调用,或将其转向更便宜的替代方案。在代理数量增加、成本随之攀升的结构下,这一网关可以被解读为一种尝试,即把"用得多好"变成"用得多值",作为组织的默认准则。