METAL for iPhone

AI 新闻, 现在用 App 阅读。

下载 METAL, 每天发现最新 AI 报道。

在 App Store 下载

iPhone 应用 · 免费下载

也可在 iPhone 的 App Store 中搜索 METAL AI Magazine。

METAL

AWS,发布面向智能体的常驻计算选项"运行时实例"

最长可持续14天的会话加上GPU支持,扩展生产级AI智能体基础设施

AWS,发布面向智能体的常驻计算选项"运行时实例"

摘要

  • AWS在Amazon Bedrock AgentCore中新增了名为"运行时实例(runtime instances)"的计算选项
  • 与最长运行8小时的现有微型虚拟机不同,该选项可将会话维持长达14天,并支持GPU加速和多智能体协作
  • 支持CrewAI、LangGraph、LlamaIndex、Strands等框架及所有模型,并可与EBS、AgentCore Memory联动

常驻型基础设施,智能体也需要了

AWS宣布为Amazon Bedrock AgentCore Runtime推出名为"运行时实例(runtime instances)"的新计算选项。据悉,此举旨在解决正从原型阶段迈向生产环境的AI智能体所面临的问题——需要维持横跨数日的多步骤工作流状态,与其他智能体共享上下文,并在需要时访问GPU。

现有的AgentCore Runtime微型虚拟机最长可运行8小时,并通过托管会话存储支持有状态工作流。但据介绍,对于需要连续运行数日、需要GPU或操作系统访问权限的任务,以及多个智能体需要在同一主机上协作的场景,此前需要另外搭建大容量环境。

运行时实例提供了什么

运行时实例可在AWS托管的基于EC2的基础设施上,将多个智能体部署到同一个运行时中。每个智能体拥有独立的依赖项和构件类型,但可以在同一主机上、最长持续14天的共享会话中进行协作。该选项还支持面向计算密集型任务的GPU加速、用于降低闲置时间成本的会话暂停与重启,以及面向希望独立部署的团队的容器化部署。对于需要跨会话持久保存的知识,该方案设计为结合Amazon Elastic Block Store(EBS)与AgentCore Memory,实现长期记忆。

微型虚拟机与实例,区别何在

两种计算选项共享相同的AgentCore Runtime API、身份控制和可观测性工具,但各自定位不同。

分类运行时微型虚拟机运行时实例
最长运行时间8小时14天
GPU支持不支持支持
多智能体协作有限支持同一主机内协作
适用场景快速扩展、API调用、任务路由代码编译、安全扫描、GUI自动化等需要持续状态的任务

两种选项也可以组合使用。在微型虚拟机中运行的轻量级编排智能体可快速处理API调用和任务路由,而在实例中运行的工作智能体则可承担需要持续状态和直接操作系统访问权限的计算密集型任务。

以代码编写-审查智能体进行演示

AWS公开了一个演示案例:一个代码编写智能体根据自然语言描述生成Python代码,另一个代码审查智能体则分析生成代码中的漏洞、安全问题和代码风格。两个智能体共享同一文件系统,审查智能体无需数据传输或API调用即可直接读取编写智能体的输出结果。据悉,该演示所使用的模型是通过Bedrock提供的Claude Sonnet 4.5。

AWS开发者Sébastien Stormacq表示:"打包只需一个@app.entrypoint装饰器和一个zip文件即可完成。"

框架与模型选择的自由

运行时实例的一大特点在于,其设计支持直接使用CrewAI、LangGraph、LlamaIndex、Strands等多种智能体框架及各类模型,无需修改。这种不依赖特定框架或模型的结构,与云服务商在智能体基础设施竞争中强调开发者便利性的趋势相呼应。相关内容也可参见metallab.ai此前报道的云端智能体基础设施动态文章中所提及的类似趋势。

此次发布被认为是AWS意图在智能体从短时任务扩展到长期运行的自主工作流之际,抢先布局所需的基础设施层。不过,关于其在实际生产环境中的稳定性或成本结构的具体数据尚未公开。

评论