Horizontal Scaling
一种扩展方式：不是让单个AI变得更快更强，而是同时投入多个AI分头处理任务
简单来说
水平扩展指的是不去把单个AI变得更快更强，而是同时投入多个AI，把任务拆开分头处理。
打个比方。要调查100家公司时,如果全交给一个人做,他就得随着调查越拖越长不断总结之前查到的内容,整理笔记。每次总结都会丢掉一些细节,到最后连最初查到了什么都变得模糊。相反,如果找来100个人,每人负责一家公司,每个人都能又快又准地完成调查,最后只需要把结果汇总起来就行。AI智能体也是同样的道理。单独长时间工作的智能体会随着记忆容量被占满而判断力下降,但如果同时运行多个只承担短任务的智能体,就能从根本上避开这个问题。
这和让同一个AI跑得更快、更省钱的做法不同。后者本身并不会改变一个智能体一次能处理的任务规模。水平扩展则是试图通过把任务切成小块、分给多个智能体来突破这个上限。
在报道中是这样出现的
文章中,'水平扩展'是与'垂直扩展'相对的概念出现的。Moonshot AI表示,仅靠更快的推理速度或更低的成本这类垂直扩展,无法突破单个智能体的局限,并将最多可同时部署100个子智能体的Agent Swarm作为水平扩展的案例。与常见的误解不同,水平扩展并不是简单地把同一个任务重复执行多次,而是把一个大任务拆分成多个部分并行处理。
亲手试一试
如果你有能同时运行多个智能体的工具,可以尝试下面这样的请求,亲身感受水平扩展的原理。
『把这项调查拆分成10个子主题,让不同的智能体同时调查各自的主题,然后把结果汇总成一份报告。』
也可以在没有智能体功能的普通聊天机器人上尝试同样的请求,对比一下——任务会被按顺序依次处理,无法达到同样的速度效果。