MLX
苹果打造的开源框架,专为在苹果自研芯片上快速运行机器学习运算而设计。
简单来说
MLX 就像是在 MacBook 上训练或运行 AI 模型时,在底层运转的引擎。普通电脑里负责运算的芯片和存储数据的内存是分开的,数据要在两者之间来回搬运,因此需要时间。苹果自研芯片的结构不同——它把运算和内存整合在了一起——而 MLX 正是苹果为了充分发挥这种统一架构的优势、把运算速度榨到极致而专门打造的工具。
得益于此,以前被认为只有依靠云端大型服务器才能完成的工作——从零训练模型,或对模型进行微调——如今在一台 Mac 上也能尝试了。最近还出现了在 MLX 之上加装图形界面的应用,让用户不必直接接触这套引擎。用户只需点点按钮、拖拖滑块,底层的 MLX 就在悄悄运转,让人在不知不觉中完成本地 AI 训练。
MLX 并不局限于苹果自己的生态圈。随着越来越多工具开始同时支持 MLX 与 Windows、Linux 上常见的量化文件格式,MLX 正逐渐成为 Mac 用户加入本地 AI 潮流的一条通道。
在报道中是这样出现的
文章中常出现类似"通过苹果的 MLX 框架运行运算的结构"、"MLX 是针对苹果自研芯片优化的机器学习框架"这样的表述。容易搞混的一点是——MLX 并不是某个具体 AI 模型的名字,而是指用于训练和运行模型的底层软件层。它不是会对话的聊天机器人本身,而是让那个聊天机器人能在 Mac 上运行的基础工具。