统一内存
Unified Memory
图形处理器和中央处理器共用同一块内存空间的电脑架构。
简单来说
统一内存指的是电脑里负责图形处理的部件和负责整体运算的部件,不再各自拥有独立的内存,而是共同使用同一块内存空间。
普通电脑有点像一个厨房里,厨师(负责图形处理)和帮厨(负责整体运算)各用各自的冰箱。如果一边的冰箱里没有需要的食材,就得从另一边搬过来,这就要花时间。统一内存就相当于把这两个冰箱合二为一,食材可以直接从同一个空间里拿出来用,不用来回搬运。
这样一来,一次性获得大容量内存就变得更容易,对于在个人电脑上运行如今体积庞大的AI模型来说尤其有利。像Mac或NVIDIA的DGX Spark这类设备就采用了这种统一内存架构,因此即便没有昂贵的独立服务器级显卡,也能运行几十到几百GB大小的AI模型。
在报道中是这样出现的
文章中提到,Qwen的新模型"仅凭75GB内存或统一内存即可运行"。这里容易产生的误解是,以为统一内存是某种特别的、独立的内存类型,但其实它指的是不把显卡专用内存和电脑整体内存分开,而是合并成一体使用的结构。因此表格中也会说明单位为"RAM与VRAM合计的总内存,或以统一内存为基准"。
