moe

模型

NVIDIA推出仅激活3B的30B开源模型"Nemotron 3.5 Lightning"

该模型总参数量为30B的MoE结构中每个token仅激活3B参数,官方称其输出速度较同级模型最高快4倍

作者 김현국/4 天前

00

模型

LG AI研究院发布7500亿规模K-EXAONE 2.0 FP8模型

MoE架构激活参数370亿，FP8量化版本上传至Hugging Face

作者 METAL 뉴스룸/5 天前

10

已经是最后一篇了。