Llama 4 系列：Meta的开源多模态MoE模型

Llama 4 系列：Meta的开源多模态MoE模型概述2025年4月5日，Meta正式发布了Llama 4系列模型，包括Llama 4 Scout和Llama 4 Maverick。这是Meta在开源AI领域的又一重大突破，首次将多模态能力、混合专家（MoE）架构和超长上下文窗口结合在一起，为开源社区提供了极具竞争力的大语言模型。 系列模型对比 模型名称 激活参数 总参数量 专家数量 上下文长度 主要特点 Llama 4 Scout 17B 109B 16 10M tokens 超长上下文，适合文档分析 Llama 4 Maverick 17B 400B 128 未公开 大规模专家网络，最强性能 Llama 4 Behemoth 288B ~2T 16 未公开 推迟发布，旗舰级模型 注：Behemoth模型在发布时仍在训练中，预计2025年秋季或更晚发布 核心...

阅读全文