Llama 4 Maverick
Llama 4 Maverick 是 Meta 于 2025 年 4 月发布的旗舰级开源多模态 MoE 模型,总参数 400B,激活 17B,128 个专家,支持 1M 超长上下文。原生支持文本与图像输入,在编程…
📋 工具信息卡片
Llama 4 Maverick 是什么
Llama 4 Maverick 是 Meta 于 2025 年 4 月 5 日发布的 Llama 4 系列中的旗舰级开源多模态模型。它采用混合专家(MoE)架构,总参数高达 4000 亿,但每次推理仅激活 170 亿参数,在提供顶尖性能的同时保持了高效的推理成本。
作为 Meta 在开源 AI 领域的旗舰之作,Maverick 被设计为原生多模态模型,能够无缝处理文本与图像的混合输入。它在编程、推理、图像理解等任务上对标 GPT-4o 和 DeepSeek V3 等前沿模型,在 LMSYS 聊天机器人竞技场中 ELO 得分高达 1417。
⚙️ 核心技术规格
🧠 高效 MoE 架构
- 总参数量:4000亿(400B)
- 激活参数量:170亿(17B)
- 专家数量:128 个
- 上下文窗口:100万(1M)tokens
🌐 原生多模态能力
- 输入:文本与图像
- 输出:文本
- 技术特点:采用早期融合(early fusion)技术实现原生多模态
- 多语言支持:训练数据覆盖 200 种语言,针对 12 种语言进行了微调
📊 训练数据
- 训练数据量:约 22 万亿 tokens
- 数据来源:公开、授权及 Meta 平台数据的混合
- 知识截止日期:2024年8月
📊 性能表现
🖥️ 部署与硬件要求
Llama 4 Maverick 提供多种量化版本,适配不同规模的部署需求:
| 量化格式 | 显存占用 | 质量 | 推荐硬件 |
|---|---|---|---|
| FP16 | ~800 GB | 100% | 8× H200 |
| FP8 | ~410 GB | ~99% | 4× H200 |
| AWQ INT4 | ~215 GB | ~96% | 2× H100-80GB |
| GGUF Q4_K_M | ~240 GB | ~94% | 1× B200 |
💡 数据来源:Hugging Face 模型卡片
🔓 许可与可用性
- 开源协议:Llama 4 Community License
- 商用授权:支持无限制的商业使用
- 模型获取:在 Hugging Face 上开放权重下载
- 云平台支持:可通过 Amazon Bedrock、Oracle Cloud Infrastructure (OCI)、NVIDIA NIM 等平台访问
- 使用限制:根据 Llama 4 Acceptable Use Policy,模型在欧盟(EU)的使用受到限制
✅ 优点
- 400B MoE 架构,性能对标 GPT-4o
- 原生多模态,支持文本与图像理解
- 1M 超长上下文窗口
- Llama 4 Community License 支持商用
- NVIDIA TensorRT-LLM 深度优化,推理速度快
- 可在 AWS、OCI、NVIDIA NIM 等多平台获取
⚠️ 注意事项
- 部署硬件门槛高(推荐多卡 H100/H200)
- 欧盟地区使用受限
- 上下文窗口在 Oracle OCI 上为 512K
- 模型体积大,部署和运维成本高
常见问题
Q:Llama 4 Maverick 可以免费商用吗?
A:可以。模型采用 Llama 4 Community License,支持无限制的商业使用。
Q:模型需要什么硬件?
A:FP8 量化版本推荐 4× H200,AWQ INT4 版本推荐 2× H100-80GB。
Q:支持哪些多模态能力?
A:原生支持 文本和图像 输入,输出为文本。图像理解目前仅限英语。
Q:Llama 4 Maverick 和 Scout 有什么区别?
A:Maverick 是旗舰版(400B 总参数,128 专家),Scout 是轻量版(109B 总参数,16 专家)。Scout 上下文窗口达 1000 万 tokens,适合长文档场景。
相关工具推荐
✍️ 点评
Llama 4 Maverick 是 Meta 在开源 AI 领域的旗舰之作。它以 400B MoE 架构、1M 上下文和原生多模态能力,为开发者提供了一个性能对标 GPT-4o、可自由商用的高性能基座模型。
虽然部署硬件门槛较高(推荐多卡 H100/H200),但其在编程、推理、图像理解等任务上的卓越表现,使其成为追求顶尖性能的企业和组织的理想选择。NVIDIA TensorRT-LLM 的深度优化,更让 Maverick 在 Blackwell GPU 上实现了 每秒超 30K tokens 的推理吞吐量。
一句话总结:Llama 4 Maverick——Meta 旗舰级开源多模态 MoE 模型,400B 总参数、1M 上下文、原生多模态,以开源之姿对标 GPT-4o,为高性能 AI 应用提供强大基座。