OpenBMB发布MiniCPM-V 4.7-35B-A3B：首个开源MoE视觉语言模型

摘要：OpenBMB发布了MiniCPM-V系列的最新版本——MiniCPM-V 4.7-35B-A3B，这是首个开源的MoE（混合专家模型）视觉语言模型。该模型在单图像、多图像和视频理解能力上进行了显著增强，同时优化了视觉编码和设备端推理效率。其主要亮点包括：1) 首次实现无损平滑的设备端推理；2) 性能与效率的帕累托前沿突破；3) 基于LLaVA-UHD v4的早期视觉压缩架构；4) 支持多平台和芯片；5) 提供多种量化方案和开发者友好的框架支持。

---

技术机制剖析

MiniCPM-V 4.7-35B-A3B是OpenBMB推出的首个开源MoE视觉语言模型，其核心架构基于混合专家模型（MoE）技术。与传统模型相比，MoE通过在推理过程中动态选择专家子网络，实现了更高的计算效率和更强的模型容量。该模型采用了以下关键技术：

1. Lookahead Expert Scheduling (LES): 该技术通过前瞻性调度专家网络，优化了推理过程中的专家选择策略，从而实现了设备端的无损平滑推理。
2. 细粒度层量化: 通过对模型的不同层进行精细量化，MiniCPM-V 4.7-35B-A3B在保持高性能的同时，显著降低了计算和存储开销。
3. DSpark推测采样集成: 该技术通过推测采样加速了推理过程，进一步提升了模型的推理效率。
4. 混合4x/16x视觉压缩: 该模型支持混合视觉压缩策略，允许开发者在视觉细节和推理成本之间进行灵活权衡。

工程权衡与实测表现

MiniCPM-V 4.7-35B-A3B在多个方面进行了优化，但也面临一些权衡：

• 性能与效率的平衡: 尽管模型在性能上实现了突破，但在高负载场景下，MoE架构的复杂性可能导致延迟增加。
• 设备端推理的挑战: 虽然实现了设备端的无损推理，但在资源受限的设备上，模型的内存占用仍然是一个需要关注的点。
• 多平台支持: 该模型支持多种平台和芯片，但在不同平台上的性能表现可能存在差异，需要开发者进行针对性优化。

根据官方基准测试，MiniCPM-V 4.7-35B-A3B在Instruct模式下，其整体得分高于Qwen3.6 35B-A3B，同时推理时间更短，展示了其在性能与效率上的优势。

开发者落地与部署建议

对于开发者来说，MiniCPM-V 4.7-35B-A3B提供了丰富的工具和框架支持：

• 推理框架: 支持SGLang、vLLM、llama.cpp和Ollama等主流推理框架。
• 量化方案: 提供GGUF、BNB、AWQ和GPTQ等多种量化方案，并新增了FP8量化支持。
• 微调框架: 支持SWIFT和LLaMA-Factory等微调框架，并推出了Self-Replay Fine-Tuning方法，帮助开发者以低成本扩展模型能力，同时减少对现有能力的遗忘。

建议开发者在部署时，根据具体应用场景选择合适的量化方案和推理框架，并充分利用模型的多平台支持特性，以实现最佳的性能和效率。

---

消息来源：Reddit r/LocalLLaMA (2026-10-12)

—— 完 ——

主题标签： #OpenBMB 关注 #MiniCPM-V 关注 #MoE架构 关注 #视觉语言模型 关注 #设备端推理 关注