Ollama 0.31 为 Apple Silicon 带来 Gemma 4 多令牌预测加速,编码智能体性能提升高达90%
摘要:Ollama 发布 0.31 版本,针对 Apple Silicon 上的 Gemma 4 模型引入多令牌预测(MTP)支持,基于 MLX 框架实现显著加速。在 Aider polyglot 基准测试中,编码智能体的性能提升高达 90%。这一更新充分利用了 Gemma 4 的 MTP 架构,为本地大模型推理树立了新标杆,尤其利好 Mac 开发者。
概述
Ollama 0.31 版本为 Apple Silicon 用户带来了重大性能提升,通过多令牌预测(MTP)技术,Gemma 4 模型的推理速度大幅加快。在编码智能体场景中,性能提升最高可达 90%,这一成果基于 MLX 框架实现,标志着本地大模型推理效率的新高度。
核心技术:多令牌预测(MTP)
多令牌预测是一种先进的推理优化技术,允许模型在单次前向传播中预测多个未来的令牌,从而减少推理步骤,显著提升生成速度。Gemma 4 原生支持 MTP,而 Ollama 0.31 在 MLX 上实现了这一特性,充分利用 Apple Silicon 的统一内存架构和神经网络引擎,实现了接近实时的响应。
性能表现
根据 Ollama 官方博客,使用 Aider polyglot 基准测试,编码智能体的性能提升高达 90%。这意味着在代码生成、补全和重构等任务中,开发者可以体验到近乎翻倍的效率提升,大大缩短了迭代周期。
行业影响与开发者建议
对于 Mac 开发者而言,这一更新将本地 AI 开发体验提升至新层次。Ollama 作为最受欢迎的开源模型运行工具,此次优化进一步巩固了其在本地推理领域的领先地位。开发者应升级到 Ollama 0.31,并确保使用支持 MTP 的 Gemma 4 模型版本,以充分利用这一性能红利。
结语
Ollama 0.31 的发布不仅提升了 Gemma 4 的性能,也展示了 MTP 技术在消费级硬件上的巨大潜力。随着更多模型支持 MTP,本地 AI 推理将变得更加高效,为边缘计算和隐私敏感应用带来更多可能。
原始报道出处:Ollama Blog
—— 完 ——消息来源:Ollama Blog (2026-06-29)
主题标签: #Ollama #Gemma 4 #多令牌预测 #MLX #Apple Silicon
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区