智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #Ollama #Gemma 4 #MLX #多令牌预测 #Apple Silicon

Ollama 0.31 发布:Gemma 4 通过 MLX 实现多令牌预测,性能提升高达 90%

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 3 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:Ollama 0.31 版本通过集成 MLX 引擎,为 Apple Silicon 设备上的 Gemma 4 模型引入了多令牌预测(MTP)技术,显著提升了模型性能。在 Aider 多语言基准测试中,使用编程智能体时性能提升高达 90%。这一更新展示了 AI 模型在本地硬件上的高效运行潜力,为开发者提供了更强大的工具支持。


技术亮点解析

  1. 多令牌预测(MTP)技术:Ollama 0.31 通过 MLX 引擎为 Gemma 4 模型引入了多令牌预测技术,这使得模型在处理复杂任务时能够更高效地预测多个令牌,从而提升整体性能。

  2. 性能提升:在 Aider 多语言基准测试中,使用编程智能体时性能提升高达 90%。这意味着在本地设备上运行 AI 模型时,用户可以体验到更快的响应速度和更高的效率。

  3. Apple Silicon 优化:该更新特别针对 Apple Silicon 设备进行了优化,充分利用了 Apple 芯片的硬件加速能力,为 Mac 用户提供了更流畅的 AI 体验。

行业影响与开发者建议

  • 开发者工具增强:对于使用 Gemma 4 模型的开发者来说,Ollama 0.31 的发布意味着他们可以在本地设备上更高效地运行模型,减少对云端资源的依赖。

  • AI 应用场景拓展:性能提升使得 AI 模型在实时交互、编程辅助等需要快速响应的场景中更具实用性。开发者可以探索更多本地 AI 应用的可能性。

  • 硬件优化趋势:这一更新也反映了 AI 模型对硬件优化的需求,未来的 AI 工具可能会更加注重与特定硬件架构的深度整合,以实现更高的性能。

结论

Ollama 0.31 的发布标志着 AI 模型在本地设备上的性能优化取得了重要进展。通过 MLX 引擎和多令牌预测技术,Gemma 4 在 Apple Silicon 上的表现得到了显著提升,为开发者提供了更强大的工具支持,并推动了 AI 应用场景的进一步拓展。


消息来源:Ollama Blog (2026-06-29)

—— 完 ——

主题标签: #Ollama #Gemma 4 #MLX #多令牌预测 #Apple Silicon

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…