智客 ZICQ
EN 登录 / 注册
智客信息 开源AI #Google AI Edge #ML Drift #GPU加速 #跨平台 #开源

Google AI Edge开源ML Drift:高性能跨平台GPU加速AI/ML推理引擎

Mr.Xu 的头像

文 / Mr.Xu 社区投稿

发布时间:

中文阅读 (Chinese) English Version

摘要:Google AI Edge团队宣布开源ML Drift,这是一款高性能、跨平台的设备端GPU计算引擎,专为AI/ML推理任务设计。ML Drift通过抽象化OpenGL ES、OpenCL、Metal和WebGPU等底层API复杂性,赋能开发者构建实时、交互式的机器学习应用,如高级视频效果和生成式AI。ML Drift作为LiteRT的核心GPU加速引擎,也支持作为独立库用于自定义图形和推理运行时,为开发者提供统一的性能优化基础。


核心功能与技术创新

  • 高性能GPU加速:ML Drift针对设备端AI/ML推理任务进行了优化,通过高效的GPU计算能力提升推理速度。
  • 跨平台支持:支持OpenGL ES、OpenCL、Metal和WebGPU等多种API,适配不同硬件平台。
  • 简化开发流程:通过抽象化底层硬件和API复杂性,开发者无需深入了解底层技术细节即可构建复杂的机器学习应用。
  • 灵活的应用场景:适用于从高级视频效果到生成式AI的多种应用场景,为开发者提供广泛的可能性。

技术亮点

  • LiteRT集成:作为LiteRT的核心组件,ML Drift为实时图形和推理任务提供强大的加速支持。
  • 独立库形式:除了作为LiteRT的组件,ML Drift还支持作为独立库使用,方便开发者根据需求进行定制。
  • 开源许可:采用Apache 2.0许可,开发者可以自由使用、修改和分发该引擎。

行业影响与开发者建议

ML Drift的发布标志着Google在AI/ML推理领域的又一重要布局,为开发者提供了强大的工具以应对日益增长的实时AI应用需求。开发者可以利用ML Drift加速现有应用的推理过程,或基于其构建全新的AI驱动的应用和服务。建议开发者关注ML Drift的GitHub仓库,及时获取最新更新和社区支持。


消息来源:Reddit r/LocalLLaMA (2026-10-09)

—— 完 ——

主题标签: #Google AI Edge #ML Drift #GPU加速 #跨平台 #开源

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…