智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #AI智能体 #延迟优化 #运行时机制 #双层系统 #SMC

Speculative Macro Commit:提升AI智能体效率的新机制

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:Speculative Macro Commit (SMC) 是一种用于双层智能体系统的新型运行时机制,旨在减少AI智能体在执行多步任务时的延迟。该机制通过一个快速预测模型(草稿模型)提前执行动作链,并与一个权威模型(执行模型)进行匹配。当草稿模型预测的动作链与执行模型的下一步操作匹配时,SMC会提交预执行的动作链,从而减少整体延迟。实验结果表明,SMC在多个基准测试中显著降低了延迟,同时保持了与顺序执行相同的准确性。


背景与动机

在AI智能体的应用中,延迟是一个关键瓶颈。特别是在需要多步操作的任务中,每次工具调用、环境转换和观察结果都会导致后续决策的延迟。为了解决这一问题,研究人员提出了一种名为Speculative Macro Commit (SMC) 的新机制。

SMC机制详解

SMC是一种双层智能体系统的运行时机制,包含以下关键组件:

  • 权威执行模型(Authoritative Actor Model):负责生成正式的动作轨迹。
  • 快速草稿模型(Speculative Drafter Model):持续预测并执行未来的动作链。

SMC通过以下步骤实现延迟的减少:

  1. 动作链预测与预执行:草稿模型预测并执行未来的动作链,并将其存储在隔离的环境快照中。
  2. 宏库匹配:SMC从训练轨迹中挖掘出重复的多步动作骨架,并将其存储在宏库中,用于在运行时与草稿模型预测的动作链进行匹配。
  3. 提交预执行步骤:当执行模型的下一步操作与草稿模型预测的第一个动作匹配时,SMC会将剩余的预执行步骤及其观察结果提交到正式轨迹中。

实验结果

SMC在多个基准测试中进行了验证:

  • 在τ²-Bench Telecom子集上,SMC将延迟降低了18.59%,与顺序执行相比,同时保持了与顺序执行相同的准确性。
  • 在AppWorld上,SMC将墙钟时间减少了7.7%,与Speculative Actions (SA) 基线相比,减少了44.9%,尽管任务完成率略有下降。

结论

SMC提供了一种实用的方法来重用多步预测执行,从而在单步预测动作之外进一步减少智能体延迟。该机制展示了在AI智能体应用中提高效率的潜力,并为未来的研究提供了新的方向。

开发者建议

  • 模型选择与优化:开发者可以根据任务需求选择合适的草稿模型和权威模型,以实现最佳的性能平衡。
  • 宏库管理:有效的宏库管理对于SMC的性能至关重要,开发者应关注宏库的更新和优化。
  • 延迟与准确性权衡:在应用SMC时,开发者需要根据具体应用场景权衡延迟减少和准确性之间的关系。

消息来源:ArXiv AI (cs.AI) (2026-09-04)

—— 完 ——

主题标签: #AI智能体 #延迟优化 #运行时机制 #双层系统 #SMC

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…