智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #Deep Agents #上下文工程 #智能体记忆 #LangChain #Token优化

Deep Agents上下文工程:用外置记忆对抗长任务Token膨胀

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:LangChain 提出面向长时程 Deep Agents 的上下文工程方法:不再把全部历史、工具结果与中间产物持续塞进提示词,而是组合上下文卸载、分层摘要、可复用技能、子智能体隔离与外部记忆。其核心目标是把有限上下文窗口留给当前决策所需的证据,并通过按需检索恢复细节,从而降低Token成本、延迟与注意力稀释。该方案属于可落地的智能体编排模式,但摘要未给出统一基准、量化收益或生产环境数据,实际效果仍取决于记忆写入策略、检索准确率和子智能体通信开销。


核心思路:上下文不是数据库,而是工作集

LangChain 将长时程智能体的主要瓶颈归结为上下文持续膨胀。工具调用记录、文件内容、中间推理和历史对话一旦全部保留在上下文中,不仅增加输入Token与KV Cache占用,还会带来更隐蔽的问题:旧信息与当前任务争抢注意力,模型可能在冗长提示中遗漏真正需要执行的约束。

Deep Agents 的解决思路不是无限扩大上下文窗口,而是把上下文当作CPU工作集:保留当前任务、关键约束与必要证据,将低频或大体积内容卸载到外部空间,再在需要时检索或重新生成。

这一区别很关键。更大的上下文窗口只能推迟矛盾出现;上下文工程则要求系统主动决定“什么应立即可见,什么应延迟加载,什么可以永久丢弃”。

五类上下文管理机制

1. 上下文卸载

对于过长文件、搜索结果、代码片段和工具返回值,系统可以只把引用、摘要或检索指针保留在主上下文中,将完整内容写入外部存储。需要时,智能体再通过文件读取、搜索或代码工具取回。

这种方式能够直接降低重复传输成本,但其代价是额外一次或多次工具调用,以及更复杂的失败处理。若外部内容发生变化,引用必须具备版本号、内容哈希或快照语义,否则智能体可能依据过期状态作出判断。

2. 分层摘要

连续对话不能简单地按固定Token阈值截断,更稳妥的方案是分层压缩:先提取事实、决策、未完成事项和失败线索,再生成面向近期任务的局部摘要。摘要应保存状态与约束,而不是只复述聊天内容。

工程上需要区分三类信息:不可丢的事实、可以压缩的过程、可以删除的噪声。若把尚未解决的异常或工具调用失败压成一句泛化结论,后续智能体可能失去恢复任务所需的细节。

3. 可复用技能

技能模块把重复出现的多步流程封装为稳定操作,例如资料检索、代码检查、报告生成或数据校验。与其每次在主上下文中重新解释步骤,不如通过技能描述暴露能力和参数,让智能体按需调用。

这种设计减少了提示词长度,也把执行质量从“临场推理”转移到可测试的软件模块。不过,技能接口越复杂,模型选择技能和构造参数的开销越高。生产系统通常需要技能路由、参数校验、版本锁定和失败回退,而不能仅依赖自然语言描述。

4. 子智能体隔离

子智能体可以在独立上下文中完成边界明确的子任务,只把结论或必要证据返回主智能体。这样能避免中间探索过程污染主上下文,并限制每个子任务的Token预算。

隔离开并不等于信息无损。摘要节点一旦遗漏约束,主智能体也无法自行恢复。因此,关键事实应以结构化字段回传,例如状态、错误码、证据路径和置信度,而不是只返回一段自然语言总结。多个子智能体并行执行还会增加并发工具调用、重复检索和结果合并成本。

5. 外部记忆

外部记忆负责跨轮次、跨任务保存事实与经验。主上下文只保留当前所需的记忆切片。它适合保存用户偏好、稳定事实、任务状态和可复用经验,但必须处理时效性、冲突、隐私和作用域。

生产实现通常需要为记忆条目增加租户隔离、来源、时间戳、过期策略和可追溯性。语义相似度只能决定“可能相关”,不能自动证明记忆“仍然有效”;涉及金额、权限或安全策略时,应优先采用结构化条件过滤。

上下文窗口的工程权衡

设单轮可见Token数为 (C),完整历史为 (H),压缩后上下文为 (S)。若模型处理输入的边际成本近似随Token数线性增长,重复携带历史的成本也会随轮次累积;粗略地,第 (n) 轮未经管理的输入可接近 (nH),而采用稳定工作集后约为 (nS)。实际成本还取决于前缀缓存、批处理、KV Cache驻留和模型计费方式,不能只用简单线性公式替代压测。

外部卸载把计算成本转移为存储与I/O成本。子智能体隔离减少主上下文污染,却增加调度与汇总成本;摘要节省Token,但可能压缩掉低频但关键的事实。技能固化流程最稳定,却需要维护接口和版本。外部记忆的长期收益最大,也最容易出现过期信息、错误写入和隐私泄漏。

因此,上下文策略不应只追求“装得下”,而应同时优化四类指标:任务成功率、端到端延迟、每次成功任务的Token成本,以及关键证据保留率。最危险的情况往往不是程序报错,而是压缩后任务仍能输出貌似合理的答案。

评测对象不能只有最终成功率

摘要未披露统一实验结果,因此不能据此断言该方法在何种幅度上优于简单截断。评估至少应覆盖:

  • 长任务在数十分钟或数十轮工具调用后的成功率;
  • 压缩前后答案一致性,以及对被省略证据的召回率;
  • 主上下文峰值Token、KV Cache占用和单任务成本;
  • 子智能体返回摘要造成的证据损失;
  • 外部记忆更新冲突、过期信息与跨租户泄漏;
  • 面对相同任务、不同上下文布局时的结果方差。

还应设置“静默证据丢失”测试:删去一条完成任务所需的早期证据,但保留足以让模型继续回答的问题,检验系统能否察觉缺失。答案未报错并不代表压缩无损。

开发者落地建议

第一阶段可以把主智能体提示拆成稳定指令、当前状态、近期对话和按需证据四个区段,并记录每次工具调用的Token占用。第二阶段再引入摘要与子智能体,并为每个子任务设置输入、输出和工具调用预算。

外部记忆应采用“先记录、后检索、再更新”的流程:原始事件先进入可追溯日志,检索结果作为候选证据返回,状态变更通过显式写入接口提交。对关键事实,可组合向量检索与结构化条件,避免仅依赖语义相似度。

压缩机制也应接受质量门禁。例如,对关键步骤保存不可变事实卡,对失败路径保存原始错误,对重要决策记录证据引用。摘要前后运行结构化字段校验,检测数字、实体、约束和状态是否发生变化。

对于技能模块,优先把高风险或高频操作做成确定性工具,而不是交给模型自由拼装代码。文件写入、Shell命令、网络访问和业务系统调用应经过权限校验、路径隔离和审计。

结论

Deep Agents 的上下文工程方法指向一个务实结论:长时程智能体的上限不仅取决于模型推理能力,也取决于系统能否管理信息生命周期。卸载、摘要、技能、子智能体和外部记忆分别处理体积、冗余、流程复用、任务隔离与跨轮次知识,它们共同把上下文从永久日志变成动态工作集。

真正可用的方案必须保留证据链并量化压缩损失,而不是单纯追求更短的提示词。


消息来源:LangChain Blog (2026-11-10)

—— 完 ——

主题标签: #Deep Agents #上下文工程 #智能体记忆 #LangChain #Token优化

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…