Hugging Face发布REMORY：革新长时智能体上下文压缩技术

摘要：Hugging Face推出了一款名为REMORY的神经网络记忆模型，旨在解决长时智能体在有限上下文窗口内进行历史压缩的难题。REMORY通过生成软记忆标记来补充文本摘要，帮助冻结的大语言模型（LLM）更准确地近似完整历史下的推理结果。在SummHay基准测试中，REMORY在保持洞察覆盖度几乎不变的情况下，显著提升了源归因能力，仅使用5.2%的输入位置即可接近完整上下文的联合得分。此外，在多个长时智能体基准测试中，REMORY与Qwen3.8-27B和GLM-5.3-Flash等模型结合使用时，表现出更少的重复工具输出和工具错误，展示了其在复杂任务中的潜力。

---

背景与挑战

长时智能体在处理复杂任务时，需要在有限的上下文窗口内压缩历史信息。然而，仅依靠文本摘要可能无法支持后续的每一个决策，这成为智能体性能提升的瓶颈。

REMORY的创新点

Hugging Face推出的REMORY通过以下方式解决了上述问题：

• 软记忆标记生成：REMORY生成一系列软记忆标记，这些标记基于历史和摘要进行条件化，并附加在摘要之后，形成类似于残差连接的序列维度上的类比。
• 冻结LLM的近似推理：REMORY帮助冻结的LLM更准确地近似完整历史下的推理结果，从而提升智能体的决策能力。
• 高效的资源利用：在SummHay基准测试中，REMORY仅使用5.2%的输入位置即可接近完整上下文的联合得分，显著提升了效率。

实验结果与性能

在多个长时智能体基准测试中，REMORY与Qwen3.8-27B和GLM-5.3-Flash等模型结合使用时，表现出以下优势：

• 提升源归因能力：在SummHay基准测试中，REMORY显著提升了源归因能力，同时保持了洞察覆盖度几乎不变。
• 减少重复工具输出和错误：在BrowseComp和Terminal-Bench 2.1等基准测试中，REMORY减少了重复工具输出和工具错误。

行业影响与未来展望

REMORY的发布为长时智能体的开发提供了新的技术路径，特别是在需要高效历史压缩和精确推理的场景中。其创新性的软记忆标记机制有望推动AI智能体在复杂任务中的表现提升。

开发者建议

• 结合现有模型使用：开发者可以将REMORY与现有的长时智能体模型结合，以提升其历史压缩和推理能力。
• 关注后续优化：Hugging Face可能会继续优化REMORY，开发者应关注其后续更新以获取最新功能。

---

消息来源：Hugging Face Daily Papers (2026-10-08)

—— 完 ——

主题标签： #Hugging Face 关注 #REMORY 关注 #长时智能体 关注 #上下文压缩 关注 #LLM 关注