智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #Continual-ARC #ARC-AGI #持续学习 #智能体评测 #参数化学习

Continual-ARC终身学习评测:框架记忆落后,权重更新泛化占优

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:Continual-ARC 将三个 ARC-AGI 版本重组为终身学习流:旧任务经休眠间隔后以新实例回访,新任务持续进入。记忆式与权重式学习者按示范、行动、提交和错误重试消耗统一反馈预算;流结束后冻结学习者,以已见任务新实例测记忆,以未见任务测泛化。基于 Qwen3.5-9B 与 GLM-5.3 Flash 的实验显示,持久化 Agent Harness 通常不改善记忆,多数框架方法不及直接缓存任务示范;未见任务上框架方法没有增益,权重式学习则明显提升。摘要未披露具体分数、预算价格表及统计显著性,结论仍需结合全文复核。


Continual-ARC 的核心发现是:在其生命周期协议下,给 Agent Harness 增加持久化并不等于获得技能;多数框架式方法甚至落后于直接缓存任务示范的基线,而权重式学习在未见任务上显示出实质收益。

基准重构了什么

现有智能体持续学习评测通常存在三个缺口:任务集中于单一应用领域;每个任务只出现一次,无法区分学习与记忆;以及默认学习者属于同一技术家族,导致外部记忆系统和参数更新系统很少在统一成本尺度下竞争。

Continual-ARC 从三个 ARC-AGI 版本构建长期任务流。ARC 任务不要求领域知识,减少了语言模型既有知识对结果的干扰。任务并非一次性出现:已经接触过的任务会在一段休眠期后,以全新实例重新返回;同时还有新任务持续加入。这使评测对象从一次性答题转向一条包含获取、间隔、回访和迁移的工作生命周期。

技术机制剖析

统一反馈预算

面对每个实例,学习者可以支付示范费用、在 Harness 内执行动作、提交答案,并在错误后重试;错误重试同样消耗预算。概念上,系统可用统一账本记录总成本:

C_total = Σ(c_demo + c_action + c_submit + c_retry)

其中各项由具体任务的预算规则换算,最终按消耗的反馈预算份额计分。论文摘要没有披露完整公式、示范价格、动作价格或跨任务归一化方法,因此不能仅凭“统一预算”断言不同系统具有完全相同的资源成本。更准确地说,它统一了交互反馈尺度,而不是自动折算 GPU 小时、显存、存储空间和训练开销。

这一设计仍是关键进步:外部记忆、程序库和模型权重虽然存储形式完全不同,但都必须在同一交互经济中争取任务完成机会。错误重试也被计费,可抑制无限试错,并迫使系统区分低成本验证与高成本探索。

冻结后的双阶段评测

任务流结束后,系统冻结学习者,随后执行两类测试:

  • 在已接触任务的新实例上测试,检查旧能力是否被保留,即记忆与巩固;
  • 在从未见过的任务上测试,检查是否形成可迁移能力,即泛化。

冻结评测排除了“测试期间继续修改权重或记忆”造成的污染,也把记忆保持和知识迁移从同一个最终分数中拆开。一个系统即使能回放旧任务,也可能在抽象新规则上失败;反之,具备参数化能力的学习者也不一定不会遗忘。

被比较的学习者家族

论文覆盖了多类方案:

| 学习方式 | 权重是否更新 | 主要考察对象 | |---|---:|---| | 冻结权重的 Agent Harness | 否 | 工具执行与任务求解能力 | | 带持久化的 Agent Harness | 否 | 外部状态能否替代技能习得 | | 两种 Prompting 下限基线 | 通常不更新 | 简单提示策略的能力下限 | | 程序归纳方法 | 否 | 从反馈中形成可复用程序的可能性 | | 模仿 GLM-5.3 Flash 训练的 Qwen3.5-9B | 是 | 参数化学习与跨任务迁移 |

其中,权重式结果来自一个明确的模仿学习实现,不能直接外推为所有参数更新方法都优于所有记忆系统。但它足以检验:在相同 ARC 生命周期任务上,权重巩固能否比外部 Harness 状态产生更强的迁移。

实测表现与关键结论

实验呈现出四点稳定趋势:

  1. 持久化通常没有改善记忆。 在缺少明确专家指导时,保存历史状态并未自动转化为更好的任务重现能力。
  2. 多数框架方法不及示范缓存基线。 在全部受测模型上,直接缓存每个任务的示范,仍比多数 Harness 方法更有效。
  3. 框架方法没有在未见任务上取得增益。 这表明已见任务上的局部改进没有稳定转化为新任务迁移。
  4. 权重式学习取得明显提升。 参数更新在未见任务上展现出实质收益,是论文最反直觉的结果。

一种合理解释是,Harness 的持久化更接近“保存经历”,而不是“提炼技能”。系统必须知道哪些轨迹值得保存、如何抽象失败原因、何时把经验压缩为可复用规则。缓存示范基线则绕过了经验选择问题,直接保存已知有效行为,因而形成较强下限。权重更新则可能把多个任务中的共同规律压缩进共享参数,从而帮助系统处理新任务。

不过,论文摘要没有给出具体分数、任务流数量、顺序种子、置信区间和训练成本。因此目前可以确认的是定性排序,不能判断优势幅度,也无法排除预算价格表、任务顺序或特定训练配方对结论的影响。

工程权衡

外部记忆与 Harness

外部记忆无需重新训练,回滚和审计简单,适合保存少量事实、工具参数与罕见流程。但它的成本会随任务数量增长,检索失败会破坏执行,精确回放旧示范也不等于形成新规则。把全部轨迹塞入上下文还会持续推高 Token 成本和注意力干扰。

参数化学习

参数更新把知识压缩进共享权重,推理时不需要携带完整历史,并有机会形成跨任务泛化。代价是训练算力、检查点管理、版本回滚和灾难性遗忘控制。论文只测试了特定模仿式权重方案,尚不足以证明该路线在任意任务流中稳定胜出。

混合式系统

更现实的架构不是二选一,而是分工处理不同知识:精确且低频的事实放在外部记忆,重复出现的稳定技能再通过 LoRA、适配器或受控微调进行参数化巩固,Harness 负责检索、验证和执行。合并时必须防止同一经验在记忆库、程序库与权重中重复保存,否则统一反馈预算将无法反映真实资源消耗。

评测是否客观

Continual-ARC 使用无需领域知识的 ARC 任务,能够降低先验知识差异;同一任务以新实例回访,也避免把逐字记忆误判为技能学习;冻结后分别测试已见与未见任务,则比单一排行榜更能识别记忆与迁移的差异。

但其外部有效性仍需验证。ARC 任务偏抽象和规则化,未必覆盖网页操作、代码仓库维护、机器人控制或企业流程中的噪声、长时程依赖和不可逆操作。摘要也未说明休眠区间长度、任务排列、预算分配方式、重复实验次数及未见任务的构造标准。若这些参数经过针对特定系统调优,排行榜仍可能出现过拟合。

开发者落地与部署建议

  1. 先建立示范缓存基线。 任何持续学习智能体都应先证明其能力超过直接保存专家示范的方案,否则复杂的记忆或检索模块没有工程意义。
  2. 分离三类状态。 分别记录情景记忆、可执行程序和模型检查点,明确每类信息的写入条件、来源与淘汰策略,避免把上下文堆积误当成学习。
  3. 建立反馈成本账本。 除任务成功率外,记录示范、工具调用、提交、重试、GPU 时间、存储和参数更新成本,统一计算单位随实验目标明确披露。
  4. 同时评估保持与迁移。 在训练流结束后冻结系统,分别测试旧任务新实例、新任务族和真实环境变体,并报告顺序、随机种子及置信区间。
  5. 谨慎引入参数巩固。 仅对高频、稳定且可验证的技能执行权重更新;保留回滚检查点和回归门禁,防止一次更新覆盖其他能力。
  6. 按任务类型选择记忆或学习。 罕见例外和精确流程适合外部记忆,重复出现的抽象规则适合参数化巩固,需要探索与验证的环节则应保留在 Agent Harness 中。

Continual-ARC 最重要的贡献并非提出新的学习算法,而是暴露了持续学习评测中的关键盲点:积累更多上下文、保存更多轨迹或维持更长的历史,并不自动等于形成可迁移技能。其实验把“会记住”与“会学习”明确分开,也为智能体系统选择记忆、程序归纳或参数更新提供了更严格的成本与泛化框架。


消息来源:Hugging Face Daily Papers (2026-11-11)

—— 完 ——

主题标签: #Continual-ARC #ARC-AGI #持续学习 #智能体评测 #参数化学习

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…