智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #Hugging Face #智能体 #强化学习 #共形自验证 #多模态AI

Hugging Face发布CLIFT:基于共形自验证的智能体训练与测试扩展方法

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:Hugging Face推出了一种名为CLIFT的新方法,旨在解决开源网络智能体训练中的弱监督问题。CLIFT通过共形自验证机制,在训练过程中利用智能体对自身行为的自然语言验证问题进行回答,并通过组合共形认证器筛选有效信号,动态调整奖励机制。在测试阶段,CLIFT通过冻结认证库并采用保守多数投票规则,实现了无需外部裁判的轨迹选择,从而大幅提升了智能体在复杂任务中的表现。该方法在WebArena Infinity等基准测试中表现出色,并展示了跨场景迁移的潜力。


技术机制剖析

CLIFT的核心机制包括两个主要部分:训练阶段的共形自验证和测试阶段的共形轨迹选择(CTS)。

  1. 训练阶段:

    • 自然语言验证问题: 智能体在训练过程中回答关于自身行为的自然语言问题,这些问题旨在捕捉智能体行为的逻辑性和一致性。
    • 组合共形认证器: 该组件筛选出与训练时裁判一致的问题信号,并通过极性感知提升(polarity-aware lift)分配信任权重。
    • 奖励融合: 认证器的评分被融合到每步奖励中,但不会从裁判基线中减去,从而确保奖励机制的稳定性。
  2. 测试阶段:

    • 冻结认证库: 训练中使用的认证库被冻结并作为结构化证据用于CTS。
    • 保守多数投票: 智能体采样一个贪婪轨迹和多个多样化的重试轨迹,自验证器总结每个URL轨迹,并采用保守多数投票规则决定是否切换当前轨迹,而无需调用任何外部裁判。

工程权衡与实测表现

CLIFT在多个基准测试中表现出色:

  • WebArena Infinity: CLIFT在开源网络智能体中达到了最先进的性能,展示了其在复杂任务中的鲁棒性。
  • VisualWebArena: 通过开放模型训练的认证库在测试时迁移到GPT-5.5,并在规范框架下达到了最先进的性能,展示了跨模型迁移的潜力。
  • Online Mind2Web: 在未在基准测试上训练智能体的情况下,翻译认证问题库在零样本评估中提升了实时网络智能体的表现,展示了其在实际应用中的灵活性。

开发者落地与部署建议

CLIFT为开发者提供了一种新的训练和测试方法,特别适用于以下场景:

  • 资源受限环境: 通过减少对外部裁判的依赖,CLIFT降低了训练和推理成本。
  • 复杂任务场景: CLIFT在处理复杂任务时表现出色,开发者可以利用其自验证机制提升智能体的决策能力。
  • 跨场景迁移: CLIFT的认证库可以迁移到不同的模型和场景中,为开发者提供了更大的灵活性。

开发者可以结合现有的强化学习框架,将CLIFT集成到智能体训练流程中,以提升训练效率和智能体性能。


消息来源:Hugging Face Daily Papers (2026-10-05)

—— 完 ——

主题标签: #Hugging Face #智能体 #强化学习 #共形自验证 #多模态AI

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…