智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #Hugging Face #数据集 #VLA预训练 #机器人化 #视觉语言模型

Hugging Face发布HuRo数据集:机器人化人类视频实现高效VLA预训练

Mr.Xu 的头像

文 / Mr.Xu

发布时间:

中文阅读 (Chinese) English Version

摘要:Hugging Face推出了一款名为HuRo的新数据集,通过机器人化人类视频,为视觉语言模型(VLM)的预训练提供大规模且多样化的监督数据。该数据集包含约63万次机器人化片段和1.42亿帧图像,涵盖五个来源的人类视频数据。在四项真实世界操作任务中,机器人化预训练数据量增加使整体完成率从51.5%提升至80.3%,在空间和视觉变化下的分布外(OOD)完成率从34.9%提升至72.2%。研究还表明,视觉机器人化增强了OOD鲁棒性,而端到端预训练结合重新定位动作优于仅视觉迁移。该成果为AI在复杂任务中的训练提供了新的数据来源和优化方向。


核心突破

Hugging Face最新发布的HuRo数据集通过机器人化人类视频,为视觉语言模型(VLM)的预训练提供了全新的数据来源。该数据集的主要特点包括:

  • 大规模数据量:包含约63万次机器人化片段和1.42亿帧图像,涵盖五个来源的人类视频数据。
  • 高效转换流程:开发了机器人化管道,将异质性人类视频转换为机器人对齐的观察和动作轨迹,同时推断缺失的中间信号。
  • 显著性能提升:在四项真实世界操作任务中,机器人化预训练数据量增加使整体完成率从51.5%提升至80.3%,在空间和视觉变化下的分布外(OOD)完成率从34.9%提升至72.2%。

技术亮点

  1. 机器人化管道:该管道能够将多样化的人类视频转换为机器人友好的数据格式,解决了人类与机器人之间的形态差异问题。
  2. 跨层级信号推断:在转换过程中推断缺失的中间信号,确保数据的一致性和完整性。
  3. 视觉机器人化:研究表明视觉机器人化增强了OOD鲁棒性,而端到端预训练结合重新定位动作优于仅视觉迁移。

行业影响

HuRo数据集的发布为AI领域带来了以下影响:

  • 数据多样性提升:为AI模型提供了更丰富、更贴近真实世界的数据来源,有助于提升模型的泛化能力。
  • 训练效率优化:通过机器人化数据,AI模型可以在更短的时间内获得更好的训练效果。
  • 应用场景拓展:该数据集特别适用于需要与物理世界交互的AI应用,如机器人控制、自动化系统等。

开发者建议

  • 数据整合:开发者可以将HuRo数据集与现有数据集结合,以提升模型的训练效果。
  • 模型优化:建议在模型训练过程中充分利用视觉机器人化和端到端预训练的优势。
  • 任务适配:根据具体任务需求,调整机器人化数据的应用方式,以获得最佳性能。

消息来源:Hugging Face Daily Papers (2026-09-18)

—— 完 ——

主题标签: #Hugging Face #数据集 #VLA预训练 #机器人化 #视觉语言模型

社区整体评论区

正在加载实时智能评论与划词标注…