Hugging Face发布虚拟世界智能体预训练研究：数据量、多样性与模型规模对泛化的影响

摘要：Hugging Face发布了一项关于虚拟世界智能体预训练的研究，探讨了数据量、数据多样性和模型规模对智能体在虚拟环境中表现的影响。研究表明，数据量增加可提升模型在训练数据集中的性能，数据多样性有助于模型向相关领域泛化，但在差异较大的领域效果有限；模型规模提升则能提高数据效率，但在单一领域训练下对远距离领域的泛化能力较差。研究还提出了一个经验性扩展定律，描述了验证损失与数据量、多样性和模型规模之间的关系，并指出构建通用智能体需要超越持续预训练的更丰富训练阶段。

---

研究背景与动机

在物理环境中，智能体通过持续预训练（CPT）已经取得了显著进展，这些进展得益于多样化的经验，这些经验都基于共享的物理法则。然而，虚拟世界具有不同的视觉风格、动态、控制方式和目标，这些差异对智能体的泛化能力提出了新的挑战。本研究旨在探讨数据量、数据多样性和模型规模对智能体在虚拟世界中表现的影响。

研究方法

研究团队设计了120种训练配置，涵盖了从0.8B到27B的四种模型规模、从50到1600小时的数据预算，以及从仅包含Minecraft数据到多样化多世界语料库的五种数据混合方式。通过三级验证损失和游戏玩法基准测试，评估了模型在语料库内世界和未见世界中的表现。

主要发现

1. 数据量与多样性：

   • 数据量增加可以提升模型在训练数据集中的性能。
   • 数据多样性有助于模型向相关领域泛化，但在差异较大的领域效果有限。

2. 模型规模：

   • 更大的模型提高了数据效率，但在单一领域训练下对远距离领域的泛化能力较差。

3. 训练阶段与泛化：

   • 研究观察到一个早期的跨世界收益阶段和一个后期的领域收益阶段，并拟合了一个经验性扩展定律，描述了验证损失与数据量、多样性和模型规模之间的关系。

4. 性能与局限性：

   • 模型在3D世界中的表现与Minecraft专家模型和前沿模型竞争，并在实时设置中表现最佳。
   • 然而，模仿的局限性和远距离领域的持续差距表明，构建通用智能体需要超越持续预训练的更丰富训练阶段。

工程权衡与建议

• 数据效率 vs. 泛化能力：在资源有限的情况下，优先考虑数据多样性而非单纯的数据量可能更有利于模型的泛化能力。
• 模型规模选择：在需要跨领域泛化的场景中，选择适中的模型规模并结合多样化训练数据可能比单纯扩大模型规模更有效。
• 训练阶段设计：建议在持续预训练的基础上，增加针对特定领域的微调阶段，以提升模型在目标领域的表现。

---

消息来源：Hugging Face Trending Papers (2026-10-20)

—— 完 ——

主题标签： #Hugging Face 关注 #虚拟世界 关注 #预训练 关注 #智能体 关注 #泛化 关注