Hugging Face发布TILDE：基于教师反馈的智能体基础模型蒸馏新方法

摘要：Hugging Face推出TILDE（Teacher-In-the-Loop Distillation from Embodied Foundation Models），一种用于将预训练智能体基础模型（EFMs）的强大操作能力迁移到无动作预训练策略的新方法。TILDE通过结合学生诱导状态下的策略蒸馏和教师执行恢复轨迹的学习，实现了任务性能的显著提升。此外，TILDE引入了AutoDAgger，一种自主数据聚合管道，利用预训练奖励模型监控任务进展并触发教师干预，从而无需人工监控即可收集恢复经验。实验表明，TILDE在多个现实任务中相较于行为克隆提升了高达4.1倍的任务性能，并支持跨架构的有效蒸馏。

---

技术机制剖析

TILDE的核心机制在于结合了两种学习模式：

1. 策略蒸馏（Policy Distillation）：在学生模型诱导的状态下进行策略蒸馏，将预训练智能体基础模型（EFMs）的知识迁移到目标策略中。这种方法利用了EFMs在泛化和闭环鲁棒性方面的优势。

2. 教师反馈学习（Teacher-in-the-Loop Learning）：通过教师模型执行恢复轨迹来提供额外的学习信号。这种方法不仅增强了学生模型的学习效果，还通过教师模型的纠正行为提高了整体任务的可靠性。

此外，TILDE引入了AutoDAgger，这是一种自主数据聚合管道，利用预训练奖励模型来监控任务进展，并在必要时触发教师干预。这种机制显著加速了恢复轨迹的收集速度，与传统的人机交互方法相比，速度提升了2倍以上。

工程权衡与实测表现

• 优势：TILDE在多个现实任务中表现出色，任务性能相较于行为克隆提升了高达4.1倍。这表明该方法能够有效地将EFMs的强大能力迁移到无动作预训练的策略中。

• 劣势：尽管TILDE在任务性能上取得了显著提升，但其对教师模型的依赖可能带来额外的计算开销。此外，AutoDAgger的引入虽然加速了数据收集，但也增加了系统的复杂性。

• 实测表现：在三个现实任务中，TILDE均表现出色，尤其是在需要高泛化和闭环鲁棒性的任务中，其优势更为明显。

开发者落地与部署建议

1. 模型选择：建议开发者根据具体任务需求选择合适的EFMs作为教师模型，以确保蒸馏效果。

2. 数据收集：利用AutoDAgger可以大幅减少人工数据收集的工作量，但需要确保奖励模型的准确性，以避免误触发教师干预。

3. 跨架构蒸馏：TILDE支持跨架构的有效蒸馏，开发者可以根据实际应用场景选择不同的模型架构进行迁移学习。

4. 资源管理：由于教师模型的参与，TILDE对计算资源的需求较高，建议在资源充足的环境下进行部署。

结论

TILDE代表了智能体基础模型蒸馏领域的一项重要进展，通过结合策略蒸馏和教师反馈学习，显著提升了任务性能。AutoDAgger的引入进一步增强了数据收集的效率，为智能体模型的训练提供了新的思路。

---

消息来源：Hugging Face Daily Papers (2026-10-18)

—— 完 ——

主题标签： #Hugging Face 关注 #智能体 关注 #EFM 关注 #蒸馏技术 关注 #AutoDAgger 关注