CWRU-AISM发布Action Atlas：深入解析视觉-语言-动作模型的机制与脆弱性

摘要：CWRU-AISM团队开发了一种名为Action Atlas的可解释性分析平台，用于深入研究视觉-语言-动作（VLA）模型的内部机制。该平台通过注入任务激活信号并观察其对模型行为的影响，揭示了VLA模型在面对场景变化时的脆弱性。研究发现，模型的行为高度依赖于绝对工作空间坐标，而非视觉场景本身，这解释了其在环境扰动下的表现不稳定。此外，Action Atlas平台覆盖了520多个训练模型、79个识别概念以及大量机器人操作数据，为研究人员和开发者提供了宝贵的资源和工具。

---

研究背景与动机

近年来，视觉-语言-动作（VLA）模型在机器人控制和复杂任务处理中取得了显著进展。然而，这些模型在实际应用中常常表现出对环境变化的敏感性，例如，当目标位置发生微小变化时，模型的行为可能会完全偏离预期。CWRU-AISM团队因此开发了Action Atlas平台，旨在深入解析VLA模型的内部机制，并揭示其脆弱性的根源。

技术机制剖析

Action Atlas的核心机制是通过注入任务A的激活信号到动作专家中，同时让模型观察任务B的场景，从而观察模型的行为变化。研究发现，在99.6%的实验中，模型执行了任务A的运动轨迹，而非任务B。这表明模型的行为高度依赖于绝对工作空间坐标，而非视觉场景本身。

在物理UR10e机器人上的实验进一步验证了这一发现：定向旋转在两个方向上分别有26/26和18/26的成功率，而无注入和随机方向控制则未能完成任务。当源对象移动10-15厘米时，机械臂在50/50的试验中抓取并释放到重定向的坐标位置，甚至在目标位置有其他块时抓取错误的块，或在没有目标时抓取空气。

工程权衡与实测表现

研究团队将相同的干预措施应用于六个不同的VLA模型，并在LIBERO、MetaWorld、SimplerEnv和ALOHA等环境中进行了420,000多次试验，得出了以下三个主要发现：

1. 每个架构都编码了指令，但当场景单独识别目标时，五分之四的模型在视觉权重下对指令的权重较低。
2. 在标准替换回写中，保持行为的SAE池化是特定于架构的（例如，pi0.5是按token的，而SmolVLA则不敏感）。
3. 在可区分的情况下，目标选择和运动生成分离为VLM和专家路径。

开发者落地与部署建议

Action Atlas平台现已公开发布，开发者可以通过以下链接访问和使用：

• 交互式平台：https://action-atlas.com
• 代码仓库：https://github.com/CWRU-AISM/action-atlas

该平台为研究人员和开发者提供了一个强大的工具，用于分析和理解VLA模型的内部机制，从而优化模型设计并提高其在实际应用中的鲁棒性和可靠性。

结论

Action Atlas的发布标志着AI模型可解释性研究的一个重要里程碑。通过深入解析VLA模型的机制，开发者可以更好地理解模型的行为模式，并开发出更强大、更可靠的AI系统。

---

消息来源：Hugging Face Daily Papers (2026-10-20)

—— 完 ——

主题标签： #VLA模型 关注 #可解释性 关注 #机器人控制 关注 #AI研究 关注 #Action Atlas 关注