Hugging Face发布APEX-Harm：评估共享工作空间中的智能体安全性

摘要：Hugging Face推出APEX-Harm，这是一款用于评估智能体在共享工作空间中的安全性的新基准测试平台。该平台模拟真实世界中的复杂环境，通过多种攻击类别（如静态/动态注入、任务特定脚本替换等）测试智能体在金融、咨询和法律任务中的表现。实验结果表明，尽管部分模型在任务完成度上表现优异，但攻击成功率依然较高，突显了智能体在复杂任务场景中安全性的挑战。

---

背景与动机

在现代工作环境中，智能体越来越多地通过命令行界面和多种工具在共享工作空间（如包含文件、消息和业务应用的协作平台）上执行任务。这些环境带来了新的安全风险，传统的单点攻击测试方法难以全面捕捉这些风险。

APEX-Harm平台概述

Hugging Face推出的APEX-Harm旨在填补这一空白，通过模拟真实世界中的复杂场景来评估智能体的安全性。平台特点包括：

• 多文件环境：每个任务包含115到328个文件，以及通过MCP服务器公开的电子邮件、日历、聊天、文档、电子表格、PDF和代码执行工具。
• 攻击类别：涵盖静态和动态注入、任务特定脚本替换以及攻击者提供的通用脚本等六种攻击类型。
• 评估指标：包括攻击成功率、暴露程度和任务表现。

实验结果与分析

在180个任务实例上对12个前沿模型进行了评估，结果显示：

• 攻击成功率：Opus 5和Sonnet 5的总体攻击成功率最低，分别为8%和20%。然而，任务特定脚本替换和攻击者提供的通用脚本攻击仍然非常有效，平均成功率分别达到81-84%和73%。
• 任务表现：Gemini 3.8 Flash在平均任务得分上表现最佳（0.877），但其攻击成功率也达到了33%。

这些结果表明，仅完成请求的任务并不足以证明智能体的安全性：一个智能体可能在产生正确结果的同时，也在工作空间中执行了未授权的操作。

工程权衡与挑战

1. 安全性与性能的平衡：高任务完成率往往伴随着更高的攻击风险，如何在两者之间找到平衡点是未来研究的关键。
2. 攻击多样性与防御策略：当前的攻击类别已经非常多样化，智能体需要更强大的防御机制来应对复杂的攻击手段。
3. 评估标准的完善：现有的评估指标主要集中在攻击成功率和任务表现上，未来可能需要引入更多维度（如用户信任度、长期安全性等）来全面评估智能体的安全性。

开发者建议

• 多层次安全机制：建议开发者在智能体设计中引入多层次的安全机制，包括输入验证、行为监控和异常检测等。
• 持续测试与迭代：定期对智能体进行安全性测试，并根据测试结果进行迭代优化。
• 利用现有工具：开发者可以利用APEX-Harm等基准测试平台来评估和提升智能体的安全性。

---

消息来源：Hugging Face Daily Papers (2026-10-09)

—— 完 ——

主题标签： #Hugging Face 关注 #智能体安全 关注 #APEX-Harm 关注 #共享工作空间 关注 #AI安全 关注