AWS发布Trust in Depth框架：赋予智能体自主性同时确保安全可控

摘要：AWS推出Trust in Depth框架，旨在解决智能体自主性与人类控制之间的矛盾。该框架通过五个核心步骤——界定范围、识别身份、设定边界、持续观察和验证行为——为智能体提供可验证的自主性，同时确保其行为符合预期并可追溯。Trust in Depth结合自动化推理技术，在智能体运行前、中、后提供多层安全保障，使企业能够更安全地赋予智能体重要任务。

---

1. 背景与挑战

在企业应用AI智能体的过程中，领导者们面临一个核心矛盾：希望智能体承担更多工作，但对其行为的正确性和安全性缺乏完全信任。现有的解决方案通常依赖人工审核，但这在智能体承担更复杂任务时会导致效率低下和审核疲劳。

2. Trust in Depth框架概述

AWS提出的Trust in Depth框架通过五个核心步骤来解决这一问题：

1. 界定范围（Scope）：在智能体运行前，明确其职责范围、所需工具、数据和服务，以及必须遵守的规则。
2. 识别身份（Know）：在部署时，确保每个智能体都有唯一的身份，并记录其授权来源。
3. 设定边界（Bound）：在智能体运行过程中，通过策略和规则限制其行为，确保其操作在预设范围内。
4. 持续观察（Observe）：在每次运行后，重建智能体的行为轨迹，评估其决策过程和结果。
5. 验证行为（Prove）：通过自动化推理技术，验证智能体的行为是否符合预设规则，并识别潜在问题。

3. 技术机制剖析

3.1 界定范围

在构建阶段，AWS的Kiro系统将高级意图转化为结构化需求，并使用自动化推理技术发现潜在的矛盾和漏洞。Strands工具包则提供定义智能体模型、指令和工具的开放框架。

3.2 识别身份

AWS Agent Registry提供组织内智能体、工具和技能的集中管理，并通过审批流程确保其可发现性和安全性。AgentCore为每个智能体分配唯一身份，并在每次请求时进行验证，确保所有行为可追溯。

3.3 设定边界

AgentCore Gateway作为安全入口点，通过策略强制执行智能体的行为边界。Amazon Bedrock Guardrails过滤有害或离题的内容，并使用自动化推理技术验证响应的一致性。Strands Box作为开源沙盒，从外部强制执行智能体的行为边界，确保其只能访问允许的资源。

3.4 持续观察

Amazon CloudWatch Omni提供持续观察功能，记录智能体的每一步操作，并使用内置评估器对响应进行评分，识别潜在错误。

3.5 验证行为

自动化推理技术通过数学逻辑检查规则在所有可能情况下的有效性，并生成证明结果，确保智能体的行为符合预设规则。

4. 实际应用案例

以企业帮助台智能体为例，Trust in Depth框架通过以下方式确保其安全执行任务：

• 界定范围：智能体被授予特定工具和权限，并明确其操作步骤。
• 识别身份：智能体的每个操作都与其身份关联，确保可追溯性。
• 设定边界：智能体的行为受到策略限制，例如在转换邮箱前必须阻止用户登录，并检查法律保留要求。
• 持续观察：所有步骤都被记录下来，供团队验证和调查。

5. 结论

Trust in Depth框架通过多层安全保障，使企业能够更安全地赋予智能体重要任务，同时保留对关键决策的人工控制权。这不仅提升了智能体的可信度，也为AI在企业中的应用开辟了新的可能性。

---

消息来源：AWS Machine Learning Blog (2026-10-15)

—— 完 ——

主题标签： #AWS 关注 #智能体 关注 #自动化推理 关注 #AI安全 关注 #Trust in Depth 关注