智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #AWS #AgentCore #AI安全 #时序策略 #智能体

AWS发布Amazon Bedrock AgentCore时序策略:为AI智能体提供状态感知的安全控制

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 10 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:AWS宣布推出Amazon Bedrock AgentCore的时序策略功能,允许开发者定义基于AI智能体会话历史的授权规则。这些规则可强制执行工作流顺序、防止数据伪造、限制财务风险并要求高价值操作需人工审批,从而提升AI智能体在复杂任务中的安全性和可控性。该功能通过AgentCore Gateway运行,确保策略执行不受智能体内部代码影响,为AI智能体应用提供了更强大的安全保障。


核心功能与技术创新

AWS近日为Amazon Bedrock AgentCore推出了时序策略功能,这是AI智能体安全领域的一项重大突破。时序策略允许开发者定义基于AI智能体会话历史的授权规则,从而实现以下目标:

  • 工作流顺序控制:确保智能体按预定顺序执行操作,例如先获取客户资料再进行交易。
  • 数据完整性保障:防止智能体在工具调用之间伪造或替换数据。
  • 财务风险控制:限制单个会话中的累计交易金额,防止失控操作。
  • 人工审批机制:要求高价值操作需人工审批,避免潜在风险。

这些策略在AgentCore Gateway上运行,独立于智能体自身的代码逻辑,确保其不可被绕过或篡改。

技术实现细节

时序策略建立在现有的无状态访问控制策略引擎之上,引入了“智能体轨迹”的概念,即由主体和会话ID标识的有限动作序列。策略评估过程如下:

  1. 状态查询:策略引擎查询与当前请求相关的轨迹状态,包括动作、输入和输出。
  2. 历史上下文评估:将当前请求与历史事件进行对比,判断是否符合时序策略。
  3. 决策输出:返回确定的允许或拒绝决策,并记录完整决策上下文。

每个请求必须包含一个会话ID头,用于标识其所属会话。开发者可以定义会话的开始和结束边界,例如单次用户对话、多步骤任务或长时间运行的工作流。

应用场景与案例

以一个假设的私人银行投资组合智能体为例,时序策略可以确保以下安全控制:

  • 工作流顺序:智能体必须先获取客户资料,再加载投资组合,然后才能进行交易。
  • 数据一致性:交易中使用的portfolio_id必须与get_client_profile工具返回的ID完全匹配。
  • 数据新鲜度:市场价格的获取必须在交易执行前30秒内完成。
  • 累计预算限制:单个会话中的累计交易金额不得超过60,000美元。
  • 人工审批:超过25,000美元的交易需人工审批,且每次审批仅适用于单次交易。
  • 互斥操作控制:智能体不能在同一轨迹中先买后卖同一证券(如果亏损)。
  • 信任衰减机制:在15分钟内无人工交互,智能体将失去写操作权限。

行业影响与开发者建议

时序策略的推出标志着AI智能体安全控制的重要进步,为开发者提供了更强大的工具来管理AI智能体的行为。其主要优势包括:

  • 增强安全性:通过状态感知控制,降低AI智能体在复杂任务中的风险。
  • 灵活性与可控性:在不限制智能体灵活性的前提下,提供可审计的授权机制。
  • 易于集成:兼容现有的Cedar策略,开发者可以无缝迁移。

建议开发者尽快熟悉Dogwood策略语言,并评估其应用场景中的潜在需求,以充分利用这一新功能。

结论

AWS通过引入时序策略,进一步巩固了其在AI智能体安全领域的领先地位。这一功能不仅提升了AI智能体的可控性,还为AI应用在关键领域的部署提供了更可靠的安全保障。

原文链接

AWS Machine Learning Blog: Securing AI agents with temporal policies in Amazon Bedrock AgentCore

—— 完 ——

主题标签: #AWS #AgentCore #AI安全 #时序策略 #智能体

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…