Duco以按需MCP技能重构金融智能体,上下文缩减90%
摘要:金融数据自动化平台 Duco 将代理栈迁移至 Amazon Bedrock AgentCore:以每租户独立运行时、Gateway、身份与数据层隔离客户,并按任务路由 Claude 与 Nova 2。针对单租户 300—400 个工具静态注入约 20 万 Token,Duco 用 skill:// 资源和 load_skill、find_tool、invoke_tool 三个元工具按需发现及调用,将主上下文降至约 2 万 Token。公司称部署提速 10 倍,某银行上线成本降 70%、直通处理率提升逾 20%;这些指标来自 AWS 客户案例,仍待独立验证。
核心架构:从模型调用升级为受治理的智能体运行时
Duco 没有训练新的金融大模型,而是用 Amazon Bedrock 提供统一的基础模型 API,再由 Amazon Bedrock AgentCore 承载代理运行时、身份校验、工具网关、追踪和评测。其既有 LangChain 与 LangGraph 代码大部分可以继续运行,真正改变的是工具暴露方式、多租户边界和模型路由策略。
一次典型请求沿着以下路径执行:
用户请求 → 租户 Cognito/JWT → 租户 AgentCore Runtime → 租户 AgentCore Gateway → 容器化 MCP Server → 银行内部系统
这种拆分把智能体逻辑与身份、网络、审计和运行基础设施解耦。高风险操作仍由人工审批,模型负责收集证据、解释异常并生成可复核的建议,而不是直接替代金融机构的最终决策。
多租户隔离:数据、身份与运行时三层设防
Duco 的隔离不是只在提示词中加入租户 ID,而是贯穿技术栈:
- 基础设施层:各租户使用独立 EKS Namespace,并通过网络策略隔离;Aurora MySQL、S3、KMS 密钥、SQS、SES、ElastiCache 和 Cognito 用户池均按租户分配。Duco 称其数据层不跨客户共享。
- 身份层:请求携带租户 Cognito 签发的 JWT,由 AgentCore Runtime 的入站授权器校验;Gateway 继续传递用户身份,容器化 MCP Server 同时验证用户与代理身份后再执行操作。
- 网络层:租户虽然共享 VPC 与 EKS 集群,但流量通过 Namespace、NetworkPolicy、安全组和私有端点约束;AgentCore Runtime 以 VPC 网络模式运行。
- 代理层:每个租户拥有独立 Runtime 与 Gateway,AgentCore 会话隔离避免跨客户共享记忆、上下文和工具;每个租户也维护自己的 MCP Server 集合。
这种设计牺牲了部分资源复用率,换取更清晰的授权边界和故障域。对于银行支付、资产对账等业务,隔离失败往往比基础设施成本上升更昂贵。
多模型路由:把推理能力、延迟与成本拆开
Duco 没有让单一模型承担全部工作,而是按角色进行路由:
| 模型 | 主要角色 | 典型任务 | |---|---|---| | Anthropic Claude Opus | 规划代理 | 复杂推理、前置任务拆解 | | Anthropic Claude Sonnet | 主推理与决策 | 异常调查、对账逻辑、规则解释 | | Anthropic Claude Haiku | 轻量路由 | 低延迟分类、工具选择、首次分流 | | Amazon Nova 2 Pro | 工具输出摘要 | 压缩 MCP 返回值、生成分析摘要 |
模型可通过配置替换,使底层能力升级不必重写应用层。不过,多模型并非天然更优:不同模型在工具调用格式、指令遵循、拒答边界和推理稳定性上存在差异,生产环境需要统一输出模式,并为每次模型切换执行回归评测。
MCP 按需技能:把 20 万 Token 工具定义移出常驻上下文
Duco 的每个租户通过 AgentCore Gateway 暴露 300—400 个工具,背后对应不同的 MCP Server。改造前,约 20 万 Token 的工具描述会在任务开始前全部进入上下文。工具数量增加后,模型不仅要消耗更多预填充计算,还要在大量相近的 JSON Schema、函数说明和业务规则之间进行选择,容易出现误选工具和丢失早期推理目标。
Duco 将工具与提示内容拆成三类 MCP 资源:
skill://:按需加载的技能和工具描述;system://:运行时组合的系统提示片段;ui://:与操作型工具隔离的界面资源。
Agent Harness 只暴露三个元工具:load_skill 加载技能描述,find_tool 定位相关工具及 Schema,invoke_tool 执行选定工具。Agent 启动时,Harness 从 Gateway 建立工具注册表,但只把工具名称交给模型;真正执行时再按需读取详细描述。
从上下文成本看,改造前可近似表示为:
C_before ≈ P + ΣS_i + O ≈ 200K tokens
其中 P 是基础提示,S_i 是全部工具 Schema,O 是任务状态与历史。改造后为:
C_after ≈ P + M + Σ(S_s, selected skills) + O ≈ 20K tokens
M 仅包含三个元工具的描述,技能只加载当前需要的子集。在标准全注意力近似下,预填充计算随序列长度近似呈二次增长,KV Cache 占用则与序列长度近似线性增长,因此缩短常驻上下文具有实际收益;但这不意味着端到端延迟也会直接下降十倍,模型输出、工具往返、网络耗时和技能加载仍会占据主要预算。
该设计还保留了提示缓存优势:基础系统提示与三个元工具构成稳定前缀,技能作为会话内容按需加入,而不是不断改写静态工具列表。动态技能因此不会像修改工具 Schema 列表那样直接破坏前缀缓存。需要注意的是,已加载技能会留在对话中,长任务仍需摘要、裁剪或会话分段机制。
动态工具发现与业务工作流
MCP Server 在部署时注册为 Gateway 目标。Agent 启动后获得工具名称注册表,新服务上线后可通过 find_tool 和 invoke_tool 自动获得能力,无需重新部署 Agent 或修改其配置。这把工具扩展从提示词工程转成了可版本化的服务注册流程。
在生产流程中,Duco 主要将智能体用于两类任务:
- 智能上线:识别遗留文件格式、转换旧配置、解析历史电子表格宏,并生成结构化对账流程。Duco 称新对账流程的部署速度提升 10 倍。
- 异常调查:先对差异分类和聚合,再查询源系统、已知问题与时间窗口,识别数据质量、缺失记录、映射错误或真实不匹配,最后给出调整建议、规则变更或升级路径,并路由给分析师复核。
模型负责调查的“第一公里”,最终处置仍由人完成;每次决策、证据和授权均可进入审计轨迹。这一设计符合金融业务中 Human-in-the-loop 的现实约束,也避免把模型建议直接等同于业务授权。
工程权衡:上下文缩减并非没有代价
| 设计收益 | 新增风险 | 建议控制方式 | |---|---|---| | 主上下文缩减 90% | 技能发现与调用增加模型轮次 | 缓存工具目录、并行检索 Schema、记录分阶段延迟 | | 工具能力可动态扩展 | 注册表可能过期或出现同名工具 | 使用稳定命名空间、版本号、校验和与启动同步 | | 工具输出更紧凑 | 裁剪结果可能丢失关键字段 | 采用结构化摘要、证据引用、分页与原始记录回查 | | 每租户独立运行时和数据层 | 资源成本与运维复杂度上升 | 按租户负载分级配置,但保留逻辑隔离边界 | | 多模型按角色路由 | 行为不一致、回归范围扩大 | 固定输出契约,模型升级前执行同任务集回归 | | 使用托管 AgentCore | 形成云控制面依赖 | 保持工具协议和业务规则可迁移,评估区域与合规可用性 |
实测表现与评测边界
Duco 披露其平台每月处理 200 亿笔交易、服务 200 多家客户,并称按需技能方案在相同模型、工具和任务下把主上下文从约 20 万 Token 降至约 2 万 Token,同时保持提示缓存并改善响应质量。公司还报告对账部署提速 10 倍,某全球银行的 onboarding 成本下降 70%、直通处理率提升逾 20%,并节省数千小时人工调查时间。
这些数字尚不足以构成完整的独立基准。规模数据证明系统承载了较大业务量,却不能直接证明 Agent 的准确率;成本和直通处理率也主要来自单个客户案例。文章未披露:
- 改造前后的固定任务集、样本量、模型版本与提示配置;
- 工具误选率、任务成功率、证据引用准确率及人工返工率;
- 首 Token 延迟、端到端 p95/p99、工具调用轮次和失败恢复时间;
- 加载技能后的总 Token、缓存命中率、每任务推理费用及基础设施成本;
- 多租户越权测试、审计完整性以及与原系统的结果一致性。
更可靠的验证方式应采用固定模型和任务的 A/B 测试,同时记录总上下文而非仅主上下文,并分别统计业务指标、系统成本和尾延迟。隔离能力还需通过跨租户身份、Gateway 路由、资源访问和网络出口的负向测试确认。
开发者落地与部署建议
- 先按业务能力重组工具:不要把每个 API 方法都暴露成独立工具,应按对账、调查、规则管理等任务形成稳定技能边界。
- 分离静态与动态上下文:系统提示、基础规则和元工具保持稳定前缀;技能说明、工具 Schema 与详细数据按需加载。
- 保留强身份链:JWT 必须在 Runtime 入站处校验,Gateway 必须传播用户身份,最终 MCP Server 和数据服务仍需独立执行授权。
- 为工具注册增加版本治理:部署时同步 Gateway 与 Agent 注册表,处理 Schema 变更、工具下线、名称冲突和回滚。
- 采用分层模型路由:低成本模型承担分类与路由,主推理模型处理异常,昂贵模型只参与复杂规划,摘要模型压缩工具输出。
- 把评测接入发布门禁:以工具选择准确率、端到端成功率、总 Token、p95 延迟、人工接管率和每任务成本作为联合指标。
- 保留人工决策门:涉及资金调整、规则发布或客户上报的动作必须经过授权、审计和回滚路径。
- 渐进迁移存量流程:先选择格式多样、规则稳定且可回放的流程建立基线,再逐步扩展到高风险操作。
—— 完 ——消息来源:AWS Machine Learning Blog (2026-11-16)
主题标签: #Amazon Bedrock AgentCore #MCP #多租户隔离 #按需技能加载 #金融智能体
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区