Stretto用Nova 2 Sonic重构破产电话询案链路
摘要:Stretto与AWS、CI&T将面向破产客户的多轮电话询案交给Tara:系统以Amazon Nova 2 Sonic原生完成语音交互、工具调用与打断处理,通话结束后再由Claude 3 Haiku异步抽取结构化字段,律师规则负责最终线索筛选。其关键工程点不是简单替换ASR,而是用语音桥接跨流续接、ECS/Fargate高可用与Bedrock私有接入支撑15至20分钟敏感对话。Stretto报告约96%的字段抽取准确率、8分钟平均通话、相对网页表单20%的转化提升及95%的单分钟成本下降;这些数据仍主要来自厂商与客户联合案例,尚缺独立复现。
Stretto已将Bankruptcy.com的破产线索初筛从网页表单切换为电话智能体Tara。实时阶段由Amazon Nova 2 Sonic原生完成语音理解与语音生成,通话结束后再由Claude 3 Haiku抽取结构化字段,线索资格则由律师定义的确定性规则和人工复核决定。其价值不只是把表单换成对话,而是一套面向敏感金融场景、同时处理流式音频、长会话续接、异步数据落库与责任边界的生产架构。
架构:拆开实时交互与离线结构化
呼叫方通过Twilio接入,Media Streams以WebSocket传输音频。流量依次经过AWS WAF和Application Load Balancer,抵达运行于Amazon ECS on Fargate的语音桥接服务;该服务跨三个可用区持续运行,并向Amazon Bedrock中的Nova 2 Sonic发起双向音频流。
通话结束后,转录文本通过Amazon SQS及死信队列进入异步处理器。处理器调用Bedrock上的Claude 3 Haiku,将姓名、金额、地址、车辆等字段转换为类型化结构,并写入多可用区的Amazon Aurora Serverless v2。随后,律师定义的规则完成合格、不合格或待补充信息三类分流,律师保留最终决定权。
这种分层有两个直接收益:实时路径只承担对话和工具调用,避免结构化抽取拖累首音频延迟;异步路径则可独立重试和扩展,故障不会立即中断正在进行的通话。不过,它也引入了最终一致性窗口,生产系统需要用幂等键、队列积压告警和死信重放处理重复事件及迟到结果。
原生语音到语音改变了什么
传统ASR、LLM、TTS串联链路需要依次完成音频切分、语音转写、文本推理和语音合成。其首音频延迟可以概念化为采集缓冲、转写、LLM首Token、TTS首包和播放缓冲之和,任何一环的抖动都会累积。跨组件传递还会损失部分韵律、情绪和停顿信息,使模型虽能判断用户情绪,却未必能用一致的语气回应。
Nova 2 Sonic将语音输入与语音输出放在同一个基础模型中,减少了显式文本中间态和组件交接。Stretto称,旧方案的time-to-first-audio超过500毫秒,而新模型专为低延迟对话设计;在压力、犹豫和沮丧等场景中,系统还能调整语速与语气。
但端到端体验并不只由模型推理决定。Twilio采集与编解码、WebSocket网络抖动、Bedrock排队、容器调度、输出缓冲和播放延迟都可能成为真正的瓶颈。文章没有披露Nova 2 Sonic的实际TTFA分布,因此500毫秒只能作为旧基线,不能当作新方案的性能证明。生产验收至少应同时报告p50、p95和p99 TTFA,以及丢包、跨区和并发升高条件下的尾延迟。
打断处理同样不是简单的停止按钮。有效barge-in需要检测用户发声、取消正在生成的响应、清空已排队音频、保留对话状态,再从正确位置继续回答。文章没有披露模型内部的VAD、取消和缓存策略,部署方应在披露说明、提问中途、回答中途及敏感告知语期间分别注入打断测试。
15至20分钟询案如何跨流续接
完整破产问卷可能持续15至20分钟,超过单次Nova 2 Sonic流式会话的长度上限。Stretto的语音桥接器会跟踪当前流持续时间,在到达限制前以相同系统提示和工具配置开启新流,将此前对话作为文本历史发送;待当前回答结束后,再把呼叫方音频切换到新流并关闭旧流。
这一做法避免了会话到期造成的硬重置,但也引入了三个工程风险。首先,文本历史无法完整保留韵律、情绪和语音线索,续接后的语气一致性可能弱于原始流。其次,对话越长,重建上下文所需Token越多,输入成本和推理开销随之上升。最后,新流建立与预热必须被调度器严格约束,否则即使在响应边界切换,也可能产生可感知停顿。
更稳妥的实现是将事实状态与对话历史分离:实时模型负责采集和交互,业务系统以结构化记录保存已确认字段,跨流时传递稳定的事实ID、摘要和必要原文,而不是依赖模型重新从自然语言中恢复全部事实。
把高后果判断留在模型之外
Tara可以引导对话、调用工具并提取信息,但不直接决定客户是否具备法律服务资格。资格规则由律师定义并在通话后执行,敏感决定仍由律师完成。这一边界比单纯添加拒答提示更可靠,因为显式规则可以审计、回放和版本化。
生产测试覆盖了正常路径、矛盾回答、中途改口、拒绝回答、试图操纵结果、同意采集、披露语句和不同位置的打断。团队还记录了同意与披露日志,并将模型安全控制、业务规则和人工复核组合为纵深防御。
AWS称Bedrock不会使用提示词或模型输出训练模型,IAM与PrivateLink可将调用限制在AWS网络内。不过这些属于平台方的数据保护声明,不等于对具体应用的合规认证。债务、资产和就业信息仍需最小化采集,并配置明确的保留期限、访问审计、删除流程、区域驻留和人工升级机制。Nova 2 Sonic及Bedrock也并非在所有AWS区域可用。
实测结果及其边界
| 指标 | Stretto报告结果 | 需要保留的判断边界 | | --- | --- | --- | | 单分钟语音成本 | 较旧方案降低约95% | 按文中2026年4月us-east-1按需价格计算,但旧方案构成、并发折扣及ECS、SQS、Aurora等完整成本未披露 | | 结构化抽取准确率 | 约96% | 未说明样本量、字段级还是记录级准确率、标注标准、置信区间及拒答样本 | | 已完成通话平均时长 | 约8分钟 | 仅统计完成通话,可能忽略中断、掉线等失败样本 | | 线索转化率 | 相对网页表单提升20% | 属于相对增幅而非20个百分点; rollout尚未覆盖所有地区,渠道选择和用户意图差异也可能影响结果 | | 语音质量 | 可适应平静、压力、犹豫、沮丧等状态 | 未公布MOS、人类偏好、情绪识别准确率或与旧方案的盲测结果 |
这些数据表明该方案已越过“演示可用”阶段,但还不是可独立复现的独立基准。尤其是95%的降本只涉及语音模型单价,不能直接等同于完整业务成本下降;完整单位经济模型还应纳入并发语音桥、Claude抽取、数据库、监控、失败重试和人工复核成本。
关键工程权衡
- 原生语音到语音与模块可控性:Nova 2 Sonic减少链路拼接并改善语气连续性,但企业对其内部ASR、音频分块和生成策略的控制较少,也带来供应商锁定与区域可用性约束。
- 低延迟与长程一致性:跨流续接解决了会话长度限制,却把部分非语言信息降维成文本。金融访谈越敏感,语气、犹豫和自我修正越重要,越需要独立状态层和跨流回归测试。
- 自动化与责任归属:模型适合降低人工采集成本,不适合直接承担资格认定。确定性规则与人工复核会增加流程成本,却能提供可解释性和责任边界。
- 托管服务与总体拥有成本:Bedrock免去模型基础设施运维,但单价下降不等于系统成本下降。高并发场景仍需核算Fargate常驻容量、峰值扩容、跨可用区冗余、队列积压和下游存储。
- 情感交互与评测难度:语气适配改善体验,却不能仅靠主观演示证明。应采用盲听评分、情绪状态分层、噪声与口音覆盖,以及独立标注的一致性统计。
开发者落地建议
- 先做质量门禁再集成:用真实业务场景验证情绪、噪声、口音、澄清和打断,设置明确的TTFA、打断恢复率与字段准确率阈值。
- 把会话状态外部化:使用数据库或事件存储保存结构化事实、工具调用结果和版本号,跨流只重建必要上下文,避免依赖长对话文本恢复状态。
- 为异步链路设计幂等性:以通话ID和抽取版本构造幂等键,监控SQS积压、死信数量与重放结果,避免重复写入或覆盖人工修正。
- 分离模型输出与业务决策:资格、金额阈值和法律分流应由版本化规则引擎执行,模型只负责采集与建议,并保留输入、输出、规则版本和人工修改日志。
- 设计降级路径:为Bedrock超时、语音桥故障、长连接中断和队列积压提供重拨、留言或人工接管方案;敏感业务不能只依赖单次自动重试。
- 按合格线索核算单位经济性:将每通完整通话成本、每分钟模型成本、抽取成本、人工复核成本和合格线索数放入同一公式,而不是只比较模型单价。
Stretto案例的可复用价值,是给出了一个边界清晰的语音智能体生产范式:原生语音模型负责交互,异步模型负责结构化,规则引擎负责资格判断,人工负责最终责任;真正决定系统能否进入金融等高敏场景的,则是尾延迟、长会话连续性、可审计性和完整成本,而非单次演示效果。
—— 完 ——消息来源:AWS Machine Learning Blog (2026-11-18)
主题标签: #Amazon Nova 2 Sonic #语音智能体 #语音到语音 #Amazon Bedrock #企业级AI
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区