智客 ZICQ
EN 登录 / 注册
智客前沿 大模型 #AWS #Kimi K3 #Amazon Bedrock #开放模型 #显式提示缓存

AWS发布Kimi K3模型:支持1百万token上下文与高效推理优化

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间: · 12 次阅读

中文阅读 (Chinese) English Version
共读互动 选中正文任意句子即可高亮划线、写下你的技术批注,或一键生成金句引用卡。 直达讨论区 ↓

摘要:AWS在Amazon Bedrock平台上正式推出由Moonshot AI开发的Kimi K3模型。该模型拥有2.8万亿参数,支持1百万token的上下文窗口,并具备原生视觉处理能力。其显著特点是引入了显式提示缓存技术,可有效降低延迟和输入成本,提升长上下文任务的处理效率。此外,Kimi K3还提供跨区域推理配置选项,为开发者提供更灵活、高效的AI模型使用体验。


AWS发布Kimi K3模型:支持1百万token上下文与高效推理优化

AWS在Amazon Bedrock平台上正式推出了由Moonshot AI开发的Kimi K3模型。作为一款开放权重模型,Kimi K3在AI模型的经济性和性能方面实现了重大突破。其主要特点包括:

  • 大规模参数与高效扩展:Kimi K3拥有2.8万亿参数,是目前首个达到这一量级的开放模型。其在扩展效率上相比前代Kimi K2提升了约2.5倍。
  • 原生视觉与长上下文支持:Kimi K3集成了原生视觉处理能力,并支持1百万token的上下文窗口,使其在处理长文档、代码库和图像等复杂任务时表现优异。
  • 显式提示缓存技术:Kimi K3是Amazon Bedrock上首个支持显式提示缓存的开放模型。通过标记可重用的提示前缀,开发者可以显著降低重复请求的延迟和输入成本。

技术亮点解析

  1. 开放权重模型的创新应用:Kimi K3的推出反映了AWS在开放权重模型领域的持续投入。自2025年以来,Amazon Bedrock已集成了来自DeepSeek、Google、MiniMax等多家提供商的数十个开放模型。
  2. 平台级功能支持:Kimi K3受益于Amazon Bedrock平台的多项新功能,包括工具调用、结构化输出、推理、响应流式传输以及Responses和Chat Completions API。这些功能无需针对每个模型单独集成,使得新模型可以快速利用平台优势。
  3. 数据安全与隐私保护:Kimi K3在AWS数据边界内处理用户数据,不与模型提供商共享,也不会用于训练底层模型。零数据保留和零运营商访问策略确保用户数据的安全性和隐私性。

开发者建议

  • 快速上手:开发者可以通过Amazon Bedrock控制台或使用bedrock-runtime端点调用Kimi K3模型。AWS提供了详细的使用指南和示例代码。
  • 优化推理成本:利用显式提示缓存技术,开发者可以显著降低长上下文任务的推理成本。例如,在处理重复性任务或相似输入时,缓存机制可以有效减少输入token数量。
  • 跨区域部署:Kimi K3支持跨区域推理配置,开发者可以根据数据驻留要求选择合适的区域配置。例如,全球配置(global.moonshotai.kimi-k3)可以路由到全球任何支持的商业AWS区域,而美国地理配置(us.moonshotai.kimi-k3)则将处理限制在美国境内。

行业影响

Kimi K3的发布标志着AWS在开放权重模型领域的又一重要里程碑。其强大的性能和灵活的配置选项使其成为长上下文任务和复杂工作流的理想选择。随着越来越多的开放模型在Amazon Bedrock上集成,开发者将能够更轻松地构建和部署AI驱动的应用,从而推动AI技术的普及和应用创新。


消息来源:AWS Machine Learning Blog (2026-09-18)

—— 完 ——

主题标签: #AWS #Kimi K3 #Amazon Bedrock #开放模型 #显式提示缓存

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

读完这篇,你的第一判断是?
🚀 去【作品】晒出你的相关实践

社区整体评论区

正在加载实时智能评论与划词标注…