智客 ZICQ
EN 登录 / 注册
智客前沿 智能体 #OpenShell #Kubernetes #CNCF #Agent Substrate #GPU推理

NVIDIA将OpenShell纳入CNCF,补齐智能体安全与Kubernetes执行栈

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:NVIDIA将自主智能体安全运行时OpenShell贡献给CNCF Sandbox,并参与Google发起的Agent Substrate项目,推动智能体治理、运行环境复用、推理服务与GPU调度在Kubernetes上协同。同时,NVIDIA以公开预览形式推出Kubernetes Engine、Kubernetes Recipes与开源Snapshot,后者通过恢复检查点副本缩短模型服务冷启动。公告中的合作方测试显示,GLM-5.3就绪时间由约8分钟降至31秒,vLLM启动时间降至6至34秒,但结果仍需在异构模型、集群和故障场景下独立验证。


NVIDIA把智能体控制面推向CNCF生态

NVIDIA宣布将OpenShell贡献给CNCF Sandbox。该项目不是模型推理框架,而是一层面向自主智能体的开源安全与治理运行时:通过确定性策略限制智能体调用工具、访问推理服务和执行工作负载的范围,同时允许企业接入自有算力、模型提供商、凭据存储与监控系统。

这一设计的关键在于将智能体权限控制放在执行路径上,而不是仅依赖提示词约束。模型可以生成高风险动作,但最终调用是否放行由外部策略决定,因而具备审计、撤销和跨环境统一配置的基础。不过,CNCF Sandbox项目仍处于早期治理阶段,项目成熟度、接口稳定性以及企业身份系统之间的对接深度仍需观察。

NVIDIA称OpenShell推出不足一年已获得数百家组织使用及数万次贡献,但原文没有披露贡献口径、活跃维护者数量、策略冲突处理方式、审计日志完整性或任何安全基准,因此这些数字更适合作为采用度信号,而非安全性证明。

Agent Substrate解决长期运行智能体的资源浪费

NVIDIA同时参与Google主导、已进入CNCF Sandbox的Agent Substrate项目。该框架面向Kubernetes上的长期运行智能体,核心机制是保留智能体环境状态,同时在会话空闲时释放底层计算资源。后续任务到来时,系统可挂起并恢复环境,而不是为每个会话永久保留专属GPU或完整执行沙箱。

从资源模型看,这类设计把固定占用转化为按活跃会话调度的共享资源池。其潜在收益是提高昂贵GPU的利用率,并减少大量低频会话造成的碎片化占用;代价则包括状态恢复延迟、检查点存储成本、环境一致性维护以及故障恢复复杂度。尤其当智能体依赖长连接、外部工具状态或不可序列化的内存对象时,“暂停”未必等同于廉价快照。

NVIDIA计划让Agent Substrate与Dynamo推理服务、KAI Scheduler共享集群资源分配,并通过OpenShell覆盖跨云及本地部署的策略治理。技术价值在于把智能体执行、模型推理和调度从三个独立控制面收拢到Kubernetes;但系统耦合越深,版本兼容、故障域划分和升级顺序也越复杂。

Snapshot绕开模型重新加载与预热

NVIDIA还公开了DSX AI Factory Platform的新组件:NVIDIA Kubernetes Engine(NVKE)、NVIDIA Kubernetes Recipes(NVKR)和开源模块NVIDIA Snapshot。NVKE与NVKR已进入公开预览,前者用于自动化集群生命周期管理,后者提供签名且版本固定的镜像与部署配方。

Snapshot针对的是推理扩容和故障恢复中的冷启动成本。常规扩容通常需要下载模型权重、建立显存副本、执行图编译和请求预热;Snapshot则尝试恢复已有检查点副本,无需重新加载模型或重新预热,即可让服务在数秒级重新进入就绪状态。其适用前提是检查点格式、驱动、CUDA、模型及服务运行时保持兼容,否则恢复路径仍可能退化为常规冷启动。

合作伙伴数据提供了初步工程信号:Crusoe在HGX B300上测试GLM-5.3,将工作负载就绪时间从约8分钟缩短到31秒;Saturn Cloud测试vLLM时,将启动时间从2至8.5分钟降至6至34秒。两者数量级一致地指向冷启动改善,但测试由设计伙伴完成,原文没有披露模型大小、批量大小、KV Cache状态、存储介质、网络条件、统计分布或对照实现的细节,因而不能直接外推到所有模型和集群。

部署时应验证的四条工程边界

首先,Snapshot的“秒级恢复”应同时测量端到端就绪时间,而不只是进程启动时间。生产系统还要验证首个请求延迟、稳态吞吐、长上下文KV Cache一致性及滚动升级期间的请求迁移。

其次,Agent Substrate的共享计算收益需要与状态保存成本一起核算。应比较独占GPU、共享调度、完整快照和增量检查点四种方案,并测量暂停恢复期间的尾延迟、故障恢复点和跨节点迁移开销。

再次,OpenShell的确定性策略必须覆盖身份、工具、网络、数据和算力边界。企业应测试策略冲突、最小权限、凭据轮换、提示注入以及智能体绕过工具网关等场景,避免把运行时治理误当成对模型内部行为的完全隔离。

最后,NVKE和NVKR仍处于公开预览。其签名镜像与版本固定策略有助于供应链可复现性,但升级兼容性、故障域隔离、Kubernetes版本支持范围,以及与现有GPU Operator、Prometheus、云厂商Kubernetes服务的集成深度,将决定实际迁移成本。

开发者落地建议

智能体平台团队可优先试验OpenShell与Agent Substrate的组合:将前者作为工具调用和凭据访问的强制准入层,后者负责会话环境复用与共享资源调度,并用Dynamo或现有vLLM服务承接推理。集群管理员则可在非关键生产环境验证NVKE、NVKR和Snapshot,重点记录冷启动、冷启动后的首Token延迟、故障恢复时间、GPU利用率及升级回滚耗时。

这套发布的核心价值不在新增一个模型,而在补齐自主智能体从安全治理、运行环境、模型服务到GPU调度的云原生控制链。能否成为事实标准,仍取决于CNCF社区治理、跨云可移植性、接口兼容承诺,以及第三方工作负载能否复现官方和合作伙伴给出的启动加速结果。


消息来源:NVIDIA AI News (2026-11-10)

—— 完 ——

主题标签: #OpenShell #Kubernetes #CNCF #Agent Substrate #GPU推理

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…