智客 ZICQ
EN 登录 / 注册
智客前沿 行业动态 #NVIDIA #主权AI #NVLink Fusion #异构算力 #Dynamo

NVIDIA深化韩国主权AI合作,接入NVLink Fusion生态

Mr.Xu 的头像

文 / Mr.Xu 智客前沿编译 · 审校

发布时间:

中文阅读 (Chinese) English Version

摘要:NVIDIA与韩国科学技术信息通信部扩大合作,从AI芯片、数据中心、人才培训延伸到基础模型、智能体和安全。韩国NPU与XPU企业将探索接入NVLink Fusion,NVIDIA还将通过Dynamo优化推理,并与SK Telecom、Rebellions推进韩国模型与工作负载所需的主权算力基础设施。该计划的技术价值在于以开放互连标准整合异构加速器,但目前主要是合作框架,实际部署规模、互操作性能及本土软硬件生态成熟度仍待验证。


合作从算力采购扩展到完整主权AI栈

NVIDIA与韩国科学技术信息通信部(MSIT)扩大合作范围,覆盖AI半导体、数据中心基础设施、人才培训、创业公司、基础模型、智能体与安全治理。韩国本土NPU、XPU厂商将探索加入NVIDIA NVLink Fusion生态;NVIDIA还计划通过培训认证、黑客松和技术研讨会提高韩国的GPU利用率。

按照“AI for All”计划,NVIDIA将与三个入选联合体及四家韩国基础模型厂商合作,使用Dynamo软件优化和扩展AI推理。另一项由MSIT支持的协作将联合SK Telecom与Rebellions,基于NVLink Fusion建设面向韩国模型与业务负载的主权AI基础设施。

NVLink Fusion的工程意义

NVLink Fusion的核心不是把不同加速器简单装进同一机柜,而是为异构计算节点提供高带宽、低延迟的互连路径。对主权AI基础设施而言,这一设计允许韩国运营商与本土芯片厂商保留NPU、XPU等差异化资产,同时在需要时接入GPU生态。

在典型大模型推理中,跨加速器通信会直接影响专家并行、流水并行和张量并行效率。若互连带宽不足,计算单元等待数据的时间会抵消异构集成的收益;NVLink Fusion试图通过统一互连层降低这一协调开销。但“参与生态”并不等于已经实现可部署的商用集群,其实际价值仍取决于拓扑、编译器、算子覆盖、 collective通信实现、内存层级以及故障恢复机制。

韩国本土加速器要接入该生态,至少需要解决四项工程问题:

  1. 编译器能否把现有图和算子映射到异构设备;
  2. collective通信库能否避免在低带宽路径上形成全局同步瓶颈;
  3. 内存与KV Cache放置策略能否适应不同设备的容量和带宽差异;
  4. 调度器能否在负载不均时动态分配工作,而非仅按设备类型静态分区。

Dynamo承担推理扩展角色

NVIDIA将Dynamo用于韩国基础模型厂商和联合体的推理优化。该软件路径通常包含请求级调度、KV Cache管理、连续批处理及请求 disaggregation 等能力,目标是在动态负载下提高GPU利用率,并减少重复计算和等待时间。

这类优化的实际收益高度依赖请求分布。长上下文、输出长度差异大或工具调用频繁的流量,可能使KV Cache驻留与调度成为主要矛盾;而稳定的短请求场景则更受批处理和通信开销支配。官方尚未披露合作项目的模型规模、并发量、硬件组合、端到端吞吐、首Token延迟及缓存命中率,因此不能据此推断生产性能。

训练、人才与安全是基础设施的必要组成

NVIDIA还计划通过认证课程、黑客松和技术研讨会扩充韩国AI人才梯队。硬件采购若缺少调度、推理优化和系统工程能力,很容易形成低利用率设备;将开发者训练与真实集群部署绑定,有助于形成从模型适配到生产运维的完整技能链。

合作同时覆盖模型、智能体和安全,说明韩国试图把“主权AI”定义为本地可控制的数据、模型和算力体系,而不只是国产芯片清单。但主权性并不能仅由硬件所在地决定,还取决于数据驻留规则、模型训练数据来源、供应链控制、云端管理权限、远程更新机制和出口管制下的持续可获得性。

异构算力的工程权衡

开放互连生态能够缓解单一GPU供应商依赖,却会引入新的系统复杂度。NPU、XPU与GPU在指令集、编程模型、内存容量及算子实现上存在差异,同一模型在不同设备上的性能并不自动可加。较小批次或较弱内存子系统可能抵消互连优势;模型切分若跨越设备边界,还会增加通信量和尾延迟。

因此,评测重点不应只是节点总峰值算力,而应包括:

  • 端到端tokens/s与每瓦tokens/s;
  • 不同batch size下的首Token延迟和P99延迟;
  • 长上下文下KV Cache的容量利用率;
  • 跨设备通信占执行时间的比例;
  • 设备故障、驱动升级和软件版本不一致时的服务稳定性;
  • 模型迁移至另一家加速器后的性能折损。

开发者与数据中心落地建议

韩国算力企业应先以单一模型、明确上下文长度和固定并发完成概念验证,再逐步扩展到专家并行和异构流水线,避免把互联带宽与模型执行效率混为一谈。基础模型团队可优先建立算子兼容性清单,并分别测试prefill、decode和长上下文三种负载。

数据中心运营商则应把NVLink Fusion视为软硬件协同工程,而非采购接口:拓扑规划、供电与散热、调度器、监控、遥测、安全补丁及故障隔离必须同步建设。模型、智能体和安全合作最终能否转化为可验证的主权AI能力,也应通过公开基准、生产SLA和供应链审计来判断,而非只依赖合作公告。


消息来源:NVIDIA AI News (2026-11-09)

—— 完 ——

主题标签: #NVIDIA #主权AI #NVLink Fusion #异构算力 #Dynamo

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…