NVIDIA发布NVLink Fusion与NVHBM:革新AI基础设施内存技术
摘要:NVIDIA宣布扩展其NVLink Fusion技术,引入新一代高带宽内存技术NVHBM。该技术通过将内存控制器集成到3D HBM堆栈中,显著提升内存带宽达30%,降低HBM功耗15%,并释放XPU计算芯片上25%的面积。NVHBM由多家内存供应商提供支持,旨在为超大规模企业和AI创新者提供更高效、更快速的AI基础设施构建方案。
NVIDIA NVLink Fusion与NVHBM:AI基础设施的革新
随着AI智能体和万亿参数工作负载逐渐成为主流,AI基础设施的性能不仅仅依赖于计算能力,还取决于计算、内存、存储、网络和软件的协同设计。为了帮助超大规模企业和AI创新者构建下一代半定制AI基础设施,NVIDIA宣布扩展其NVLink Fusion技术,并引入了新一代高带宽内存技术——NVHBM。
NVHBM的核心优势
- 内存性能提升:NVHBM通过将NVIDIA定制的内存控制器集成到HBM基底层,提供了高达30%的内存带宽提升。
- 功耗降低:与标准HBM4E相比,NVHBM的功耗降低了15%。
- 芯片面积优化:NVHBM释放了XPU计算芯片上25%的面积,为计算资源提供更多空间。
NVHBM基于NVIDIA未来GPU将使用的相同技术,并由多家领先的内存供应商提供支持。这一举措减少了跨供应商集成和认证内存所需的工程工作量,为NVLink Fusion客户提供了更快的产品上市路径。
AWS与NVIDIA的合作
亚马逊的Annapurna Labs将成为首个与NVIDIA合作开发NVHBM的合作伙伴,作为其与NVIDIA在NVLink Fusion方面更广泛合作的一部分。Annapurna Labs将在其下一代Trainium芯片中支持NVLink Fusion,从Trainium4开始,这将使亚马逊芯片和NVIDIA GPU能够通过共同的机架级架构协同工作。
开放与集成的生态系统
NVLink Fusion使合作伙伴能够将定制的XPUs和CPUs连接到NVIDIA的机架级平台。合作伙伴可以访问NVIDIA NVLink芯片、NVLink-C2C、NVLink交换机和NVIDIA MGX系统和机架,以及广泛的CPU合作伙伴、ASIC设计人员、系统制造商和技术提供商生态系统。NVLink Fusion与NVIDIA每一代机架级系统架构一起提供,使超大规模企业和AI原生公司能够专注于XPU创新,同时利用经过验证的技术堆栈进行扩展和扩展网络、机架级系统和软件,从而更快、更低风险地部署半定制AI基础设施。
行业影响与开发者建议
- 对AI基础设施的影响:NVLink Fusion与NVHBM的结合将显著提升AI计算平台的整体性能和能效,为AI模型的训练和推理提供更强大的支持。
- 对开发者的影响:开发者可以利用这一技术优化AI应用的资源利用效率,特别是在处理大规模数据集和复杂模型时。
- 建议:开发者应关注NVLink Fusion与NVHBM的进一步发展,并考虑在未来的AI项目中采用这一技术,以提升系统的整体性能和可扩展性。
—— 完 ——消息来源:NVIDIA AI News (2026-08-26)
主题标签: #NVIDIA #NVLink Fusion #NVHBM #AI基础设施 #内存技术
编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。
社区整体评论区