英伟达发布NVHBM内存技术，带宽提升30%功耗降15%

BiRun 讯，8 月 27 日，英伟达发布面向下一代 AI 基础设施的 NVHBM 技术。NVHBM 是一种与主要存储芯片供应商共同设计及验证的定制 HBM 基础裸片，将通过 NVLink Fusion 向开发定制 AI 加速器（XPU）的超大规模云服务商和 AI 原生企业提供。

与标准 HBM4e 相比，NVHBM 每个堆栈可提供最高 30% 的额外内存带宽，降低最高 15% 的 HBM 功耗，并为 XPU 释放最多 25% 的计算裸片面积。英伟达称，上述改进可帮助定制加速器支持更大的 AI 模型、更快读取 KV 缓存，并提高训练及大规模推理效率。

NVHBM 通过重新设计物理内存接口，将内存控制器移入 3D HBM 堆栈并集成定制 PHY，使 PHY 及配套区域面积最多减少 67%，同时简化中介层布线。释放的芯片面积可用于增加矩阵引擎、缓存、网络及其他针对特定工作负载的功能。

在机架层面，NVLink Fusion 芯粒可将定制 XPU 连接至 NVLink 网络，并通过 NVLink-C2C 连接 CPU。英伟达表示，NVHBM 与 NVLink Fusion 结合后，每颗 XPU 的端到端性能可提高约 30%，同时允许定制 XPU 与英伟达 GPU 组成异构计算系统。官方尚未在文章中披露具体商用时间。