NVIDIA Grace CPU

解决重大的 AI 和 HPC 问题需要高容量和高带宽内存 (HBM)。第四代 NVIDIA NVLink-C2C 可在 NVIDIA Grace CPU 和 NVIDIA GPU 之间提供 900 GB/s 的双向带宽。此项互连技术可提供统一、缓存一致性的内存地址空间，后者将系统和 HBM GPU 显存相结合，能够简化可编程性。CPU 和 GPU 之间这种一致、高带宽的连接是加速解决未来复杂问题的关键。

NVIDIA Grace 是率先通过纠错码 (ECC) 等机制，利用具有服务器级可靠性的 LPDDR5X 内存来满足数据中心需求的服务器 CPU，其内存带宽为当今常规服务器内存的 2 倍，能效更是高达后者的 10 倍。NVIDIA Grace LPDDR5X 解决方案与大型高性能最后一级缓存相结合，为超大模型提供必要的带宽，同时降低系统功耗，以更大限度提高其处理新一代工作负载的性能。

随着 GPU 并行计算能力的不断提高，仍然可以通过在 CPU 上运行的序列任务来控制工作负载。快速高效的 CPU 是系统设计的关键组件，可以更大限度地加速工作负载。NVIDIA Grace CPU 集成了 Arm Neoverse V2 核心与 NVIDIA 可扩展一致性结构，能够以节能高效的设计实现高性能，使科学家和研究人员更轻松地开展其毕生事业。

生成式 AI 需要大量显存和计算。NVIDIA GB200 超级芯片使用 380GB 的 HBM 显存，提供的 GPU 显存带宽超过 NVIDIA H100 Tensor Core GPU 的 4.5 倍。Grace Blackwell 中的高带宽显存通过 NVLink-C2C 连接到 CPU 内存，可为 GPU 提供近 860GB 的快速访问显存，从而为处理全球复杂度数一数二的生成式 AI 和加速计算工作负载提供所需的显存容量和带宽。