NVIDIAHopperH200GPU配备世界上最快的HBM3e内存GraceHopper超级芯片为Jupiter超级计算机提供动力
NVIDIA宣布推出全新H200HopperGPU，该GPU现在配备了美光全球最快的HBM3e内存。除了新的人工智能平台之外，NVIDIA还宣布凭借GraceHopper超级芯片赢得超级计算机重大胜利，该芯片现已为ExaflopJupiter超级计算机提供动力。
NVIDIA通过升级的HopperGPU、GraceHopper超级芯片和超级计算机继续打造AI动力
NVIDIA的H100GPU是迄今为止业界需求量最大的AI芯片，但绿色团队希望为其客户提供更高的性能。HGXH200是最新的AIHPC和计算平台，由H200TensorCoreGPU提供支持。这些GPU在硬件和软件上均采用最新的Hopper优化，同时提供迄今为止世界上最快的内存解决方案。
NVIDIAH200GPU配备了美光的HBM3e解决方案，内存容量高达141GB，带宽高达4.8TB/s，与NVIDIAA100相比，带宽增加了2.4倍，容量增加了一倍。在Llama2(700亿参数LLM)等应用中，这种新的内存解决方案使NVIDIA的AI推理性能比H100GPU提高了近一倍。TensorRT-LLM套件的最新进展也为大量人工智能应用带来了巨大的性能提升。
在解决方案方面，NVIDIAH200GPU将广泛应用于具有4路和8路GPU配置的HGXH200服务器中。HGX系统中H200GPU的8路配置将提供高达32PetaFLOP的FP8计算性能和1.1TB的内存容量。
NVIDIAH200GPU：配备HBM3e内存，将于2024年第二季度上市
GPU还将与现有的HGXH100系统兼容，使客户能够更轻松地升级其平台。华硕、华擎Rack、戴尔、Eviden、技嘉、慧与、鸿毅科技、联想、QCT、纬颖科技、超微和纬创等NVIDIA合作伙伴将在H200GPU于2024年第二季度上市时提供更新的解决方案。
NVIDIAGraceHopperSuperchips为1ExaflopJupiter超级计算机提供动力
除了H200GPU的发布之外，NVIDIA还宣布了由其GraceHopperSuperchips(GH200)提供支持的超级计算机的重大胜利。该超级计算机被称为Jupiter，将位于德国于利希研究中心(ForschungszentrumJülich)设施，作为EuroHPC联合项目的一部分，并由Eviden和ParTec承包。该超级计算机将用于材料科学、气候研究、药物发现等。这也是NVIDIA在11月宣布的第二台超级计算机，前一台是Isambard-AI，可提供高达21Exaflops的AI性能。
配置方面，Jupiter超级计算机基于Eviden的BullSequanaXH3000，采用全液冷架构。它拥有总共24,000个NVIDIAGH200GraceHopper超级芯片，这些芯片通过该公司的Quantum-2Infiniband互连。考虑到每个GraceCPU包含288个Neoverse核心，我们认为仅Jupiter的CPU端就有近700万个ARM核心(准确地说是6,912,000个)。
性能指标包括90Exaflops的人工智能训练和1Exaflops的高性能计算。该超级计算机预计将于2024年安装。总体而言，这些是NVIDIA凭借强大的硬件和软件技术继续引领AI世界的一些重大更新。