英伟达 NVIDIA H100 NVL 服务器

英伟达 NVIDIA H100 NVL 服务器
英伟达 NVIDIA H100 NVL 服务器
英伟达 NVIDIA H100 NVL 服务器

NVIDIA H100 GPU 基于新的 NVIDIA Hopper GPU 架构。与其前身 A100 相比，H100 提供了多项关键性能改进：

• 第四代张量核心：在新张量核心的支持下，H100 的每个流式多处理器 (SM)使 A100 SM 时钟的计算吞吐量翻倍，用于等效数据类型的时钟，包括：张量核心、FP32 和 FP64。
• 更多 SM：H100 有两种外形规格 - SXM5 和 PCIe5。H100 SXM5 有 132 个 SM，H100 PCIe 有 114 个 SM。这意味着与 A100 GPU 的 108 个 SM 相比，SM 数量增加了22%和5.5% 。
• 增加的时钟频率：H100 SXM5 以 1833 MHz 的 GPU 加速时钟速度运行，H100 PCIe 以 1698 MHz 运行。这些转化为比 A100 GPU 的 1410 MHz 增加30%和20% 。
• FP8 和 Transformer 引擎：新的 FP8 数据类型，仅在 H100 上可用，将 A100 上 FP16 的每个 SM 时钟的计算速率时钟提高了四倍。在作为 NVIDIA Hopper 架构一部分的Transformer Engine的帮助下，该程序可以智能地管理并在 FP8 和 16 位计算之间动态选择，减少内存使用并提高性能，同时保持 Transformer 模型的准确性。

H100 GPU服务器
Supermicro（超微） 提供超过20种组合式解决方案，可让客户从支持全新 NVIDIA H100 GPU 的 8U、5U、4U、2U 和 1U 系统中选择，將 AI/ML、高性能计算（HPC）和推论工作负载化。

通过 NVIDIA H100 PCIe GPU 认证的 Supermicro 系统配备 NVIDIA AI Enterprise，这套端对端云端原生AI及资料分析套装软件经过优化，可供企业使用AI。配备NVIDIA AI Enterprise 的 Supermicro 系统结合 NVIDIA H100 GPU，可简化AI就绪平台的构建，加速AI开发及部署，并提供性能、安全性及可扩展性，从而以更快的洞察力快速实现商业价值。

Supermicro（超微） 针对 NVIDIA H100 GPU 将特定当前一代系统进行认证，目前可提供 Supermicro GPU 服务器 SYS-420GP-TNR、SYS-420GP-TNR2 以及SYS-740GP-TNRTSupermicro 工作站等。通过对当前出货的工作站提供 NVIDIA H100 GPU 认证，客户可保留现有的 CPU 选择，同時享有全新 GPU 帶來的性能提升。此外，配合抢先体验计划，搭载 NVIDIA H100 GPU 的新一代 Supermicro（超微） 系统已开始出货。