NVIDIA英偉達H20人工智能服務器專為 AI 和 HPC 而打造,。

AI,、復雜模擬和海量數(shù)據(jù)集需要多個具有極快互連速度的 GPU 和加速的軟件堆棧。NVIDIA HGX™ AI 超級計算平臺整合了 NVIDIA GPU,、 NVLink®,、NVIDIA 網(wǎng)絡以及全面優(yōu)化的 AI 和高性能計算 (HPC) 軟件堆棧的全部功能，可提供*高的應用性能并加快獲得見解的速度,。

NVIDIA英偉達H20人工智能服務器GPU算力租賃配置參數(shù)：

端到端加速計算平臺

NVIDIA HGX H20將 NVIDIA Blackwell Tensor Core GPU 與高速互連技術相集成,，推動數(shù)據(jù)中心邁向加速計算和生成式 AI 的新時代。HGX 系統(tǒng)是加速縱向擴展平臺,，專為要求嚴苛的生成式 AI,、數(shù)據(jù)分析和 HPC 工作負載而設計。

NVIDIA HGX H20 將 H20 Tensor Core GPU 與高速互連技術相結合，為每個數(shù)據(jù)中心提供出色的性能,、可擴展性和安全性,。它配置了多達 8 個 GPU，為 AI 和 HPC 領域打造出性能強勁的加速垂直擴展式服務器平臺,。HGX H20提供高級網(wǎng)絡選項,，憑借 NVIDIA Quantum-2 InfiniBand 和 Spectrum™-X 以太網(wǎng)實現(xiàn)出色的 AI 性能

HGX H20還集成了 NVIDIA數(shù)據(jù)處理器 (DPU)，有助于在超大規(guī)模 AI 云中實現(xiàn)云網(wǎng)絡,、可組合存儲,、零信任安全性和 GPU 計算彈性。

深度學習推理：性能和多功能性,，適用于新一代大型語言模型的實時推理,。

深度學習訓練：性能和可擴展性；

訓練性能進一步提升第二代 Transformer 引擎采用 8 位浮點 (FP8) 和新精度,，可使 GPT-MoE-1.8T 等大型語言模型的訓練速度顯著提升 3 倍,。這一代 NVLink 可提供GPU 間直接互連、InfiniBand 網(wǎng)絡和 NVIDIA Magnum IO™ 軟件,。這些因素將共同確保企業(yè)和廣泛的 GPU 計算集群具備高效的可擴展性,。

NVIDIA英偉達H20人工智能服務器借助 NVIDIA 網(wǎng)絡來加速 HGX；

數(shù)據(jù)中心是新的計算單元,，而網(wǎng)絡在大幅提升整個數(shù)據(jù)中心的應用性能方面發(fā)揮著**的作用,。與 NVIDIA Quantum InfiniBand 搭配使用時，HGX 可提供性能和效率,，確保計算資源得到充分利用,。