提高運作效能
NVIDIA A100 Tensor Core GPU 提供前所未有的 HPC 加速技術,以解決與工業 HPC 習習相關的 AI、資料分析、模型訓練與模擬的複雜挑戰。與 A100 40GB 相比,A100 80GB PCIe GPU 提高 25% 的 GPU 記憶體頻寬,達到每秒 2TB,並且提供 80GB 的 HBM2e 高頻寬記憶體。
A100 80GB PCIe 的龐大記憶體容量與高記憶體頻寬,可以在記憶體中保存更多資料和更大的神經網路,將節點間的通訊和能耗量降至最低。更高速的記憶體頻寬讓研究人員能夠加快處理速度、更快獲得結果,徹底發揮 IT 投資的價值。
A100 80GB PCIe 採用具備 NVIDIA 多執行個體 (MIG) 技術的 NVIDIA Ampere 架構,可以加速處理 AI 推論等小型作業負載。MIG 能讓 HPC 系統在保證服務品質的情況下,縮小運算和記憶體規模。除了 PCIe 外,另有搭載四個或八個 NVIDIA HGX A100 的配置。
支援 A100 80GB PCIe 的 NVIDIA 合作夥伴包括 Atos、思科 (Cisco)、戴爾科技集團 (Dell Technologies)、富士通 (Fujitsu)、新華三 (H3C)、慧與科技(HPE)、浪潮 (Inspur)、聯想 (Lenovo)、Penguin Computing、雲達科技 (QCT) 與美超微 (Supermicro)。搭載 A100 GPU 並透過 NVLink 互連的 HGX 平台亦可在 Amazon Web Services、Microsoft Azure 及 Oracle Cloud Infrastructure 等雲端服務中取得。
下一代
交換器系統
NVIDIA InfiniBand 是全球唯一可完全卸載的網路內運算互連技術,可為需要優異資料處理能力的 HPC 系統提供超強大的效益。NDR InfiniBand 技術可因應工業與科學 HPC 系統面臨的艱鉅挑戰而隨之調整效能規模。NVIDIA Quantum™-2 固定配置交換器系統擁有 64個 NDR 400Gb/s InfiniBand 連接埠 (或是 128 個 NDR200 連接埠),與 HDR InfiniBand 相比,連接埠的密度高出三倍。
NVIDIA Quantum™-2 模組化交換器提供具擴充能力的連接埠配置,最多提供 2,048 個 NDR 400Gb/s InfiniBand 連接埠 (或4,096個 NDR200 連接埠),雙向總處理量為每秒 1.64 petabits,是上一代的五倍。擁有 2,048 個連接埠的交換器,擴充能力較上一代產品高出 6.5 倍,透過 DragonFly+ 網路拓撲結構,只要三個交換器 hop 就能連接超過 100 萬個節點。第三代 NVIDIA SHARP In-Network Computing 資料縮減技術與上一代相比,能提高 32 倍 AI 加速能力,提升高效能工業和科學應用程式的效能。
Related Keywords