NVIDIA 新架構 Hopper 登場 效能和前代相比將大幅提升


新世代 GPU 架構正式亮相!

為推動下一波人工智慧 (AI) 資料中心的發展,NVIDIA 在今天(3/23)推出採用 NVIDIA Hopper 架構的新一代加速運算平台,效能較上一代平台將會有所提升。這個以美國電腦科學家先驅 Grace Hopper 命名的全新架構,正接替了兩年前推出的 NVIDIA Ampere 架構,一起來看看有什麼特色和亮點!

NVIDIA 新架構 Hopper 登場 效能和前代相比大幅提升

NVIDIA 同時也宣布推出首款採用 Hopper 架構的 GPU 產品 NVIDIA H100,這款 GPU 封裝了 800 億個電晶體,是全球最大且效能最強大的加速器,具突破性的功能,例如革命性的 Transformer Engine 及具高度擴展性的 NVLink 互連技術,可用於推動極大規模的 AI 語言模型、深度推薦系統、基因組學和複雜的數位孿生等領域的發展

NVIDIA 新架構 Hopper 登場 效能和前代相比大幅提升

NVIDIA H100 共有六項突破性創新的技術,包含搭載了最先進的晶片、具備全新的 Transformer Engine、擁有第二代安全多執行個體 GPU、具備機密運算能力的加速器、第四代 NVIDIA NVLink、以及有全新 DPX 指令

H100 的多項技術創新擴大了 NVIDIA 在 AI 推論和訓練的領先地位,使 NVIDIA 能夠利用巨大的 AI 模型做到即時和沉浸式應用。像是可以讓聊天機器人透過全球最強大的單體 transformer 語言模型 Megatron 530B,來滿足即時對話式 AI 所需的次秒級延遲。H100 同時讓研究人員和開發人員能夠訓練像是 Mixture of Experts 這類大規模模型,包含 3,950 億個參數,能將速度提高達九倍,將訓練時間從過去所需的數週減少到數日便能完成

NVIDIA 新架構 Hopper 登場 效能和前代相比大幅提升

H100 將會推出 SXM 和 PCIe 兩種規格,以滿足各種伺服器的設計要求。同時也將推出一款融合加速器,將 H100 GPU 搭配 NVIDIA ConnectX-7 400Gb/s InfiniBand 及 Ethernet SmartNIC,並預計於第三季開始供貨,有興趣的人不妨再多多關注啦

(新聞來源:NVIDIA 新聞稿)

電獺少女也有 TikTok 了!各類 App 使用密技、即時科技大事、第一手產品把玩心得全都在電獺少女 TikTok 就差你沒關注啦! 

編輯室

編輯室

電獺少女編輯室是女孩一枚