设为首页|收藏本站|
开启左侧

[科技] 英伟达发布Hopper架构H100:800亿个晶体管、80GB的HBM3、TDP为700W

[复制链接]
67689 5
河源徐其修凉茶 发表于 2022-4-8 06:35:46 | 只看该作者 打印 上一主题 下一主题
 
在GTC 2022上,英伟达发布了新一代基于Hopper架构的H100,用于下一代加速计算平台。正如英伟达所言,这是专门为超级计算机设计的GPU,专注于AI性能,通过架构更新和工艺提升,使其性能和效率提高到新的水平。

NVIDIA H100拥有800亿个晶体管,相比上一代的A100,有着六倍的性能提升以及两倍的MMA改进。该款GPU为CoWoS 2.5D晶圆级封装,单芯片设计,采用了台积电(TSMC)的4nm工艺制造,不过是为英伟达量身定制的版本,与一般的N4工艺有所差别。

英伟达发布Hopper架构H100:800亿个晶体管、80GB的HBM3、TDP为700W 第1张图片


英伟达没有公布H100的核心数量和频率。据了解,完整的GH100芯片配置了8组GPC、72组TPC、144组SM、共18432个FP32 CUDA核心。其采用了第四代Tensor Core,共576个,并配有60MB的L2缓存。有不过实际产品中没有全部打开,其中SXM5版本中启用了132组SM,共16896个FP32 CUDA核心,528个Tensor Core以及50MB的L2缓存,而PCIe 5.0版本则启用了114组SM,FP32 CUDA核心数量只有14592个。此外,前者的TDP达到了700W,后者则为350W。

英伟达表示H100的FP64/FP32运算性能为60 TFlops,FP16运算性能为2000 TFlops,TF32运算性能为1000 TFlops,均是A100的三倍。此外英伟达在Hopper架构上改进了对FP8运算的支持,使其运算性能达到了4000 TFlops,是A100六倍。由于缺乏原生FP8,不得不依赖于FP16,英伟达通过新的转换器引擎,将根据工作负载在FP8和FP16之间自动切换。

据英伟达介绍,H100支持英伟达第四代NVLink接口,可提供高达900 GB/s的带宽。同时H100还支持不使用NVLink接口的系统,以PCIe 5.0代替,带宽为128 GB/s。英伟达表示,H100是第一款支持PCIe 5.0标准的GPU,也是第一款采用HBM3的GPU,最多支持六颗HBM3,带宽为3TB/s,是A100采用HBM2E的1.5倍,默认显存容量为80GB。

英伟达还添加了旨在加速动态编程的新DPX指令,以帮助更广泛的算法,包括路线优化和基因组学。英伟达表示这些算法的性能比其上一代GPU快了七倍,比基于CPU的算法快了四十倍。Hopper架构还对安全性做了改进,多实例GPU(MIG)现在允许在单个H100 GPU上运行七个安全租户。

英伟达发布Hopper架构H100:800亿个晶体管、80GB的HBM3、TDP为700W 第2张图片


与A100一样,英伟达会将新款的H100添加到DGX H100机架式服务器。每个DGX H100系统包含8块H100,共640GB的HBM3显存,可提供32 PFlops的AI计算性能,以及480 TFlops的FP64运算性能。系统中的每个GPU都通过第四代NVLink连接,带宽是上一代的1.5倍,加上全新的VNLink Swtich互连系统,可连接32个DGX H100节点,以构建下一代NVIDIA DGX SuperPOD超级计算机。

由于H100分别有SXM和PCIe两种外形,以支持不同的服务器设计要求。为了更好地适应不同的系统,英伟达还提供了H100 CNX融合加速器,将H100与NVIDIA ConnectX-7 400Gb/s InfiniBand和以太网SmartNIC配对,为I/O密集型应用提供突破性的性能。Hopper架构GPU还可以与具有NVLink-C2C互连的Grace CPU搭配使用,成为Grace Hopper超级芯片,为大规模HPC和AI应用提供服务。

NVIDIA H100可广泛部署在各种类型的数据中心里,将向全球范围内的云服务供应商和计算机制造商提供,预计今年第三季度开始供货。


上一篇:普京和普里马科夫竞争,最终普京胜出,普京给对手的评价感人
下一篇:那些把同事当朋友的人,后来怎么样了
@



1.西兔生活网 CTLIVES 内容全部来自网络;
2.版权归原网站或原作者所有;
3.内容与本站立场无关;
4.若涉及侵权或有疑义,请点击“举报”按钮,其他联系方式或无法及时处理。
 

精彩评论5

正序浏览
跳转到指定楼层
沙发
世界末日都没死 发表于 2022-4-8 06:36:05 | 只看该作者
 
单卡算力上G的梦想终于可以实现了[捂脸]
回复 支持 反对

使用道具 举报

 
板凳
zx126653664 发表于 2022-4-8 06:36:57 | 只看该作者
 
700W😂,电吹风啊
回复 支持 反对

使用道具 举报

 
地板
穿击冲击波 发表于 2022-4-8 06:37:18 | 只看该作者
 
哈哈 为了3080上的850W 4080你说上多少W吧
回复 支持 反对

使用道具 举报

 
5#
david罗 发表于 2022-4-8 06:37:39 | 只看该作者
 
快赶上电暖气了[抠鼻]
回复 支持 反对

使用道具 举报

 
6#
cccwer天枰 发表于 2022-4-8 06:37:51 | 只看该作者
 
玛德,电费交不起啊
回复 支持 反对

使用道具 举报

 
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

排行榜
活跃网友
返回顶部快速回复上一主题下一主题返回列表APP下载手机访问
Copyright © 2016-2028 CTLIVES.COM All Rights Reserved.  西兔生活网  小黑屋| GMT+8, 2024-6-27 06:15