英伟达GTC中国线上大会的“闭门会议”带来了哪些干货?

来源:爱集微 #英伟达#
4.2w

如果问你英伟达是做什么的,你的第一反应是否是显卡?从“显卡大厂”到“AI霸主”,英伟达已走过了27个年头。该公司官网的“名片”为:GPU(图形处理器)的发明者,也是人工智能计算的引领者。

12月15日—12月19日,英伟达为期5天的GTC中国线上大会正式召开,探索英伟达技术如何在AI、图形计算、智慧医疗、机器人等领域带来突破性进展,并为各行各业带来变革。期间,英伟达各类产品线的技术专家在“闭门会议”上的发言都带来了哪些干货?

图源:网络

架构创新助力计算效率提升

黄氏定律预测GPU将推动AI性能实现逐年翻倍,而黄氏定律的核心是架构创新。“英伟达更多的是依靠架构上的创新,从而使GPU发展速度和性能提升呈现几倍、甚至几十倍的结果。”英伟达区中国工程和解决方案高级总监赖俊杰如是说道。

全新的英伟达 Ampere GPU架构可以为AI、数据科学以及高性能计算等提供6倍的性能提升。而基于英伟达Ampere架构的首款产品A100 Tensor Core GPU则是全球最大的7nm处理器,拥有超过540亿个晶体管。

据赖俊杰介绍,英伟达A100结合了第三代Tensor Core、结构化疏松技术、新的多实例GPU功能和第三代 NVLink 高速互联技术等关键性技术,使得A100能够在各种规模的计算上提供前所未有的加速。

其中,英伟达第三代Tensor Core引入了TF32精度,一方面,它有足够的动态范围和精度,能够保证网络在训练的时候没有任何精度损失; 另一方面,它能够利用Tensor Core架构大大加速神经网络相关的一些计算性能。

在刚刚过去的10月,英伟达发布了A100 80GB版本,与A100 GPU区别主要体现在内存方面。据了解,A100 80GB的版本采用了HBM2e版本的内存,并且它的容量能够达到20GB,其显存带宽超过2TB。采用A100 80GB版本的DGX服务器,其显存总容量可以达到640GB。

何为未来的网络架构

英伟达亚太区网络市场开发高级总监宋庆春指出,“英伟达刚刚发布的NDR InfiniBand产品充分体现了未来的网络架构,即软件定义、硬件加速、云原生、网络计算的网络。”

在NDR产品发布以后,世界上有了第一款400Gb/s的端到端网络解决方案。而且在英伟达的NDR产品上面,实现了网络通信中最难的 AllReduce和 All2All集合通信硬件卸载,解决了行业的痛点。

凭借NDR产品,可在3个Hop内达到超过百万台的服务器互连,E级和Z级系统Ready,SHARP的网络计算能力提升32倍。

“NDR是一个完全的SDN的网络,在网络内其所有的操作都可由软件进行控制。同时,在管理上面实现了Cyber AI管理。将AI和网络管理整合在一起,可以让网络管理员主动预防网络故障、规避故障的发生,而不是等到网络故障发生以后被动的找问题。”宋庆春说道。

据悉,英伟达上个月宣布推出英伟达® Mellanox® 400G InfiniBand产品,其是第7代的InfiniBand产品,利用100Gb/s的PAM4 Serdes技术, 实现了400Gb/s的单端口传输带宽, 是上一代产品的两倍, 同时通过添加更多、更强大的加速引擎,实现了更强大的计算和通信能力。

Jetson平台助AI落地

Jetson是英伟达的自主机器平台,截至目前,该平台已在全球拥有70万开发者,而且这个数字每一天还在增长当中。

对于Jetson受欢迎的原因,英伟达亚太区开发者发展总监李铭指出,我们在Jetson平台上一直致力于打造一套相对来说上手容易、而且功能丰富的SDK,也就是JetPack。

JetPack版本已经从当初的JetPack 1.0到了现在的4.4版本,现在最新推出的4.4.1版本可以支持TS1、TS2、Nano等。

“Jetson的理念就是给大家一个非常合适、各种工具齐备的平台。Jetson的算力选择也非常丰富,这样在产品化落地阶段中,各个阶段都可以帮到大家。”李铭表示。

英伟达在今年下半年推出的新品是Jetson Nano 2GB,把之前Nano产品向更加入门的方向又推进一步,适用于学生、教育工作者和机器人爱好者。其接口非常丰富,常规的USB、HDMI接口都有,且算力充沛,共有0.5T算力。

据悉,Jetson Nano 2GB 开发者套件由英伟达 JetPack™ SDK提供支持,英伟达JetPack™ SDK随附英伟达容器运行时及完整的Linux软件开发环境。因此,开发者可以将他们的 Jetson应用程序及其所有依赖项打包到一个可以在任何部署环境下运作的容器中。它还由 英伟达CUDA-X™加速计算堆栈提供支持。

(校对/零叁)

责编: 刘燚
来源:爱集微 #英伟达#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...