世界最强AI芯H200发布,英伟达:性能提升90%

作者: 韩秀荣
2023-11-14 {{format_view(17439)}}
相关舆情
AI解读
生成海报
世界最强AI芯H200发布,英伟达:性能提升90%

英伟达在2023年全球超算大会(SC2023)上推出了一款最新的AI芯片H200,用于AI大模型的训练。

英伟达对其火爆的H100 人工智能GPU进行了重磅升级,最新款高端芯片名为H200,基于英伟达的“Hopper”架构,是英伟达第一款使用HBM3e高带宽内存的GPU,这种内存速度更快、容量更大,因此更适合处理大型数据集,而这是开发大型语言模型所必需的。在用于推理或生成问题答案时,性能较H100提高60%至90%。

英伟达公司表示,基于HBM3e,H200以每秒4.8 TB的速度提供141GB的内存,与A100相比,容量几乎是其两倍、带宽增加了2.4倍。

在备受瞩目的人工智能领域,英伟达提到,H200将带来进一步的性能飞跃。在Llama 2(700亿参数的LLM)上的推理速度比H100快了一倍。未来的软件更新预计会给H200带来额外的性能领先优势和改进。

H200将在具有四路和八路配置的英伟达HGX H200服务器主板中提供,并与HGX H100系统的硬件和软件兼容。

据悉,大型计算机制造商和云服务提供商预计将于明年第二季度开始使用H200。亚马逊的AWS、Alphabet公司的谷歌云、微软Azure和甲骨文的云基础设施,都承诺从明年开始使用这款新芯片。

英伟达表示,通过推出新产品,公司希望跟上用于创建人工智能模型和服务的数据集规模的增长。增强的内存能力将使H200在向软件提供数据的过程中更快速,这个过程有助于训练人工智能执行识别图像和语音等任务。

过去,英伟达通常两年更新一次芯片架构,最新的芯片架构是Hopper。不过上个月,英伟达对投资者表示,由于市场对其GPU需求旺盛,该公司将从每两年发布一次新架构转向每一年就发布一次新架构。 (校对/赵碧莹)

责编: 赵碧莹
英伟达 H200

热门评论

美国宣布对中国传统芯片发起贸易调查