供应缓解?多家企业收到英伟达数千个H100 GPU

来源:爱集微 #GPU# #英伟达#
2.8w

此前英伟达GPU严重短缺,过去几个月,许多规模不同的公司称收到了数千个英伟达H100 GPU。

英伟达一直对H100施行配给制度,根据人工智能AI模型的规模、可用基础设施和客户概况来评估客户并优先考虑各个行业财力雄厚的客户特斯拉是其中之一。

几个月前,特斯拉CEO马斯克表示注意到GPU短缺,并正在等待接收英伟达GPU以提高人工智能能力。马斯克表示,特斯拉启动了由10000个H100 GPU组成的集群,并且部署速度极快。

此外,数据中心提供商和前比特币挖矿公司正在开设具有H100集群的数据中心。英伟达还提供了关于客户何时收到H100 GPU的更清晰的时间表。

数据中心提供商Applied Digital购买了34000个H100 GPU,其于9月开始收到5月下订的GPU。9月份,它收到了1024个GPU,CEO Wes Cummins估计10月份数量翻了一番,并且11月、12月以及明年1月份这个数字可能会显著增加。

英伟达还向能够签署采购订单的小型客户提供服务。

加密矿企Iris Energy正在创建人工智能计算基础设施,支付约1000万美元购买248个英伟达GPU。预计其订购产品在未来几个月内交付。

由亿万富翁Jed McCaleb资助的初创公司Voltage Park收到24000个H100 GPU,这些GPU分布在华盛顿州、得克萨斯州和弗吉尼亚州的集群中。该公司表示,订单是在2023年4月左右下的。团队提前下了一份非常大的订单,以保证有足够的供应。

Voltage Park还旨在通过支持FLOP Auction计划,为客户提供廉价的H100 GPU计算能力。类似eBay在H100上进行人工智能训练,出价最高者获得服务器时间。

除了提供H100,英伟达通过云端供应商租用GPU扩大H100产能,而非直接出货给客户。研调机构TrendForce报告指出,因美国的AI禁令,可能使英伟达更积极主推以A100或H100 AI服务器为基础DGX cloud订阅租赁模式,甚至拓展到L40S等其他云端,以服务中国客户,或其他潜在有地缘政治风险地区的客户。

此外,H100还成为新业务的抵押品。

Crusoe Energy是一家前加密货币矿商,以20000台H100作为抵押,获得2亿美元的融资。同样,GPU计算提供商CoreWeave也以H100作为抵押获得价值24亿美元的融资。

此前,由于CoWoS封装产能限制加剧GPU的短缺,英伟达正在帮助台积电寻找新的合作伙伴和供应商来解决短缺问题。

展望未来,其他因素可能会意外地结束短缺并加速英伟达的GPU出货量。如美国对华出口限制可能释放英伟达的制造能力生产更多H100芯片。

而供应正常化也将有助于企业将人工智能计划付诸实施。

对于短缺问题是否已得到解决,英伟达拒绝发表评论。报道称,该公司可能会在11月21日的财报电话会议上提供GPU供应的最新信息。

此外,尽管市场对H100的需求火热,英伟达最近还是宣布了更新的路线图,计划在未来三年推出新的GPU。

(校对/孙乐)

责编: 李梅
来源:爱集微 #GPU# #英伟达#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...