此前英伟达GPU严重短缺,过去几个月,许多规模不同的公司称收到了数千个英伟达H100 GPU。
英伟达一直对H100施行配给制度,根据人工智能(AI)模型的规模、可用基础设施和客户概况来评估客户,并优先考虑各个行业财力雄厚的客户。特斯拉是其中之一。
几个月前,特斯拉CEO马斯克表示注意到GPU短缺,并正在等待接收英伟达GPU以提高人工智能能力。马斯克表示,特斯拉启动了由10000个H100 GPU组成的集群,并且部署速度极快。
此外,数据中心提供商和前比特币挖矿公司正在开设具有H100集群的数据中心。英伟达还提供了关于客户何时收到H100 GPU的更清晰的时间表。
数据中心提供商Applied Digital购买了34000个H100 GPU,其于9月开始收到5月下订的GPU。9月份,它收到了1024个GPU,CEO Wes Cummins估计10月份数量翻了一番,并且11月、12月以及明年1月份这个数字可能会显著增加。
英伟达还向能够签署采购订单的小型客户提供服务。
加密矿企Iris Energy正在创建人工智能计算基础设施,支付约1000万美元购买248个英伟达GPU。预计其订购产品在未来几个月内交付。
由亿万富翁Jed McCaleb资助的初创公司Voltage Park收到24000个H100 GPU,这些GPU分布在华盛顿州、得克萨斯州和弗吉尼亚州的集群中。该公司表示,订单是在2023年4月左右下的。团队提前下了一份非常大的订单,以保证有足够的供应。
Voltage Park还旨在通过支持FLOP Auction计划,为客户提供廉价的H100 GPU计算能力。类似eBay在H100上进行人工智能训练,出价最高者获得服务器时间。
除了提供H100,英伟达也通过云端供应商租用GPU扩大H100产能,而非直接出货给客户。研调机构TrendForce报告指出,因美国的AI禁令,可能使英伟达更积极主推以A100或H100 AI服务器为基础DGX cloud订阅租赁模式,甚至拓展到L40S等其他云端,以服务中国客户,或其他潜在有地缘政治风险地区的客户。
此外,H100还成为了新业务的抵押品。
Crusoe Energy是一家前加密货币矿商,以20000台H100作为抵押,获得2亿美元的融资。同样,GPU计算提供商CoreWeave也以H100作为抵押获得价值24亿美元的融资。
此前,由于CoWoS封装产能限制加剧GPU的短缺,英伟达正在帮助台积电寻找新的合作伙伴和供应商来解决短缺问题。
展望未来,其他因素可能会意外地结束短缺并加速英伟达的GPU出货量。如美国对华出口限制可能释放英伟达的制造能力生产更多H100芯片。
而供应正常化也将有助于企业将人工智能计划付诸实施。
对于短缺问题是否已得到解决,英伟达拒绝发表评论。报道称,该公司可能会在11月21日的财报电话会议上提供GPU供应的最新信息。
此外,尽管市场对H100的需求火热,英伟达最近还是宣布了更新的路线图,计划在未来三年推出新的GPU。
(校对/孙乐)