零一万物李开复:公司用300万美元训练高性能AI模型,OpenAI成本1亿美元

来源:爱集微 #李开复# #零一万物# #AI#
1434

中国实体正在创新以训练其高级AI模型,01.ai(零一万物)的创始人兼负责人李开复本周表示,他的公司仅用300万美元和2000个GPU就训练了一个高级AI模型。

李开复表示,OpenAI花费了8000万到1亿美元来训练GPT-4,据报道GPT-5的训练费用高达10亿美元,而01.ai仅用300万美元就训练出了其高性能模型。根据公司网站上的图表,01.ai的Yi-Lightning在加州大学伯克利分校LMSIS测量的模型性能中排名第六。

这一成就当然特别引人注目,因为该公司在成本效益上表现出色。这种鲜明的对比表明,实现顶级AI能力并不总是需要巨额预算,因为通过精心设计和有针对性的优化,可以在成本和计算资源的极小部分上获得类似的结果。

据悉,OpenAI使用了1万个英伟达A100 GPU来训练其GPT-3模型,并且使用了更多的H100处理器来训练其GPT-4和GPT-4o模型。通过采用各种创新解决方案,01.ai不得不使用2000个未公开的GPU来训练其Yi-Lightning模型。然而,去年李开复表示,他的公司有足够的GPU来执行其1.5年的路线图。不过,成本数字并不相符。一个英伟达H100 GPU的成本约为3万美元,因此2000个这样的GPU将花费600万美元。

为了提升模型性能,01.ai专注于通过将计算需求转化为面向内存的任务、构建多层缓存系统以及设计专门的推理引擎来优化速度和资源分配,从而减少其推理过程中的瓶颈。结果,01.ai的推理成本大大低于类似模型——每百万代币10美分,大约是可比模型典型收费的1/30。

但李开复同时指出,中国公司,尤其是01.ai,面临重大挑战。由于美国出口限制,他们几乎无法获得先进GPU。他们与美国AI公司相比也存在估值劣势,这影响了他们的可用资源和投资机会。(校对/李梅)

责编: 李梅
来源:爱集微 #李开复# #零一万物# #AI#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...