赶超谷歌TPU?传亚马逊自研AI训练芯片已收获重量级客户

来源:爱集微 #亚马逊# #TPU# #英伟达#
1.4w

一位亚马逊AWS芯片设计人员日前在其社交账号透露,AWS自研的Trainium芯片正逐渐在AI大模型训练领域获得一席之地,”在内部外部都有几百个客户,有隐隐超越Google TPU成为第二大玩家的趋势。“

根据该位人士介绍的信息,Trainium芯片诞生于AWS Annapurna labs,Trainium不仅在推理任务上比前代Inferentia更为优秀,而且支持大模型训练。与英伟达A100相比,在GPT模型上训练速度相当,成本则便宜50%,在BERT模型上快了50%,便宜2.5倍。

该位人士还透露,最近得益于全球GPU产能短缺,亚马逊吸纳了几个极重要的外部客户,公司CEO称Annapurna labs可能是未来几年AWS的number one team,目标是让未来的AI算力市场不被英伟达一家独大,其团队目前还在大力扩招。

责编: 武守哲
来源:爱集微 #亚马逊# #TPU# #英伟达#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...