一位亚马逊AWS芯片设计人员日前在其社交账号透露,AWS自研的Trainium芯片正逐渐在AI大模型训练领域获得一席之地,”在内部外部都有几百个客户,有隐隐超越Google TPU成为第二大玩家的趋势。“
根据该位人士介绍的信息,Trainium芯片诞生于AWS Annapurna labs,Trainium不仅在推理任务上比前代Inferentia更为优秀,而且支持大模型训练。与英伟达A100相比,在GPT模型上训练速度相当,成本则便宜50%,在BERT模型上快了50%,便宜2.5倍。
该位人士还透露,最近得益于全球GPU产能短缺,亚马逊吸纳了几个极重要的外部客户,公司CEO称Annapurna labs可能是未来几年AWS的number one team,目标是让未来的AI算力市场不被英伟达一家独大,其团队目前还在大力扩招。