微软推自研迈亚200芯片,称推理成本低于英伟达

来源:爱集微 #微软# #Maia200# #芯片#
725

据媒体报道,微软力推其迈亚(Maia)200芯片,称该芯片在部分推理任务上的成本低于英伟达芯片。

作为2023 年推出的Maia 100的升级款,微软曾表示,Maia 200 在技术上实现了升级,能够以更快的速度、更高的能效运行高性能 AI 模型。这款芯片集成超 1000 亿个晶体管,4 比特精度下的算力可达 10 petaflops 以上,8 比特精度算力约 5 petaflops,相较上一代产品实现大幅提升。

AI 推理指运行已训练完成模型的计算过程,与模型训练所需的计算过程不同。随着人工智能企业的发展走向成熟,推理成本在企业整体运营成本中的占比持续提升,也让行业重新聚焦于推理流程的优化方案。

微软希望 Maia 200 能成为推动这一优化的关键产品,助力 AI 企业实现更稳定的业务运行与更低的能耗。微软表示:“实际应用中,单节点 Maia 200 可轻松运行当前规模最大的 AI 模型,且为未来更大规模的模型运算预留了充足的算力空间。

责编: 陈炳欣
来源:爱集微 #微软# #Maia200# #芯片#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...