谷歌发布第八代自研AI芯片,拆分训练与推理

来源:爱集微 #谷歌# #TPU# #8t芯片#
978

当地时间4月22日,谷歌云宣布推出第八代自研TPU(张量处理单元)芯片。在最新发布的两款芯片中,TPU 8t专用于AI训练任务,TPU 8i则用于运行AI推理任务,这两款芯片都将于今年晚些时候上市。同时,谷歌还展示了多项用于构建AI智能体的新工具,并宣布设立一支7.5亿美元的基金,以推动企业采用AI。

谷歌CEO桑达尔·皮查伊(Sundar Pichai)在相关博文中表示,目前谷歌所有新代码中,75%由AI生成,该比例在去年秋季为50%;此外,面向企业用户的Gemini Enterprise第一季度付费月活跃用户数环比增长40%。

据介绍,专注于训练方面的TPU 8t在性能上是公司去年11月发布的第七代Ironwood TPU的2.8倍,而价格相同。另一边,专注于推理方面的TPU 8i在性能上比上一代提升了80%。TPU 8i采用了静态随机存储器(SRAM),皮查伊表示,该架构旨在“以具成本效益的方式提供大规模吞吐量和低延迟,从而能够同时运行数百万个智能体”。

与上一代Ironwood相比,TPU 8t和TPU 8i在单位功耗性能(performance-per-watt)方面最高可实现两倍以上提升。TPU 8t的单位功耗性能较上一代提升了124%,而TPU 8i则实现了117%的提升。

责编: 赵碧莹
来源:爱集微 #谷歌# #TPU# #8t芯片#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...