当地时间4月22日,谷歌云宣布推出第八代自研TPU(张量处理单元)芯片。在最新发布的两款芯片中,TPU 8t专用于AI训练任务,TPU 8i则用于运行AI推理任务,这两款芯片都将于今年晚些时候上市。同时,谷歌还展示了多项用于构建AI智能体的新工具,并宣布设立一支7.5亿美元的基金,以推动企业采用AI。
谷歌CEO桑达尔·皮查伊(Sundar Pichai)在相关博文中表示,目前谷歌所有新代码中,75%由AI生成,该比例在去年秋季为50%;此外,面向企业用户的Gemini Enterprise第一季度付费月活跃用户数环比增长40%。
据介绍,专注于训练方面的TPU 8t在性能上是公司去年11月发布的第七代Ironwood TPU的2.8倍,而价格相同。另一边,专注于推理方面的TPU 8i在性能上比上一代提升了80%。TPU 8i采用了静态随机存储器(SRAM),皮查伊表示,该架构旨在“以具成本效益的方式提供大规模吞吐量和低延迟,从而能够同时运行数百万个智能体”。
与上一代Ironwood相比,TPU 8t和TPU 8i在单位功耗性能(performance-per-watt)方面最高可实现两倍以上提升。TPU 8t的单位功耗性能较上一代提升了124%,而TPU 8i则实现了117%的提升。