AI大模型时代 Arm赋能合作伙伴打造定制芯片

来源:爱集微 #Arm# #定制芯片# #AI大模型# #AIGC#
8036

集微网报道 在ChatGPT引发的热潮推动下,有越来越多的企业入局,也有越来越多的大模型出炉。随着对芯片算力需求的提升,科技大厂纷纷选择亲自下场开发AI芯片。面对这一趋势,Arm公司持续赋能合作伙伴打造定制芯片加以应对。

在日前举办的Arm Tech Symposia 年度技术大会上,Arm 高级副总裁兼基础设施事业部总经理Mohamed Awad就表示,近年来Arm 已转型为一家计算平台公司。一直以来,Arm向市场提供 IP 产品,合作伙伴基于Arm的 IP 来开发他们的解决方案和产品。此外,Arm 现在也更专注于建立完整且全面的解决方案,帮助合作伙伴更快地将产品推向市场,让他们能够把更多的时间和精力集中在开发创新的解决方案上,以提供更多的新产品和解决方案,带来差异化。

大模型推动算力需求爆发 定制芯片受青睐

Mohamed Awad强调,从人工智能到 5G,再到云数据中心以及边缘,打造新一代计算基础设施的技术先行者都在转向寻求定制芯片,以实现规模化所需的专用处理能力。Arm公司推出,Arm全面计算解决方案、Arm Neoverse平台、Arm Corstone以及SOAFEE等,都是Arm的计算平台分别在移动、基础设施、物联网与汽车等市场当中得以广泛应用的例证。这些平台可以向生态伙伴提供一个完整、集成的解决方案,帮助用户快速采用并推出自身的解决方案。

在谈到基础设施方面时,Mohamed Awad介绍,传统的服务器系统往往采取一个标准的CPU通过标准化的总线,连接几个加速器的架构模式。这种传统架构一直适用了几十年。但是在 AI 时代,这样的架构已经很难满足日益增长的数据和计算量需求。因为它无法获得足够的内存带宽。为此,越来越多的模型厂商开始选择定制芯片,以便灵活调整芯片架构,重新构建系统。

以NVIDIA GH200 Grace Hopper 超级芯片架构为例,NVIDIA与Arm合作对系统进行了进一步优化。定制CPU包括72 颗 Arm Neoverse 核心,加上来自 NVIDIA 的 GPU的组合。每个核心都会直接连接到每个加速器上,在加速器和 CPU 之间建立高性能连接,并在整个设备间实现内存一致性,其AI 性能较传统架构下的系统可以提升10倍。

而为了帮助合作伙伴实现这样的定制芯片,Arm还推出Arm Neoverse 计算子系统 (CSS)、Arm全面设计 (Arm Total Design)生态项目,降低打造定制芯片的成本和难度,加速产品的上市进程。同时,Mohamed Awad也表示,Arm仍致力于IP授权业务,为合作伙伴提供更高的自由度,最适合自身的方式进行产品开发。

从云端到终端  Arm打造全面解决方案

AI大模型正向边缘与终端延伸,如AI手机、AI PC的推出,这需要进一步改善芯片性能、降低功耗。那么,AI大模型的轻量化发展将给移动芯片生态带来哪些变化?对此,Mohamed Awad指出,考虑到生成式AI是大模型,训练肯定主要在云端进行。推理工作可以在各个节点发生,可以是在移动设备、在云端,也可以是在终端或边缘设备,以及像 VR 头显这样的新设备上。

就 Arm 而言,几十年来一直专注于计算性能的研发,专注于计算性能与软件的紧密藕合。计算不仅包括CPU,也包括NPU等,还包括整个系统、软硬件之间如何协同工作。这也是为什么 Arm 针对用例打造全面解决方案,可覆盖从低端到高端,从智能手表、手机到笔记本等。

展望未来,从最小的终端、移动设备,到网络边缘、数据中心,AI将无处不在。事实上,AI将革新计算的方方面面,这将带来更多的专用计算以及加速处理的需求。Mohamed Awad还表示,明年推出的基于Armv9 架构的 2024 Arm全面计算解决方案 (TCS24) ,也将会着重解决这些需求。

与安谋科技合作,继续助中国本土合作伙伴

中国市场一向是Arm最主要的市场之一。有数据显示,中国大陆市场占据Arm收入的近1/4。本次会议之上,Mohamed Awad再次强调了Arm始终致力于支持其中国客户和在中国的生态系统。Mohamed Awad表示:“来自中国市场的创新是Arm不断发展,并在业务上取得成功的原因之一。我们相信,Arm 所提供的基础平台能够赋能生态伙伴持续创新,打造出更卓越的产品和解决方案。我相信在中国,很重要的一点就是通过不断努力来加速创新,而正是这样的持续创新的精神,牵引着 Arm 和我们的生态伙伴一起取得了显著成就,并向市场推出更多新的产品。”

如今,中国合作伙伴基于 Arm 架构芯片的总出货量已累计达300亿颗。目前,Arm在中国有近400家技术授权客户。此外,Arm也一直通过与安谋科技合作以进一步助力本土合作伙伴。

责编: 张轶群
来源:爱集微 #Arm# #定制芯片# #AI大模型# #AIGC#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...