2023年8月10日,由 OCP 社区主办、浪潮信息承办的OCP China Day 2023在北京举行。智慧时代,计算多元化、应用多样化、技术复杂化正驱动数据中心新一轮变革,开源开放社区已成为推动数据中心持续创新的重要力量,通过全球化协作与创新,合力解决数据中心基础设施迭代与可持续发展等重大问题。奇异摩尔作为Chiplet 领域的代表性企业,首次参与了这场开放计算领域最具影响力的年度技术盛会。
数字经济与实体经济、数字世界与物理世界的深度融合,正在推动数据中心加快创新的速度。但日趋复杂的技术与推陈出新的应用,使得信息技术服务商与企业越来越难以驾驭数据中心的全面创新。以全球化协作为核心宗旨的各类开源开放社区应运而生,并逐渐成为数据中心创新的重要力量。在技术创新上的独特模式与精妙的设计思维,是开放计算不断壮大的核心所在;而Chiplet作为一种新兴技术,也成为了开放计算领域的一大热点。
OCP基金会首席执行官George Tchaparian表示:chiplet经济非常重要。OCP 制定了开放式 Chiplet 经济的愿景,旨在通过建立一个强大的社区来围绕技术和业务工作流程提供真正开放经济所需的新标准化、工具和最佳实践,从而成为变革的催化剂,供应商将体现其 IP 的 Chiplet 出售给集成商,集成商将构建专门的系统级封装 (SiP)。展望未来,OCP 打算成为开放 Chiplet 市场的前门,提供标准化,允许 Chiplet 供应商进行自我认证,或让第三方组织独立验证 Chiplet 已知良好芯片 (KGD) 特性。”
作为Chiplet 领域的代表性企业,奇异摩尔受邀在开放创新论坛上发表了《AIGC 驱动数据中心加速进化,构建基于 SoChiplet 的智算中心平台》主题演讲。奇异摩尔联创兼产品及解决方案副总裁祝俊东先生在演讲中表示,AIGC作为当下最受关注的领域之一,为行业带来了更多应用的同时,也引发了数据中心和高性能芯片的算力、模型挑战。在算力需求的驱动下,更大规模的计算平台应运而生,进而引发更大规模,高效的数据调度挑战。
祝俊东表示,受制于SoC架构,传统的数据中心很难胜任未来的智算中心进化需求。然而构建未来的智算中心也面临着几大挑战:大模型时代呈指数级增长的算力需求;日趋复杂的AI应用所引发的计算方式转变(从同构到异构);大规模异构集成带来的数据传输和存储效率挑战;产品多样化和迭代加快引起的产品研发挑战;这些挑战,需要行业打破创新边界,运用新的技术和开放的标准来应对。
芯片升维扩展:基于Chiplet架构,将SoC芯片分割成小的芯粒,并通过互联技术连接,让芯片实现2D-2.5D-3D的升维,从而使芯片面积及算力通过堆叠形式持续增长。这一技术优势已在过去的十几年中得到了 AMD、Intel、Nvidia等头部企业的反复验证。
异构计算:基于Chiplet架构,把不同类型的芯粒(如CPU、GPU、NPU)组合在一起,以应对复杂的AI应用,并可通过改变组合方式,进行持续的升级,不断提高芯片的性能和灵活性。异构计算已成为当今全球最复杂的数据中心芯片的典型架构。
超大规模集群:在构建超大规模异构计算集群的过程中,可以通过高速互联实现计算资源的整合和协同,以满足不断增长的算力需求。
存储效率提升:通过系统级计算、3D近存、存算一体等方法,有效降低数据传输频率和功耗,适应日益增长的存储需求。
Chiplet级模块化:通过chiplet模块化设计,使用少量类型的芯粒组合来满足多种计算需求,降低整个系统的维护成本。
祝俊东表示,随着大模型的加速部署,数据中心正朝着智能化的方向演进。智算中心的演进有三大关键:超大规模、分布式和异构协同。
针对数据中心未来的挑战,奇异摩尔基于Chiplet架构,以互联为中心,构建了一个超大规模分布式异构平台的底座。致力于为大规模分布式异构平台解决互联问题。该架构全面支持2.5D/3D互联,die-to-die,chip-to-chip,甚至数据中心级别的互联。
客户基于奇异摩尔自研的互联芯粒(2.5D IO Die、3D Base Die等),集成不同的计算单元,可以更快、更经济的实现大规模异构计算平台,有效简化系统构建,降低智算中心的建设成本。
此外,奇异摩尔、晶丰明源、浪潮信息受邀受邀参加了OCP China 同期举办的第二演播厅活动《步入AIGC新时代,让巅峰算力变为业务驱动力》。作为数据中心不同生态位上的三家企业,三位嘉宾聚焦于大模型和算力需求的挑战,探讨了异构计算在AIGC时代的意义与实践。
浪潮杨总表示:在大模型的背景下,如今的服务器已不只是集群,而晋升为超算。大模型的参数规模变得非常大,往往需要成千上万颗GPU,多卡之间的互联方式变得非常重要,跨服务器的互联将成为新一代数据中心的挑战。
祝俊东表示,大模型的发展,挑战很多,但方法也很多。chiplet作为一种底层技术,通过实现多die的协同,有助于解决算力和功耗的矛盾。作为全球第一批专注于设计互联底座的企业,奇异摩尔希望基于OCP平台,通过开放的标准接口,构建一个开放的芯片生态,支持软硬件平台的发展。并尽自身的努力,让算力变得更简单,降低大家做高性能计算的门槛,帮助企业更容易的制造下一代的智算中心。