2023年10月27日，由芯砺智能主办、上海国际财富中心协办的题为“AI大模型时代来临，Chiplet算力扩展势在必行”的戴琼海院士报告会在浦东金桥成功举办。国务院参事、中国工程院院士、中国人工智能学会理事长、清华大学信息科技技术学院院长戴琼海院士、复旦大学微电子学院院长张卫教授、清华大学电子工程系方璐教授、奇瑞集团原副董事长郭谦、上海国际集团资产管理有限公司副总经理刘险峰拨冗到会。活动现场近100位政府领导、行业专家、投资机构代表、及产业合作伙伴齐聚探讨AI大模型时代的芯片发展趋势及解决方案，在思辨中谋AI转型之机。
图：AI大模型时代来临，Chiplet算力扩展势在必行活动现场
会议主持人芯砺智能首席科学家兼联席CTO全书学博士表示，芯砺智能非常荣幸邀请到多位业内顶级专家及半导体产业链的优秀代表，就AI时代芯片技术发展这一重大议题展开精彩的探讨。当今，后摩尔时代的算力瓶颈愈发凸显，单芯片解决方案已经无法满足AI大模型时代顶层应用的算力需求，应运而生的Chiplet技术正是一剂良药。正所谓经济基础决定上层建筑，而后摩尔时代的算力基础将是决定顶层应用的核心。这也正是今天活动议题“AI大模型时代来临，Chiplet算力扩展势在必行”的精髓！
图：活动主持人芯砺智能首席科学家兼联席CTO全书学博士
国务院参事、中国工程院院士、中国人工智能学会理事长、清华大学信息科技技术学院院长戴琼海院士表示，人工智能是当今世界的一个重要发展方向，而支撑人工智能创新发展的三个基础是算法、数据及算力。其中算法决定智能水平，数据决定智能范围，算力决定智能效率。芯砺智能正是AI浪潮中的中坚力量，希望芯砺智能可以坚持创新驱动，不断强化算力基础设施建设，为推动中国人工智能事业做出更大贡献。将来，清华大学的算法配合芯砺智能的算力，将会支撑芯砺智能更远更长的走下去。放眼全球，Chiplet异构集成技术是一个崭新且富有挑战的研究领域，芯砺智能立足于汽车芯片赛道，致力于研究Chiplet技术的做法更是非常富有前瞻性及建设性的。此外，戴琼海院士提到了当前人工智能领域的四个颠覆性的核心技术包括：视觉雷达，脑智能，光计算及集成算力。其中，视觉雷达可以穿透“空天地海”的环境限制，作为无人系统的眼睛；脑智能的研究主要集中在脑模型的开发，可以实现低功耗、高效率的需求；而光计算则是实现量子计算的中间插入口；集成算力则是后摩尔时代扩展算力的最优解！最后，戴琼海院士展望道：Chiplet技术在未来可以赋能更多领域的算力扩展。例如，服务器、高性能边缘计算、群体无人系统、机器人等。
图：国务院参事、中国工程院院士、中国人工智能学会理事长、清华大学信息科技技术学院院长戴琼海院士
芯砺智能创始人兼CEO张宏宇在活动现场就“基于独创的Chiplet异构集成技术与全自研通用NPU打造人工智能时代的算力基础设施——新一代可扩展高性能计算平台”这一主题发表了演讲。他表示：计算的架构及工艺从电向光升级是一个必然的趋势。当下AI大模型时代的第一性需求是算力和内存的扩展性，芯砺智能将汽车作为切入点，采用专利性的互连方式可以实现算力的灵活扩展。张宏宇从成本及性能两个维度出发，深度剖析了当下主流的两种Chiplet架构和互连方式，并提出中国企业尽快掌握Chiplet技术及商业化落地的重要性。AI大模型时代来临，智能驾驶和智能座舱对于算力的需求将会永无止境的增长，用传统的单芯片方案已无法满足市场需求，芯砺智能独创的Chiplet异构集成技术可以实现多颗芯片的高效联合计算，叠加芯砺智能通用NPU计算架构及强大生态合作伙伴的支持，可以满足汽车市场对高性能、低成本、高可靠性及安全性芯片的需求。同时，这项通用的Chiplet技术也可广泛应用到服务器，机器人，无人系统等领域。芯砺智能独创的CL-Link互连IP可以提供高性能“总线扩展”接口，促使多颗芯粒联合起来像一颗芯片。最后，张宏宇介绍到芯砺智能的“长风”及“逐浪”系列产品，前者基于Chiplet Die-to-Die互连方案可以满足主流的舱驾一体芯片的多样化需求，且成本是主流方案的40%；而后者从封装级扩展到了系统级，以Chip-to-Chip为核心，可以进一步扩展算力及内存边界，打造AI大模型时代的算力基础设施。
图：芯砺智能创始人兼CEO张宏宇
清华大学电子工程系方璐教授就“光电智能计算”这一主题展开了精彩的分享。她指出，人工智能正在深刻的改变这个时代，人工智能期望（数据边界）与现实（算法能力）的“交叉”掀起了人工智能三次发展浪潮。但人工智能发展是有规律可循的，并形容数据、算法、算力为三辆密不可分且缺一不可的“动力马车”。其中大数据的发展支撑着人工智能大模型；清华大学团队在算法层面的研究集中在脑科学机制的结合，用以模拟人脑的高效与智能，会为人工智能的算法带来更多的机会与挑战；而算力是人工智能发展中最重要的要素，它是一个“温饱”基础问题，没有算力的支持就无法谈及前述的数据与算法。而在当下的人工智能发展中，算力支撑已经变成了一种制约，形成了算力瓶颈。亟需提出新范式、建立新架构来构建大算力、低功耗、快响应的计算平台。而清华大学的研究团队目前致力于研究光电智能计算，目的就是基于光的无源、能耗低、速度快等特点，搭建光模型，从而解决算力的瓶颈问题。在未来，清华大学将在光芯片、算力扩展及感传算一体领域与芯砺智能展开深度的探讨和合作。演讲末尾，方璐教授与参会人员就光芯片存算一体及感算一体、研究进度、时间周期等问题做了深度的讨论，现场气氛十分热烈。
图：清华大学电子工程系方璐教授
图：活动现场讨论环节
芯砺智能NPU副总裁彭正宏就“基于Chiplet的AI可扩展算力平台解决方案”主题发表了演讲。他从大模型应用发展趋势切入，分析了适配大模型应用发展的AI算力平台的特征，指出了单个计算单元的理想特征和多个计算单元互连的必须性，而且互连的延时和带宽是决定算力平台性能的关键因素。他介绍了芯砺智能基于Chiplet的AI算力可扩展芯片平台，及其关键技术特点，包括Chiplet互连技术、GP-NPU计算技术以及大模型切分技术。此外，彭正宏特意强调了GP-NPU技术实现了通用性和计算效率的黄金平衡。在AIGC网络如Stable Diffusion和LlamaV2的效率数据比较方面，GP-NPU相比Orin都有很大的优势，这为芯砺智能的AI算力可扩展平台支持边缘端大模型推理场景奠定了很好的基础。最后，他给出了芯砺智能的GP-NPU IP的发展路线图，即通过与清华大学戴琼海院士团队的合作，在下一代计算平台里通过Chiplet异构集成技术引入光电混合计算，实现更大算力，更大带宽，更高能效，从而支持更广阔的云边端大模型部署。
图：芯砺智能NPU副总裁彭正宏
活动结束，主办方芯砺智能及协办方上海国际财富中心邀请到会嘉宾共享午宴并共同探讨AI大模型时代的芯片发展趋势及解决方案，大家一致认同Chiplet异构集成技术将会是后摩尔时代的制胜法宝。AI大模型时代来临，Chiplet算力扩展势在必行！
