云天励飞:自研芯片DeepEdge10可承载百亿级大模型运算

来源:爱集微 #云天励飞#
1.5w

近日,云天励飞在互动平台表示,公司Deep Edge 10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。

云天励飞还表示,公司Deep Edge10 系列推理卡已经适配了包括云天天书、通义千问、百川智能、以及 Llama2/3 等在内的近十个主流大模型。

当前,AI 从云端大模型将逐渐向端侧发展的趋势逐渐明朗。边缘 AI 需综合考虑端侧客户对实时性、安全性、隐私性的需求。云天励飞 Deep Edge 系列推理卡可实现性能更强的轻量级边缘智能设备并支持边缘智能计算加速卡,满足 AI 解决方案在更靠近数据源头的用户现场灵活部署的需求,通过芯片、加速卡、边缘盒子、服务器等多形态应用于智能计算中心大模型推理、机器人、智慧泊车、全息路口方案及城市治理等,并逐步向智能硬件进行布局。同时,云天励飞通过岍丞技术,进入华为、荣耀、OPPO、VIVO、安克、boAt、Noise 等终端品牌供应链,开始探索 AI 在智能家居、智能穿戴场景的应用,并持续探索边缘 AI 的商用场景。

责编: 邓文标
来源:爱集微 #云天励飞#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...