摩尔线程完成美团LongCat-2.0适配

来源:爱集微 #摩尔线程#
1482

7月6日,美团新一代万亿参数大模型LongCat-2.0正式对外开源,国产GPU厂商摩尔线程同步宣布,已完成该大模型与自研智算硬件的全链路适配,国产算力硬件顺利承接超大参数模型推理需求。

本次适配依托摩尔线程自研MTT S5000 AI训推一体智算卡,搭配配套MUSA完整软件栈落地实施。技术团队打通模型加载、推理引擎部署、算子性能优化、线上验证校验等全流程环节,解决万亿级长文本大模型在国产GPU环境下的兼容性、运行稳定性难题,实现LongCat-2.0在本土算力硬件上平稳、高效运行。

LongCat-2.0作为美团推出的万亿参数大模型,主打超长文本处理、复杂业务逻辑推理能力,开源后将面向互联网、政企、本地生活等多行业开放使用,对算力芯片的显存容量、并行推理、算子适配能力提出极高要求。摩尔线程本次完成适配,证明国产通用GPU可满足超大规模大模型的商用落地需求。

在此之前,超大参数大模型多依赖海外高端GPU承载,国产硬件适配成熟大模型的案例相对稀缺。摩尔线程依托软硬件一体化研发优势,快速完成新开源大模型适配,进一步完善MUSA软件栈的大模型生态覆盖,拓宽国产智算卡的商业化应用场景。

(校对/李正操)

责编: 李正操
来源:爱集微 #摩尔线程#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...