龙擎空天重磅发布《LQAPU智能体处理器技术架构白皮书》,重定义智能体计算范式

来源:爱集微 #龙擎空天# #白皮书#
1662

11月13日,龙擎空天(上海)智能科技有限公司在上海隆重举行发布会,正式对外发布《LQAPU智能体处理器技术架构白皮书》(以下简称白皮书)。 LQAPU(LQ Agent Processor Unit)是公司提出的面向智能体工作负载的软硬件协同架构。随着AI应用从内容生成向多步骤任务执行拓展,白皮书将优化视角从单次模型推理延伸至计算、上下文、任务调度与工具执行的系统协同,为端侧与边缘侧智能应用提出新的设计思路。发布会现场,龙擎空天CTO陈雷与软件开发及解决方案VP王歆分别从硬件架构与软件生态维度,对该白皮书进行了深度解读。

对龙擎空天而言,LQAPU承载的是面向智能体计算的平台战略。公司希望以可编程AI芯片为计算基础,通过运行时、模型服务和开发接口,将底层计算能力与上层任务需求连接起来。LQ7000是这一体系的首代产品实践,后续产品与软件建设将围绕任务执行、状态管理和应用部署持续演进,逐步形成从芯片到软件、再到行业应用的协同能力。

计算对象之变:从模型推理扩展到完整任务

随着智能体应用发展,AI计算的优化视角正在从指令、线程、张量和算子图,进一步扩展到模型请求与完整任务。白皮书指出,在真实应用中,一项任务往往包含多轮推理、资料检索、工具调用和环境反馈,其完成质量与效率由多个环节共同决定。因此,在持续提升模型计算性能的同时,还需要关注不同环节之间的依赖、等待与状态变化。

“我们过去评价AI往往看每秒生成多少Token,但智能体完成一项任务,包含了大量的排队、数据准备、工具调用等待与状态重建。”龙擎空天CTO陈雷在解读中强调,模型计算只是冰山一角,水面上看得见的是模型计算,水面下则是复杂的调度与状态管理。基于此,LQAPU架构的设计思路并非替代CPU、GPU或NPU,而是将任务级信息传递到计算、内存与运行时,让底层硬件围绕完整的任务进行协同优化。

以“整理会议纪要”为例,模型生成摘要仅是其中一环。完整流程还包括音频接收与转写、相关资料检索、决定事项与待确认事项的区分,以及经人员核对后生成行动清单。这些步骤涉及不同模型、数据访问、状态记录和工具调用。提升算力能够加快部分计算,但完整任务的效率还取决于各环节如何衔接,因此需要在硬件、运行时和应用软件之间建立清晰的协作机制。

智能体应用对底层平台提出的新要求,不只是多运行几个模型。长时间存在的会话状态、交替发生的计算与工具等待,以及不同任务之间的资源竞争,会共同影响内存占用、模型切换和交互时延。处理器与系统接口需要向软件提供清晰的资源能力和执行反馈,软件也需要让底层感知任务的依赖、时限与资源需求。这种双向协同,是LQAPU讨论处理器架构的出发点。

1+5+1架构:软硬协同的智能体底座

针对模型持续更新、上下文占用资源、多任务竞争以及可靠执行等挑战,白皮书将LQAPU的总体功能架构概括为“1+5+1”:一项可编程计算基础、五项跨软硬件协同机制,以及一套软件平台。这一划分描述的是功能职责与协作关系,不对应固定数量的片内硬件模块。

1个计算基础:以可编程AI计算为核心,与CPU、内存及必要的异构处理资源协同,承载模型计算与相关数据处理。

5项核心机制:任务级执行与调度、上下文与记忆管理、结构化行动与工具调用、多模型与检索协同、状态连续性与可信执行。其中,上下文管理需要区分模型权重、KV缓存、会话状态与长期知识;状态连续性则关注任务在中断、恢复和外部操作失败时如何保持一致。

1套软件平台:由编译工具链、模型运行时、Agent Runtime、AgentOS服务框架及开发接口共同构成,连接底层设备能力与上层智能体应用。

这一架构的重点,在于各项机制如何协同:计算、上下文与调度共同决定资源如何使用;任务图、工具执行与状态恢复共同决定一项工作能否可靠完成;可编程计算、多模型支持与软件接口,则共同决定平台能否持续适应应用变化。通过这些跨层协同,龙擎空天希望将底层计算能力转化为完整任务的执行能力。

LQAPU以可编程AI计算为基础,将上下文管理、任务执行以及模型与工具协作纳入系统设计。在计算实现上,白皮书主张兼顾可编程能力与专用加速:由硬件高效处理稳定、高频的计算原语,同时为模型和软件演进保留扩展空间。作为相关产品实践,LQ7000采用EE-DNA异构计算架构,通过统一指令体系组织标量、向量与矩阵运算。在任务组织上,白皮书讨论了双层调度方法:上层依据任务依赖、时限和数据就绪情况安排执行节点,下层结合计算资源、上下文及模型驻留状态选择执行时机,通过资源预算和适当的可让出点改善高优先级任务响应。具体抢占方式与粒度,则需结合设备能力及状态保存、恢复开销确定。

在可编程计算、上下文管理和智能体运行系统等技术基础上,龙擎空天将创新重点放在面向端侧与边缘场景的跨层协同:如何组织任务、状态、模型和工具之间的关系,如何通过明确的软件接口落实到产品,以及如何用完整任务的表现验证实际收益。这一设计思路,可从任务导向、执行协同与系统扩展三个方面理解:

Agent Native(面向智能体任务):从任务需求出发组织计算与软件接口,将任务依赖、上下文生命周期、资源预算及执行反馈纳入设计,使模型计算更好地服务于多步骤任务。

Agent Control(任务执行协同):由软件负责规划与业务策略,Agent Runtime管理任务依赖、上下文和执行状态,驱动与设备队列组织计算资源。外部工具调用通过受控接口完成身份、权限与参数检查,使任务执行具备明确的职责边界和可追踪结果。

系统扩展:根据不同模型与任务的资源需求,采用适合的单芯片或多芯片系统配置,并通过互连、存储和软件协同组织计算资源。产品层面的Chiplet及多Die扩展能力,应结合具体配置说明,其实际收益取决于通信开销、数据分布与任务划分。

软件契约:规划归软件,执行归契约

“智能体要完成一个任务,软件必须从优化单次推理,转向管理完整的任务生命周期。”龙擎空天软件开发及解决方案VP王歆在软件层面解读时表示,LQAPU白皮书确立了一项核心软件契约:规划归软件,执行归契约。

在软件栈设计上,白皮书按照BSP与驱动、编译器与计算内核、模型运行时、Agent服务及SDK等层级组织功能。AgentOS定位于成熟操作系统之上的智能体服务与治理框架,负责会话、任务、工具权限及恢复等能力。针对受控行动,白皮书区分三道防线:首先检查生成指令与参数的结构是否合法,其次确认身份、权限及资源约束是否满足,最后结合业务前置条件、设备状态及必要的人工确认,判断动作能否执行。模型缓存、任务进度与外部动作结果,也需要分别管理。保存了会话,并不意味着业务操作已经成功;恢复了计算,也不意味着可以直接重复外部动作。例如,邮件发送后发生断连,系统需要先核对邮件是否已经发出,再决定后续处理,避免因重复执行产生额外影响。模型可以提出候选动作,但执行权限与结果确认由独立的控制机制负责。

除了架构设计,白皮书还强调,应在模型精度、吞吐量和生成速度等基础指标之外,补充面向完整任务的评价。重点包括任务完成与结果正确性、端到端时延、每成功任务能耗,以及重复执行一致性。其中,终态验证用于确认文件写入、业务提交等操作是否真正达到目标;pass^k用于观察同一任务在一致条件下重复执行时,能否连续成功。这样的评价方式,有助于把模型性能与实际应用效果联系起来。

《LQAPU智能体处理器技术架构白皮书》的发布,系统阐述了龙擎空天面向智能体计算的设计思路与验证方法。围绕“计算可编程、状态可管理、任务可调度、执行可信赖”的目标,公司正以首代产品LQ7000及配套加速卡为基础,推进模型适配、软件工具链和应用方案建设,并与国芯科技、六联智能等伙伴开展产品与生态合作。在生态建设上,公司还将逐步完善模型适配说明、开发接口、部署示例和诊断工具,帮助合作伙伴明确平台支持范围,并开展应用部署、问题定位与版本升级。通过保持上层接口的连续性,龙擎空天希望降低应用随硬件迭代而重复开发的成本,持续积累软件能力与行业方案。随着具体场景中的测试、适配和交付持续推进,这一架构的价值将进一步体现于任务完成质量、系统效率和客户使用体验。

责编: 爱集微
来源:爱集微 #龙擎空天# #白皮书#
THE END

*此内容为集微网原创,著作权归集微网所有,爱集微,爱原创

关闭
加载

PDF 加载中...