乌镇峰会|曦望发布S3超节点家族:让每一份算力转化为更多有效Token

来源:曦望sunrise #曦望#
1885

11月4日,2026年世界互联网大会乌镇峰会上,曦望Sunrise 正式发布S3超节点家族解决方案。产品覆盖32卡、64卡、128卡、256卡,并可通过多超节点组网扩展至千卡,为不同规模的AI业务提供更合适的推理算力。

从单卡到超节点,推理算力正在走向系统级协同

今天,AI正在从“回答问题”走向“完成任务”。智能体可以持续工作、调用工具、处理复杂信息,而这一切都离不开Token。怎样让Token更高效、更便宜,正在成为AI走进千行百业的关键。

曦望给出的答案,是从芯片到超节点的一体化设计:让每一份算力投入,转化为更多有效Token。

曦望Sunrise联席CEO王湛发布S3超节点家族

“与移动互联网时代不同,智能互联网的主体从人变成智能体,对Token的消耗呈指数级增长,智能互联网需要超节点。”曦望联席CEO王湛表示。

有效Token成本,不只看峰值算力

过去,人们关注一张卡有多快;今天,客户更关心的是:同样的投入,能够支持多少用户、完成多少任务、带来多少收入。

一套推理系统持续在做三件事:计算、保存和搬运。模型权重、混合专家模型(MoE)的专家参数和KV Cache需要被保存,数据还要及时到达需要它的计算单元。进入Agent时代,长上下文、高并发和持续调用,让后两件事越来越影响系统效率。

当数据装不下、调不动时,GPU可能不是“不会算”,而是在“等数据”。继续增加卡数可以提高理论峰值,却未必同步提高有效Token产出。

S3超节点家族从三个基本问题出发:能不能装得下,能不能少搬运,能不能让多张卡真正协同。

LPDDR6+超节点,把容量优势变成系统效率

推理不是单一负载。预填充(Prefill)、解码生成(Decode)和大规模专家并行,对计算、带宽和容量的要求各不相同。启望S3选择LPDDR6,是根据推理负载重新分配容量、带宽、成本与功耗预算,而不是用单一指标定义系统。

在单卡层面,以192GB显存为例,大容量显存能够让更多模型参数、MoE专家和上下文数据留在离计算更近的位置。KV数据留在可复用的内存空间中,有助于减少缓存换出、SSD回放和重复Prefill,让长上下文和高并发业务减少等待与重复工作。

单卡的大显存,还需要超节点才能变成系统能力。启望S3支持统一虚拟地址和全局扁平化显存池,让多张卡的显存能够被统一编址和调度。

搭载S3的256卡超节点进一步将256张卡组成高速互联的Scale-Up域,形成更大容量的共享内存池。这意味着,大模型、海量KV和专家参数可以在更大的共享空间内组织,而不必被切散在众多彼此隔离的小显存中。

在部署方式上,客户既可以采用全启望S3的Prefill/Decode分离和MegaMoE方案,也可以通过RDMA将S3与HBM/3D高带宽计算芯片混合部署:由LPDDR6提供大容量共享空间,由HBM/3D节点发挥高带宽Decode优势,各自承担适合的负载。

“这就类似日常收纳:常用的放手边,偶尔用的放柜子,不常用的放储物间——都找得到,但取用的时间成本不一样。”王湛说。

曦望把芯片、互联、缓存管理和推理调度放在一起设计,让共享容量真正服务于长上下文、高并发和大规模MoE。简单说,LPDDR6让AI“装得下、用得起”,超节点让算力“连起来、用得好”。

不是越大越好,而是刚好适合

一家初创企业的AI应用、一家快速成长的推理服务商,以及一座城市级智算中心,需要的算力显然不同。统一用一种大规格方案,容易让客户为用不到的配置买单。

“一款超节点不是所有客户的答案。我们根据实际需求提供不同规格的服务,让算力找到真正需要的场景。”王湛表示。

32卡、64卡、128卡:适合企业私有化模型推理服务以及业务持续增长的中型推理服务商;

256卡:面向大型互联网与行业头部客户,支持长上下文、高并发、大规模专家并行等负载;

千卡:通过多超节点组网,服务区域级算力底座和更大规模需求。

从几十卡到千卡,曦望希望客户能按照业务规模选择算力,并随着业务成长逐步扩展。不是越大越好,而是刚好适合。

让算力普惠,成为AI普及的底座

算力普惠,不只是降低设备价格,更是让AI服务能够长期、稳定地运行,让更多企业用得起、用得好。

当Token成本不断下降,智能体才有机会进入更多日常场景:帮企业处理业务,帮工程师提升效率,帮城市改善服务,也让更多新的AI应用有机会跑起来。

围绕“高性价比、高效率、适配更多场景”,曦望S3超节点家族正在做一件事:把大显存、超节点和分级产品组合起来,让不同客户都能找到更合适的算力方案。

“让不同规格的算力服务找到真正需要它的场景,让超节点真正实现算力普惠,重构推理服务的损益表。”王湛表示。

智能互联网的时代正在到来。曦望希望用更高效的推理算力,让每一个智能体都更有用,也让AI创造的价值惠及更多行业与更多人群。

责编: 爱集微
来源:曦望sunrise #曦望#
THE END
关闭
加载

PDF 加载中...