中国日报10月19日电 （实习记者 李依倩）10月17日，央视财经《对话》栏目探访杭州科创企业集群“新八骏”成员曦望Sunrise，围绕智能体时代推理算力降本议题展开交流。节目现场，曦望新一代原生推理GPU启望S3、256卡超节点系统亮相，单位Token成本，成为本次对话探讨的产业核心命题。
“AI行业下一阶段竞争，比拼的不只是模型智能水平，而是能否稳定、经济地交付智能能力。”曦望Sunrise联席CEO王湛在节目中表示。随着智能体（Agent）技术进入落地期，行业普遍预判人机共生将成为未来十年的重要特征，持续压低单位Token成本，是AI规模化落地的关键前提。王湛将曦望的定位概括为AI产业的“损益优化师”，聚焦算力全链路成本优化。
王湛判断，未来单个用户或将持有2至3个智能体，智能体整体规模有望超越人口总量。不同于常规大模型问答，智能体需要持续开展任务规划、信息检索、工具调用，Token消耗强度显著提升，推理算力需求迎来快速增长期。
算力成本高企，正在成为制约智能体大规模商用的现实阻碍。王湛提出，Token相关开销未来会和水电一样，成为企业与个人常态化支出，行业需要建立起Token成本意识。算力采购的评判逻辑正在发生转变。过去客户重点关注峰值算力、显存容量；当下业务落地的核心诉求，转向系统能否稳定运行、控制综合算力开销。
曦望在2024年观察到，客户使用启望S2的业务场景大多集中在推理环节，由此判断推理算力的整体需求规模，很快将超过模型训练。当年年底，企业确定All-in推理的战略方向，把降低单位Token成本作为核心目标，也是国内较早全面转向推理赛道的国产GPU厂商。
行业通用的单位Token成本计算公式为：单位Token成本=（硬件摊销分摊成本+算力运行成本+系统运维成本）÷Token产出量。简单来说，降本的核心逻辑，就是压低分子端各项开销，同时提升分母端Token吞吐能力。
启望S3原生面向推理场景设计，精简面向训练的相关硬件模块，把晶体管与功耗资源向推理任务倾斜。该芯片也是国内首款采用LPDDR6替代传统HBM的GPU方案，尝试走大容量、低成本的存储路线。软件层面，产品兼容主流AI生态，降低企业迁移现有AI应用的成本。
在控制硬件与运维成本的同时，曦望通过高速互联、分层存储、原生支持FP4低精度计算等技术手段，提升单位硬件的Token处理效率。据企业测算，对比上一代启望S2，启望S3推理性能提升约5倍，单位Token推理成本下降约90%。
节目现场展示的256卡超节点系统，是这套降本体系里的系统级方案。这套设备依托高速互联架构，让256张GPU协同调度，形成统一的算力池，可承载万亿及更大参数量的多模态MoE大模型。王湛认为，超节点方案的价值，在于适配万亿参数大模型的部署需求，为行业提供配套的系统级推理算力。
“只有把单位Token成本降到足够低，各类AI应用才有可能在千行百业规模化落地，实现智能普惠。”王湛在节目中谈到，Token成本的持续优化，是智能技术从试点走向普及的基础。
扫码下载
中文网微信