中国日报5月29日电(记者 王卓琼)人工智能软件公司商汤科技着力新型人工智能基础设施——商汤AI大装置SenseCore体系的建立,推动企业高效率、低成本、规模化的AI人工智能任务创新和落地。
SenseCore商汤大装置以AI大模型开发、生成、应用为核心,赋能人工智能生产新范式,目前实现了全国联网的统一调度,在上海、深圳、广州、福州、济南、重庆等地都拓展了新的计算节点。
目前,商汤大装置总算力规模高达12000 petaFLOPS ,已有超4.5万块GPU,其算力可支撑超过20个千亿超大模型同时训练,并支持万亿参数大模型的全生命周期生成。
SenseCore商汤大装置是国内训练大模型最为先进的基础设施,最大实现了万卡的超大集群互联,并保持90%的加速效率。在训练稳定性上,商汤实现了超30天稳定训练不间断的能力,而出现训练间断时的诊断恢复时长也优化到了半小时。在大模型推理服务上,商汤也实现了领先业界的推理极致优化,过去一年内推理服务的性价比提升了3倍。
商汤大模型解决方案负责人戚琦表示,商汤公司目前“日日新SenseNova”大模型体系提供自然语言处理、图片生成、自动化数据标注、自定义模型训练等多种大模型及能力,在低门槛、高效率地实现大模型AI技术在各行业的应用。商汤代码小浣熊推理一体机是面向软件开发的大模型产品,在安全运行的前提下,提供软件研发软硬件一体化解决方案,能够帮助企业研发效率提升能够帮助开发人员更高效地编写、理解和维护代码,提高软件开发的效率和质量。