上海高质量调研行|商汤科技大模型装置赋能企业降本增效

人工智能软件公司商汤科技着力新型人工智能基础设施——商汤AI大装置SenseCore体系的建立,推动企业高效率、低成本、规模化的AI人工智能任务创新和落地。

上海高质量调研行|商汤科技大模型装置赋能企业降本增效

来源:中国日报网    2024-05-29 12:45
来源: 中国日报网
2024-05-29 12:45 
分享
分享到
分享到微信

中国日报5月29日电(记者 王卓琼)人工智能软件公司商汤科技着力新型人工智能基础设施——商汤AI大装置SenseCore体系的建立,推动企业高效率、低成本、规模化的AI人工智能任务创新和落地。

SenseCore商汤大装置以AI大模型开发、生成、应用为核心,赋能人工智能生产新范式,目前实现了全国联网的统一调度,在上海、深圳、广州、福州、济南、重庆等地都拓展了新的计算节点。

目前,商汤大装置总算力规模高达12000 petaFLOPS ,已有超4.5万块GPU,其算力可支撑超过20个千亿超大模型同时训练,并支持万亿参数大模型的全生命周期生成。

SenseCore商汤大装置是国内训练大模型最为先进的基础设施,最大实现了万卡的超大集群互联,并保持90%的加速效率。在训练稳定性上,商汤实现了超30天稳定训练不间断的能力,而出现训练间断时的诊断恢复时长也优化到了半小时。在大模型推理服务上,商汤也实现了领先业界的推理极致优化,过去一年内推理服务的性价比提升了3倍。

商汤大模型解决方案负责人戚琦表示,商汤公司目前“日日新SenseNova”大模型体系提供自然语言处理、图片生成、自动化数据标注、自定义模型训练等多种大模型及能力,在低门槛、高效率地实现大模型AI技术在各行业的应用。商汤代码小浣熊推理一体机是面向软件开发的大模型产品,在安全运行的前提下,提供软件研发软硬件一体化解决方案,能够帮助企业研发效率提升能够帮助开发人员更高效地编写、理解和维护代码,提高软件开发的效率和质量。

【责任编辑:高琳琳】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn