腾讯云TI-ONE助力中小型企业“降本提效”:硬件成本降低50%

2022-09-30 09:25 
分享
分享到
分享到微信

据获悉,腾讯云TI-ONE平台在数据接入、模型训练、模型服务等阶段为企业提供全链路的技术优化方案,并在模型训练、推理阶段提供TI-ACC加速工具,帮助客户节省50%硬件成本。

随着数字化转型进程不断加速,人工智能技术的发展更加关注与行业应用、社会需求的深度融合。其中,技术服务商如何提供“开箱即用”的AI能力,让企业更好聚焦业务本身,提高 AI应用的开发效率,成为行业关注的主要问题。

今年9月,腾讯一站式AI开发服务平台TI平台全面升级,并推出TI-ACC加速工具、TI-OCR训练平台、TI-ONE训练平台、工业质检训练平台、智能视频分析平台、媒体内容中台/媒体AI中心等服务板块。其中,TI-ACC的推理加速性能较原生框架提升100%以上,可用于大模型加速等场景。

目前,依托于数据训练模型、深度学习网络的分布式大规模机器训练,成为企业提升业务效能的主要途径。然而,数据量庞大、训练推理环境搭建复杂、训练周期长、推理时延高等问题,中小企业的人力成本和硬件成本不断攀升。

以AI商品识别服务商掌控科技为例。随着业务规模不断扩大,高精度模型所需的GPU资源成本不断提高。在腾讯云TI-ONE的助力下,客户将由TI-ACC加速优化后的模型部署在生产环境,推理性能提升100%,硬件成本降低50%。

TI-ACC在推理阶段所呈现的高性能,得益于底层的TNN基础框架。据了解,TNN是腾讯优图实验室向行业开源的部署框架,TI-ACC在TNN接口基础上进行产品化封装,提供一键式推理加速功能。

此外,TI-ACC支持各类主流模型格式接入,无需转换。另覆盖CV、NLP、推荐等场景,功能丰富,能够满足客户的多样化需求。

使用层面,客户只需将保存的模型包上传到模型仓库,将优化后的模型在TI-ONE平台发布服务并通过API条用,即可享受到TI-ACC推理加速带来的高性能体验。

作为前沿技术的探索,腾讯一直通过向各行业提供 AI 技术助力,推动人工智能技术高水平应用,目前已在金融、媒体、政务、工业和医疗等多个行业受到客户认可。未来,腾讯也将持续深入行业,更好发挥AI技术的长期价值,助力实体经济高质量发展。

免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。
【责任编辑:钟经文】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn