聚焦AIGC内容安全风险,腾讯安全推出全链路解决方案

来源:江西网络广播电视台    2023-06-20 09:25
2023-06-20 09:25 
分享
分享到
分享到微信

AI生成违法违规内容、AI换脸诈骗、AI错误信息诽谤、AI侵权……如何应对AIGC时代的内容安全风险?

6月19日,腾讯云披露行业大模型方案进展,正式公布MaaS(Model-as-a-Service)能力全景图,助力企业打造专属的行业大模型。在安全保障方面,腾讯云在问题侧、模型侧、答案侧三个层面进行敏感信息过滤和规避。同时,依托腾讯二十余年的安全经验和天御大数据能力,提供AIGC全链路内容安全解决方案,确保大模型可信、可靠、可用。

AIGC带来丰富创造力的同时,也带来了全新的内容安全挑战。相对过去以PGC、UGC为主的内容,AIGC时代的内容安全内涵与外延均有显著变化。今年4月,国家网信办发布的《生成式人工智能服务管理办法(征求意见稿)》在黄暴政恐违禁、防止歧视、版权保护、虚假信息防范、个人隐私保护等方面均有明确要求。

据了解,腾讯安全AIGC全链路内容安全解决方案,提供包含审校服务、安全专家服务、机器审核服务、版权保护服务四大能力板块,覆盖AIGC类应用从模型训练到内容生成再到事后运营全过程的内容安全建设。

AIGC内容安全新挑战不仅体现在“天文级”的数据体量,处理的内容也更加复杂。以模型阶段为例,除了典型的特征标注外,对标注文本的通顺度、逻辑性、连贯性也有较高要求。在内容生成阶段,新型AI伪造、虚假、违背伦理、不适内容、未成年人等违规内容,以及AI问答产生专业性内容,都超出传统内容风控的范畴。

腾讯安全依托过去20多年的安全运营经验,积累了万亿级的违规样本以及十几种定制识别服务,可以结合行业场景,为企业的内容安全建设“量体裁衣”。此外,腾讯安全天御风控还和对象存储、云直播、云点播、实时音视频等云上工具打通,企业在云上一次接入,即可完成全套内容安全审核,大幅提升效率。

AIGC的快速发展也引发了黑灰产的新一轮的攻击,利用AI换脸、批量生成版权内容套现获利。对此,腾讯安全做了专项优化,在AIGC引发的版权保护难题上,腾讯安全基于版权资产统一ID库,助力企业进行版权原创性筛查;此外,腾讯安全还提供“检测、比对、维权”的全链路版权保护服务。腾讯安全从2019年9月起,对B站平台上UP主上传的原创视频进行版权监测服务,累计监测作品500余万部,累计发现侵权链接近3000万条,发起维权近百万次,维权成功率达98%。

目前,腾讯安全在AIGC内容安全领域已有多个场景实践落地,为生产文生文、文生图、医疗级视频内容、长小说文本等类型内容的企业提供内容安全服务,护航生成式人工智能健康发展。

免责声明:该文章系我网转载,旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议,仅供读者参考。
【责任编辑:钟经文】
中国日报网版权说明:凡注明来源为“中国日报网:XXX(署名)”,除与中国日报网签署内容授权协议的网站外,其他任何网站或单位未经允许禁止转载、使用,违者必究。如需使用,请与010-84883777联系;凡本网注明“来源:XXX(非中国日报网)”的作品,均转载自其它媒体,目的在于传播更多信息,其他媒体如需转载,请与稿件来源方联系,如产生任何问题与本网无关。
版权保护:本网登载的内容(包括文字、图片、多媒体资讯等)版权属中国日报网(中报国际文化传媒(北京)有限公司)独家所有使用。 未经中国日报网事先协议授权,禁止转载使用。给中国日报网提意见:rx@chinadaily.com.cn