AI生成的违规内容,现在也可以用AI来高效治理了。
9月25日消息,在近日举行的第四届琶洲算法大赛生态赋能大会上,百度智能云正式发布全新的AI审核产品——百度智能云司南,能够覆盖从文本、图像到音视频、直播流的全模态内容,帮助企业在AIGC信息爆发增长的时代高效拦截违规内容。
据测算,相较于传统审核方式,百度智能云司南审核效率高10倍,而企业仅用1/4的成本就可以雇用这样的“AI审核员”,实现内容审核的 “多快好省”。
百度副总裁阮瑜受邀在本次大会上发表了《大模型应用助推企业生产力跃迁》的主题演讲,演讲中提到随着大模型应用的创新加速推进,大模型生成内容的数据量也迎来爆发式增长。与此同时,大量违规内容的出现,也将给企业经营带来巨大风险。
过往,企业数据治理多采用传统“小模型机审+人审”的内容审核模式。但面对AIGC时代,层出不穷且不断变异的改编恶搞、图文混合隐喻、上下文串联违规等复杂隐蔽违规内容,传统模式难以灵活应对,漏判率和误判率较高,整体审核效率低,无法满足审核要求。
在此背景下,百度智能云对审核产品做了全面升级,发布全新的AI审核产品百度智能云司南。
百度智能云司南产品负责人韦贤秋介绍,“司南”的命名源于其为中国古代指南针,象征着能为AIGC内容指明健康方向。当前内容生态中,误导性信息、不良内容等隐患频发,百度希望用大模型技术铸造安全屏障,守护清朗的内容环境。
在效果上,相较市面方案,“司南”颠覆性显著:传统小模型准确率85%-90%已是瓶颈,相较于传统审核方式,“司南”平均准确率可以达到95%以上,能识别人眼也难辨的潜在违规内容。
同时,面对跨地域语言语境适配需求,“司南”依托大模型多语种能力,针对英语、阿拉伯语、日语等十多种主流语言,结合各语言表达方式、习惯及当地价值观与习俗进行专项训练,能为有出海诉求的企业提供更接地气、更适用的服务。
针对内容审核在“误杀”和“漏杀”之间权衡问题,百度智能云司南还可以适应企业自己的监管要求,达到企业对内容风控的目标,产品团队也针对不同的管控尺度做了不同的标签,开放给企业自行选择标签和松紧度,来确保自己业务经营范畴内的合法合规,帮助企业更好更健康地运作。
百度智能云司南已经深入到社交、游戏、媒体等多个行业的上万家海内外企业,为企业客户们提供强大的内容风控能力。未来,“司南”将持续深化大模型技术与多场景适配,与更多企业客户携手维护清朗的内容生态。
据了解,本届大赛以“算法领航 琶洲奋进” 为主题,由广州市人民政府、中国人工智能学会主办,大赛汇聚全球30余个国家的八千余支团队同台竞技,领跑中国算法赛事规模,向世界亮出了中国人工智能的“硬实力”!
免责声明：该文章系我网转载，旨在为读者提供更多新闻资讯。所涉内容不构成投资、消费建议，仅供读者参考。
扫码下载
中文网微信