中国日报网11月11日电 （记者 曹静 程尔凡）全球人工智能（AI）技术正以指数级速度演进，大模型已成为推动数字经济发展的核心引擎。但与此同时，人工智能的发展引发数字滥用、算法歧视、虚假信息等一系列风险，如同潘多拉魔盒，风险高悬。
“AI有四个与生俱来的‘先天性基因缺陷’：一切皆可编程、一切皆可模仿、一切皆可生成以及一切皆可调度。” 2025年世界互联网大会乌镇峰会期间举办的前沿人工智能模型论坛上，360数字安全集团总裁胡振泉这样谈及AI技术带来的挑战，“这带来的安全问题，我们无法避免，亟待解决。”
胡振泉认为，相较于传统软件，AI“更聪明”，因此其安全问题也更复杂，不仅涵盖传统的系统安全，还涉及内容安全与应用安全。
“过去做一次网络攻击可能需要一个小分队，未来一两个黑客就能调度一批‘攻击智能体’发动网络攻击，让防御难上加难。”胡振泉表示。
那么，我们应该如何保障AI安全，进而推动技术创新，最终让技术落地、赋能千行百业？前沿人工智能模型论坛上，来自海内外的专家和行业领袖分享了他们对AI安全与应用实践的见解。
AI安全：用高水平安全引导创新健康发展
“引用《孙子兵法》中的一句话，就是先胜而后求战。”谈及AI的发展路径时，前瑞士网络防御代表、数字演进基金会主席杰拉尔德·韦内兹在论坛上表示。他认为，AI战略必须先于AI技术的发展，应该用战略引导发展，最终抵达目标。
中国网络空间安全协会副理事长卢卫则谈及了算法的透明度与安全底线。他认为，应加强算法透明度与可解释性研究，减少“黑箱”操作，增强社会信任，促进创新与安全良性互动。
“高水平的安全非束缚创新的枷锁，而是引导创新健康可持续发展的保障。”卢卫表示。
中国人民大学党委副书记郑水泉分享了一些实践经验。在确保AI输出内容的真实性上，郑水泉表示，生成式AI的“幻觉”问题引发了虚假信息、信息茧房等问题，对此，人民大学在开发和部署生成式AI模型时，将检索增强生成、慢思考推理等技术应用到模型开发中，有效降低了模型输出虚假或失实信息的风险。
安恒信息首席技术官刘博则提及政策引导的重要性。
“国家和行业从法规、政策层面对AI安全问题提出了基本要求，就是告诉了我们怎么保障环境安全、内容安全、运行安全。” 刘博表示。
而在具体操作上，刘博介绍称，安恒采用了访问控制、攻击检测、白名单等方式解决大模型实时在线过程中面临的问题。此外，当任务要求相对较低时，可以利用小模型进行快速调整，甚至与传统非GPT模型相结合，快速解决模型的安全问题。
中科曙光总裁助理、智能计算产品事业部总经理杜夏威分享了构建国内AI算力联合生态的做法。他表示，曙光的产品支持超400个大模型版本，旨在构建国内AI算力联合生态。
“这一布局是为了解决大模型落地过程中的多重挑战，包括隐私合规等问题。”杜夏威说。
AI应用：从场景出发，让技术落地
以安全为前提，推动AI技术的迭代与创新，但最终要让技术落地，才能赋能千行百业。
谈及AI在企业层面落地时，IBM大中华区首席技术官翟峰表示：“现在，越来越多企业在推进AI化，往往投入了大量时间和精力，这实际上是在补上数字化转型过程中落下的功课。”
他认为，国内的一些企业开始尝试将生成式AI运用于办公自动化、知识库搭建等，但必须把AI推进到工业、农业等行业，帮助产品研发、供应链优化，才能让AI发挥出最大价值。
对此，行业人士在论坛上分享了AI技术在各行各业的应用。
一智科技（成都）有限公司董事长刘俊杰分享了AI技术在建筑工程行业里的应用产品“安心筑”。
他表示，在智能技术高度发达的今天，建筑工程仍在依赖纸质存档、手工造表等传统管理方式，而“安心筑”则把高度非标、复杂多变的施工任务转化为可量化、可追踪、可管理的标准化任务，让建筑施工管理流程更加透明、高效。
“使用安心筑后，辖区内项目欠薪纠纷率下降95%，纠纷处置时间缩短到半小时以内，助力主管部门从被动治欠到智慧防欠。”刘俊杰表示。
他介绍说，通过实现工序全链条数据存证、用AI技术识别工程风险等方式，“安心筑”将助力房屋建造从“建得快”向“建得好”转变。
平安集团董事会秘书兼品牌总监盛瑞生表示，平安人工智能大模型在抗震救灾、农业保险等场景中发挥了积极作用。
他介绍，平安依托AI和物联网等技术的鹰眼系统，智能预警灾害162万场，发出预警信息470亿次，覆盖客户1.3亿人次。
“最近三年，在农业灾害大模型智能系统协助下，我们直接降低了农业损失达7.6亿元。”盛瑞生表示。
同时，万联易达集团首席执行官张栋和印象笔记高级副总裁乔迁都认为，只有从场景出发、让技术落地，才把AI的技术价值转化为真正的社会效能。
“现在大部分的AI应用更多偏向于ToC，是基于产业的延展。我们认为，只有深耕产业，让AI应用与实体经济相结合，才能让智能体的普及率呈现指数级增长。”张栋表示。
乔迁认为，AI技术的潜能不仅取决于模型能力的上限，更取决于AI是否真正嵌入了工作与生活。
“模型是源头，应用是桥梁，落地才是目标。”他说。
（编辑：曹静 张瑨瑄 涂恬）
扫码下载
中文网微信