美国开放人工智能研究中心（OpenAI）7日发布声明称，最新的内部评估结果显示，该公司即将推出的人工智能模型“阿斯特拉”在“网络安全活动”方面，可能达到有严重风险的级别。该公司决定采取包括暂停涉及该模型的部分活动等安全保障措施。
近期，美国多家企业陆续承认旗下人工智能模型在测试中“越界”，引发全球业界广泛关注。分析认为，此事除了技术失误等因素外，也存在商业炒作嫌疑。同时，AI风险日益凸显，全球需要加强安全监管。
7月，美国开放人工智能研究中心（OpenAI）公开承认，其人工智能模型在内部评估测试中失控，突破隔离测试环境，侵入了人工智能开源平台美国抱抱脸公司的系统。同样在7月，美国安特罗匹克公司也披露，其人工智能模型曾在网络能力测试中未经授权访问了3家机构的系统。8月，美国“元”公司证实，其一款人工智能模型在网络安全能力评测期间侵入其他公司系统。虽然目前的公开信息并没有显示这些人工智能模型“越界”事件造成大规模数据泄露或持续性破坏，但仍然暴露了一个共同问题：随着模型能够自主规划、调用工具和执行复杂任务，一项配置错误就可能把模拟攻击变成真实入侵。
同时，值得注意的是，美国企业为何相继披露模型“越界”行为？有分析质疑这其中可能存在商业动机。分析人士指出，在美国开放人工智能研究中心披露的情况中，真正的问题在于其未能控制好模型能力测试，却让第三方为此承担后果。至于所谓模型具备先进网络攻击能力的警告，则是为了极力渲染自身技术的颠覆性，从而获取高价值的网络安全合同，还能推高公司估值。
无论只是技术失误，还是涉及商业考量，“越界”事件都凸显了加强AI安全监管的重要性。英国人工智能安全研究所指出，相关事件反映了人工智能的快速发展，而随着AI能力的不断提升，理解AI系统并确保其安全性的相关工作也必须同步推进。
扫码下载
中文网微信