2023年，ChatGPT聊天机器人程序火出圈，越来越多的人开始对人工智能（AI）的功能和使用产生兴趣。今年初，Sora一段“文生视频”再次爆火，通过一段文字描述，AI可以生成60秒钟的高清视频。人工智能的能力正在不断突破人们的想象。

　　然而，技术大爆发永远是一把双刃剑。不少科学家担心：在不久的未来，人工智能技术会超越人类的智慧，甚至会失控造成严重后果。他们呼吁，应该把防范人工智能带来的风险作为全球优先事项。

　　正如这些科学家所担心的那样，随着生成式人工智能技术的发展和普及，技术门槛大幅降低，为不法分子提供了机会。2024年6月，公安部网安局披露了多起涉及人工智能技术的深度伪造典型案例。其中一起案件为犯罪嫌疑人白某某利用人工智能软件，对被害人的图片进行所谓的“一键去衣”处理，批量生成了近7000张淫秽图片并通过网络进行贩卖。

　　目前人工智能带来的威胁大致可分为数据隐私与安全、虚假信息与虚假内容传播、知识产权侵权、模型偏见与歧视、安全漏洞与攻击等几类。以数据隐私与安全为例，生成式人工智能模型通常需要大量的数据进行训练，这些数据可能包括个人隐私信息，如医疗记录、个人照片、社交媒体内容等。这些数据一旦泄露或被不当使用，可能导致隐私泄露、身份盗窃等问题。

　　除了这些可以明显感知到的风险，未来，还可能有更多“未知风险”，乃至技术失控风险。面对AI的一路狂奔，应从法律、技术、伦理等多方面设置“安全阀门”，及时防范人工智能带来的风险。

　　在法律层面，我国已经先后出台了系列法律法规，包括《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》《人工智能生成合成内容标识办法（征求意见稿）》《生成式人工智能服务安全基本要求（征求意见稿）》《生成式人工智能数据标注安全规范（征求意见稿）》等规章、标准或草案。

　　在上述规章标准的基础上，我国近年逐步建立起算法备案、大模型备案和伦理审查登记等制度，作为AI安全治理的主要抓手。未来，还需通过完善相关法规，加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任，为AI生成内容添加显著提示标识，禁止生成和发布涉及违法违规、侵权欺诈的内容，从根源上消除可能造成的危害和不良影响。

　　人工智能这项技术的特殊性在于，其存在脱离人类控制等极端风险，因此，除了政策法规监管之外，安全技术的发展是让AI不脱轨的另一项重要保障。

　　（据新华社电 半月谈评论员 杜康）