生成式人工智能安全风险治理研究

摘要

当前,以ChatGPT、Sora等现象级产品为代表的生成式人工智能快速发展,正在重塑产业链和价值链。与此同时,也在数据安全、算法安全、网络安全和应用安全等方面引发了诸多新风险,可能造成严重影响。世界主要国家和地区高度重视生成式人工智能安全风险治理,从政策引导、技术保障、国际合作等维度推进风险治理体系建设。科技企业在积极推进前沿技术创新的同时,也应高度重视安全治理,从不同侧重点发力保障人工智能可信赖、负责任。我国应从加强跟踪研究、推进技术攻关、推动“以评促建”和加强国际交流四个维度发力,保障人工智能安全健康发展。