可信任的人工智能系统及安全框架浅析

摘要

cqvip:作为一项能够融入社会生活各个方面的技术,人工智能正在引发一系列关键变革,同时也带来了在政治、军事、社会治理等各个方面的安全威胁,既需要制定人工智能的安全框架保障人工智能系统本身不被对手利用,又需要发展可信任的人工智能机制提升人工智能系统本身的安全性。本文首先从定义、分类和度量的角度解析了人工智能的内涵,列举了人工智能可能带来的安全威胁。在威胁分析的基础上,参考传统的安全模型提出了以安全策略和安全边界为核心的人工智能安全框架。最后,结合人类社会中的管理制度和传统信息系统的安全管理规则提出人工智能系统需要具备容错机制、权限机制、可解释机制等特点,发展人工智能需要将可信任放在首位。