探究深度学习框架之安全问题

摘要

深度学习引领着新一轮的人工智能浪潮,受到工业界以及全社会的广泛关注.虽然大家对人工智能有很多美好的憧憬,但是现实是残酷的——随着人工智能应用开始变成现实,其安全问题也渐渐显现出来.人工智能应用面临来自多个方面的威胁,包括深度学习框架中的软件实现漏洞、对抗机器学习的恶意样本生成、训练数据的污染等.这些威胁可能导致人工智能所驱动的识别系统出现混乱,形成漏判或者误判,甚至导致系统崩溃或被劫持,使智能设备变成僵尸攻击工具.