深度神经网络解释方法综述

摘要

深度神经网络具有非线性非凸、多层隐藏结构、特征矢量化、海量模型参数等特点,但弱解释性是限制其理论发展和实际应用的巨大障碍,因此,深度神经网络解释方法成为当前人工智能领域研究的前沿热点.针对军事、金融、医药、交通等高风险决策领域对深度神经网络可解释性提出的强烈要求,对卷积神经网络、循环神经网络、生成对抗网络等典型网络的解释方法进行分析梳理,总结并比较现有的解释方法,同时结合目前深度神经网络的发展趋势,对其解释方法的未来研究方向进行展望.