深度学习模型的可解释性参数获取方法及装置

摘要

本发明公开了深度学习模型的可解释性参数获取方法、装置、计算机设备及存储介质，涉及人工智能技术，包括将测试图片对应的像素矩阵输入至连接主义机器学习模型进行运算，得到输出结果及各个隐层单元的单元输出结果；获取最后一层隐层中单元输出结果为最大值的目标隐层单元，以根据其与相关性算法，计算各隐层单元的隐层单元相关性值；以各层隐层中隐层单元相关性值为最大值的隐层单元以组成当前目标隐层单元清单；根据输出结果与输出结果调节值求和得到当前输出结果；将当前输出结果作为扰动输出值获取所述隐藏层中各个隐层单元对应的单元扰动值；之后进行升序排序得到隐层单元排序结果。实现了对深度学习模型的可解释性参数的准确和可视化获取。