移动应用人工智能模型安全风险研究

摘要

随着深度学习技术的广泛运用,移动应用越来越多地开始使用Tensorflow等深度学习框架实现智能推理功能。然而支撑这些功能的人工智能模型面临着大量安全风险。本文调研了Tensorflow框架在移动应用中的使用现状,并提出了一种移动应用程序人工智能模型安全分析方法,能够自动提取及分析模型文件、识别加密模型。同时,通过模型窃取、模型逆向、模型替代和参数篡改等方法,对移动应用程序中的人工智能模型安全性进行了分析。