一种深度学习多模型统一部署方法与装置

摘要

本发明公开了一种深度学习多模型统一部署方法：根据用户在网管上的设置生成预测描述文件；下载预测描述文件和对应的模型元文件到智能计算单盘；根据预测描述文件和对应的模型元文件，在所述智能计算单盘上在预设时间完成对应的用户预测和上报。本发明实现模型与应用的解耦，训练后模型按描述文件模板输出描述，进行用户设置完成部署，避免边缘设备软件升级，到达快速模型部署；克服使用容器等部署前打包方案的缺点，在运行时实现模型输入与输出连接，计算图与预测结果重用；模型预测输出标签与设备原有数据标签统一编码，数据上报可重用原有消息通道，网管按原有数据相同方式处理预测结果。本发明还提供了相应的深度学习多模型统一部署装置。