一种基于REST的多框架机器学习模型部署预测方法

摘要

本发明公开了一种基于REST的多框架机器学习模型部署预测方法，包括如下步骤：S1、通过REST部署接口接收模型部署请求，并对请求体及其模型文件进行初步校验；S2、通过模型管理器解析模型文件，强校验并存储模型文件及其元数据信息；S3、通过模型部署处理器部署相应的机器学习框架模型；S4、通过REST输入接口接收模型预测请求，并封装为标准请求体；S5、通过预测任务调度器进行任务调度；S6、通过预测管理器启动不同机器学习框架的预测作业；S7、通过预测结果处理器返回预测结果。本发明通过封装的REST接口统一模型部署、预测的输入和输出格式，可减轻模型的开发、适配、维护及使用成本。