推理应用中模型文件的管理方法及装置

摘要

为了解决需要在训练设备上额外部署管理模块，在推理设备上额外部署管理模块代理，从而实现模型文件管理，导致管理复杂度较高的问题，本申请提供了一种推理应用中模型文件的管理方法，包括：监控目标模型管理对象的状态，根据推理应用的预设字段确定与目标模型管理对象匹配的目标推理应用，其中，推理应用的预设字段用于标识推理应用中模型文件对应的模型管理对象，然后根据目标模型管理对象的状态对目标推理应用中模型文件进行管理。如此，无需额外部署管理模块或管理模块代理即可实现模型文件的统一管理，而且也不要求训练应用和推理应用采用相同的框架，具有较高可用性。