一种基于多推理引擎系统的应用部署方法、装置及设备

摘要

本申请公开了一种基于多推理引擎系统的应用部署方法，对于给定的源模型，该方法能够自动实现源模型到不同推理引擎上的转换，并对转换得到的模型模型进行推理评估，最终根据推理评估结果选择最优的推理引擎，以用于后续应用部署。实现了对系统中每一个推理引擎的自动化评估，降低了推理引擎选择过程的专业门槛和工作量，避免开发人员由于对推理引擎不熟悉而花费大量时间和精力选择推理引擎，有助于提升应用部署效率。此外，本申请还提供了一种基于多推理引擎系统的应用部署装置、设备及可读存储介质，其技术效果与上述方法的技术效果相对应。