面向云边计算的深度学习分布式编译器及构造方法

摘要

本发明公开了一种面向云边计算的深度学习分布式编译器及构造方法，编译器包括模型编译框架和模型调度框架；模型编译框架通过容器化深度学习编译器和Kubernetes容器编排系统，完成分布式编译多模型任务的工作；模型编译框架能快速构建深度学习分布式编译器，充分利用服务器集群的优势来解决突发的大量编译需求，克服了深度学习编译器无法分布式编译的不足；模型调度框架对模型编译过程进行资源分析，获取模型运行最高效的资源组合，并设计了Distributed‑DRF调度算法来指导调度中间件来进行调度决策，提高了资源分配的公平性和模型调度的准确性。