一种基于嵌入式的分布式深度学习模型资源弹性调度方法

摘要

本发明涉及嵌入式模型资源调度技术领域，特别是涉及一种基于嵌入式的分布式深度学习模型资源弹性调度方法，包括构建计算精度和计算延迟的复合奖励模型、构建非受限马尔可夫决策过程以及利用深度确定性策略算法动态求解最优弹性调度策略；分布式深度学习技术完成深度学习任务的动态分配，构建以计算服务延迟和模型精度为核心的参量，并采用马尔可夫决策过程对问题建模，使用Lyapunov优化将其转化为无约束的马尔可夫奖励过程之后，通过强化学习中的深度确定性策略梯度算法实现深度学习任务的动态分配过程。通过本调度方法，能有效解决大规模深度学习算法在单个嵌入式设备中部署困难的问题，保证深度学习算法在嵌入式设备中的快速运行。