分布式深度学习推理云平台任务调度方法

摘要

本发明提供的一种分布式深度学习推理云平台任务调度方法，包括以下步骤：S1.将用户在云平台上创建的任务输入任务队列中；S2.任务控制器从任务队列中提取目标任务，并将目标任务对应的服务分割成若干子服务进行分布式处理；S3.并行模式选择器根据子服务生成相应的模型；S4.任务执行器根据并行模式选择器所产生的模型执行对应的子服务；通过本发明，能够将用户所提交的任务在云环境下进行分布式处理，对于分布式操作下的每一个节点选择加速卡资源状态下的最优并行参数，从而提高任务的运行效率，并能够确保云环境下的加速卡设备的利用率。