基于容器集群的深度学习任务服务质量保证方法和系统

摘要

本发明提供了一种基于容器集群的深度学习任务服务质量保证方法和系统。基于容器的运行平台接收任务，形成任务队列，预测各个任务的所需资源需求，根据所需资源需求对队列中的任务形成优先等级，依据优先等级对任务进行调度；解析任务的运行日志，监控集群资源利用率，基于运行日志和集群资源利用率，判定任务的资源扩展需求，根据资源扩展需求对任务的调度进行修正。本发明易用性高且资源利用率高，用户在提交深度学习任务时只需指定服务质量，无需指定复杂的资源配置，会通过任务调度和任务扩展的方式保证其服务质量；并且充分利用了深度学习任务的特点，用更少的资源保证任务的服务质量。