一种异构GPU集群深度学习混合负载调度优化方法

摘要

一种异构GPU集群深度学习混合负载调度优化方法，包括：为异构GPU集群的多个下层计算节点静态添加节点类型标签；为分布式集群上层应用进行分类应用；分布式集群上层所服务的多个应用，通过调度模块将多个不同类型的下层计算节点平均分配至多个应用运行；计算多个不同类型的下层计算节点运行在多个应用上的所需时间；利用计算的多组所需时间，发现的异构GPU应用性能差异；并由第二价格交易法交易异构GPU应用性能差异。本发明中，在异构GPU集群种，该调度优化模型方法比传统的分布式处理框架在处理深度学习混合负载表现更优异，尤其是在集群环境复杂、异构化严重时更能充分利用集群资源、显著提高系统的执行效率。