一种异构感知的GPU资源分配与调度方法及系统

摘要

本发明公开了一种异构感知的GPU资源分配与调度方法及系统，方法包括：S1：预分析出任务所需的性能指标；S2：任务提交后，将任务优先级设置为最高，并提交到高优先级的Q1等待队列中；S3：当可用的GPU资源发生变化后，触发调度，放置器根据GPU异构性和任务的性能指标，为任务分配GPU资源；S4：监控正在执行的任务，计算其优先级，根据优先级确定任务是否要让出GPU资源，将需要让出GPU资源的任务放入低优先级的Q2等待队列；S5：监控Q2等待队列中的任务等待时间是否超过饥饿阈值，如果超过，则该任务的优先级设为最高，并移入Q1等待队列；系统包括：调度器、放置器、探测器、高优先级和低优先级等待队列。