基于细粒度的GPU的资源管理方法及其应用的GPU

摘要

本发明提供一种基于细粒度的GPU的资源管理方法及其应用的GPU，所述基于细粒度的GPU的资源管理方法包括：根据QoS目标获取内核执行的平均每周期指令数目标；根据所述内核执行的平均每周期指令数目标动态分配调整每个时期分配给内核的配额数量；根据所述内核的运行情况为各流处理器分配线程块。本发明提供了一种基于细粒度GPU共享机制，可以从动态资源管理、静态资源管理两个方面进行细粒度的QoS管理，既能保证特定应用的QoS需求，又能在此基础上最大化GPU系统的整体吞吐量。