基于CPU-GPU异构计算的负载能效优化的设计与实现

摘要

随着云计算、大数据、人工智能等技术的高速发展，CPU-GPU异构的高性能计算方式越来越多地被数据中心采用，这样的计算方式具有更高的并行度、计算峰值和灵活性，但是其能耗峰值也明显增加。在异构计算的环境下，当单个负载运行时，在满足性能需求的前提下，保持最高的GPU核心频率可能会造成大量的能耗浪费；当混合负载运行时，若混合负载对GPU资源形成竞争，则会导致性能损失。因此需要合理地调度负载，在不违反性能约束的情况下，提高整体效率，从而提升能效。 针对上述问题，首先通过实际测量手段，在特定的硬件平台上运行14种代表性负载，找到单个负载运行的最佳频率；进而使用DVFS调整频率，获得负载的性能损失和能耗效果。通过实验分析，发现实际调度效果明显依赖于负载类型，但传统内存/计算密集二元分类法不适合此类异构平台。基于此，通过关键参数（例如内存停顿、GPU利用率、GPU带宽和负载执行时间等）对于实际测试结果的分类训练，从而把负载分为六类。与传统的负载分类效果相比，每个类别的负载在使用DVFS时呈现相似的性能和功耗特性，从而得到较为准确的性能能效模型。基于此模型，能够对于混合负载进行有效调度，从而提升混合负载的整体能效。 实验结果显示，基于新负载分类的能效优化方案降低了系统的能耗开销，并不会导致明显的性能下降。对单个负载进行DVFS调度，负载在平均性能损失仅9.58%的情况下，节省了29.20%的能耗；对混合负载进行调度，合理的混合负载组合方案将使得性能上升19.54%~22.24%。

目录

第一个书签之前