基于GPU集群的能效优化调度算法

摘要

近年来，随着GPGPU技术的飞速发展，GPU计算性能不断提高，其能耗问题也愈发严重，促使人们开始更多地用能效来评价计算机系统的性能。对GPGPU进行能效情况的分析以帮助GPU集群实现节能减排是“绿色计算”的体现。目前，广大学者已从GPGPU体系结构、GPGPU负载等多个角度分析了其与GPGPU性能、能耗的关系并建立相应的模型，或在此基础上提出GPU集群的能效优化方案，但以上工作仍存在一定的局限性。为了更好地实现GPU能效优化，本文将机器学习的思想融入到基于GPGPU的特征提取和建模之中，并将量化的GPGPU能效作为决策依据进行GPU集群能效优化方法的设计。
　　本文的研究工作如下：
　　（1）探讨了基于GPGPU性能、能耗的特征分析技术。从单节点和集群两个角度出发，分析了现有的GPGPU性能或能耗预测方法以及GPU集群管理技术和集群调度方案，并分析了以上工作中存在的不足。
　　（2）阐述并论证了影响GPGPU性能和能耗的因素。从GPGPU体系结构和负载代码两个角度出发，研究其影响GPGPU性能和能耗的因素，其中包括SM饱和度、计算密度、计算单元个数、寄存器数量、缓存结构等，为后续工作提供了理论支持。
　　（3）实现了GPGPU能效建模。将GPGPU能效建模分解为GPGPU性能建模和GPGPU能耗建模。在性能建模部分，通过各GPGPU性能影响因素的自由组合，模拟各种体系结构情况并收集性能计数器信息作为特征数据。在此基础上，采用属性约简的方案提取关键特征，并利用一种粗粒度聚类策略将数据离散化，最终建立基于BP神经网络的GPGPU性能预测模型，该模型对计算特征和关键特征的平均预测误差分别为8％和6%。在能耗预测部分，通过修改负载代码来模拟各种负载情况的能耗情况，并将性能计数器中已提取的关键特征作为计算特征。最终，针对BP神经网络的局限性建立基于遗传算法改进的BP神经网络的GPGPU能耗预测模型。最后，提出GPU集群适用的GPGPU能效预测模型作为能效调度算法的决策依据，该模型对两种型号GPU的平均预测误差均不到1%。
　　（4）实现了GPU集群能效优化算法。将GPGPU能效模型作为决策依据，设计一种基于改进的工人蜂群算法的GPU集群能效优化算法。通过将不同负载和节点映射下的能效情况和节点剩余计算能力作为决策依据，对人工蜂群算法中雇佣蜂和跟随蜂寻蜜方式的改进，使得该调度算法可以同时保证集群系统的负载均衡和能效的优化。实验结果表明，与torque自带的FCFS调度算法相比较，该算法令集群系统节约了约5%的功耗。
　　本文的成果主要体现在两个方面：
　　（1）利用BP神经网络及粗糙集理论等，对GPGPU的计算特征进行处理，实现了数据的离散和关键特征的提取，并建立了集群适用的GPGPU能效模型。
　　（2）利用人工蜂群算法，对GPGPU能效和节点剩余计算能力进行量化分析，设计出基于GPU集群的调度算法，实现了集群的负载均衡和能效优化。

目录

声明

第1章 绪论

1.1 论文研究背景

1.2 国内外研究现状

1.3 研究内容

1.4 组织结构

第2章GPU架构集群概述及其影响因素

2.1 GPU影响因素

2.2 GPU集群概述

2.3 本章小结

第3章GPGPU能效模型

3.1 能效建模方法分析

3.2 GPGPU性能预测模型

3.3 GPGPU能耗预测模型

3.4 集群适用的能效模型

3.5 本章小结

第4章基于人工蜂群的GPU集群能效优化算法

4.1 算法提出的背景

4.2 问题模型描述

4.3 GPU集群能效优化调度算法

4.4 基于改进人工蜂群算法的调度策略

4.5 本章小结

第5章GPU集群搭建及算法性能分析

5.1 GPU集群搭建

5.2 集群调度算法分析

5.3 本章小结

第6章 总结与展望

6.1 工作总结

6.2 工作展望

致谢

参考文献

攻读学位期间取得的学位论文相关科研成果