面向多核处理器的虚拟机性能优化

摘要

互联网技术的发展逐渐给人们带来了新的计算方式，云计算即是互联网发展的产物之一。云计算通过将众多计算资源整合抽象成虚拟计算环境的方式，向用户提供虚拟的计算资源，具有分配迅速、管理灵活和可回收再利用的优点。同时云计算服务还因为计算资源的高密度整合，最大化了硬件的使用率，避免了利用率低下带来的能源消耗。虚拟化技术作为云计算的核心技术之一，为计算资源的整合与调度提供了可能，该技术使单台物理服务器上能够同时运行多台虚拟机实例。
　　虚拟机管理工具是系统虚拟化的重要组成部分，虚拟化管理工具使得虚拟机能够被保存、恢复和在多台物理服务器间迁移。多核处理器的发展，显著提高了硬件的并行计算能力。但是，现有的虚拟机管理工具往往采用单线程的实现方式，此方式没有有效利用硬件的并行计算能力。同时由于存储空间和内存容量的不断增加，云服务提供的虚拟机实例也在逐渐变大。此趋势导致虚拟机管理过程耗时更长——需花费更多的时间处理虚拟机实例的大内存和硬盘存储。所以，虚拟机管理工具能否充分利用硬件资源的并行处理能力，决定了在多核处理器条件下虚拟化技术能否为云计算提供高效的虚拟机管理方案。
　　多核处理器引入带来的内存带宽问题使得NUMA访存模型被广泛运用于大型服务器中。虚拟化技术为云计算提供计算资源抽象的同时，也为虚拟机与真实硬件带来了隔离，使虚拟机无法了解真实的硬件配置，如NUMA拓扑结构等。这将显著提高虚拟机内资源分配和任务调度的难度，降低虚拟机的运行效率。
　　针对上述问题，本文开展了以下两方面的工作:
　　1.提出了虚拟机管理工具并行化方法，该方法将虚拟机管理工具中的保存和恢复工具按步骤进行分解，通过流水线的方式进行并行处理，并且将其中耗时的步骤分配个多个线程并行执行。
　　2.提出了动态NUMA方法，该方法将NUMA拓扑结构通过虚拟固件告知虚拟机。通过动态修改虚拟机内操作系统NUMA拓扑结构，配合虚拟机监控器的任务调度算法，动态NUMA方法使得虚拟机监控器在调度虚拟CPU的同时，仍然保持虚拟机内NUMA拓扑结构准确性，提高了虚拟机在NUMA访存模型中的执行效率和调度灵活性。
　　为了验证虚拟化管理工具并行方法和动态NUMA方法的确提高了虚拟机的管理和执行性能，我们在Xen虚拟化平台上实现了并行化的虚拟机管理工具以及动态NUMA方法，并对这些方法进行了对比实验。实验结果表明:
　　1.虚拟化管理工具的并行方法充分利用了多核处理器的计算能力，显著提高了虚拟机管理工具的执行效率，运行时间缩短到原有的33％。
　　2.动态NUMA方法提高了虚拟机在具有NUMA访存模型的服务器上执行性能，在mmap试验中运行效率提高近100％。

目录

摘要

第一章 引言

1．1 研究背景

1．2 本文工作

1．3 全文结构

第二章 云计算及系统虚拟化技术

2．1 云计算

2．2 系统虚拟化技术

2．2．1 系统虚拟化分类

2．2．2 系统虚拟化实现实例

2．2．3 系统虚拟化管理工具

第三章 NUMA访存模型

3．1 应用程序NUMA优化

3．1．1 共享内存访问模式及优化方法

3．1．2 应用程序内存访问模式探测

3．2 操作系统NUMA优化

3．3 虚拟化平台NUMA优化

第四章 虚拟机管理工具并行方法

4．1 Xen虚拟机管理工具执行流程分析

4．1．1 Xen虚拟机管理工具存储流程

4．1．2 Xen虚拟机管理工具恢复流程

4．2 虚拟机管理工具性能分析

4．3 虚拟机管理工具并行办法

4．3．1 虚拟机管理工具过程并行

4．3．2 虚拟机管理工具数据并行

4．3．3 虚拟机管理工具并行工作流程

4．4 地址空间操作并行化

4．4．1 地址空间串行操作

4．4．2 RangeLock

4．5 虚拟机管理工具的服务质量控制

4．5．1 CPU使用率控制

4．5．2 内存使用量控制

4．6 虚拟机管理工具并行方法实验测试

4．6．1 实验环境说明

4．6．2 实验结果分析

第五章 动态N UMA方法

5．1 NUMA相关虚拟化解决方法选择

5．2 虚拟NUMA结构初始化

5．2．1 虚拟固件初始化

5．2．2 虚拟机初始内存分配

5．3 虚拟NUMA的局限性

5．4 动态NUMA方法

5．4．1 基于Xen credit算法的调度策略

5．4．2 动态调整虚拟机NUMA拓扑结构

5．4．3 动态NUMA命令传输

5．5 动态NUMA方法实验测试

5．5．1 实验环境说明

5．5．2 试验用例

5．5．3 对比虚拟机配置实例

5．5．4 mmap实验

5．5．5 memcached实验

5．5．6 histogram实验

5．5．7 实验总结

第六章 总结

6．1 创新与贡献

6．2 存在问题及未来工作

6．2．1 虚拟机管理工具进程并行方法

6．2．2 更灵活的动态NUMA方法

参考文献

致谢

声明