基于分布式同构集群的并行编程模型的研究和设计

摘要

并行计算指在并行计算机上，将一个任务分解成多个子任务，然后将这些子任务分配给不同的处理器，每个处理器之间相互协同并行的执行子任务，从而达到加快任务求解速度，或者提高求解应用问题规模的目的。
　　目前主流的并行计算编程模型包括基于消息传递的MPI协议和基于编译指导的Open MP标准等，而它们主要专注于挖掘单个计算结点上任务的并行性，旨在充分利用目前主流的多核或多处理器的优势。但是不管基于多处理器或者多核的计算机体系结构如何发展，单一计算结点上的计算能力也是有限的，特别是在云计算技术广泛应用的今天，如何将传统意义上的并行编程模型从单一计算结点扩展到同构或者异构的计算结点集群中，是一项具有挑战性的工作。
　　本文从实践的角度出发，首先设计出一种基于分布式环境的多线程模型，通过改进ucos操作系统内核的任务调度、内存管理、进程通信模块设计，使之能够适应分布式环境中任务调度的需要，为后续协议提供相应的API支持。
　　然后对传统的基于MPI的并行编程模型进行了修改和扩充，设计出了一种基于分布式同构网络的并行编程模型，使之能够有效利用整个计算集群中所有计算结点的计算能力，并且具有负载均衡和容错的功能。
　　最后本文对工作成果进行了性能测试，实验证明，通过使用这种基于分布式同构网络的并行编程模型，能够提高加速比并且获得不错的效率。

目录

摘要

第1章 绪论

1．1 研究背景

1．2 研究目标

1．3 论文的组织

1．4 本章小结

第2章 当前主流并行计算模型的介绍和分析

2．1 并行计算机体系结构介绍

2．1．1 结点

2．1．2 并行计算机互联网络拓扑结构

2．1．3 访存模型

2．1．4 并行计算机分类

2．2 并行编程模型简介

2．2．1 共享内存模型(shared-memory model)

2．2．2 数据并行模型(data parallel model)

2．2．3 消息传递模型(message passing model)

2．2．4 单程序多数据(SPMD)和多程序多数据(MPMD)模型

2．3 本章小结

第3章 基于分布式同构环境的操作系统内核设计

3．1 任务管理模块的设计和实现

3．2 任务调度模块的设计和实现

3．3 内存管理模块的设计和实现

3．4 进程通信模块的设计和实现

3．5 本章小结

第4章 基于分布式同构网络的并行编程模型的设计

4．1 通信协议的设计和实现

4．1．1 消息的封装和传递

4．1．2 消息的编码和解码

4．1．3 集群通信与协同工作

4．1．4 负载均衡与任务迁移

4．2 分布式一致性协议设计和实现

4．2．1 不一致性问题的产生

4．2．2 一致性算法设计

4．3 本章小结

第5章 并行算法设计和性能评测

5．1 性能评价的有关概念

5．1．1 并行程序执行时间

5．1．2 并行加速比和效率

5．1．3 浮点峰值性能与实际浮点性能

5．1．4 负载平衡效率

5．2 并行算法设计

5．2．1 计算π值

5．2．2 归并排序

5．3 本章小结

第6章 总结和展望

6．1 论文工作总结

6．2 后续工作展望

参考文献

致谢