多核环境下分布式缓存并发访问处理研究

摘要

随着互联网应用的飞速发展，分布式缓存作为服务器端缓解数据库访问压力的关键组件，越来越起着不可替代的作用。然而随着多核处理器的广泛使用，传统的分布式缓存在多核环境下面临大量用户并发访问时存在多线程锁竞争、缓存一致性开销、高并发连接处理等问题，这些问题严重制约了分布式缓存在多核环境下的扩展性，导致多核的并行计算能力不能充分地发挥出来。
　　多核环境下分布式缓存系统SKVM旨在消除分布式缓存在多核环境下面临大量用户并发访问时存在的问题，提高分布式缓存的并发访问性能，进而实现分布式缓存在多核环境下的性能扩展。SKVM将高并发访问处理分为两个阶段：高并发连接处理和高并发数据处理，针对高并发连接处理，采用epoll异步非阻塞机制提高网络I/O的效率，消除网络瓶颈；针对高并发数据处理，采用共享资源分布式计算的思想，将共享哈希表按照核心数目划分成多个划分，每个划分都有专门的服务线程负责其上所有操作，服务线程访问各自的划分时不用任何同步操作也不会涉及到其它服务线程，从而消除了锁竞争，减少了缓存一致性开销。采用一致性哈希算法作为数据分布策略，提高了系统的可用性和负载均衡能力，同时系统整体采用半同步半异步模式工作，既保证了并发连接处理的实时性，又实现了并发数据处理的高效性。
　　与广泛使用的分布式缓存Memcached进行性能对比测试的结果表明，SKVM每次请求比 Memcached经历更少的缓存未命中，并且 SKVM的吞吐量要优于Memcached，同时，在多核环境下，Memcached的吞吐量随着并发线程数量的增多而下降，而SKVM的吞吐量则可以随着并发线程数量的增多而提升，实现了在多核环境下的性能扩展。

目录

封面

声明

中文摘要

英文摘要

目录

1 绪 论

1.1 研究背景及意义

1.2 国内外研究现状

1.3 存在的问题

1.4 研究内容与目标

1.5 论文组织结构

2 多核环境下面向高并发访问分布式缓存SKVM设计

2.1 多核环境下分布式缓存并发访问处理问题分析

2.2 SKVM系统设计思想

2.3 SKVM并发访问处理功能模块设计

2.4 SKVM并发访问处理流程

2.5 本章小结

3 多核环境下分布式缓存并发访问处理关键技术研究

3.1 高并发网络连接处理

3.2 半同步半异步模式

3.3 一致性哈希数据分布策略

3.4 哈希表并发访问优化

3.5 本章小结

4 系统测试与分析

4.1 测试指标

4.2 测试环境

4.3 功能测试

4.4 性能测试与分析

4.5 本章小结

5 总结及展望

致谢

参考文献

附录1 攻读学位期间申请的国家发明专利

附录2 攻读学位期间参与的科研项目

附录3 攻读学位期间发表的论文