缓冲区溢出漏洞挖掘和防护技术研究

摘要

软件安全漏洞已经成为网络安全的主要问题之一，尤其是近几年来互联网针对软件漏洞发生的安全事件越来越严重，不管是在国家战略层面还是在社会安全层面，软件漏洞的检测和防护都处在极其重要的位置。
　　缓冲区溢出漏洞是软件的主要威胁之一，随着网络技术的快速发展，软件应用程序的开发和普及也越来越广泛，但是数量上的突飞猛进并没有带来与之相对应的安全层面的质量保证，导致缓冲区漏洞引发的安全事件日益增多。因此，如何有效的检测和防护缓冲区溢出漏洞一直以来都是安全领域的一个非常重要的课题。
　　本文在详细分析了缓冲区溢出攻击的原理和漏洞利用技术的基础上，针对二进制程序的漏洞挖掘问题，提出了一种基于遗传算法的Fuzzing漏洞检测技术，结合缓冲区溢出漏洞的特征，构造具有很好的完备性和较高覆盖率的测试用例，通过静态分析技术，智能的引导测试数据逻辑到二进制程序的脆弱语句部分，使其能够快速的命中缓冲区溢出漏洞。
　　基于漏洞挖掘的准确性和完备性，本文进一步提出一种基于AES加密算法的缓冲区溢出漏洞代码保护方案。对敏感数据区域进行加密是缓冲区溢出攻击防御技术的主要手段，但是受限于一般加密算法的复杂度和安全性的要求其效果并不理想，而AES加密算法具有更长的密钥可以明显提高系统的安全性，并且算法实现简单，迭代次数也可以得到较好的控制。依据该方案实验结果表明，在保护缓冲区安全区域AES加密算法具有更高的安全性和较低的系统开销。

目录

声明

摘要

第一章 绪论

1．1 研究背景

1．2 本文的研究内容和论文结构

1．2．1 主要研究内容

1．2．2 本文主要研究结构

第二章 缓冲区溢出攻击及漏洞挖掘技术

2．1 缓冲区溢出攻击

2．1．1 操作系统的内存分配方式

2．1．2 常见的溢出攻击方式

2．1．3 缓冲区溢出漏洞示例

2．2 漏洞挖掘技术研究

2．2．1 静态分析技术

2．2．2 动态检测技术

2．3 国内外研究现状

2．4 本章小结

第三章 基于遗传算法的缓冲区溢出漏洞挖掘技术

3．1 基于路径选择的Fuzzing漏洞挖掘技术

3．1．1 Fuzzing漏洞挖掘技术

3．1．2 程序的静态分析

3．1．3 程序路径约束条件收集

3．2 实验部分

3．3 遗传操作及算法描述

3．3．4 遗传算法概述

3．3．5 遗传算法的基本操作

3．4 基于遗传算法的Fuzzing技术

3．4．1 缓冲区溢出特征分类

3．4．2 遗传算法适应度函数的设计

3．5 本章小结

第四章 基于AES加密算法的内存保护技术

4．1 内存保护技术

4．1．1 GS安全编译选项

4．1．2 SafeSEH

4．1．3 DEP

4．2 AES加密算法及应用

4．2．4 字节代换运算

4．2．5 行移位变换

4．2．6 列混淆变换

4．2．7 轮密钥混合变换

4．3 缓冲区溢出内存保护技术

4．3．1 SEHOP内存保护技术

4．3．2 SEHOP绕过方法

4．3．3 基于AES加密的内存保护技术实现

4．4 本章小结

第五章 实验及分析

5．1 基于遗传算法的漏洞挖掘技术实验验证

5．1．1 遗传算法与模拟退火算法对比实验

5．1．2 基于遗传算法的漏洞挖掘技术对比实验

5．2 缓冲区溢出保护技术实验验证

5．2．1 绕过SEHOP防御实验

5．2．2 应用AES加密算法实验验证

5．3 本章小结

第六章 总结和展望

参考文献

发表论文和科研情况说明

致谢