一种基于模糊聚类的软件保护虚拟机攻击方案

摘要

软件保护虚拟机采用了虚拟化的技术来对程序进行膨胀处理，如果采用传统的在01lyDbg中单步执行来对程序进行逆向的话，费时费力。本文提出一种基于软件模糊聚类思想的软件保护攻击方案。首先编写OllyScript脚本，记录被保护程序关键段的执行指令状态，分析指令并提取句柄，提取句柄的代码特征，引入模糊聚类算法，用FCM算法对提取到的句柄按照特征值进行归类，从而方便对程序进行进一步分析。实验结果表明该方案可以很大程度上对算法进行有效归类，对进一步分析软件保护虚拟机有很大的帮助。