基于现代优化方法的模糊神经网络设计研究

摘要

模糊神经网络系统作为模糊系统与神经网络的结合，一方面弥补了纯模糊逻辑在学习方面的缺陷，另一方面，使得神经网络这一“黑箱”问题走向透明化。由于汇聚了神经网络和模糊系统各自的优点，近年来，模糊神经网络已经成功应用到时间序列预测、智能控制、生物医学、模式识别、数据挖掘等多个领域。 目前，模糊神经网络的应用研究主要集中在用神经网络的结构完成模糊系统的功能，即进行网络的构造并借助神经网络的学习能力来提取模糊规则，使之完成相应的任务。因此在模糊神经网络的研究中，如何针对实际问题进行有效的模糊神经网络优化设计，即如何恰当的确定模糊神经网络的规则条数和每条规则的参数以便利于神经网络实现模糊输入、模糊推理、网络中的传播和最终结果的理解等已经成为应用模糊神经网络所面临的关键性问题。 20世纪80年代出现的模拟退火算法、遗传算法等为开端的现代优化方法，是以优化问题中的难解问题为主要应用对象。由于这些方法不要求目标函数连续可微、对计算数据的不确定性有很强的适应能力、且具有灵活性好、直观性和随机性强等特点，因此在很短的时间里就得到广泛应用，成为解决优化问题的一种有力工具，并展示出方兴未艾的强劲发展势头。 禁忌搜索算法(TabuSearch，TS)是一种极具特点的meta-heuristic算法。TS通过引入一个灵活的存储结构和相应的禁忌准则来避免迂回搜索，并通过藐视准则来赦免一些被禁忌的优良状态，进而保证多样化的有效探索以最终实现全局优化。算法最引人注目的地方在于其跳出局部最优解的能力。 此外另一种新的基于群智能的全局优化算法——粒子群优化算法(ParticleSwarmOptimization，PSO)由Kennedy和Evberhart在1995年提出，主要用于解决连续函数优化问题。由于其简单、有效的特点，粒子群优化算法迅速受到各领域学者们的广泛关注。 由于禁忌搜索算法和粒子群优化算法是两个典型的基于个体智能和群智能的现代优化方法，而模糊神经网络的优化设计也可以转换成一个组合优化问题。所以本文在对两个算法进行分析总结的基础上，主要开展了以下三个方面的工作： (1)提出了一种基于模糊神经网络的混合禁忌搜索算法(FNN-HTS)，用于网络结构和参数的同时优化以自动获取一组精练的模糊规则。 (2)针对模糊神经网络初始结构和参数的确定往往需要专家经验的特点，提出了一种基于禁忌搜索的模糊神经网络分类器设计算法(TS-FNNC)，应用于解决数据挖掘中的数据分类问题。 (3)针对粒子群优化算法集中性搜索能力不强、搜索精度不高的不足，提出了一种基于自适应局部搜索的粒子群优化算法(PSOALS)，以增强粒子群优化算法的局部搜索能力、提高搜索效率。将PSOALS用于模糊神经网络的参数学习，并采用了著名的基准函数对算法的性能进行测试。 通过本文的研究可以看出，将现代优化方法与模糊神经网络相结合而得到的混合优化策略具有很好的性能。基于禁忌搜索的模糊神经网络设计方法能在系统较为复杂，专家经验不易总结的情况下对系统进行建模，使模糊神经网络具有更紧凑的结构和更高的精确度；自适应局部搜索粒子群优化算法不仅具有很强的全局搜索能力，而且在收敛精度和速度上有了明显的提高。它不但在模糊神经网络参数学习中获得很好的训练精度，还具有一定的普遍适用性，可以用来解决其它组合优化问题。

目录

文摘

英文文摘

独创性声明及学位论文版权使用授权书

第一章绪论

第二章模糊神经网络及两种优化方法的基本原理

第三章基于禁忌搜索算法的模糊神经网络优化设计与应用

第四章自适应局部搜索的粒子群优化算法

第五章总结与展望

参考文献

附录

致谢