构造性机器学习方法的改进算法研究

摘要

如今,科学技术正处于多学科互相交叉和渗透的时代。特别是计算机科学与技术的迅速发展,从根本上改变了人类的生产与生活。同时,随着人类生存空间的扩大,人们对科学技术提出了新的更高的要求。在现在信息爆炸的时代,要从各种各样海量信息中找出我们大家感兴趣的、有价值的信息,信息处理显得尤为重要。聚类、分类等各种信息处理方法层出不穷。从1943年到现在,人工神经网络虽然历经波折,但也取得长足发展,应用范围越来越广,如:模式识别、最优化问题计算、复杂控制、通信等等。然而传统的网络的本质缺陷限制了神经网络在海量数据中的应用。
　　覆盖算法就是在前向神经网络的不断发展和推进下发展起来的。与传统的前向神经网络相比,覆盖算法具有运行速度快、精度高的特点,在众多领域得到广泛应用。大批的研究者在优化覆盖算法上也做出了巨大的贡献,在原始覆盖算法的基础上提出了大量的改进算法,如:领域覆盖算法、增量覆盖算法、核覆盖算法、多侧面覆盖算法、概率覆盖模型算法等等。但是各种算法中,领域的初始中心一般是随机选择,从而造成覆盖网络性能也具有随机性。同时,领域覆盖网络中领域存在冗余,由此可见覆盖算法有待进一步深入研究。
　　本文的主要工作包括:
　　1.概述了人工神经网络的发展过程,比较分析构造性机器学习方法的主要模型,并详细介绍了覆盖算法的思想,比较分析基于覆盖算法的神经网络的主要模型和算法;
　　2.提出了基于聚类的交叉覆盖算法:与传统的前向神经网络相比,覆盖算法具有运行速度快、精度高的特点,但覆盖算法的初始领域中心是随机选取的。实验表明网络性能与学习顺序有密切的关系。本文在前向神经网络交叉覆盖算法基础上提出了一种新型改进的交叉覆盖算法――基于聚类的交叉覆盖算法。该方法是一种根据聚类结果确定学习顺序的方法。实例表明这种改进的算法是确定性学习方法,可以有效减少覆盖数量,提高交叉覆盖算法的测试速度,减少拒识样本数,提高识别的精度。
　　3.提出基于关联规则的领域覆盖算法:前向神经网络网络的覆盖算法根据样本数据构造性地建立神经网络,网络结构易于确定,执行效率高。但由于噪声数据的存在,可能造成覆盖领域多,从而增加了网络结构的复杂性,并产生一些不必要的误识。本文借鉴数据挖掘中关联规则的支持度与可信度的概念,对覆盖领域进行约简,简化覆盖网络的结构,提高网络的稳定性和推广能力。

目录

封面

声明

中文摘要

英文摘要

目录

第一章 绪论

1.1人工神经网络概述

1.2 构造性学习方法的产生与发展

1.3 本文所作的工作及内容安排

第二章 覆盖算法

2.1导言

2.2 FP算法简介[2,33]

2.3 MP神经元的几何意义[13]

2.4 基本覆盖算法[33]

2.5 覆盖算法的主要的改进算法

第三章 基于聚类的交叉覆盖算法

3.1引言

3.2学习顺序对覆盖算法的影响分析

3.3 初始点的选择

3.4改进算法的训练

3.5识别与检验

3.6小结

第四章 基于关联规则的覆盖领域约简算法

4.1引言

4.2 关联规则

4.3覆盖领域的约简算法

第五章 总结与展望

参考文献

致谢

攻读硕士学位期间所参加的科研项目

攻读学位期间发表的学术论文目录