基于粗糙集与前馈网络的案例智能系统的研究

摘要

学习是智能行为的最重要体现，从古希腊人开始，对知识的研究与探索，一直是人类追求的目标。类比是人类重要的认知方法，是一种允许知识在具有相似性质的领域中进行推理的学习策略，是人类直觉、逻辑与创造性三种思维方式的综合表现形式，也是人们经验决策过程中常用的思维方式。案例推理技术作为智能系统一种新的推理方法，是人脑类比学习的计算机实现，也是这一领域研究的先行者和成功的实践者。对案例智能系统的研究，有助于对人类思维的模仿，实现人类智能。 从大量数据中获取知识、表达知识以及推理决策规则，是智能信息处理的首要任务，特别是对于实际问题中不确定、不完备知识的处理，粗糙集理论和人工神经网络技术都展示出惊人数据处理的能力。本文围绕实现案例推理循环的主要过程，以粗糙集为主体的综合推理和前馈神经网络的大规模数据处理为基础，研究提高案例推理系统的精度和效率、增强系统的柔性和鲁棒性。本文的主要研究内容如下： (1)案例智能系统的知识表示以案例为基础，案例表示可能是半结构化或非结构化的、甚至用自然语言来表达的；研究案例推理的类比可行性、案例推理的逻辑基础和推理的知识结构，并给出了人类知识推理中的一些困惑；以及实现案例智能，必须要处理好的知识结构等几个方面的问题。构建合适的案例库，如何对它进行组织与维护，对快速、有效地完成案例的检索是十分重要的，对问题求解的性能有直接影响。 (2)从知识推理的角度对不确定知识的研究模型及其关系进行分析，详细研究了粗糙集与案例推理相结合的综合推理技术，多方面寻找理论模型融合的技术和方法，从而便于我们从更高的层次理解人类思维及其问题处理方法，从不完备知识中推出本质知识，这对高层决策是至关重要的。 从问题求解的实际需要出发，综合推理技术可以充分运用多层次的知识，将多种推理技术集成，采用不同的知识粒度，提高系统推理的效率。最终实现构建统一的、更加有效的、能够处理复杂的和模糊的信息的粒计算的理论平台，从而为案例智能系统的实现提供了可靠的技术基础，并极大地提高了系统的问题处理能力；最后提出了一种案例智能决策支持系统的体系结构。 (3)研究了智能知识检索技术，并详细研究了前馈神经网络及其作为案例检索的算法；指出目前仍在广泛使用的BP算法、模拟退火算法及其改进算法，具有难以克服的速度慢、局部极值的缺点。随后对比研究了径向基函数算法，它是根据模式矢量的多维空间距离的非线性影射来识别和分类的，是一个良好的相似性检测器。研究表明RBF网络具有学习速度快、全局收敛等优点；然后建立了基于RBF网络的案例相似检索模型。 (4)详细研究构造性神经网络及其算法，将网络的某个性能的优劣作为算法追求的目标之一进行考虑，从全局来考察神经网络的学习过程，研究构造性的网络结构对于解决大规模的问题求解有重要的意义。从M-P神经元的几何意义入手，对比早期的构造性神经网络算法一-FP算法，然后推出了覆盖算法。研究表明该技术易于模块化构建具有快速、识别率高等优点，最后给出了基于构造性神经网络的领域覆盖算法的案例智能系统。 (5)详细研究了案例知识库维护技术，提出了案例知识库维护的原则。案例推理是增量式学习系统，类似人类的知识积累。案例库维护是CBR知识系统研究的核心，涉及CBR推理的知识表示、适配与改写过程；虽然CBM作为CBR研究的一个重要分支，已经广为研究并开发出来不同的案例库维护策略；但是在不同的环境下，因CBR系统的规模、时效性以及应用领域的特点不同，案例知识库维护手段和维护性能存在较大的差异。 针对冗余和不一致案例知识，或者由于领域知识变化的环境，提出了基于相似粗糙集的案例知识库维护技术，基于知识粒度，做到可控阈值的实时监测、实现实时维护。 针对实际领域应用中如故障诊断、在线帮助、电子商务等交互式状态下，其案例库的规模很容易达到成千上万条且不可约简的系统性能维护难题，提出了基于覆盖算法的案例知识库维护，系统同时从两方面着手完成案例库维护：一方面用覆盖算法将案例库划分成覆盖领域，实现案例的选择性过滤使用；另一方面应用多层前馈神经网络改进案例匹配，提高检索效率。实验表明该方法可以用来处理海量的高维数据，保证了系统的可用性。

目录

文摘

英文文摘

论文说明:图表目录

声明

致谢

第一章绪论

1.1案例智能

1.1.1 CBR概述

1.1.2 CBR的研究方向

1.2粗糙集

1.2.1粗糙集概述

1.2.2粗糙集的研究现状

1.3神经网络

1.3.1神经网络的发展概要

1.3.2神经网络与案例推理系统

1.4选题的意义

1.5论文的组织与安排

第二章案例知识结构

2.1 CBR的逻辑学基础

2.1.1类比推理

2.1.2案例智能技术

2.1.3非单调逻辑

2.2案例表示

2.2.1案例表示的要求

2.2.2案例表示方法

2.3相似性研究

2.3.1案例相似性理论

2.3.2相似性计算

2.4案例的组织

2.5案例修正技术

2.5.1案例修正方法

2.5.2修正知识获取

2.6本章小结

第三章基于粗糙集的综合推理技术

3.1粗糙集基本理论

3.1.1粗糙集基本概念

3.1.2与其它不确定理论的关系

3.2决策表达逻辑

3.2.1知识的简化

3.2.2决策逻辑

3.2.3决策表的简化

3.3综合推理技术及应用

3.3.1粗糙集在CBR中的实际应用

3.3.2综合推理技术的融合方式

3.3.3综合推理技术应用——案例智能决策支持系统

3.4本章小结

第四章基于前馈神经网络的案例检索

4.1案例索引与检索技术

4.1.1案例索引

4.1.2案例检索

4.2前馈神经网络模型

4.2.1多层前馈神经网络

4.2.2径向基网络

4.3前馈神经网络的学习算法

4.3.1 BP算法

4.3.2模拟退火算法

4.3.3径向基函数算法

4.4基于RBF网络的案例检索模型

4.4.1神经元模型

4.4.2检索结构

4.4.3实验

4.5本章小结

第五章基于构造性神经网络的案例智能系统

5.1 FP及覆盖算法

5.1.1构造性神经网络

5.1.2 FP算法

5.1.3 M-P神经元的几何意义

5.1.4覆盖算法

5.2 SVM及其学习算法

5.2.1统计机器学习理论

5.2.2支持向量机

5.3基于前馈神经网络的案例智能系统

5.3.1集成系统的结构模型

5.3.2试验与分析

5.4本章小结

第六章案例知识库维护技术的相关研究

6.1案例知识库维护

6.1.1案例库维护架构

6.1.2案例库维护方法

6.2基于相似粗糙集技术的案例知识库维护

6.2.1基本理论与算法

6.2.2案例库维护过程

6.3基于交叉覆盖算法的案例知识库维护

6.3.1交叉覆盖算法

6.3.2试验过程分析

6.4本章小结

第七章总结与展望

7.1本文的主要贡献与创新点

7.2进一步的研究

参考文献

攻读博士学位期间从事的科研工作及发表的论文