基于奇异值分解的神经网络结构优化设计及其应用

摘要

包括BP网络和RBF网络在内的前馈网络是应用最为广泛和成功的神经网络.其泛化能力是最为重要的网络性能之一。研究发现,BP和RBF网络的泛化能力在很大程度上取决于网络是不是具有合理的复杂度,即适当的隐层节点数量。因此,本文基于奇异值分解理论,提出了BP和RBF网络的结构优化设计方法。其基本思路均是利用奇异值分解理论分析已完成训练的网络隐层输出矩阵,根据贡献率的原则删除对网络贡献较小的节点,获得适当的网络规模,提高泛化能力。但是,根据两种网络的不同特性,优化策略在具体步骤和方式上稍有差别。本文将优化后的网络用于热工系统建模中,取得了良好的建模效果。仿真实验表明优化后的网络改善了泛化能力,提高了模型精度,证明了基于奇异值分解的结构优化策略的有效性。

目录

文摘

英文文摘

第一章 绪论

1.1 课题研究背景与意义

1.2 目前存在的主要结构优化策略

1.3 本文的主要工作及安排

第二章 矩阵奇异值分解理论

2.1 矩阵的奇异值分解及其说明

2.1.1 奇异值分解理论

2.1.2 有关奇异值分解的几点说明

2.2 矩阵奇异值分解的性质及其应用

2.2.1 奇异值分解的主要性质

2.2.2 奇异值分解的主要特性及其应用

2.3 本章小结

第三章 基于奇异值分解的BP网络结构优化及其应用

3.1 神经网络简介

3.1.1 人工神经元模型

3.1.2 神经网络的拓扑结构及工作方式

3.1.3 神经网络泛化理论

3.2 BP神经网络简介

3.2.1 BP神经网络的结构

3.2.2 BP神经网络的学习算法

3.2.3 BP网络学习算法的改进

3.3 基于奇异值分解的BP网络结构优化策略

3.4 优化的BP网络在循环流化床锅炉中的应用

3.4.1 循环流化床锅炉建模数据的选取与分析

3.4.2 建模与仿真

3.5 本章小结

第四章 基于奇异值分解的RBF网络结构优化及其应用

4.1 RBF径向基函数神经网络简介

4.1.1 径向基函数的概念

4.1.2 RBF网络结构

4.1.3 RBF网络学习算法

4.2 基于奇异值分解的RBF网络结构优化策略

4.3 优化的RBF网络在主汽温系统中的应用

4.3.1 RBF网络建模数据的选取和分析

4.3.2 建模与仿真

4.4 本章小结

第五章 结论

参考文献

致谢

在学期间发表的学术论文和参加科研情况