神经网络初始权值优化技术在移动机器人学习中的应用

摘要

本文在采用BP学习算法的多层感知器的基础上，考虑初始权值的波动和样本组的因素，提出了初始权值优化技术，以提高初始权值与样本组的匹配能力。取得以下的结论： 在采用BP学习算法的多层感知器的情况下，采用单输出型方式，初始权值优化技术在有限的前几次优化中，取得较大的峰值的概率较大；而采用多输出型方式，并且样本的维数与神经元数目增加的情况下，初始权值优化技术在有限的几次优化中，取得较大的峰值的概率很小。因此，初始权值优化技术适合于单输出型方式。 本文还对初始权值优化技术的优化过程进行了分析，得出以下结论：权值矩阵的F-范数在优化函数值变化较大时并无很大的波动；而对不同优化函数值的权值矩阵，对它们的差构成的新矩阵，通过研究新矩阵F-范数的研究发现，不同优化函数值对应的权值矩阵的差别是很明显的。初始权值优化技术选择了更适合当前样本组的初始权值组。 对在多输出型情况下，优化函数不容易取得较大峰值的原因：由于多输出型要以一个网络来适应样本组的所有样本，在训练过程中，中间层权值的更新存在相互影响的现象；而在单输出型中，使用的是网络群结构，克服了类别之间的耦合，中间层权值更新不存在相互影响的现象。优化函数的自变量数目在单输出型的情况下比多输出型要多几倍，并且自变量之间不存在相互影响的问题，因此，寻优的过程变得容易；而在多输出型情况下，自变量在权值更新过程中的相互影响，优化函出现较大的峰值的概率降低。 本文的室内移动机器人采用的是单输出型方式，结合SPCE061A对语音的软硬件支持，通过语音教学的方式，由传感器组和语音编码后的向量构成样本，以语音触发的方式让机器人在未知的环境中采样，采集完成后，机器人通过采集的样本组来训练自己。训练完成后，通过学习训练后的网络直接控制移动机器人的动作。论文对采用初始权值优化技术的和未采用的网络分别作了相应的实验，实验结果表明，初始权值优化技术显著地提高了收敛的速度。 由初始权值优化技术的启发，本文对情感思维模型作了相关的探讨，并且对情感和思维的协调提出了相应的解决方案，并编写了测试软件，对加载选择器的合理性进行测试，得出结论：这种解决方案对协调情感和思维是合理的。

目录

文摘

英文文摘

0前言

0.1概述

0.2多层感知器学习算法的现状

0.2.1 BP(Back-Propogation)算法的特点

0.2.2 BP算法的若干改进算法

0.3本文的研究内容

1初始权值优化技术

1.1权值的波动对多层感知器收敛的影响

1.2互信息量的表示

1.3对互信息量的合理简化

1.4优化准则函数的构造

1.5优化准则函数与收敛之间的关系

1.6优化因子的选择

1.7优化次数的选择

1.8初始权值优化技术与BP算法的结合

2系统的实现

2.1单输出型多层前馈网络的应用

2.2移动机器人的语音教学学习的功能框图

2.3系统的硬件部分

2.3.1系统的功能模块框图

2.3.2移动机器人的主体机械部分

2.3.3移动机器人的电路设计部分

2.4语音识别部分的介绍

2.5系统的软件流程图

2.5.1算法的实现

2.5.2主程序流程框图及简要说明

3实验结论与分析

3.1实验结论

3.2实验结论分析

3.2.1从初始权值的角度分析初始权值优化

3.2.2优化准则函数优化过程的分析

3.2.3单输出型和多输出型产生差异的分析

4机器人情感思维模型的探讨

4.1情感思维模型的发展

4.2情感思维模型框图

4.2.1脑电研究的相关内容

4.2.2认知科学对情感的认识

4.2.3初始权值优化技术的启发

4.2.4情感思维模型

4.2.5此模型对人的行为的模拟的合理性论证

4.3加载选择器的实现

4.4加载选择器的实验结果

5结论与展望

6附表

参考文献

硕士期间发表论文

致谢