一种基于广义逆的机器学习新方法

摘要

针对常规的前馈神经网络因采用梯度下降法进行参数学习而容易陷入局部极小值,且由于算法的局限性,其网络的推广性能较差,容易出现过学习现象的问题,提出了一种新的单隐层前馈神经网络(SLFNs)学习算法。该算法对于输入层权值采用随机数生成,对于输出层权值由算法最优生成,因而能从理论上保证网络结构具有最好的推广特性和最小的经验风险。回归估计和分类试验表明了其优越性。