随机二元神经网络的学习与泛化

摘要

本文提出了一种采用随机加权联接的新型神经网络模型,该模型具有清晰可分析的神经元激活函数,内部数据表示为随机二进制序列形式,硬件实现十分简洁高效.本文在三个不同层次对前向型网络的学习算法和系统仿真进行了深入的讨论,其中最底层的学习对应于硬件实时在线学习.另外,本文还对系统的泛化性能作了全面的分析,给出了VC维和学习样本量的明确结果.通过对三个用于标准测试的Monk问题和数字手写体识别问题的检测,获得了很好的实验结果.