基于ReRAM的神经网络加速器发展概况

摘要

本文关注2016年体系结构领域两个重要的峰会ISCA和MICRO,简单介绍了这两个会议有关神经网络加速器的研究成果,重点关注了基于金属氧化物的电阻式随机访问存储器(Metal-oxide Resistive Random Access Memory,ReRAM)的有关文章.参照计算机系统层次化结构,本文首先介绍了ReRAM的原理和结构,然后介绍了基于ReRAM设计的简单神经网络架构,该架构仅仅支持30个连接权重,支持神经网络十分有限.PRIME架构极大地扩展了对神经网络计算的支持,针对不同网络(多层感知器,卷积神经网络)和较大规模数据集(MNIST)都取得了较好的实验效果.PRIME虽然对神经网络加速效果较好,但是其提供的软硬件接口仍然只针对PRIME架构本身,缺乏扩展性.NEUTRAMS工具集是为了消除硬件约束提出来,该工具集通过仿真层对硬件的抽象,使得在表示层设计的神经网络不需要修改即可实现在不同硬件架构上移植.实验均证明了上述方法的有效性.