初学神经网络请问应该读哪些经典论文

2024-03-27 09:47:04 来源:掌桥科研

根据我平时在科研学习过程中的经验,当我们面对一个从未涉及过的领域时,若是想在该领域有一定的建树,那么在刚开始阅读文献的时候一般可以选择针对目前该领域的研究热点的基础类文献进行阅读,这样就可以在抓住重点的基础上首先对其基础有着详细的了解。

因此,我针对初学神经网络选出了以下四篇文章,供大家参考阅读。


目录

1.Efficient Processing of Deep Neural Networks: A Tutorial and Survey深度神经网络的高效处理:指南与综述

2.Terahertz image super-resolution based on a complex convolutional neural network.基于复杂卷积神经网络的太赫兹超分辨成像

3.Neural-Network-Biased Genetic Algorithms for Materials Design: Evolutionary Algorithms That Learn.用于材料设计的神经网络偏向遗传算法:学习的进化算法

4.A quantitative uncertainty metric controls error in neural network-driven chemical discovery.神经网络驱动化学发现中的定量不确定度控制误差


1. Vivienne Sze,Yu-Hsin Chen,Tien-Ju Yang,Joel S. Emer.Efficient Processing of Deep Neural Networks: A Tutorial and Survey[J].Proceedings of the IEEE,2017,105(12):2295-2329

深度神经网络的高效处理:指南与综述

https://www.zhangqiaokeyan.com/?from=seo-wxjq-15325

本篇文章的类型属于综述类文章,文章的主题为深度神经网络(DNN)中在不牺牲应用精度或增加硬件成本的情况下的高效处理技术,讨论支持DNN的各种硬件平台和体系结构,并重点介绍仅通过硬件设计更改或通过联合硬件设计和DNN算法更改来降低DNN计算成本的主要趋势。本篇文章还总结各种相关技术,使研究人员和从业人员可以快速入门该领域,并重点介绍重要的基准测试指标和设计注意事项,特别是在终端和边缘设备上面的推理计算加速技术。


2. Wang Ying,Qi Feng,Wang Jinkuan.Terahertz image super-resolution based on a complex convolutional neural network[J].Optics Letters,2021,46(13)

基于复杂卷积神经网络的太赫兹超分辨成像

https://www.zhangqiaokeyan.com/?from=seo-wxjq-15325

太赫兹(THz)成像技术已成功应用于从医学成像到工业无损检测等诸多领域。然而,由于其波长较长,低分辨率一直是一个问题。卷积神经网络(CNN)在提高光学图像分辨率方面非常有效,在光学图像中,实数是根据测量的强度进行操作的。与光学相比,在太赫兹成像中同时获得振幅和相位信息是完全可行的。本篇文章根据太赫兹光的波动性质,将CNN从实数域扩展到复数域,首次证明这种复杂卷积神经网络(CCNN)在太赫兹成像中是成功的。在本研究中证明通过这种方法,分辨率可以达到光束大小的0.4倍,并且可以很容易地获得半波长分辨率。与CNN相比,CCNN在对比度方面额外增加了27.8%,这意味着更好的图像。另外CCNN相位信息可以很好地恢复,这对于CNN来说是不可能的。虽然网络是由MNIST数据集训练的,但它对于图像重建来说非常强大。同样,CCNN在泛化能力方面优于CNN。因此,本篇文章的研究的重中之重就是证明CCNN有助于克服太赫兹成像中的低分辨率瓶颈,并且可以释放系统中关键光学元件和广泛微调的需求。


3. Patra Tarak K.,Meenakshisundaram Venkatesh,Hung Jui-Hsiang,Simmons David S.Neural-Network-Biased Genetic Algorithms for Materials Design: Evolutionary Algorithms That Learn[J].ACS combinatorial science,2017,19(2)

用于材料设计的神经网络偏向遗传算法:学习的进化算法

https://www.zhangqiaokeyan.com/?from=seo-wxjq-15325

生物分子设计和硬材料设计的成功证明机器学习有可能显著加速材料设计的高通量方法。然而,在寻找更高性能的新材料时,机器学习方法经常受到两个缺点的限制。首先它们更适合在已知的可访问行为范围内优化性质,而不是发现具有极端行为的新材料。其次,它们需要大量预先存在的数据集,这些数据集经常不可用,生产成本高昂得令人望而却步。在本篇文章中向我们展示来一种新的策略,神经网络偏倚遗传算法 (NBGA),用于结合遗传算法、机器学习和高通量计算或实验,在没有预先存在的数据的情况下发现具有极端性质的材料。在这个策略中,来自逐步构建的人工神经网络的预测被用来偏向遗传算法的进化,通过直接模拟或实验进行适合度评估。实际上,这种策略赋予了进化算法“学习”的能力,并从其经验中得出推论,以加速进化过程。文章中还针对几个标准优化问题和聚合物设计问题对该算法进行了测试,并证明其匹配且通常超过标准方法的效率和可重复性,包括直接评价遗传算法和神经网络评价遗传算法。该算法在一系列测试问题中的成功表明,NBGA提供了一个强大的策略,在没有预先存在的方法的情况下,使用信息学加速的高通量方法来加速材料设计。


4. Jon Paul Janet,Chenru Duan,Tzuhsiung Yang,Aditya Nandy,Heather J. Kulik.A quantitative uncertainty metric controls error in neural network-driven chemical discovery[J].Chemical science,2019,10(34)

神经网络驱动化学发现中的定量不确定度控制误差

https://www.zhangqiaokeyan.com/?from=seo-wxjq-15325

诸如人工神经网络之类的机器学习(ML)模型已成为高通量筛选的补充,可在数秒而不是数小时内表征新化合物。只有能够直接识别分子和材料何时超出模型的适用范围,才能实现ML模型实现大规模化学空间探索的承诺。而神经网络模型建立的不确定性度量要么成本高昂(例如整体模型),要么依赖于特征工程(例如特征空间距离),而且每种方法在估计化学空间探索的预测误差方面都有局限性。因此,在本篇文章中介绍了到神经网络ML模型的潜在空间中的可用数据的距离,这是一种适用于无机和有机化学的低成本,定量不确定性度量。该方法的校准性能超过了广泛使用的不确定性指标,并且可以轻松地应用于不断增加的复杂性模型,而无需支付额外费用。潜在距离截止值会系统地将预测的模型误差降低到训练误差以下,从而实现化学发现中的预测误差控制或主动学习的有用数据点的识别。

客服邮箱:kefu@zhangqiaokeyan.com

京公网安备:11010802029741号 ICP备案号:京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有
  • 客服微信

  • 服务号