残差网络

摘要： 为了解决航空发动机叶片故障检测中存在的检测精度欠佳、检测效率不高的问题,提出了一种基于深度学习的目标检测方法。针对小样本数据集检测精度低、模型训练速度慢等问题,对Faster R-CNN目标检测算法进行结构优化,引入Res2Net结构,通过分割串联的策略强化残差模块的卷积学习能力,搭建了细粒级的多尺度残差模型Res2Net-50,以提升模型的特征提取能力。同时,在网络的训练过程中,采用多次余弦退火衰减法对学习率进行调整,以加快模型的训练速度,提升模型的训练质量。针对航空发动机叶片裂纹和缺损2种故障类型进行网络训练与检测试验,试验结果表明:优化后的模型识别准确率提高了0.7%,模型的平均检测精度提高了1.8%,训练时间缩短了5.56%,取得了比较好的检测效果。

摘要： 基于光学相干断层扫描(optical coherence tomography, OCT)的指纹防伪主要依赖汗孔、皮下汗腺和内部指纹等信息的精确提取,且具有一定的防伪信息冗余.针对这一现状,提出了一种基于注意力残差网络的OCT指纹防伪方法,仅使用少量信息便可做到对指纹的真伪识别.首先在残差网络的基础上,通过注意力模块与长短跳跃连接,构建注意力残差网络,使网络注意力更好地集中在皮下组织信息上;其次对待判别手指体数据进行随机采样,提取局部特征小块;最后通过注意力残差网络对局部特征小块进行分类,实现手指的真伪识别.基于Keras框架的注意力残差网络方法,在自制真假指纹数据库中,较同类网络获得了更高的识别准确率,表明了所提防伪方法的优越性.对自制数据库和深圳大学OCT指纹数据库的跨设备、跨样本实验进一步验证了方法的准确性和鲁棒性.

摘要： 语义分割作完成像素级的分类任务,上下文信息对分割的性能有重要的影响。为了获取更丰富的上下文信息,采用ResNet作为主干网络,设计了一个基于多维度注意模块(Multidimensional attention,MDA)和多尺度上采样模块(Multiscale upsampling,MSU)的编码器-解码器结构。多维度注意力模块计算三个维度的注意力矩阵,以获取每个位置的依赖性,同时注意力机制能自适应地捕捉图像特征。多尺度上采样模块采用并行分支来捕获图像的多尺度特征,多尺度特征聚合有效地增强了图像的上下文信息。在Cityscapes和Camvid数据集上进行的一系列实验表明,该网络能有效提升图像分割精度。

摘要： 液滴图像的精确分割是高精度接触角测量的重要环节,针对在液滴分割过程中存在的目标不准确、轮廓不完整以及固-液-汽3项交点和边界细节效果不佳的问题,文中提出了一种适用于液滴分割的神经网络模型。该模型以U-Net网络为基础,在其输入处加入1×1卷积层汇总图像特征,避免从初始图像中丢失信息;并采用Resnet18结构作为U-Net的特征学习编码器,增强了网络的表达能力,促进了梯度的传播。在解码过程中引入密集连接的特征融合技术,在提升分割目标细节信息的同时降低了网络参数。最后在每个卷积层后都添加批量归一化操作,进一步优化了网络性能。实验结果表明,改进的U-Net模型能够有效提高液滴识别的准确率,提升分割效果,在接触角测量领域具有一定的参考价值。

摘要： 由于传统循环神经网络具有复杂的结构,需要大量的数据才能在连续语音识别中进行正确训练,并且训练需要耗费大量的时间,对硬件性能要求很大。针对以上问题,提出了基于残差网络和门控卷积神经网络的算法,并结合联结时序分类算法,构建端到端中文语音识别模型。该模型将语谱图作为输入,通过残差网络提取高层抽象特征,然后通过堆叠门控卷积神经网络捕获有效的长时间记忆,摆脱了传统循环神经网络对上下文相关性建模的依赖,加快了模型的训练速度。对残差网络进行了优化,并在门控卷积神经网络中加入了前馈神经网络,极大提高了模型的性能。实验结果表明,在Aishell-1中文数据集上,该模型的字错误率降低至11.43%;并且在-5 dB低信噪比环境下,字错误率达到了19.77%。

摘要： 本文提出多尺度残差图像超分网络用以解决超高倍数图像超分问题。目前的单图像超分辨率研究主要集中在中等倍数上,而对于超高倍数的图像超分研究较少。因此本文提出一种多尺度图像特征融合结构以加强网络在超高倍退化图像中的细节特征提取能力,从而提升图像重建性能。通过实验验证可以得出,本文提出的方法在重建质量指标和感知上拥有比基准方法更好的效果。

摘要： 为了实现田间杂草图像快速、准确识别,提出了一种基于深层连接注意力机制残差网络(DCECA-Resnet50-a)的田间杂草识别模型。以残差网络为基准,改进残差块下采样的位置,同时引入注意力机制和连接注意力机制模块以更好地提取图片中的特征信息,结合迁移学习的策略缓解小样本数据集造成的过拟合现象,提高模型的泛化性并大大减少模型的训练时长。实验结果表明,改进后的模型综合性能最好,有较高的识别准确率,对杂草的识别准确率达到了96.31%且模型参数较少,实现了对银叶菊、小蓬草、马唐和猪殃殃四类豌豆田间常见杂草的准确区分,为农业的小样本数据在识别领域中提供了相应的参考作用。

摘要： 通过实验研究提出一种基于残差网络的钢板表面缺陷分类方法,以实现钢板表面缺陷准确分类。采用东北大学热轧钢带缺陷数据库,结合数据增强技术,共获得2160张样本图像。以残差网络为基准,改进残差块下采样的位置,同时在最后一层卷积层后连接2层全连接层,结合基于差异的领域自适应方法,提高模型的泛化性并大大减少模型的训练时长。实验结果表明,改进后的模型综合性能最好,在钢板表面缺陷检测上准确率可达99.9%。该模型支持钢板表面缺陷分类,具有良好的实际应用性。

摘要： 针对传统视频监控数据量大且复杂、不能及时有效地检测到人体异常行为的问题,文中提出了一种基于YOLOv3改进网络模型的人体异常行为检测方法(YOLOv3-MSSE)。该方法基于经典YOLOv3网络模型,利用残差模块构建多尺度特征提取网络,提升了对大目标的检测精度;同时,在网络结构不同位置融入注意力机制,对特征图各个通道的特征重要性实现加权处理,有效提高了模型人体异常行为的检测性能。实验结果表明,相比传统YOLOv3算法,YOLOv3-MSSE方法的mAP值提升了20.8%,F1-scores提升了11.3%,该方法不仅能够有效地检测出监控场景中的人体特定异常行为,还能较好地平衡检测精确率与召回率之间的关系,比同类方法更适用于实际监控场景下的人体异常行为检测。

摘要： 在目标跟踪中,目标本身容易发生变化,且目标的运动场景是复杂多样的,而不同网络训练的跟踪模型在跟踪同一场景的目标性能会有较大差异,进而使很多算法的跟踪效果不太理想。针对这一问题,文章提出了一种基于目标运动场景分类的目标跟踪方法,解决了单一模型在应对目标处于不同复杂场景中性能不稳定的问题。该算法利用残差网络对目标运动场景进行分类,并且使用迁移学习提高了分类的准确率,之后选取合适的网络模型对目标进行跟踪。在UAV123数据集上与原始的单一模型进行对比实验的跟踪结果表明,改进的算法能够有效地提高目标跟踪的成功率和精度,在OTB100数据集上与其他跟踪器进行比较,跟踪效果均优于其他跟踪器。

摘要： 环境声音分类(ESC)是音频处理领域中的重要分支之一，在未来多媒体应用中有重要的作用。音频识别是提取音频中特定的声学特性，将音频分类至样本对应的正确场景，有助于获取感知和理解周围环境。现阶段音频识别主要通过信号处理的技术和机器学习方法达成。随着人工智能飞速发展，传统的音频处理技术以及机器学习方法面临着巨大的挑战，ESC的识别准确性有待进一步的提高。本文结合了残差网络和随机森林两种方法，将一维时域信号的音频数据转换为二维数据形式的梅尔声谱图，预训练残差网络获得一个精度较高的网络模型作为特征提取器，利用该网络模型提取音频中的深层特征，再利用随机森林对深层特征进行分类。该方法在ESC任务上识别率提升了接近10%，取得了较好的分类结果。

摘要： 语音识别已经在服务、医疗、家电等行业中得到广泛的应用.智能设备中,语音交互系统的能耗较高,往往处于关闭状态.而唤醒词识别功能能耗相对较低,可以在后台保持开启状态,便于进行实时监测.当识别出唤醒词之后,设备才会开启智能交互系统.因此,唤醒词识别是语音识别技术的重要因素.论文融合残差网络、语音端到端网络、循环神经网络,引入注意力机制,并尝试多种损失函数,构造了一种有效的应用于唤醒词识别的网络结构.在企业内部数据集上,经过大量实验,并与多种不同网络结构对比,取得了良好的效果.其召回率达到90％以上,误唤醒率1％,效果明显优于传统的方法.

摘要： 目的：研究出一种计算机自动分析超声弹性图像的方法,或者改良一种同领域,不同研究对象的卷积神经网络,通过基于深度学习的计算机技术对已有的超声弹性成像的图像进行处理,自动判断图像中的纵膈淋巴结的良恶性,从而提高临床得到诊断准确率、检查普及率,减轻医生劳动量和强度,并减少漏诊率和误诊率. 方法：残差网络(ResNet)当前应用最为广泛的卷积神经网络特征提取网络,其主要依靠迁移学习的方法,加载从自然图像中预训练得到的卷积神经网络模型(Resnet34),以此来进行训练并且调整参数以满足要求. 结果：使用ResNet残差网络训练的模型,可以使分类的准确率最高达到87.7％,比RTE技术评分法结合淋巴结应变率比值SR法的准确率高. 结论：以ResNet残差网络为代表的卷积神经网络,在医学图像分类领域具有了良好的应用价值,准确率较高,能够辅助医生进行纵膈淋巴结超声弹性图像良恶性判定.

摘要： 近年来,基于深度学习的表面缺陷检测方法成为研究热点,其中卷积神经网络是基于深度学习缺陷检测的主流方法,本文总结了近几年基于卷积神经网络的缺陷检测方法,包括卷积神经网络、自编码神经网络、残差卷积神经网络和全卷积神经网络,介绍这几种网络的特点,以及它们在表面缺陷检测上的应用,并对这些方法进行总结,分析各种方法的优缺点.

摘要： 近年来,基于深度学习的表面缺陷检测方法成为研究热点,其中卷积神经网络是基于深度学习缺陷检测的主流方法,本文总结了近几年基于卷积神经网络的缺陷检测方法,包括卷积神经网络、自编码神经网络、残差卷积神经网络和全卷积神经网络,介绍这几种网络的特点,以及它们在表面缺陷检测上的应用,并对这些方法进行总结,分析各种方法的优缺点.

摘要： 近年来,基于深度学习的表面缺陷检测方法成为研究热点,其中卷积神经网络是基于深度学习缺陷检测的主流方法,本文总结了近几年基于卷积神经网络的缺陷检测方法,包括卷积神经网络、自编码神经网络、残差卷积神经网络和全卷积神经网络,介绍这几种网络的特点,以及它们在表面缺陷检测上的应用,并对这些方法进行总结,分析各种方法的优缺点.

摘要： 近年来,基于深度学习的表面缺陷检测方法成为研究热点,其中卷积神经网络是基于深度学习缺陷检测的主流方法,本文总结了近几年基于卷积神经网络的缺陷检测方法,包括卷积神经网络、自编码神经网络、残差卷积神经网络和全卷积神经网络,介绍这几种网络的特点,以及它们在表面缺陷检测上的应用,并对这些方法进行总结,分析各种方法的优缺点.

摘要： 近年来,基于深度学习的表面缺陷检测方法成为研究热点,其中卷积神经网络是基于深度学习缺陷检测的主流方法,本文总结了近几年基于卷积神经网络的缺陷检测方法,包括卷积神经网络、自编码神经网络、残差卷积神经网络和全卷积神经网络,介绍这几种网络的特点,以及它们在表面缺陷检测上的应用,并对这些方法进行总结,分析各种方法的优缺点.

摘要： 本发明涉及一种面向时间和频谱残差卷积网络的网络流量预测预警方法。首先，提取出西班牙维基百科网站一年的流量时序数据，并对该历史数据作对数处理，使用Savitzky‑Golay滤波器进行平滑去噪。其次，对数据进行归一化操作，并采用滑动窗口将归一化后的数据转换成有监督数据。再次，构建集成网络流量预测模型T‑LSTM，通过对网络流量数据的迭代训练，优化模型参数，进而得到预测模型，并获取精度较高的网络流量预测结果。在此基础上，将预测结果通过频谱残差变换成显著性图并向其人工注入点，该点被标记为异常，其它点则标记为正常。最后，用卷积神经网络对新生成的合成数据进行建模，学习判别规则进而实现预警功能。

摘要： 本发明公开了一种基于残差网络与特征差拟合的异纤分类方法，涉及棉花异纤分类领域，针对现有原棉中的异纤在图像特征上与棉花非常相似导致分类识别困难的问题，现提出如下方案，包括如下步骤：S1、设计异纤分类基础网络CottonNet，用于在图像特征上对异纤和棉花进行分类识别；S2、在S1中的CottonNet基础上引入残差网络，并定义残差模块，得到改进后的网络结构CottonNet‑Res；S3、针对复杂环境下的异纤分类，通过特征差拟合得到改进算法CottonNet‑Fusion。本发明提出的异纤分类方法分类准确率提升到97.4％，在复杂环境的异纤数据上仍能保持90.3％的Top‑1分类准确率。

摘要： 本发明公开了一种胶囊残差神经网络和基于胶囊残差神经网络的图像分类方法，属于图像处理技术领域，胶囊残差神经网络包括CNN前端和胶囊残差神经网络后端；CNN前端包括第一残差网络和第二残差网络，第一残差网络包括若干基本识别模块和快捷方式的标识块；第二残差网络包括若干基本识别模块；基本识别模块和快捷方式的标识块包括若干卷积层和批标准化层；胶囊残差神经网络后端包括第一胶囊层和第二胶囊层，第一胶囊层输出数据信息到第二胶囊层。本发明能够解决现有技术中卷积神经网络出现的梯度消失问题且不会引入大量参数增加计算难度，进一步提高图像分类精度。

摘要： 本发明涉及一种基于残差网络的残差块结构，其特征在于包括特征初始输入模块，恒等映射模块，卷积层模块，门限函数模块和输出函数模块；特征初始输入模块输入特征后，该输入特征被复制成相同的两部分，一部分通过恒等映射模块直接进行恒等映射，另一部分进入到卷积层模块和门限函数模块进行处理后输出；所述通过门限函数模块输出的输入特征与通过恒等映射模块直接进行恒等映射的输入特征相加操作后再通过输出函数模块进行输出。本发明在原结构上增加了一个门限设计，不但可以提高模型训练阶段测试集的精确度，减少训练时期每一轮的损失值；而且极大地增加了设计的自由度，可以进行更加复杂的结构设计，这对以往学习到的知识形成筛选控制作用。

摘要： 本发明公开了一种基于残差网络与特征差拟合的异纤分类方法，涉及棉花异纤分类领域，针对现有原棉中的异纤在图像特征上与棉花非常相似导致分类识别困难的问题，现提出如下方案，包括如下步骤：S1、设计异纤分类基础网络CottonNet，用于在图像特征上对异纤和棉花进行分类识别；S2、在S1中的CottonNet基础上引入残差网络，并定义残差模块，得到改进后的网络结构CottonNet‑Res；S3、针对复杂环境下的异纤分类，通过特征差拟合得到改进算法CottonNet‑Fusion。本发明提出的异纤分类方法分类准确率提升到97.4％，在复杂环境的异纤数据上仍能保持90.3％的Top‑1分类准确率。

摘要： 本发明公开了一种基于泄露积分回声网络和深度残差神经网络的变压器健康状态评估方法，包括以下步骤：采集各变电站中的监测信息；对采集到的监测信息进行数据滤波、数据清洗和数据归一化处理，得到输入矩阵；将输入矩阵输入泄露积分回声网络，生成可训练的人工数据，将人工数据按比例划分为训练集和验证集；构建基于压缩激励网络的深度残差神经网络，输入训练集和验证集进行网络训练；结合实际测试数据进行健康状态评估和网络更新。本发明考虑深度学习神经网络需要大量数据，利用泄露积分回声网络生成人工训练数据。并引入深度残差网络和压缩激励网络构建深度学习神经网络，提高神经网络的特征提取能力。该评估方法具备较高的准确率和较强的鲁棒性。

摘要： 本发明公开了基于残差网络和循环神经网络混合模型的协议识别方法，属于网络技术领域，所述方法包括：获取网络流量数据，组成协议类型未知的数据包；对所述数据包进行预处理，转化为一维向量；将所述一维向量输入预先构建训练好的协议识别模型中，提取数据包的特征，通过模型判断数据包对应的应用层协议类别；本发明先利用一维预激活残差网络提取协议数据的空间特征，进而利用双向门控循环神经网络提取协议数据的时间特征，最后利用注意力机制进一步提取协议的关键特征实施协议分类，本发明有效提高了网络协议识别的准确率。

摘要： 本发明公开了一种基于双向重建编码网络和强化残差网络的高光谱变化检测方法，获取同一区域两个时间点的高光谱图像，并构成样本图像；选择样本图像中所有像素的5％作为训练像素，并根据训练像素中的变化情况对像素标记变化标签，得到不变像素；本发明采取了将光谱与空间先完全分离再融合的空谱联合策略，分别在光谱和空间上追求更好的特征提取效果，接着对不变像素在两个时间点的光谱采用编码网络进行双向重建，并将重建误差作为新的光谱特征来源，进一步的抑制了噪声对光谱的影响，随后基于波段选择算法筛选部分波段参与空间特征提取，并在残差架构的基础上利用初始特征进行特征增强以提升特征提取效果。

摘要： 本发明涉及一种基于残差网络及图卷积网络的肌电信号识别方法，包括以下步骤：步骤S1:获取多通道肌电信号，对多通道肌电信号进行预处理，得到待训练的数据集；步骤S2:选择满足实时性的时间窗口和相应的滑动窗口对肌电信号进行采样，构建表面肌电信号图像;步骤S3:构建残差网络及图卷积网络的结构模型，并基于表面肌电信号图像训练；步骤S4:基于训练好的残差网络及图卷积网络的结构模型对表面肌电信号进行识别。本发明能够更好地学习肌电信号的特征，同时由于保留了残差网络结构，解决了深度卷积网络模型的退化问题。

摘要： 本发明公开了一种基于U‑Net结构和残差网络的去雾网络及其去雾方法。该网络不依赖于大气散射模型，可以实现端到端的去雾。本发明基于U‑Net的网络结构，利用残差模块构建了一个端到端的去雾残差网络，去雾方法包括以下步骤：获取合成雾天数据集RESIDE作为训练数据集，并对数据集进行裁剪和归一化的预处理。基于U‑Net结构和残差模块，构造去雾网络模型。将合成雾天数据集输入到网络模型中，在训练过程中通过新的损失函数计算损失，不断迭代更新网络参数，最终得到优化的去雾模型，进行图像去雾。