注意力机制

摘要： 针对传统轻量型卷积神经网络模型复杂度高,移动端识别速度慢,小样本数据集上训练、识别效果差的等问题,提出一种高效的改进后的移动端煤矸识别方法;分析卷积神经网络模型轻量化的方法,并从注意力机制、激活函数和分类头3个方面对MobileNetv3网络进行改进,通过模型量化压缩网络在移动端部署模型,分析改进网络量化前、后的空间存储容量,浮点运算次数,推理时间和识别准确率;在移动端煤矸识别实验装置中训练、部署和测试模型的识别效果。结果表明:改进后网络经过20次的训练后模型即收敛,收敛速度较快,训练和验证准确率均大于99%;改进后模型经量化压缩后模型存储容量较小,仅为原网络的24.64%,模型复杂度大幅度下降;移动端推理时间仅为77 ms,识别准确率达到99.7%;利用实验装置实时采集的煤和矸石图像的识别效果较好,识别方法可靠。

摘要： 太阳暗条作为太阳大气磁场的示踪,对研究太阳磁场有极其重要的意义.针对现有的暗条检测方法存在检测精度不高,弱小暗条错检、漏检等问题,提出一种基于改进VNet网络的太阳暗条检测方法.首先,使用大熊湖天文台Hα全日面图像并结合磁图制作了太阳暗条数据集;其次,在VNet网络下采样部分采用Inception模块融合不同尺度特征图的特征,同时加入注意力机制增强特征图中暗条部分的语义信息;最后在上采样部分引入深度监督模块,更多地保留太阳暗条的细节特征.为验证算法性能,采用191幅Hα全日面图像数据集,其中包含暗条共3372条.算法在测试数据集上平均准确率达到0.9883,F1值达到0.8385.实验结果证明,该方法可以有效识别Hα全日面图中的暗条.

摘要： 对新型冠状病毒肺炎疫情的准确预测能为疫情防控政策的制定提供重要依据,为此提出基于双向门控循环单元(BiGRU)和注意力机制(Attention Mechanism)的预测模型.考虑到新冠肺炎每日新增确诊人数的时序特性和非线性,采用了一种BiGRU网络,以减小计算代价并充分利用前、后向数据信息;同时引入注意力机制解决信息过载问题,以提高计算效率和预测精度.最后,通过英国和美国在2020年1月22日至2021年3月21日期间的每日新冠肺炎新增确诊病例数据集验证了所提方法的有效性.

摘要： 目前多数文本分类方法无法有效反映句子中不同单词的重要程度,且在神经网络训练过程中获得的词向量忽略了汉字本身的结构信息。构建一种GRU-ATT-Capsule混合模型,并结合CW2Vec模型训练中文词向量。对文本数据进行预处理,使用传统的词向量方法训练的词向量作为模型的第1种输入,通过CW2Vec模型训练得到的包含汉字笔画特征的中文词向量作为第2种输入,完成文本表示。利用门控循环单元分别提取2种不同输入的上下文特征并结合注意力机制学习文本中单词的重要性,将2种不同输入提取出的上下文特征进行融合,通过胶囊网络学习文本局部与全局之间的关系特征实现文本分类。在搜狗新闻数据集上的实验结果表明,GRU-ATT-Capsule混合模型相比TextCNN、BiGRU-ATT模型在测试集分类准确率上分别提高2.35和4.70个百分点,融合笔画特征的双通道输入混合模型相比单通道输入混合模型在测试集分类准确率上提高0.45个百分点,证明了GRU-ATTCapsule混合模型能有效提取包括汉字结构在内的更多文本特征,提升文本分类效果。

摘要： 针对风洞流量测量中传统静态软测量模型估计精度低、鲁棒性差等问题,提出了注意力机制(Attention mechanism,Attention)、长短时记忆神经网络(Long short-term memory,LSTM)和卡尔曼滤波(Kalman filtering,Kalman)结合的Attention-LSTM-Kalman软测量模型:通过LSTM网络建立静态软测量模型,在此基础上,提出一种基于注意力机制的改进方案,考虑到系统的动态特性,使用卡尔曼滤波动态调整软测量模型输出序列。实验结果表明,静态预测模型LSTM的预测效果优于循环神经网络(Recurrent neural network,RNN)和门控循环单元(Gated recurrent unit,GRU)等模型;基于LSTM、Attention-LSTM和Attention-LSTM-Kalman的3种模型的对比预测测量结果表明,注意力机制能有效提高模型精准度,引入卡尔曼滤波改善了模型的动态测量特性。该模型方案在风洞系统的流量测量验证了其可行性和有效性。

摘要： 随着互联网的不断发展,面向电商产品的用户评论日益增加。研究这些用户评论的情感导向,对于指导产品的更新迭代具有重要意义。以往的方面级情感分析任务通常只涉及文本模态,然而用户的评论数据一般不仅包括纯文本,还包括大量的图文数据。针对这种包括文本和图片的多模态数据,提出了一种新的方面级多模态情感分析模型ABAFN(aspect-based attention and fusion network)。模型结合预训练语言模型BERT和双向长短时记忆网络来获得文本和方面词的上下文表示,同时利用预训练残差网络ResNet提取图片特征生成视觉表示;利用注意力机制基于方面词对上下文表示和视觉表示进行加权;将两个模态加权后的表示级联融合执行情感标签分类任务。在Multi-ZOL数据集上的实验表明,ABAFN模型的性能超过了目前已知文献的结果。

摘要： 基于评论文本的深度学习推荐方法主要利用评论文本刻画用户和项目的特征信息,学习用户对项目的评分关系,提升推荐的性能。现有研究工作在提高推荐系统精度质量的同时,忽略了情感特征在评分预测中的可解释性贡献。针对此问题,考虑了评论文本以及情感倾向分别在用户和项目嵌入中的作用,提出了一种基于评论文本情感注意力的推荐方法(IncorRAS-Rec)。首先,通过卷积神经网络(CNN)处理用户和项目的评论集,对用户和项目的评论文本进行评论特征表示,并提取相关的用户特征信息和项目特征信息,进而结合用户对项目的评分偏好,学习用户和项目的评论情感特征表示;其次,基于注意力机制为用户和项目聚合了相关的评论情感特征信息,学习用户和项目的嵌入表示;最后,结合偏置信息,基于用户和项目的嵌入预测了用户对项目的评分。在亚马逊公开数据集上进行了实验比较和分析,对模型性能进行了有效性评估。实验结果表明:所提IncorRAS-Rec模型不仅在均方根误差(RMSE)和平均绝对误差(MAE)评价指标上的性能要优于其他传统方法,而且能够实现基于情感特征在评分预测方面的解释性作用。

摘要： 目前图像描述技术的主要架构是基于深度神经网络的Encoder-Decoder架构.大多数工作集中在图像的特征提取和注意力机制上,如hard注意力模型和top-down注意力模型等.这些方法仅使用上一时刻的信息预测当前时刻的输出,使得解码器的输入信息的时间维度单一,同时解码器的单个输出也影响着预测结果的准确性.本文提出横向和纵向的多时间维度信息融合的图像描述模型,其中模型的横向结构使用过去和现在时刻的语义信息丰富解码器的输入,模型的纵向结构同时生成现在和未来时刻的预测向量来丰富解码器的输出,模型两种独立结构的解码器都生成多个输出,然后分别对其进行加权融合作为模型两种结构的最终输出.在Flickr30k和MSCOCO两个数据集上的实验结果表明,模型的两种结构在多个评价指标上的得分超过了其他主流的模型,对图像的描述更准确.

摘要： 针对现有安全帽佩戴检测干扰性强、检测精度低等问题,提出一种基于改进YOLOv5的安全帽检测新算法。首先,针对安全帽尺寸不一的问题,使用K-Means++算法重新设计先验框尺寸并将其匹配到相应的特征层;其次,在特征提取网络中引入多光谱通道注意力模块,使网络能够自主学习每个通道的权重,增强特征间的信息传播,从而加强网络对前景和背景的辨别能力;最后,在训练迭代过程中随机输入不同尺寸的图像,以此增强算法的泛化能力。实验结果表明,在自制安全帽佩戴检测数据集上,所提算法的均值平均精度(mAP)达到96.0%,而对佩戴安全帽的工人的平均精度(AP)达到96.7%,对未佩戴安全帽的工人的AP达到95.2%,相较于YOLOv5算法,该算法对佩戴安全帽的平均检测准确率提升了3.4个百分点,满足施工场景下安全帽佩戴检测的准确率要求。

摘要： 现有的基于深度学习的单张图像超分辨率(single image super-resolution, SISR)模型通常是通过加深网络层数来提升模型的拟合能力,没有充分提取和复用特征,导致重建图像的质量较低。针对该问题,提出了基于特征融合和注意力机制的图像超分辨率模型。该模型在特征提取模块使用残差中嵌入残差(residual in residual, RIR)的结构,该网络的特征提取模块由包含多个残差块的残差组构成,并且在每个残差组内进行局部特征融合,在每个组之间进行全局特征融合。此外,在每一个残差块中引入坐标注意力模块,在每一个残差组中引入空间注意力模块。经验证,该模型能充分提取特征并且复用特征。实验最终结果表明,该模型在客观评价指标和主观视觉效果上都优于现有的模型。

摘要： 针对遥感图像飞机目标检测过程中受云雾或建筑物遮挡而检测精度降低的问题,本文提出了一种基于注意力机制的遥感图像遮挡飞机目标检测算法.首先通过卷积神经网络提取图像特征生成特征图谱,引入注意力机制CBAM模块从通道和空间两个维度计算相应的注意力图谱,然后将注意力图谱与输入的特征图谱相乘来进行特征的自适应学习,从而使模型突出有用特征并有效抑制无用特征.经实验验证,在高分辨率遥感图像遮挡数据集(HR-RS)上对比传统遥感图像飞机目标检测网络与本文引入注意力机制的改进算法的检测性能,本文算法在遮挡飞机目标检测精度上相比Faster RCNN提升了4.5％左右,实验结果充分验证了本文算法的有效性,该算法可为机场监管、军事侦察等应用提供重要的技术支持.

摘要： 近年来,神经机器翻译(Neural machine translation,NMT)表现出极大的优越性,然而如何在翻译一个文档时考虑篇章上下文信息仍然是一个值得探讨的问题.传统的注意力机制对源端的所有词语进行计算,而在翻译当前句子时篇章中大量的信息中只有小部分是与之相关的.在篇章级机器翻译中,采用传统的注意力机制建模篇章信息存在着信息冗余的问题.该文提出了一种联合注意力机制,结合“硬关注”和“软关注”的机制对篇章上下文的信息进行建模.关键思想是通过“硬关注”筛选出与翻译当前句子相关的源端历史词语,然后采用“软关注”的方法进一步抽取翻译中所需的上下文信息.实验表明,相比于基线系统,该方法能使翻译性能获得明显提升.

摘要： 语义分割是图像理解的重要手段.为每个像素分配相应的标签,将图像分割成不同的类别区域,在无人驾驶医学图像处理等领域具有重要的研究意义.对近年来语义分割的方法进行阐述,从分辨率、多尺度和注意力机制3个角度对模型结构研究进展进行分析比较,最后对语义分割所面临的挑战和发展趋势进行探讨.

摘要： 语音识别已经在服务、医疗、家电等行业中得到广泛的应用.智能设备中,语音交互系统的能耗较高,往往处于关闭状态.而唤醒词识别功能能耗相对较低,可以在后台保持开启状态,便于进行实时监测.当识别出唤醒词之后,设备才会开启智能交互系统.因此,唤醒词识别是语音识别技术的重要因素.论文融合残差网络、语音端到端网络、循环神经网络,引入注意力机制,并尝试多种损失函数,构造了一种有效的应用于唤醒词识别的网络结构.在企业内部数据集上,经过大量实验,并与多种不同网络结构对比,取得了良好的效果.其召回率达到90％以上,误唤醒率1％,效果明显优于传统的方法.

摘要： 针对车辆检测准确率低、实时性差的问题,文中提出基于CenterNet检测算法改进的车辆检测方法.在原有网络的基础上,增加了特征融合模块和注意力机制模块,在保证检测速度的前提下提高了检测准确率.相比原有网络,所提方法的平均检测精度提高了2.1％,mAP达到了87.9％,可用于对车辆的实时检测.

摘要： 随着互联网应用的蓬勃发展,网络数据信息以指数级别爆炸增长.推荐系统作为解决信息过载的有效手段,成为工业界与学术界的研究热点.面向用户隐式反馈的推荐算法主要基于协同过滤和贝叶斯个性化排序等方法,这些方法对点击、收藏、加入购物车等用户行为的隐式反馈特征利用不充分.本文提出一种基于神经网络的用户向量化表示模型,能够充分利用用户的多种隐式反馈特征.同时本文借鉴机器翻译中的Self-attention模型设计一种推荐模型,融合用户向量化表示和用户-项目交互的动态时序特征,从而提高推荐系统性能.在公开数据集上进行对比实验,结果表明,与其他面向隐式反馈推荐模型方法相比,本文提出的推荐模型具有更好的推荐性能,并且对于用户行为特征具有很好的泛化能力.

摘要： 文本情感分析是自然语言处理领域的一个重要研究问题,其基本任务旨在对文本情感的类别进行判断,对文本情感的要素,例如:情感的发起者、情感的对象、情感的原因等等进行抽取.伴随着深度学习方法的兴起,目前基于神经网络的方法已经成为文本情感分析领域的主流方法之一.但是目前的深度学习方法大多数将文本情感分析作为实验对象,并未对情感分析问题本身进行深入的解构.为此,本文以卷积神经网络为例,进行了一下几个方面的工作:首先,从数学的角度对卷积神经网络在文本情感分析中的工作原理进行了解析;其次,在这一解析的基础上,利用卷积进行基于注意力机制的加权,与多种不同的神经网络进行结合;最后,在多个情感分析相关问题的实验上验证了相关方法的有效性.

摘要： 在油气勘探中,断层解释是研究构造的基础,也是地震资料解释的关键.断层形态与规模位置与展布对探究地壳构造变化油井定位油气运移通道或封堵意义重大.传统的断层解释方法通常辅以多种手段方法,以提高断层识别的准确性和可靠性.随着地震勘探技术不断进步,勘探仪器越来越精密采集数据量剧增,传统断层检测方法效率和效果逐渐降低.近年来,随着人工智能技术的迅速发展,国内外研究人员开始使用深度学习技术进行断层的检测较有代表性的是伍新明等提出的基于U-Net的三维断层检测方法,取得了较为良好的效果对于一些较复杂的构造及小断层,简单的U-Net不能取得满意的效果.

摘要： 交通流量预测具有重要的现实意义,提高其预测的精准度是相关领域的研究重点.本文提出了一种基于Conv-LSTM的短时交通流量预测方法,以交通GPS数据为基础,通过数据预处理生成时空流量矩阵,利用卷积网络提取流量特征,并融合外部影响因子,对LSTM网络进行时间维度的流量预测.经实验验证,该模型性能表现较好,预测结果较为准确地反映出交通流量的变化趋势,与类似方法对比具有一定的优越性.

摘要： 交通流量预测具有重要的现实意义,提高其预测的精准度是相关领域的研究重点.本文提出了一种基于Conv-LSTM的短时交通流量预测方法,以交通GPS数据为基础,通过数据预处理生成时空流量矩阵,利用卷积网络提取流量特征,并融合外部影响因子,对LSTM网络进行时间维度的流量预测.经实验验证,该模型性能表现较好,预测结果较为准确地反映出交通流量的变化趋势,与类似方法对比具有一定的优越性.

摘要： 注意力判定装置(100)具有图像处理部(20)、瞳孔距离计算部(30)、斜位检测部(40)和注意力判定部(50)。图像处理部(20)输出第1基准坐标、第2基准坐标、第1瞳孔坐标和第2瞳孔坐标。瞳孔距离计算部(30)计算第1瞳孔坐标相对于第1基准坐标的至少1个位置分量和第2瞳孔坐标相对于第2基准坐标的至少1个位置分量。斜位检测部(40)输出表示第1眼球(S1)和第2眼球(S2)的状态的斜位检测结果。注意力判定部(50)根据斜位检测结果判定人(H)的注意力。

摘要： 一种基于卷积神经网络、注意力机制及自注意力变换器的视觉描述方法。涉及图像处理、计算机视觉及自然语言处理等领域，本方法研究基于跨场景的图像描述方法中文本语意连续性交较差，场景描述精度较低的问题以及该方法在视觉描述中的应用。本方法提出了一个高效的图像特征注意力网络，即AMNet，直接使用ResNet作为骨干网，使用其全连接层特征。对于图像特征应用了我们的图像特征注意力结构，通过将图像特征拆分为16个子特征，使用改进的循环神经网络在提高精度的同时保留有效前序特征，以解决语意连续性交较差，场景描述精度较低的问题。

摘要： 本发明公开了一种联合反射注意力和自注意力机制的道路水体检测方法，包括：利用可见光相机采集道路水体图像并标注；构建本文所述的网络模型，并使用训练图像和标注数据对网络进行训练；将待检测的图像缩放至指定尺寸，输入训练好的网络，获得用以表示水体区域和非水体区域的二值图像。本发明能够利用可见光相机采集的路面图像高效地进行水体检测，检测结果的较为精细并且在各项指标上都有良好的表现，适用于无人车上的地表分类相关任务。

摘要： 本发明实施方式提出一种注意力机制的激活函数加速方法、装置和注意力机制电路。方法包括：输入第一向量和包含多个第二向量的第一向量组；基于注意力机制，确定所述第一向量对所述第一向量组中的每个第二向量的注意力分数；对所述注意力分数施加激活函数，所述激活函数适配于将所述注意力分数中的负值转变为零且正值保持为正数；基于预定的缩放因子，对施加所述激活函数的注意力分数进行缩放；输出所述缩放后的注意力分数。本发明实施方式不再采用Softmax计算注意力机制的激活函数，规避了以自然底数e为底数的、注意力分数为指数的幂运算，提高了注意力机制的运算速度，尤其适用于以硬件方式实现注意力机制。

摘要： 用于使用具有一个或多个稀疏注意力子层的注意力神经网络来处理网络输入的方法、系统和装置，包括在计算机存储介质上编码的计算机程序。每个稀疏注意力子层被配置为应用稀疏注意力机制，该稀疏注意力机制针对在对子层的输入中的输入位置的第一真子集中的输入位置，与不在第一真子集中的位置相比不同地进行注意。

摘要： 本申请涉及一种卷积神经网络的注意力模块、注意力机制及卷积神经网络，注意力模块首先利用可形变卷积分别在水平方向与竖直方向进行特征提取，以方便后续编码时更能捕捉到物体的位置信息；其次，注意力模块沿一个空间方向捕获远程依赖关系，同时沿另一空间方向保留精确的位置信息，使得竖直方向和水平方向的信息均得以保留；然后经系列变换后得到注意力向量，并作为权重因子点乘回原特征向量，如此，可以融合空间的注意力和通道的注意力，解决了现有注意力机制在空间和通道上运算统一的问题，且可以提高卷积神经网络的精度。

摘要： 一种基于卷积神经网络、注意力机制及自注意力变换器的视觉描述方法。涉及图像处理、计算机视觉及自然语言处理等领域，本方法研究基于跨场景的图像描述方法中文本语意连续性交较差，场景描述精度较低的问题以及该方法在视觉描述中的应用。本方法提出了一个高效的图像特征注意力网络，即AMNet，直接使用ResNet作为骨干网，使用其全连接层特征。对于图像特征应用了我们的图像特征注意力结构，通过将图像特征拆分为16个子特征，使用改进的循环神经网络在提高精度的同时保留有效前序特征，以解决语意连续性交较差，场景描述精度较低的问题。

摘要： 本申请公开了一种基于注意力机制与图注意力网络的命名实体识别方法，该方法包括以下步骤：S1、获取训练样本集；S2、根据所述训练样本集进行模型训练，构建命名实体识别模型；S3、分析所述命名实体识别模型的识别性能，采集未标注样本数据，根据所述命名实体识别模型对所述未标注样本数据进行标签预测。通过本发明，面对海量的文本数据，可获取其中高质量的关键词以指导关键词投放，并且提高实体关键词标签识别性能。

摘要： 本发明公开了一种联合反射注意力和自注意力机制的道路水体检测方法，包括：利用可见光相机采集道路水体图像并标注；构建本文所述的网络模型，并使用训练图像和标注数据对网络进行训练；将待检测的图像缩放至指定尺寸，输入训练好的网络，获得用以表示水体区域和非水体区域的二值图像。本发明能够利用可见光相机采集的路面图像高效地进行水体检测，检测结果的较为精细并且在各项指标上都有良好的表现，适用于无人车上的地表分类相关任务。

摘要： 本申请公开了一种基于自注意力机制的词向量表示方法及自注意力模型，可应用于自然语言处理领域，包括：将第一词向量序列进行聚类，得到词向量所属的簇信息，之后将具备簇信息的第一词向量序列重新进行排序，使得排序后的词向量序列中语义相近的词向量排在一起，并基于排序后的第一词向量序列调整矩阵K、V、Q中词向量的排序，再将排序后的K、V、Q进行分块处理，从而将相似度高的词向量限制在同一个块中，并在各个块中进行词向量与词向量两两之间的相似度比较(即将自注意力限制在各个块中)，减少了传统自注意力机制中的冗余信息，使得自注意力模型能够更加关注有效的自注意力并且学到有效的聚类方式，提高了自注意力模型的性能与计算速度。