卷积神经网络(CNN)

摘要： 随着民航飞机数量的增多,接收到的广播式自动相关监视(Automatic Dependent Surveillance-Broadcast,ADS-B)信号可能出现多条报文交织的情况,这将导致解码失败。针对单天线ADS-B二重交织信号,提出了一种投影算法与卷积神经网络(Convolutional Neural Networks,CNN)相结合的分离方法。首先将单天线ADS-B信号重构为虚拟阵列信号,接着利用投影算法对其进行分离,最后将分离信号通过CNN模型进行幅值修正。实验结果表明,通过该方法分离出的信号其解码成功率得到了提高。

摘要： 为提高长短时记忆神经网络对畸形波预报精度,研究了长短时记忆神经网络与卷积神经网络(Convolution Neural Networks, CNN)、经验模式分解(Empirical Mode Decomposition, EMD)、差分自回归移动(Auto-Aggressive Integrated Moving Average, ARIMA)模型以及卡尔曼滤波(Kalman Filtering, KF)方法4种组合模型预报方法.基于两个单峰型畸形波和一个三姐妹组合型畸形波实验数据,经过数据归一化、模型参数设置及误差评估建立了组合预报模型和预报.结果表明:4种组合模型预报精度在所研究的3个畸形波序列预报中精度都得到了显著提高,其中与CNN组合模型的预报精度最高.组合模型方法为提高畸形波预报精度提供了可行方案.

摘要： 以陆上风力发电负荷数据作为研究对象,将注意力机制引入双向长短期记忆与卷积神经网络(CNN)的混合模型来预测短期电力负荷.结果显示:1)注意力机制通过对不同时步的输入进行加权,能够显著提升双向长短期记忆网络的预测性能;2)双向长短期记忆网络-CNN结构比CNN-双向长短期记忆网络结构更适用于短期负荷预测,前者相较后者能够充分利用时序信息,不会在输入初期就丢失关键信息;3)基于注意力机制的双向长短期记忆网络-CNN混合模型的均方根误差(RMSE)、平均绝对百分比误差(MAPE)分别达到了575.35和7.02%,比次佳模型(基于注意力机制的双向长短期记忆网络-CNN混合模型)分别降低了2.75%和9.65%,其在风电短期负荷预测方面有很好的应用前景.

摘要： 针对人体活动传感器数据的时序性特点,以及当前机器学习算法过度依赖手工特征提取的问题,提出了一种融合卷积神经网络和双向长短期记忆网络的深度学习模型(convolutional neural network-bidirectional long short term memory network,CNN-BiLSTM)进行人体活动识别(human activity recognition,HAR)。首先对人体活动数据进行样本分割,然后采用卷积神经网络(convolutional neural networks,CNN)自动提取人体活动数据的特征,再通过双向长短时记忆网络(bi-directional long-short term memory,BiLSTM)学习人体活动数据特征在时间序列上前后两个方向的相关性,最后利用softmax分类器实现对人体活动分类。DaLiAc公开数据集上的仿真实验结果表明:基于CNN-BiLSTM网络的人体活动识别方法对13种人体活动的识别准确率达到了97.7%,与仅具备时间特征学习的LSTM网络和BiLSTM网络相比,具有更好的识别分类效果。

摘要： 在机械零件的生产加工过程中,加工设备由于长期工作,零件表面会出现点蚀、磨损、裂纹等现象。为了提高表面失效检测速度,降低人工检测成本并简化检测流程,提出了一种基于迁移学习卷积神经网络(CNN)的机器视觉技术检测方法,通过图像灰度化与小波降噪的方法解决缺陷特征不显著的问题,将已训练模型中的卷积层部分迁移至该任务模型中,分类后提取缺陷周围的轮廓特征,得到实验结果。对比两种迁移学习网络效果,择优选择的网络可以显著提升模型分类的准确率与运行效率。

摘要： 在长短期记忆神经网络(LSTM)的基础上,运用双向的长短期记忆神经网络(BiLSTM),结合卷积神经网络(CNN)提出了一个预测模型,对超短期电力负荷预测.运用合肥市2019年全年数据对该模型进行训练及预测,结果显示,CNN-BiLSTM预测精度高于CNN-LSTM预测模型,为进一步提升预测精确度,在BiLSTM神经网络后面连接了一个Attention在输出,发现其预测精度进一步提升了.

摘要： 为了更高效率地诊断轴承故障,提出了一种基于精英反向学习(OBL)改进麻雀算法(SSA)优化卷积神经网络(CNN)的滚动轴承故障诊断方案,利用改进SSA较强的寻优能力和较快的收敛速度,优化CNN的超参数。以美国凯斯西储大学的滚动轴承数据作为实验数据对该方案加以检验,并与BP神经网络、支持向量机(SVM)以及未优化的CNN模型等故障诊断方式相比较。结果表明:该方案分类准确度更高,用时更少。

摘要： 由于用户用电行为的多样性和随机性,负荷数据存在分布不均衡的问题,传统负荷曲线分类方法在处理不均衡数据时性能较差。为此,提出一种改进K-means与长短期记忆(LSTM)神经网络-卷积神经网络(CNN)分类模型结合的负荷曲线分类方法。首先,为提升K-means算法对不均衡数据的聚类效果,基于密度峰值聚类(DPC)算法思想,提出一种相对k近邻密度峰值(RKDP)初始聚类中心选取方法,将其作为K-means算法的初始中心进行聚类;然后,为提高RKDP-K-means处理高维负荷数据的性能,采用LSTM自编码器进行特征降维后再聚类获得精准类别标签;最后,基于LSTM神经网络和CNN分别提取负荷特征构建负荷曲线分类模型,实现对大规模负荷曲线的分类。算例选取了爱尔兰智能电表数据集和伦敦负荷数据集进行实验,验证了所提算法在大规模负荷曲线分类时的有效性和实用性。

摘要： 目前,卷积神经网络(Convolutional Neural Network,CNN)模型在各种视觉任务中取得了巨大的成功,但行人检测方面的关键尺度问题仍有待进一步研究。为达到在交通场景下准确识别和定位小目标行人的识别与定位,提出了基于多尺度感知的改进Fast-RCNN模型,对Caltech行人数据集中的小目标行人图像进行检测。通过利用训练后的尺度感知权重,将大尺度子网络和小尺度子网络合并到统一的结构中,并利用对象建议的高度为两个子网络指定不同的尺度感知权重,同时将原模型中的VGG-16特征提取网络替换深度残差网络(ResNet-50)以获取更多特征。最后,对比所提改进模型和基础的Fast-RCNN的模型,发现所提模型行人识别准确率为97.49%,比未改进前提高了4.36%;再和传统的机器学习方法对比(基于HOG特征的SVM识别方法和基于ICF特征的AdaBoost识别方法),发现所提模型效果仍为最好。结果表明,该方法对交通场景下小目标行人的识别效果较好,能够为智能车辆图像识别系统和智慧交通提供参考。

摘要： 为了加强海上交通的安全性,以常见的民用船和军用船为研究对象,针对原始YOLOV3算法在船舶数据集上检测精度不高、目标框出现误检和小目标漏检的问题,提出了改进的船舶检测算法MS-YOLOV3。构建船舶图像数据集Shipdataset,包括数据采集、增强和标签标注,使用维度聚类算法在该数据集中找出合适尺寸的先验框,并应用于相对应的尺度特征图。以Darknet-53的网络框架为基础特征提取网络,增加网络预测尺度,在多尺度特征融合中加入DCA融合策略,提高模型对船舶的检测能力。以MS-YOLOV3为算法框架,采用GIOU作为边框损失函数的参数,提升模型对边界框位置信息的预测准确度。结果MS-YOLOV3与YOLOV3检测算法的对比实验表明,前者在船舶数据集上的精度有7.9个百分点的提升。同时加入的GIOU边框损失,拉低了模型的平均损失,加强了模型的鲁棒性,使得目标框的定位误差大大减小。根据Pascal VOC2007数据集上的训练效果,MS-YOLOV3的平均精度相较于YOLO系列算法、SSD300和Faster-RCNN,精确度优势更加明显。提出的MS-YOLOV3检测模型使得船舶的位置信息和类别精度更加准确。

摘要： 本发明公开了一种卷积神经网络加速引擎、卷积神经网络加速系统及方法，属于异构计算加速领域，引擎包括：全局缓存和物理PE矩阵；物理PE矩阵包括多个物理PE单元，物理PE单元用于执行行卷积操作以及相关的部分和累加操作；XY互联总线用于将输入特征图像数据、输出特征图像数据和卷积核参数从全局缓存传输到物理PE矩阵上，或者将物理PE矩阵产生的操作结果传输到全局缓存中；邻接互联总线用于在同一列物理PE单元之间传输中间结果；系统包括：3D‑Memory，其中每个Vault单元的内存控制器中集成了卷积神经网络加速引擎，用于完成卷积神经网络计算任务的一个子集；方法在系统的基础上进行逐层优化。本发明能够提高卷积神经网络的性能和能耗。

摘要： 本发明实施例提供了一种卷积神经网络系统、忆阻器阵列和卷积神经网络，所述系统通过忆阻器阵列中多列位线和多行字线，采用大小为N*N的卷积核对待处理图像中的当前图像块进行卷积运算，包括：根据卷积核的步长在待处理图像上先后选取重叠相邻的两个图像块，确定两个图像块之间复用的多个像素点的特征值；根据复用的多个像素点的特征值，确定前N列位线中复用的多个权值；根据所述多个权值设置忆阻器单元的工作状态和电导；获得前N列位线各自在当前卷积运算周期内输出的电流值，作为卷积结果。本发明实施例提供的卷积神经网络系统，利用图像块之间复用的多个像素点的特征值进行卷积运算，增加了忆阻器阵列在每个周期内的计算量，提高了计算效率。

摘要： 本发明公开了一种卷积神经网络芯片以及卷积神经网络芯片操作方法。本发明的卷积神经网络芯片包括：预定数量的存储阵列，用于存储一层卷积神经网络的输入数据阵列，其中所述预定数量大于等于卷积神经网络的内核尺寸；而且其中，输入数据阵列的每一行依次存在一个存储阵列的各行内。相对于传统的内存架构，本发明获得了几倍内存读取速度的提升，从而可以获得相同的总体速度提升。因此，本发明提供了一种能够提高内存读出速度新的神经网络芯片内存架构。

摘要： 本发明属于神经网络深度学习领域，具体涉及一种卷积神经网络‑图卷积神经网络可重构硬件加速架构。本发明利用可配置寄存器对卷积神经网络‑图卷积神经网络两种神经网络的运算进行配置重构；针对卷积神经网络数据使用重排图像块为矩阵列方法，将三维卷积转换为二维矩阵运算，使得不同的神经网络运算可以复用处理元件阵列单元，以及数据静态存储控制单元、权重静态存储控制单元，达到资源复用。本发明实现了两种神经网络在同一硬件架构进行加速，大大节约了硬件开销，通过一个架构可以跑多种算法，这将节省资源，大大提高通用性，极大程度上促进整个产业的发展。

摘要： 本申请实施例公开了一种基于卷积神经网络的图像分类方法、装置、卷积神经网络、电子设备及计算机可读存储介质，所述方法包括：获取第一数据，所述第一数据表征为多个图像和与每个图像对应的类别信息；基于所述第一数据对所述卷积神经网络进行训练；利用基于所述第一数据训练得到的所述卷积神经网络，对待识别图像进行识别，得到与所述待识别图像对应的类别信息；卷积神经网络包括依次连接的第一处理层、两个以上并行的子卷积神经网络层及第二处理层；本申请提出了全新的卷积神经网络，通过两个以上并行的子卷积神经网络层能够提高特征值的提取数量，并降低数据处理过程中的运算量，提高数据处理的效率。

摘要： 公开了一种卷积神经网络的量化感知训练方法，包括，对第一卷积神经网络进行样本训练，其中，第一卷积神经网络中至少一个卷积层包括有可合并分支结构和至少一个第一直连分支，将训练后的第一卷积神经网络至少一个卷积层中的至少一个第一直连分支予以保留，将卷积层中除第一直连分支之外的可合并分支结构进行合并，得到具有第一直连分支结构的第二卷积神经网络，基于第二卷积神经网络进行量化感知训练，以提高卷积神经网络模型的量化精度。

摘要： 本发明公开了一种卷积神经网络的加速方法及卷积神经网络加速器，包括：获取当前卷积层量化后的输入特征图数据；对所述输入特征图数据进行分割处理，得到第一输入特征图数据和第二输入特征图数据；将位于同一通道的第一输入特征图数据和第二输入特征图数据交替拼接，得到拼接输入特征图数据；利用预先读取到的权重数据，对所述拼接输入特征图数据进行乘累加运算，得到所述当前卷积层的卷积计算结果。采用本发明实施例能够提高PE运算阵列进行乘累加运算的资源利用率，进而缩短卷积神经网络的运算时间。

摘要： 本发明公开了一种卷积神经网络的加速方法及卷积神经网络加速器，包括根据输入特征图数据的地址信息，将从片外存储器中读取到的输入特征图数据暂存至片上存储器的缓存区；在将读取到的输入特征图数据暂存至缓存区的过程中，获取当前暂存的输入特征图数据位于缓存区内的位置；当判断到位置位于预先确定的规定位置，对缓存区进行滑窗处理；在进行滑窗处理时，将滑窗内的所有输入特征图数据拼接成一个待填充输入数据，并将待填充输入数据的剩余通道进行填充处理，得到一个输入数据；利用预先读取到的权重数据，对输入数据进行乘累加运算，得到卷积计算结果。本发明实施例能够提高PE运算阵列进行乘累加运算的资源利用率，进而缩短运算时间。

摘要： 本申请涉及一种卷积神经网络的注意力模块、注意力机制及卷积神经网络，注意力模块首先利用可形变卷积分别在水平方向与竖直方向进行特征提取，以方便后续编码时更能捕捉到物体的位置信息；其次，注意力模块沿一个空间方向捕获远程依赖关系，同时沿另一空间方向保留精确的位置信息，使得竖直方向和水平方向的信息均得以保留；然后经系列变换后得到注意力向量，并作为权重因子点乘回原特征向量，如此，可以融合空间的注意力和通道的注意力，解决了现有注意力机制在空间和通道上运算统一的问题，且可以提高卷积神经网络的精度。

摘要： 在一个实施方案中，一种智能系统包括电子电路，所述电子电路被配置为执行神经网络，以在执行所述神经网络的同时检测身体部位的图像中的至少一个特征，以及在执行所述神经网络的同时确定检测到的每个所述至少一个特征的相应位置和类别。例如，这种系统可以执行神经网络以检测肺的图像中的至少一个特征，确定每个检测到的特征在所述图像内的相应位置，以及将检测到的每个所述特征分类为以下项之一：A线、B线、胸膜线、实变和胸腔积液。