剪枝

摘要： 针对已有两阶段高效用挖掘算法在遍历解空间时耗时过长的问题,提出一种随机高效用模式挖掘算法。即在阶段一置若干随机数,每个随机数对应一个节点,随后计算该节点的事务权重效用值并利用事务权重向下闭包的特性,若该节点的事务权重效用值低于设定阈值,则该项集的任意超集被剪枝。实验表明,该算法平均运行效率相较原始算法有明显提升。

摘要： 为解决传统神经网络模型过参数化问题,提高深度学习模型工程化实现的效率,提出了基于GA的结构化模型压缩算法。该方法从全局搜索空间对模型各层卷积核进行结构化剪枝,并以“高检测精度,低网络规模”为准则建立适应度函数,解决传统权重剪枝易陷入局部最优和剪枝结果对硬件平台不友好问题,获得精度损失低、模型压缩率高的轻量化模型结构。

摘要： 为了解决DCNN计算量大的问题,文章提出了一种基于PCA的深度可分离卷积的滤波器剪枝方法。首先,采用深度可分离卷积代替ResNet中的普通卷积。先使用逐通道卷积在空间维度上进行分离,以增加网络宽度并扩大特征提取范围,再利用逐点卷积降低普通卷积操作的计算复杂度。其次,采用PCA降维区分堆叠的相似过滤器,不仅缓解维度灾难而且压缩数据的同时最小化信息损失。实验结果表明,该方法能显著提升深度卷积神经网络模型的计算速度和准确度,并进一步压缩模型大小。在cifar10上,减少了ResNet56上约41%的参数量,并且极大的缩短了模型运行的时间。

摘要： 卷积神经网络(Convolutional Neural Network,CNN)在计算机视觉任务中发展迅速,尤其在图片分类、检索、目标检测等各个领域中发挥出优越的性能.CNN能够直接从原始像素中经过少量预处理,得到其有效的特征表示,识别计算机视觉上的规律.然而CNN采用了池化策略,对物体的局部特征理解深刻,而忽视了物体整体的空间结构.而胶囊网络重视物体的空间结构,是一种新的神经网络架构.胶囊网络通过将特征叠加到向量中来表示物体的多种信息,具备良好的拟合特征能力,使得网络架构不仅能识别出物体的局部特征,而且能保留其整体空间特征的层次关系.然而胶囊网络在复杂数据中表现不佳.为了提高胶囊网络在图像数据的识别准确率,本文提出一种基于剪枝优化的深层胶囊网络,其有效地处理胶囊网络层之间的连接关系,不仅减少了低层冗余胶囊,还提高网络的泛化能力.新胶囊网络的剪枝策略,对低层胶囊进行严格筛选,确保只有重要的、活跃度大的低层胶囊重组成新的胶囊层,进行加权连接预测高层胶囊.对于图像数据,获取的特征不足使其难以在胶囊中进一步处理.因此,本文设计了一种新颖的胶囊块卷积层,使用3D卷积核将局部的胶囊子集转化为一个更加抽象的胶囊,获取更加全面数据的特征表示来构建更加有水平的高层网络.同时,该层中低水平胶囊到高水平胶囊之间的跳跃连接可以减少深度模型训练过程中面临的梯度消失问题.此外,本文在多个数据集上进行性能测试,都取得了良好的实验效果.

摘要： 针对基本快速扩展随机树(RRT)算法在路径规划中具有树的扩展随机性大、冗余节点多、容易在目标点周围发生振荡、规划的路径较长等问题,提出了一种改进的RRT算法。该算法首先采用目标偏向策略,通过引入动态权重系数使树尽可能地在向目标点进行扩展的同时又能够即时地避开障碍物;利用自适应扩展步长减少树在目标点附近的振荡;最后,对路径进行剪枝处理,并用三次B样条曲线对剪枝后的路径进行平滑处理。仿真分析的结果表明,与基本RRT算法相比,改进的RRT算法有效减少了冗余节点数,规划的路径更短,减少了19.56%,同时规划时间大大降低,减少了54.08%,有效地提高了路径规划的效率。

摘要： 针对智能飞行器航迹优化问题,由于在空中飞行受到累计水平和垂直校正约束及飞机转弯性能约束条件下,建立了多约束随机进化因子修正误差的蚁群算法。通过动态仿真结果表明,本算法能够快速生成优化的可行航迹,结合遗传算法改进的蚁群算法,并创新性地加入剪枝策略,减少网络节点数量,加快算法的收敛速度,并能有效降低算法的复杂度。

摘要： 遥感图像目标实时检测是遥感领域高效能应用的一项关键技术.基于深度网络的目标检测模型检测率高,但该类算法模型往往参数多、计算量大,导致模型在边缘端设备难以部署,对该类模型进行轻量化优化是当前深度网络目标检测算法应用落地的一个核心问题.本文以YOLOv5s目标检测模型作为基础,将一种卷积核剪枝方法应用于YOLOv5s模型中,先对BN(batch normalization)层缩放因子做稀疏化处理,然后以其为评判标准对卷积核进行剪枝和参数微调,并用遥感飞机数据集进行训练和测试.实验结果证明,该方法可以在裁剪了30~50%的模型参数的情况下,使模型的目标检测性能变化在2%以内,即通过该方法可以有效减少YOLOv5s模型的过拟合,达到降低模型大小的效果.

摘要： 针对基于卷积神经网络的目标检测算法在轨应用时因其存储复杂度和计算复杂度高而难以实现在轨部署的问题,提出一种结构化条带剪枝算法来实现目标检测模型压缩.使用条带剪枝方法获得卷积核骨架矩阵;对骨架矩阵中的元素进行排序,按照剪枝比例将对应骨架矩阵中较小的元素剪去,从而使得卷积核结构化;采用混合精度训练方法获得结构化条带剪枝模型.分别在NWPU VHR-10数据集和自建数据集上对所提出的结构化条带剪枝算法进行了验证.该算法可以使得参数压缩比达到1.97倍,加速比达到1.68倍,且mAP在NWPU VHR-10数据集上仅下降了0.9%,在自建数据集上仅下降了1.7%.实验结果表明,本文所提出的结构化剪枝方法能够有效实现目标检测模型的压缩.

摘要： 针对实际场景文本检测中存在由于输入图片多方向导致检测结果误差大、多数文本检测算法只是解决单一的文本区域定位的问题,设计并实现了一种基于剪枝优化的多方向文本区域检测算法,对输入的任意方向的图片进行准确有效的文本检测。首先使用混合剪枝的方法改进VGG16网络模型,实现图片方向快速分类任务,并根据分类的结果对图片进行旋转调整为正向;然后通过级联浅层信息的方法改进YOLO网络结构,实现小角度倾斜文本区域特征提取和预测任务;最后对文本方向预测和文本区域预测两个步骤进行组合,实现输入任意方向的图片均能检测出文本区域位置的效果。实验表明,改进的方法具有较好的检测性能,在ICDAR2013和TDS数据集上,对场景文本检测具有较高的准确率和召回率。

摘要： 为了提升宝钢智能制造水平,针对排程的模型和算法展开了深入的研究。结合宝钢模型排程的生产实际,提出了一个可用于求解排程问题的算法。算法以材料的先后顺序为基础,以通板规程为约束,通过剪枝搜索得到满足优化目标的最优材料序列。算法充分考虑了宝钢排程的实际应用环境,可以快速、准确地运行;一次执行,可以给出多个优化目标下的最优解。目前在宝钢热镀锌产线成功应用,显著提升了计划编制效率。

摘要： 在处理不一致性知识时，因为以基于规则的演绎系统为模型的知识库采用一种ＡＮＤ／ＯＲ图的推导形式，所以不具有通常逻辑系统所普遍具有的平凡性。在这种情况下，难以判定目标结果的得出是否有不一致知识的参与，难以判定哪些结果是绝对安全的。在该文中研究人员通过剪枝技术，得到与不一致知识完全无关的推导信息，可以对绝对安全的目标结果给出证明。

摘要： 利用关联规则进行分类是分类挖掘的一种重要方法,但大多数方法在分类时仅考虑单个高置信度规则,当挖掘的规则数量庞大时难以处理,容易出现偏差或过适应现象.而基于多关联规则的方法克服了这些缺点,使得分类更加高效、准确,可伸缩性更强。

摘要： 利用关联规则进行分类是分类挖掘的一种重要方法,但大多数方法在分类时仅考虑单个高置信度规则,当挖掘的规则数量庞大时难以处理,容易出现偏差或过适应现象.而基于多关联规则的方法克服了这些缺点,使得分类更加高效、准确,可伸缩性更强。

摘要： 利用关联规则进行分类是分类挖掘的一种重要方法,但大多数方法在分类时仅考虑单个高置信度规则,当挖掘的规则数量庞大时难以处理,容易出现偏差或过适应现象.而基于多关联规则的方法克服了这些缺点,使得分类更加高效、准确,可伸缩性更强。

摘要： 利用关联规则进行分类是分类挖掘的一种重要方法,但大多数方法在分类时仅考虑单个高置信度规则,当挖掘的规则数量庞大时难以处理,容易出现偏差或过适应现象.而基于多关联规则的方法克服了这些缺点,使得分类更加高效、准确,可伸缩性更强。

摘要： 利用关联规则进行分类是分类挖掘的一种重要方法,但大多数方法在分类时仅考虑单个高置信度规则,当挖掘的规则数量庞大时难以处理,容易出现偏差或过适应现象.而基于多关联规则的方法克服了这些缺点,使得分类更加高效、准确,可伸缩性更强。

摘要： 本文提出了基于四叉树结构的图象分割方法,本方法是由区域增长技术和人工智能结合演变而来,它的分割速度要远远快于区域增长方法,同时,在分割结构时,本算法能同时得到图象目标大小、目标灰度、目标个数、目标边缘等结果.对多目标图象分割有更好的适应性.文章最后用激光烧孔图象和海上航船图象进行了实验,证明算法的可行性.

摘要： 本文提出了基于四叉树结构的图象分割方法,本方法是由区域增长技术和人工智能结合演变而来,它的分割速度要远远快于区域增长方法,同时,在分割结构时,本算法能同时得到图象目标大小、目标灰度、目标个数、目标边缘等结果.对多目标图象分割有更好的适应性.文章最后用激光烧孔图象和海上航船图象进行了实验,证明算法的可行性.

摘要： 本文提出了基于四叉树结构的图象分割方法,本方法是由区域增长技术和人工智能结合演变而来,它的分割速度要远远快于区域增长方法,同时,在分割结构时,本算法能同时得到图象目标大小、目标灰度、目标个数、目标边缘等结果.对多目标图象分割有更好的适应性.文章最后用激光烧孔图象和海上航船图象进行了实验,证明算法的可行性.

摘要： 本文提出了基于四叉树结构的图象分割方法,本方法是由区域增长技术和人工智能结合演变而来,它的分割速度要远远快于区域增长方法,同时,在分割结构时,本算法能同时得到图象目标大小、目标灰度、目标个数、目标边缘等结果.对多目标图象分割有更好的适应性.文章最后用激光烧孔图象和海上航船图象进行了实验,证明算法的可行性.

摘要： 本申请涉及神经网络技术领域，公开了一种用于神经网络剪枝的系统和神经网络的剪枝处理方法，用以筛选出能够减少神经网络的参数量和提高神经网络的运算速度的剪枝率组。该系统包括剪枝器、性能检测仪和控制器，其中，剪枝器用于在控制器的控制下，根据当前剪枝率组对当前神经网络进行剪枝；性能检测仪用于在控制器的控制下，对加载了剪枝后的神经网络的加速器进行检测，确定剪枝后的神经网络的运行速度；控制器用于控制剪枝器和性能检测仪执行相应的操作，检测并筛选出运行速度符合第一筛选条件和参数量符合第二筛选条件的当前剪枝率组。从多个当前剪枝率组中筛选出能够减少神经网络的参数量，和提高神经网络的运算速度的剪枝率组。

摘要： 本发明涉及语言模型剪枝领域，尤其涉及一种基于预剪枝和联合剪枝的语言模型剪枝方法，包括通过设备预留存储空间和语言模型实际所占存储空间计算出总剪枝率；采用预剪枝方法获取语言模型结构性剪枝率和语言模型各层的非结构性剪枝率；对语言模型进行结构性剪枝和非结构性剪枝，并且通过重训练方式恢复模型精度；本发发明通过预剪枝这种剪枝率分配方式可以获取合理的语言模型结构性剪枝率和语言模型各层的非结构性剪枝率，并且联合结构性剪枝和非结构性剪枝可以对语言模型进行彻底的剪枝。

摘要： 本发明的基于泊松分布的神经网络混合差分剪枝方法和剪枝装置属于工业控制与人工智能技术领域，本发明在泊松分布规律下，计算滤波器各个参数一范数的一阶差分与二阶差分，将其赋予权重后得到参数的活跃度。采用归一化函数将加权值转化为活跃度，免去剪枝中的阈值选择过程。该方法能够达到对各类入侵检测分类器的卷积层进行高比率剪枝的效果，能够使入侵检测分类器在资源十分稀缺的边缘工控系统中发挥优秀的性能，对轻量化工控系统的建设有一定的指导意义。将本发明的剪枝方法应用于LeNet‑5、VGG、ResNet等神经网络算法实验时，该剪枝方法能有效剪枝入侵检测分类器。

摘要： 本发明公开了一种神经网络的剪枝方法及其剪枝装置、存储介质、设备。剪枝方法包括：获取训练完成的目标神经网络，所述目标神经网络包括若干残差层；利用测试样本集逐层评估每一层残差层的重要性，获得每一层残差层的重要性程度值；将重要性程度值小于阈值的残差层去除，获得剪枝后的目标神经网络；利用训练样本集训练剪枝后的目标神经网络，以优化剪枝后的目标神经网络的参数。本方案可以逐层测试网络各层参数的重要性，通过在测试集上结果的表现直观地给出了各层各参数的重要性，提高了剪枝方法的通用性和可解释性。

摘要： 本申请的实施例涉及一种剪枝参数搜索方法及剪枝方法、装置、设备、介质，通过根据预设稀疏度值，对所述预训练模型进行剪枝，获得预剪枝模型；根据所述预训练模型中目标隐藏层的输入变量的均值和协方差值，对所述预剪枝模型进行剪枝补偿，获得补偿模型；根据所述补偿模型的准确率损失情况，调整所述预设稀疏度值，并返回所述根据预设稀疏度值，对所述预训练模型进行剪枝，获得预剪枝模型的步骤，直到循环预设次数，获得目标稀疏度值。解决了现有的神经网络模型剪枝时间成本高的技术问题，提高了神经网络模型剪枝的效率。

摘要： 本发明涉及一种剪枝机控制方法、控制装置、控制设备及剪枝机，通过获取扳机在当前时刻的第一目标位置和前一时刻的第二目标位置，以及电机的转子在当前时刻的当前位置，从而根据第一目标位置和当前位置获取位置误差，并根据第一目标位置和第二目标位置获取目标位置差，若目标位置差小于第一差值阈值，则表明与前一时刻相比扳机未动作，此时若电机的当前位置与目标位置存在误差，且误差小于第一误差阈值，则控制电机处于关闭状态，从而可避免电机转子达到目标位置后由于树枝未被剪断而仍存在持续电流，因此导致电机发热或位置环抖动的问题。

摘要： 本发明提出了一种联合层剪枝和通道剪枝的模型剪枝算法，该算法包括：步骤1、稀疏化训练；步骤2、分层自适应阈值查找；步骤3、根据阈值确定各层的稀疏率；步骤4、计算层重要性排序；步骤5、层剪枝；步骤6、通道剪枝；步骤7、微调。稀疏化训练使用极化正则化器对卷积神经网络模型进行训练，然后使用分层自适应的剪枝阈值查找方法确定每层的稀疏率，根据每个卷积层的通道稀疏率确定层剪枝基本单位的重要性，并据此重要性确定层剪枝的次序，最后进行层剪枝和通道剪枝得到压缩后的网络结构。该方法能够结合层剪枝和通道剪枝的优点，同时去除卷积神经网络在深度和宽度上的冗余，从而有利于大型卷积神经网络在计算资源受限的边缘设备上部署应用。

摘要： 本发明提供一种通道剪枝和快捷连接层剪枝方法及系统，涉及计算机视觉技术领域，该方法包括：步骤S1：对单阶段目标检测模型的BN层的尺度因子进行自适应稀疏化训练；步骤S2：设计通道剪枝和层剪枝的阈值和快捷剪枝层的数量；步骤S3：对模型每一层小于通道阈值的通道进行剪枝；步骤S4：综合每一个快捷连接层中所有BN的尺度因子的平均值和标准差，对快捷连接层重要性进行排序，剪去设置的数量；步骤S5：降低模型精度的损失，将剪去的层的BN中的偏差合并到下一个BN层的runing_mean中；步骤S6：使用模型蒸馏，并进行精度恢复训练；步骤S7：重复步骤S1～步骤S6，反复对模型进行剪枝。本发明能够使得模型性能不下降，且参数量大大降低，显著提升推理效率效果。

摘要： 本申请涉及神经网络技术领域，公开了一种用于神经网络剪枝的系统和神经网络的剪枝处理方法，用以筛选出能够减少神经网络的参数量和提高神经网络的运算速度的剪枝率组。该系统包括剪枝器、性能检测仪和控制器，其中，剪枝器用于在控制器的控制下，根据当前剪枝率组对当前神经网络进行剪枝；性能检测仪用于在控制器的控制下，对加载了剪枝后的神经网络的加速器进行检测，确定剪枝后的神经网络的运行速度；控制器用于控制剪枝器和性能检测仪执行相应的操作，检测并筛选出运行速度符合第一筛选条件和参数量符合第二筛选条件的当前剪枝率组。从多个当前剪枝率组中筛选出能够减少神经网络的参数量，和提高神经网络的运算速度的剪枝率组。

摘要： 本发明涉及农林业机械技术领域，尤其涉及一种用于多段式可变幅剪枝装置的多段剪枝部件。发明的目的在于提供一种用于多段式可变幅剪枝装置的多段剪枝部件，旨在解决现有技术中存在的剪枝部件结构及功能较为单一的问题。本发明提供的多段式可变幅剪枝装置的多段剪枝部件的有益效果在于：其可分多段适应不同形状的树形修剪需求。如通过控制顶梢剪枝部件、剪枝上部件和剪枝下部件可对果树树冠按侧面墙式和类球形方式进行树形修剪，通过控制顶梢剪枝部件、剪枝上部件和剪枝中下部件可对果树树冠按梯形形状进行树形修剪等。此外，也可通过控制横向和纵向伸缩液压缸调节剪枝部件与移动平台的横向及纵向距离以适应果树树冠位置的远近和高低。