增量学习

摘要： 针对工业物联网(IIOT)新增数据量大、工厂子端数据量不均衡的问题,提出了一种基于联邦增量学习的IIOT数据共享方法(FIL-IIOT)。首先,将行业联合模型下发到工厂子端作为本地初始模型;然后,提出联邦优选子端算法来动态调整参与子集;最后,通过联邦增量学习算法计算出工厂子端的增量加权,从而使新增状态数据与原行业联合模型快速融合。实验结果表明,在美国凯斯西储大学(CWRU)轴承故障数据集上,所提FIL-IIOT使轴承故障诊断精度达到93.15%,比联邦均值(FedAvg)算法和无增量公式的FIL-IIOT(FIL-IIOT-NI)方法分别提高了6.18个百分点和2.59个百分点,满足了基于工业增量数据的行业联合模型持续优化的需求。

摘要： 燃气调压器存在故障数据样本少、发生故障不易察觉等问题,传统的离线诊断模型难以有效学习故障数据的特征信息且难以实时更新诊断系统。针对上述问题,提出一种基于集合经验模态分解(EEMD)、主元分析法(PCA)与在线贯序极限学习机(OSELM)结合的故障诊断方法。利用EEMD对获取的故障数据流进行频域分解,并通过PCA对已分解的不同频率分量进行特征提取;然后,随机选取少量经处理后的故障特征样本利用极限学习机(ELM)算法对模型进行初始化,并将剩余样本经EEMD⁃PCA处理后以数据流的方式对现有模型进行更新,通过在线增量学习方法递推计算故障诊断系统参数并给出诊断决策。利用某调压器故障信息进行仿真实验,结果表明,所提EEMD⁃PCA⁃OSELM故障诊断方法能在保证较高识别率的前提下实现快速故障诊断。

摘要： 针对数据流集成分类如何使分类器适应不断变化的数据流,调整基分类器的权重选择合适的分类器集合的问题,提出了一种基于动态加权函数的集成分类算法。首先,提出了一种加权函数调节基分类器的权重,使用不断更新的数据块训练分类器;然后,使用一个新的权重函数对候选分类器进行一个合理的选择;最后,在基分类器中应用决策树的增量性质,实现对数据流的分类。通过大量实验发现,基于动态加权函数的集成分类算法的性能不受块的大小影响,与AUE2算法相比,叶子数平均减少了681.3、节点数平均减少了1192.8,树的深度平均减少了4.42,同时相对地提高了准确率,降低了消耗时间。实验结果表明该算法在对数据流进行分类时不但可以保证准确率还可以节省大量的内存空间和时间。

摘要： 为了解决集值决策信息系统中的属性数量不断发生动态变化时,静态属性约简方法无法高效更新属性约简的问题,提出一种以知识粒度为启发信息的增量式属性约简方法。首先,介绍集值决策信息系统的相关概念,接着介绍知识粒度的定义并将其矩阵表示方法推广到此系统中;然后,分析增量式约简的更新机制,并基于知识粒度设计了增量式属性约简方法;最后,选取了3个不同的数据集进行实验。当3个数据集的属性数由20%增加到100%时,传统的非增量式方法的约简耗时分别为54.84 s、108.01 s、565.93 s,增量式方法的约简耗时分别为7.57 s、4.85 s、50.39 s。实验结果表明,在不影响属性约简精度的前提下,所提出的增量式方法比非增量式方法更加快速。

摘要： 多元时序数据上的无监督模式漂移检测是机器学习领域的一个研究热点。然而,对模式及其漂移现象的定义十分灵活,使得该任务的难度较高。受“三分而治”思想启发,文中提出了一种基于FUP-STAP增量挖掘的、针对带通配符区间的状态转移模式的三支漂移检测算法(Three-Way Drift Detection Method for State Transition pAttern with Periodic Wildcard Gaps,3WDD-STAP),它由状态转移模式(STAP)的增量算法改进而来。在不使用额外参数的情况下,3WDD-STAP可同时获得频繁的以及发生漂移的STAP。根据增量前后的支持度变化情况,模式漂移被定义为3类:I类漂移表示本来频繁的STAP在增量后变得不频繁,需扫描增量数据集;II类漂移表示本来不频繁的STAP在增量后变得频繁,需扫描原始数据集;III类漂移表示STAP在增量后维持了频繁或者不频繁,视为正常,不扫描数据集。在空气质量与石油工程设备监控两个真实数据上的实验结果表明:1)α和β的值越大,两类漂移模式的数量越少,反之亦然;2)I类漂移的STAP在不同数据集上服从不同分布;3)所得STAP模式及其漂移现象均有很强的可读性。

摘要： 近年来,随着信息技术的不断发展,各种数据呈现爆炸式的增长,传统的机器学习算法只有当测试数据与训练数据分布类似时,学习算法才能取得较好的性能,换句话说,它们不能在动态环境中连续自适应地学习,然而,这种自适应学习的能力却是任何智能系统都具备的特性.深度神经网络在许多应用中显示出最好的学习能力,然而,使用该方法对数据进行增量更新学习时,会面临灾难性的干扰或遗忘问题,导致模型在学习新任务之后忘记如何解决旧任务.连续学习(continual learning,CL)的研究使这一问题得到缓解.连续学习是模拟大脑学习的过程,按照一定的顺序对连续非独立同分布的(independently and identically distributed,IID)流数据进行学习,进而根据任务的执行结果对模型进行增量式更新.连续学习的意义在于高效地转化和利用已经学过的知识来完成新任务的学习,并且能够极大程度地降低遗忘带来的问题.连续学习研究对智能计算系统自适应地适应环境改变具有重要的意义.基于此,系统综述了连续学习的研究进展,首先概述了连续学习的定义,介绍了无遗忘学习、弹性权重整合和梯度情景记忆3种典型的连续学习模型,并对连续学习存在的关键问题及解决方法进行了介绍,之后又对基于正则化、动态结构和记忆回放互补学习系统的3类连续学习模型进行了分类和阐述,并在最后指明了连续学习进一步研究中需要解决的问题以及未来可能的发展方向.

摘要： 为解决现有数据驱动的锂离子电池寿命预测方法中存在着精度低、训练数据需求大等问题,采用一种基于随机配置网络(SCN)的锂电池RUL预测方法。首先,以电池容量作为直接健康因子,电池放电电压作为间接健康因子,通过不等式约束分配随机参数,自适应选择随机参数的范围,建立锂电池剩余寿命的预测模型;其次,利用NASA电池数据集对预测模型进行训练;最后,将所建立的模型与FNN、CNN、LSTM等多种神经网络进行对比验证,充分发挥了SCN自主性强、收敛速度快、网络成本低等特点。结果表明,相较于其余神经网络,SCN的RMSE值最小,具有更低的训练损失和更好的网络拟合效果,是一种有效的锂电池RUL预测算法。

摘要： 针对冷热电负荷波动与天气信息关系密切的现状,提出一种基于天气信息修正的短期冷热电负荷联合预测方法。首先,使用基于增量学习的宽度学习预测模型对待预测日天气信息进行修正;同时,使用季节分解方法对冷热电负荷进行分解,将三种负荷分解成为长期趋势及循环分量、季节分量以及不规则分量。其次,对分解不同负荷得到的相同分量使用同一个预测模型进行预测,并将各分量预测结果综合得到冷热电负荷预测结果。最后,利用某地区的真实天气数据及负荷数据进行分析,对所提天气修正方法和模型框架在冷热电负荷预测中的优越性进行了验证。结果表明,与常见的预测模型以及一般的预测框架对比,所提方法能够有效提高冷热电负荷预测精度。

摘要： 在利用WiFi信号实现人群计数中,基于信道状态信息幅度(Channel State Information,CSI)存在分类模型滤波不彻底和准确度差的问题,本文提出了一种基于多接收天线之间相位差扩展矩阵信息的支持向量机(Support Vector Machine,SVM)增量学习算法.首先对CSI原始相位数据执行三重处理,以便最大程度的消除环境干扰和相位误差;另外提出了一种建立相位差扩展矩阵的思想,加入了不同人数场景的动态特征,提高了人群计数准确性.考虑到新增场景后,原训练数据和新增数据需合并进行重新训练,因训练数据过多会造成计算复杂度过高,为此我们提出了一种基于SVM增量学习分类算法,设计了一个循环迭代过程,实现了对增量数据在线学习的功能,且在提升人群计数准确率和降低计算复杂度方面均取得了较好的效果.算法结果表明,本文方法可实现实时人群计数,在最大计数误差为1人时,平均计数精度可达95%以上,且随着场景增多在训练识别模型时节约的时间越显著.

摘要： 拟单层覆盖粗糙集与集值信息系统之间存在一一对应的映射关系,当集值信息系统中的对象集动态添加或移除时,对应拟单层覆盖粗糙集中的信息单元也会随之改变,导致拟单层覆盖粗糙集中的近似集发生变化。针对拟单层覆盖粗糙集中近似集的动态更新问题,将拟单层覆盖粗糙集与增量学习相结合,提出近似集的增量更新算法。设计拟单层覆盖集中信息单元的更新算法,以分析信息单元的变化情况,分别构建近似集中可靠单元和争议单元的相关可靠单元集的更新算法。在此基础上,设计与可靠单元和争议单元更新算法相对应的增量更新算法,并且分析其时间复杂度。在UCI数据集上的实验结果表明,与静态算法相比,该算法在对象集发生添加和移除情况下的近似集更新效率分别提高21.5和29倍,能够有效提高近似集的计算效率。

摘要： 垃圾邮件识别是计算机取证领域的重要研究内容.多数垃圾邮件识别方法未能有效地考虑用户兴趣邮件识别结果的影响.提出了一种基于增量学习和主动学习的垃圾邮件识别新方法.为获得最有效特征,在特征选择阶段综合考虑了单词信息和非单词信息;接着,为减少待标注样本选择时间,提出了一种基于投影的不确定样本选择方法;最后,在样本标注过程中,提出了自动推荐样本类别及用户兴趣度的样本标注新方法.多种对比实验表明,算法针对垃圾邮件识别精度高,待标注样本选择速度较快,用户标注负担较小,具有较高的应用价值.

摘要： 非负矩阵分解(NMF)是一种有效的子空间降维方法.为了改善非负矩阵分解运算规模随训练样本增多而不断增大的现象,同时提高分解后数据的稀疏性,提出了一种稀疏约束下非负矩阵分解的增量学习算法,该算法在稀疏约束的条件下利用前一次分解的结果参与迭代运算,在节省大量运算时间的同时提高了分解后数据的稀疏性.在ORL和CBCL人脸数据库上的实验表明了该算法降维的有效性.

摘要： 支持向量机增量算法的关键是对历史样本集的剪辑，在历史样本集中选择出尽可能少又能尽可能多的代表历史样本集的一个子集，然后把这个子集加入到新训练样本集中进行学习。对于代表历史样本集子集的选择方法有很多。本文提出的Simple ISVM(Simple Incremenetal Support Vector Machine Algorithm)算法从样本松弛变量是否为零的角度将支持向量分为线性可分的支持向量和线性不可分的支持向量两类，并以线性可分支持向量集来代表历史样本集。在每步增量学习过程中，每次只保留线性可分支持向量集。这样的子集比支持向量集要小。当线性可分支持向量较少时，可以用广义线性可分支持向量子集代表历史样本集。实验表明Simple ISVM算法在选取适当的参数e不仅能有比SVM-INC.[2]更快的速度，而在精度上没有什么损失。

摘要： 本文针对那些样本数据量庞大并且需要不断更新样本的分类问题提出一种利用数据库技术进行增量学习的朴素贝叶斯方法(DBNB)。像垃圾短信过滤这样的应用，其样本数据是一般比较大，同时垃圾短信语料(样本)必须要不断进行更新的，本文提出的分类方法很适合应用到这样的场合。

摘要： 神经网络是辐射源识别的有效工具，但是随着辐射源信号的增加，新训练样本集不断加入，此时需要对所有训练样本重新训练以调整网络结构，将耗费大量时间和存储空间。为解决上述问题，本文引入一种神经网络增量学习算法一learn++算法用于辐射源识别，该算法能够在后继增量学习的同时，保留之前的训练结果，且不需访问之前数据，在保证识别精度的同时可显著减少训练时间和存储空间。仿真实验验证了算法的有效性。

摘要： 基于经典等距特征映射(ISOMAP)算法易受噪声干扰和邻域大小影响,采用局部测地距离估计输入数据点的初始邻域,并结合增量学习思想,提出一种基于局部测地距离估计的增量ISOMAP算法进行降维,以提高ISOMAP算法的分类能力.人脸识别试验表明,该算法识别性能优越,对噪声和几何形变具有鲁棒性.

摘要： 针对大规模数据中心网络中如何有效监控网络异常事件、发现网络性能瓶颈和潜在故障点等问题,在深入分析InfiniBand(IB)网络的特性,引入了特征选取策略和增量学习策略的基础土,提出了一种面向大规模IB网络增量学习的故障诊断方法IL-Bayes,该方法以贝叶斯分类方法为基础,加入增量学习机制,能够有效提高故障分类精度.在天河2真实的网络环境下,对算法的诊断精度和误诊率进行了验证,结果表明1L-Bayes算法具有较高的故障分类精度和较低的误诊率.

摘要： 在传感检测应用中,从动态、无标签传感数据流中有效挖掘所需信息变得越来越重要,而传统模式识别方法,如支持向量机(SVM),是基于批量、监督学习策略,不能有效通过新增数据,特别是无标签数据进行模型更新.为此,提出了一种半监督增量学习SVM算法,首先运用初始训练样本训练SVM分类器,然后对新增有标签样本根据KKT条件进行增量在线学习,对无标签样本采用分枝定界方法进行半监督学习,在SVM分类模型更新过程中实现了有用样本的添加和失效样本的删除,并充分利用无标签样本来优化SVM分类面.最后,基于人工数据集和UCI公共数据集进行了实验测试,结果验证了本文方法的有效性.

摘要： 利用K均值聚类和增量学习算法扩大训练样本规模，提出一种改进的mRMR SBC。一方面，利用K均值聚类预测测试样本的类标签，将已标记的测试样本添加到训练集中，并在属性选择过程中引入一个调节因子以降低K均值聚类误标记带来的风险。另一方面，从测试样本集中选择有助于提高当前分类器精度的实例，把它加入到训练集中，来增量地修正贝叶斯分类器的参数.实验结果表明，与mRMR sBc相比，所提方法具有较好的分类效果，适于解决高维且含有较少类标签的数据集分类问题。

摘要： 提取有效特征对高维数据的模式分类起着关键作用.零空间线性判别分析(null-space linear discriminant analysis,NLDA)在数据降维和特征提取上表现出较好的性能,但是该方法本质上仍是一种线性方法.为有效提取数据的非线性特征,提出了零空间核判别分析算法(null-space kernel discriminant analysis,NKDA)并将其应用于人脸识别.利用核函数将原始样本隐式地映射到高维特征空间后,采用一次瘦QR分解求核类内散布矩阵的零空间鉴别矢量集,最后再进行一次Cholesky分解求得具正交性的核空间鉴别矢量集.与NIDA相比,NKDA具有更好的识别性能且在大样本情况下也能应用.另外,基于NKDA,提出了增量NKDA算法,当增加新的训练样本时能正确地更新NKDA鉴别矢量集.在ORL库、Yale库和PIE子库上的实验结果表明了算法的有效性和效率,在有效降维的同时能进一步提高鉴别能力.

摘要： 本发明提供了一种基于特征增益矩阵增量学习的图像分类方法及系统，通过构建第一数据集和第二数据集，其中，第一数据集为基础数据集，第二数据集为测试数据集；构建第一图像分类神经网络模型；根据第一数据集，对第一图像分类神经网络模型进行迭代训练；分别构建第三数据集和第四数据集，其中，第三数据集为增量式数据集，第四数据集为增量式测试数据集；根据第三数据集和第四数据集，对迭代训练之后的第一图像分类神经网络模型进行增量训练；判断增量训练是否完成；如果未完成，则转入分别构建第三数据集和第四数据集的步骤中；如果完成，获得第一图像分类结果，达到了提高增量学习图像分类的准确度，并减少增量训练所需的存储空间的技术效果。

摘要： 本发明公开了一种基于定长记忆窗口增量学习和增量模型重构的工业机器人定位误差在线补偿方法，首先研究机器人位姿与定位误差之间的定性关系并确定不同误差等级下机器人位姿坐标阈值，接着提出机器人定位误差在线补偿方法，利用增量模型重构算法自动生成表征机器人末端实际位姿与目标位姿对应关系的深度学习映射模型，将误差提前补偿至规划路径中。在线补偿算法执行过程中，根据机器人位姿变化判断误差等级变化并触发对映射模型的精度验证，当模型精度不满足要求时则依次触发增量学习和模型重构机制，直至映射模型满足精度要求。以上特点使得本发明方法能有效实现工业机器人定位误差的在线补偿与实时校准。

摘要： 本发明提供一种结合蒸馏学习和元学习的目标检测增量学习方法，首先对待测图像进行预处理；然后结合蒸馏学习和元学习构建新旧目标检测增量学习模型，将预处理后的待测图像作为输入进行检测从而得到新旧类别目标检测结果。其中，新旧目标检测增量学习模型基于双阶段目标检测模块构建，包括第一阶段基于蒸馏损失的前景特征提取子模块，以及第二阶段基于元学习的分类回归子模块。该方法利用双阶段目标检测模型“分段式”检测的性质，使用蒸馏学习增强了新类目标特征的提取能力，利用元学习使得新类别分类器参数优化过程与旧类别共享，使新类别分类器快速收敛，从而实现在旧类目标前景检测性能影响较少的基础上，进一步增强新类目标前景检测性能。

摘要： 本发明公开了基于深度学习的安全帽识别增量学习与角色判定方法，通过RTSP对摄像头进行取流操作，然后对采集到的视频跳帧处理。记录训练数据加入数据集的批次信息，在新的训练数据加入后对网络微调实现增量学习；根据批次确定学习规则，避免灾难性遗忘。对视频中不同颜色安全帽以及不戴安全帽的情况进行检测识别，在判定不戴安全帽不安全行为的同时，对戴安全帽的人员通过安全帽颜色确定人员角色。本发明将目标检测技术与工厂的安全机制相结合，完成风险检测预警系统，在节省了大量人力物力的同时，提高了工厂的安全防护机制，完善了工厂管理制度，维护了人员的生命健康安全。

摘要： 本申请涉及工业视觉技术领域，具体而言，涉及基于深度学习检测任务的增量学习方法、装置及存储介质，一定程度上可以解决重新训练新目标检测模型，需要耗费大量的时间和资源的问题。所述基于深度学习检测任务的增量学习方法包括：利用已有图像数据集生成GAN模型，GAN模型用于生成包含若干假图像的假图像数据集；整合假图像数据集和新图像数据集，得到混合图像数据集；加载旧目标检测模型，旧目标检测模型基于已有图像数据生成，获取旧目标检测模型的旧模型参数，旧模型参数用于确定新模型初始参数；基于混合图像数据集和新模型初始参数，训练得到新目标检测模型，其中，新目标检测模型的训练轮数根据旧模型的收敛轮数确定。

摘要： 本发明公开了一种用于小样本类增量学习的多粒度快慢学习方法，方法具体包括以下步骤：连续获取多个任务的数据流，在每个类增量学习会话只能获得一个任务的数据；在第一个增量学习会话中，获取第一个任务的数据，学习得到基任务网络模型，慢更新模型和快更新模型都以基任务模型作为初始化；在下一个增量学习会话中获取新任务数据，以慢的多粒度学习方法更新慢更新模型，以快的多粒度学习方法更新快更新模型；每次增量学习会话后，通过慢更新模型得到慢更新特征空间，通过快更新模型得到快更新特征空间，利用两个空间得到的组合空间进行分类。本发明构建的组合特征空间能有效地平衡旧知识保留和新知识适应，是一种简单有效的小样本增量学习方法。

摘要： 本申请实施例提出了基于深度学习的增量学习流量异常检测方法，包括收集网络流量数据，并对网络流量数据进行预处理，得到处理后的网络流量数据；利用LSTM模型对处理后的网络流量数据进行特征预提取；建立决策树改进支持向量机模型，通过折交叉验证算法选取最优化参数，构建最优化模型；训练得到改进后的向量机模型，用于对提取到的网络流量数据特征进行分类，对分类效果进行评估。提出了用决策树和SVM结合的方法，针对网络流量数据特点，采用LSTM提取流量信息特征，在利用模型进行异常流量的分类检测。基于改进的模型成功的进行了分类检测，并且相较于传统的流量异常检测方法，取得了更优的分类效果。

摘要： 本发明涉及一种利用增量学习对显微镜细胞图像检测模型进行增类学习的方法，首先对初始图像进行预处理，使用旧类别样本训练faster‑rcnn模型获得显微镜细胞图像检测模型作为初始模型。使用训练好的显微镜图像细胞检测模型预测新的细胞，对新类别细胞样本进行手工标注。其次使用初始模型对新类别样本预测生成软目标和中间层特征，生成的软目标置信度为0.2以上的粗标签。修改显微镜细胞图像检测模型最后一层大小，作为显微镜细胞图像增量检测模型。分别计算增量模型和初始模型的中间层特征图距离，计算显微镜细胞图像检测的分类和回归损失，计算置信度损失。最后通过最小化上述损失总和来训练更新模型。获得能够预测新类别细胞的显微镜细胞图像增量检测模型。

摘要： 本发明涉及预测数据处理技术领域，公开了一种基于增量学习的数据分类方法、装置、设备及存储介质，所述方法包括：获取待分类的视觉图像数据和初始数据分类模型；在初始数据分类模型不满足预设上线指标规则时，获取与待分类的视觉图像数据相关联的检测视觉数据；根据视觉图像数据、检测视觉数据以及目标损失函数增量训练出目标数据分类模型；通过目标数据分类模型对待分类的视觉图像数据进行分类；通过上述方式，在初始数据分类模型不满足预设上线指标规则时，根据检测视觉数据和检测视觉数据以及目标损失函数增量训练出目标数据分类模型，然后通过目标数据分类模型进行视觉图像数据的分类，从而能够有效提高分类视觉图像数据的准确性和效率。

摘要： 本发明公开一种基于增量学习的电机轴承故障诊断方法及装置，该方法步骤包括：在模型训练阶段，分别采集不同类型电机轴承在不同状态下的运行数据、域数据构成训练样本集，进行故障诊断模型训练，并筛选出代表性样本；在增量学习阶段，当有新增样本输入时，判断是否属于新增类别或者新增域，根据判断结果修正新增样本的权重，以训练得到的网络参数为初始条件，将代表性样本、新增样本以及修正后的权重输入至故障诊断模型中以进行模型微调，其中修正后的权重用于计算模型微调过程中的损失函数；在故障诊断阶段，将待诊断数据输入至最终得到的故障诊断模型中进行诊断。本发明具有实现方法简单、成本低、诊断精度以及效率高且应用范围广等优点。