概念漂移

摘要： 在动态的数据流中,由于其不稳定性以及存在概念漂移等问题,集成分类模型需要有及时适应新环境的能力。目前通常使用监督信息对基分类器的权重进行更新,以此来赋予符合当前环境的基分类器更高的权重,然而监督信息在真实数据流环境下无法立即获得。为了解决这个问题,文中提出了一种基于信息熵更新基分类器权重的数据流集成分类算法。首先使用随机特征子空间对每个基分类器进行初始化来构建集成分类器;其次基于每个新到来的数据块构建一个新的基分类器来替换集成中权重最低的基分类器;然后基于信息熵的权重更新策略实时对基分类器中的权重进行更新;最后满足要求的基分类器参与加权投票,得到分类结果。将所提算法和几个经典学习算法进行对比,实验结果表明,所提方法的分类准确性有着明显优势,并且适合多种类型的概念漂移环境。

摘要： 数据流中的不平衡问题会严重影响算法的分类性能,其中概念漂移更是流数据挖掘研究领域的一个难点问题。为了提高此类问题下的分类性能,提出了一种新的基于Hellinger距离的不平衡漂移数据流Boosting分类BCA-HD算法。该算法创新性地采用实例级和分类器级的权重组合方式来动态更新分类器,以适应概念漂移的发生,在底层采用集成算法SMOTEBoost作为基分类器,该分类器内部使用重采样技术处理数据的不平衡。在16个突变型和渐变型的数据集上将所提算法与9种不同算法进行比较,实验结果表明,所提算法的G-mean和AUC的平均值和平均排名均为第1名。因此,该算法能更好地适应概念漂移和不平衡现象的同时发生,有助于提高分类性能。

摘要： 数据流是大数据的重要形式,数据流分类是数据挖掘的重要任务之一,该任务在现实生活中有着巨大的应用前景,因此得到了研究者们的广泛关注.概念漂移和类不平衡是影响数据流分类性能的两个核心问题,但目前大多数算法都只考虑处理两者之一,并且大多数算法过于理想,只能在人工设置的数据流上才能发挥较好的性能,无法适用于复杂的真实数据流.针对这一问题,提出了一种同时处理概念漂移和类不平衡复杂数据流的算法——具有自适应遗忘因子的加权在线顺序极限学习机集成算法.该算法首先融合加权机制和遗忘机制,初步提出具有遗忘机制的加权在线顺序极限学习机算法.为了更好地适应复杂数据流,进一步以初步算法为基分类器,设计包含自适应遗忘因子和概念漂移检测机制的在线集成策略.大量仿真实验表明,所提算法在所有数据集上都取得了最佳的Gmean值,具有更好的概念漂移和类不平衡适应能力,表现出了更稳定、更平衡以及更准确的分类效果.

摘要： 在时间矩阵分解方法的基础上,利用概念漂移检测捕获随时间动态变化的用户兴趣和项目偏好特征,可以有效提高个性化推荐算法的准确性。为此,该文提出特征漂移约束(feature drift constraint,FDC)算法,首先,根据输入样本的评级反馈构建评级矩阵的时间序列,采用矩阵分解方法将评级矩阵分解为用户特征矩阵和项目特征矩阵;其次,在输入新的评级样本后训练模型,采用随机梯度下降方法获得优化的学习参数,计算概念漂移的动态特征加权用于调整模型;最后,结合用户兴趣特征向量和项目偏好特征向量内积计算得到预测的项目评级,实现项目推荐。仿真结果表明,与MF、TSVD++、TMF和MCFTT算法相比,特征漂移约束算法在推荐准确性和概念漂移检测的有效性方面均有较好提升。

摘要： 在开放环境下,数据流具有数据高速生成、数据量无限和概念漂移等特性.在数据流分类任务中,利用人工标注产生大量训练数据的方式昂贵且不切实际.包含少量有标记样本和大量无标记样本且还带概念漂移的数据流给机器学习带来了极大挑战.然而,现有研究主要关注有监督的数据流分类,针对带概念漂移的数据流的半监督分类的研究尚未引起足够的重视.因此,在全面收集数据流半监督分类研究工作的基础上,对现有带概念漂移的数据流的半监督分类算法进行了多角度划分;并以算法采用的分类器类型为线索,对已有的多个算法进行了介绍与总结,包括现有数据流半监督分类采用的概念漂移检测方法;在一些被广泛使用的真实数据集和人工数据集上,对部分代表性数据流半监督分类算法进行了多方面的比较与分析;最后,提出了当前概念漂移数据流半监督分类中一些值得进一步深入探讨的问题.实验结果表明:数据流半监督分类算法的分类准确率与众多因素有关,但与数据分布的变化关系最大.本综述将有助于感兴趣的研究者快速进入数据流半监督分类问题领域.

摘要： 针对传统的采用遗忘因子的在线学习方法难以实时精确地跟踪数据所发生的漂移问题,利用在线数据通常所具有的特征结构不变特性,提升在线学习模型的自适应能力.结合在线离散化和在线聚类技术,追踪和刻画数据的特征结构,并在聚类结构中,采用一种类似深度森林算法中的特征构造策略来提取辅助的在线结构特征.通过整合样本的原始特征和额外提取的结构特征共同动态地训练并更新在线神经网络模型,采用在线序列极限学习机算法作为在线神经网络的训练算法,通过8个基准的在线数据集验证算法的有效性、可行性和优越性.实验结果表明:文中算法可很好地追踪数据所发生的概念漂移,并具有较强的自适应性.

摘要： 知识融合是知识图谱技术的关键环节,而传统机器学习算法较难满足异构大数据环境中知识融合的准确性及实时性需求。提出一种结合概念漂移检测算法与无监督反向验证算法的高可靠、低复杂度知识融合方法。该方法利用贝叶斯估计进行实体对齐与属性融合的同时,周期性进行基于孤立深林算法的概念漂移检测与基于自组织映射网络的反向实体消歧,以此有效互补监督学习的样本依赖性及无监督学习的高复杂度特性,从而提高知识融合的可靠性与实时性。提出算法在公开数据集与国网安徽省电力公司知识图谱数据库中分别进行了数据实验,通过对数据模型可靠性、实体对齐能力、F1分数和运行时间的比较,分析了提出算法在多维、异构大数据环境的应用可行性。

摘要： 流数据作为一种新型数据,在各个领域均有应用,其快速、大量及持续不断的特点使得单遍精准扫描成为在线学习算法的必备特质.在流数据不断产生过程中,往往会发生概念漂移,目前对于概念漂移节点检测的研究相对成熟,然而实际问题中学习环境因素朝不同方向发展往往会导致流数据中概念漂移类别的多样性,这给流数据挖掘及在线学习带来了新的挑战.针对这个问题,提出一种基于时序窗口的概念漂移类别检测(concept drift class detection based on time window,CD-TW)方法.该方法借助栈和队列对流数据进行存取,借助窗口机制对流数据进行分块学习.首先创建2个分别加载历史数据和当前数据的基础节点时序窗口,通过比较二者所包含数据的分布变化情况来检测概念漂移节点.然后创建加载漂移节点后部分数据的跨度时序窗口,通过分析该窗口中数据分布的稳定性检测漂移跨度,进而判断概念漂移类别.实验结果表明该方法不仅能够精确定位概念漂移节点,同时在漂移类别判断方面也表现出良好性能.

摘要： 极限学习机因具有高效处理、性能优越以及更少人工参数设定等优点,已成功应用于批处理多标签分类问题。然而,实际应用领域涌现的数据流呈现海量快速、多标签和概念漂移等特点,使得这些传统的多标签分类算法面临精度与时空的挑战。本文提出一种基于核极限学习机的多标签数据流集成分类方法。首先,为适应数据流环境,利用滑动窗口机制将数据流划分为数据块,在前k个数据块上构建k个核极限学习机的集成分类模型;同时,考虑类标签相关性,利用Apriori算法得到每个数据块的标签间的关联规则,并将关联规则中的同现标签的置信度引入到基于集成模型的预测过程中,以提高整体的分类精度;其次,引入MUENLForeset模型检测新到来的数据块是否发生概念漂移,对分类器设置损失函数更新集成模型以适应概念漂移问题。最后,在实际多标签数据上的大量实验表明:与经典多标签批处理和流数据分类方法相比,所提方法不仅能适应多标签数据流中的概念漂移问题,同时在分类精度上具有显著优势。

摘要： 随着大数据时代的到来,一种区别于传统数据的流式数据大量涌入人们的生活,其特征是高速、连续、多变、无限、概念漂移.概念漂移是指数据的分布随时间发生变化的一种现象,如何检测概念漂移,即检测数据分布发生变化的时间点是数据流挖掘的研究热点.对概念漂移检测算法进行综述,首先,介绍概念漂移的定义、来源、概念漂移检测的一般框架;然后,按照概念漂移类型将现有概念漂移检测算法划分为主动检测和被动适应两大类,分别对比了每一类主要算法的优缺点;最后,展望了概念漂移检测算法的未来研究工作.

摘要： 随着大数据应用研究的不断深入和分布式机器学习中流计算框架的涌现,针对数据流中概念漂移问题的研究是面向大数据挖掘领域的研究热点之一.现有的针对概念漂移的研究成果主要还是依赖于数据结构和算法优化上,主要还是通过计算资源有限的独立计算机完成概念漂移的检测.为此,本文提出一种面向大数据的基于Storm的抵抗概念漂移的分类挖掘算法及系统.该系统采用并行化窗口和S-CVFDT算法,利用并行化窗口机制检测数据流中的突变型概念漂移从而自适应的改变并行窗口大小,并通过S-CVFDT算法不断更新渐进性概念漂移时的模型.分析与实验结果表明:该算法可以快速有效地检测到突变型概念漂移降低系统因为突变型概念漂移造成的资源浪费,且模型建立效率、分类精度得到提高.

摘要： 针对网络流量特性随时间推移发生改变而引起训练样本变化(即概念漂移),从而导致基于机器学习的流量分类方法精度明显降低问题,本文提出一种基于协同策略的流量分类方法,该方法借助K-S检验对流量概念漂移进行检测,然后通过协同策略引入新的流量样本使分类器得到有效更新,应对流量概念漂移,最后根据集成学习策略综合分类结果.实验结果表明该方法在处理流量概念漂移上具有较好的分类性能和泛化能力,模型建立和分类效率表明满足分类实时性要求.

摘要： 社会学习效应对异质性个体的采纳行为有着重要的作用.将概念漂移理论引入到个体的采纳决策过程中构建采纳决策模型,并以无标度网络为载体构建创新扩散的传染病模型.概念漂移本质是创新产品能够在社会网络中扩散的动力源。通过计算机仿真得到社会学习能力、概念漂移强度对创新扩散的采纳深度和速度存在着显著的正向影响.因此，在社会学习能力较低的创新扩散网络中，创新企业可以通过寻求意见领袖、提高规范压力等营销策略来促进新产品的成功扩散。

摘要： 数据流挖掘已在许多领域得到应用,概念漂移检测是数据流挖掘研究中的一个重点．目前关于数据流中的概念检测的研究虽然取得了很多成果，却没有充分考虑到数据流概念“周期性”出现的特点．针对周期性概念漂移的特点，提出了当“历史概念”重现时，利用对应的模型来对数据流进行分类的方法，从而减小模型更新的代价，加快分类预测的速度．实验证明这种方法提高了运行效率．

摘要： 传统分类算法由于流数据的数据无限性和概念漂移问题而无法直接应用，提出了针对概念漂移的实时流数据分类算法。带概念漂移的朴素贝叶斯流数据分类算法对时间窗口内的数据进行统计处理，再根据各个时间窗口的权重进行数据重组，在此基础上学习生成单个贝叶斯分类器。实验结果表明，该算法在分类性能、分类准确率和速度上具有优势。

摘要： 数据的概念漂移特性是广泛存在的.提出一种挖掘概念漂移数据的自适应集成学习算法(adaptive multiple classifiers ensemble,AMCE).该算法通过给每个分类器分配独立的权重调整参数,增强自适应能力;并且利用基于KL距离的剪枝策略删除集成中存在的冗余个体分类器.实验结果表明,该算法能够有效地改善发生概念漂移时的分类预测结果,同时减少存储空间的使用,提高算法速度,并且其对噪音数据具有较强的鲁棒性。

摘要： 概念漂移(conceptdrifts)是流数据分类所面临的一个重要问题.当前解决该问题的主流方法是将训练数据分割成数据块,并使用集成学习(ensemblelearning)方法进行分类.但是,这些算法都基于一个理想的假设--训练数据的充足性;而在实际应用中,手工分类的训练数据往往是不充足的.为了解决训练数据不充足时的概念漂移问题,提出了一种针对流数据的分类方法.该方法通过训练数据合并,动态地从历史数据中搜索可用的训练数据,同时保持对概念漂移的敏感性.实验表明,与已有的方法相比,本算法具有更好的分类精度和更高的运行效率。

摘要： 如何能有效地保持原本学习过的知识,又能不断获取新知识?这是增量学习面临的难题.将集成学习算法移植应用于增量学习,建立了模块化增量学习模型,研究了BehaviorKnowledgeSpace(BKS)、DynamicClassifierSelection(DCS)和MajorityVoting(MV)3种集成学习算法应用于增量学习的可能性,并提出了算法BKSbasedonDCS(BoD).仿真实验表明,DCS表现最好,BKS和MV表现次之,BoD很好地提升了BKS而与DCS完全相当;提出的增量学习模型不但能完全保持以前学习过的知识,而且能有效地获取当前的新知识(包括概念漂移conceptdrift)。

摘要： 本发明实施方式提供一种高维重现概念漂移流数据的变化趋势预测方法及装置，属于流数据变化趋势预测技术领域。方法包括：获取表征目标变量状态变化的实时时序数据流；以实时时序数据流为输入，经概念漂移预测模型输出表征目标变量未来状态变化的最终预测时序数据流；概念漂移预测模型，经预设的训练集对D‑LSTM神经网络进行离线训练，以及依据实时时序数据流对D‑LSTM神经网络进行在线自回归预测训练得到。本发明通过融合深度学习算法和在线预测的方法有效提高了高维重现概念漂移流数据变化趋势的预测精度，解决了传统的静态数据变化趋势预测方法对高维重现概念漂移流数据变化趋势预测泛化能力有限的问题。

摘要： 本发明公开一种基于概念漂移的物联网设备通信异常检测方法，涉及机器学习领域，包括：首先，获取物联网设备之间的通信数据；然后，根据时间戳，划分初始样本集的时间区间；基于权重求解各个时间区间所需要的采样数量，采样获得平衡样本集，并将平衡样本集分成训练数据集和测试数据集STe；然后，通过LSTM对训练集进行训练，待模型收敛，然后以测试集对模型进行验证；最后，当模型的验证结果为有效时，将实时采集的实时通信数据输入模型，预测实时通信数据所处的通信状态。本发明通过对原始数据进行数值化处理，并根据时间戳对数据进行分层采样获得样本，经LSTM训练获得多分类的预测模型，并对物联网设备的通信状态进行预测。

摘要： 本发明公开了一种面向概念漂移的可解释Android恶意软件检测方法，属于信息安全技术领域，包括通过人工Android恶意软件分析报告引入检测特征，基于自动化机器学习算法与可解释算法改进传统的特征包装，并融合同分布检验与迁移学习算法。本发明提高了Android恶意软件检测模型的可解释性，有利于逆向分析人员人工验证检测模型，降低了概念漂移问题对检测模型准确率影响，有利于检测模型低代价的长时间维持高准确率，用于Android恶意应用软件的检测与分析中。

摘要： 基于多窗口概念漂移检测的MSWI过程二噁英排放预测方法属于城市固废焚烧领域。二噁英(DXN)是城市固废焚烧(MSWI)过程排放的巨毒污染物。实际工业过程采用软测量模型以实现DXN预测，但工业过程的时变特性导致软测量模型的预测精度降低。首先，基于历史数据建立随机森林(RF)软测量模型和主成分分析(PCA)漂移检测模型；其次，通过多窗口概念漂移检测策略对新样本进行漂移检测，以确定新样本是否为漂移样本；最后，对上述的漂移样本进行去冗处理并判断其数量是否满足设定的阈值，若满足则重新训练PCA模型及RF模型，否则继续采用历史模型对新样本进行预测。采用工业过程数据验证了所提方法的有效性。

摘要： 本发明公开了一种基于概念漂移和深度学习的网络流量入侵检测方法，主要解决现有概念漂移检测成本较高及网络流量特征发生改变时入侵检测准确率低的问题。其方案为：获取并预处理训练样本集和测试样本集；构建自编码器网络，用训练样本集对其进行逐层无监督训练；构建多层卷积神经网络，用训练样本集对其进行训练；构建多层长短时记忆网络，用训练样本集对其进行训练；采用训练好的自编码器网络对测试样本集进行特征选择，得到48维的测试样本集，将该测试样本集分别输入到训练好的多层卷积神经网络和训练好的多层长短时记忆网络，对其输出结果加权求和，得到入侵检测结果。本发明在网路流量特征发生改变时有较高的准确率，可用于网络安全维护。

摘要： 本发明公开了一种基于概念漂移的漏洞攻击流量检测方法及检测系统，步骤一、漏洞攻击流量收集：给每个节点分配控制信息传输频率；根据节点分配的pi向收集中心传输样本的控制信息；依据控制信息，以最小化样本窗口的AoI为目标，收集中心采用调度算法进行流量样本的调度收集；步骤二、构建检测模型：以步骤一形成的流量样本数据集为检测模型的输入，所述的检测模型为全局比对Needleman‑Wunsch算法；步骤三、模型更新：比较当前收集到的新样本窗口与前次的旧样本窗口，检测是否出现了概念漂移；如果出现了概念漂移，对步骤二构建的检测模型进行更新，否则不更新。能够通过流量收集模块更好的收集实时流量用于概念漂移的检测，并更新检测模型提高检测率。

摘要： 本发明提供一种基于关联度对齐的时序数据概念漂移适配方法，对分布不同的时序数据进行分析并快速建立量化模型，从数据分布对齐角度构建基于关联度匹配的时序预测，从损失函数可微分角度设计蒙特卡洛求解参数，可对不同工况下的不确定时序信号精准地预测。本发明复杂度低，计算周期短以及可移植性高。且利用全面分析时序信号所含信息，为不确定环境下存在概念漂移下系统的安全和维护提供科学分析依据，提高网络对未来复杂时刻的预测能力。通过动态参数寻优网络，弥补专家经验的缺失，鲁棒性强，短时间内实现未来数据的预测，降低概念漂移造成的社会危害。

摘要： 本发明公开了一种基于概念漂移检测的金融交易欺诈识别方法、设备及存储介质。本发明首先将金融交易数据看作流数据，将金融交易流数据划分为等大小的数据块，在每个数据块中继续划分，得到一定量的数据子块。然后基于数据子块训练得到一个流数据快速决策树分类模型。进而，评估该模型在连续数据子块上的分类错误率。同时，数据子块中的样本均值和样本方差的稳定性被用来评估金融交易流数据分布的稳定性。最后，通过统计量在连续数据子块上的置信区间求交集，识别出金融欺诈行为。本发明通过三个统计量在连续金融交易数据上的置信区间求交集，可以有效地降低概念漂移的检测迟延，从而实时地识别出金融交易数据中的欺诈行为。

摘要： 本发明公开了一种基于散度和EWMA的概念漂移检测方法，目的是通过衡量划分的滑动窗口之间的数据分布差异来检测数据流是否产生概念漂移，其步骤为：1、从数据流中划分滑动窗口，并基于窗口数据来构建该窗口的数据分布函数。2、用Jensen‑Shannon散度来衡量滑动窗口之间数据分布的差异。3、通过EWMA(指数加权移动平均)的假设检验方式来判断是否产生概念漂移，并在检测到概念漂移后重新训练新的分类器来适应后续的数据。

摘要： 本发明公开了一种基于M‑WU概念漂移检测的废旧手机动态定价方法，属于机器学习与数据挖掘领域。本发明采用i‑cart决策树作为动态定价模型，采用M‑WU方法进行概念漂移检测。首先，模型采用主成分分析法选出影响定价的关键特征；其次,建立基于决策树的增量学习模型，实现对于废旧手机的动态定价；最后，设计基于M‑WU检验的概念漂移检测算法，实现对样本数据的漂移检测。本发明可以很好地提高废旧手机定价准确性。