多示例学习

摘要： 多示例学习(Multi-Instance Learning,MIL)研究对象的内部结构比单示例学习更加复杂.已有的MIL方法大都基于原始空间中的实例进行包映射,但这些方法通常忽略包的内部结构信息,难以保证所选实例与包在新特征空间中的关联性.提出一种多示例学习的两阶段实例选择和自适应包映射(TAMI)算法.首先,实例选择技术根据包中实例的密度值和关联性,挖掘包内结构特征,选取实例原型;其次,实例选择技术选取具有峰值密度的实例原型作为代表实例;最后,自适应包映射技术通过定义新的映射函数将包转换为单向量进行学习.实验利用显著性检验从统计学的角度验证了TAMI在图像检索、文本分类等基本数据集上的有效性.结果表明,TAMI在图像检索和医学图像数据集上取得了比其他MIL算法更好的效果,并在文本分类数据集上表现良好.

摘要： 针对许多多示例算法都对正包中的示例情况做出假设的问题,提出了结合模糊聚类的多示例集成算法(ISFC)。结合模糊聚类和多示例学习中负包的特点,提出了“正得分”的概念,用于衡量示例标签为正的可能性,降低了多示例学习中示例标签的歧义性;考虑到多示例学习中将负示例分类错误的代价更大,设计了一种包的代表示例选择策略,选出的代表示例作为基分类器的训练子集;结合各基分类器的结果,确定包的最终标签。ISFC算法对正包中正示例的比例未做任何假设,同时能够解决正包数量多、负包数量少情况下的类别不平衡问题。实验结果表明,ISFC在药物分子活性预测、图像分类、文本分类任务上都取得了较好的分类效果。

摘要： 诊断抑郁症的传统方法是通过面对面的评估和交谈。但是,许多患有抑郁症的患者不愿意在早期阶段就医,从而使病情恶化。为了在早期判断抑郁症患者的情况,提出一种利用社交媒体文本信息的时间序列特征和多示例学习的检测模型,考虑到抑郁症状不会立即出现,所以时序样本的使用显得非常重要,因此使用无监督LSTM提取时间序列特征,训练分类器实现二值分类,并使用多示例学习模型来解决不平衡样本问题。首先采用朴素贝叶斯分类器、随机森林、多元社会网络学习和多式抑郁词典学习作为基准,随后利用具有无监督LSTM时间序列功能的多示例学习来更准确地检测抑郁症。在MDDL数据集的基础上,整理出200个调查对象合计7946条推文信息,并按照训练测试比为8:2的实验得到结果如下:在准确率、精度,召回率和F1得分上分别达到75.0%、76.0%、73.0%、74.5%。结果表明,通过社交媒体中的文本数据,采用机器学习进行早期抑郁症检测是可行的。此外,通过大量的消融实验也证实,采用时间序列特征的方法要比传统的基准模型方法能够获得更好的性能。

摘要： 多示例学习是一种典型的弱监督学习框架,其样本示例包是一种集合类型数据,学习过程只需要包的粗粒度类别标记,能较好适应较难获得细粒度标记的应用问题。随着近几年深度学习的快速发展,深度多示例学习逐渐引起了研究者的兴趣。对多示例学习算法的研究进展进行综述,首先依据算法的层次结构将其划分为浅层模型和深度模型;然后对两类模型的相关算法进行回顾和总结,重点分析深度多示例学习模型在池化方式上的差别,并阐述以集合型数据为训练样本的模型所需满足的对称函数基本定理及其在深度多示例学习中的应用;最后通过实验对比分析不同算法的性能,且着重剖析其可解释性,并指明未来有待深入研究的问题。

摘要： 经过训练的分类模型可以准确识别出图像中的具体对象,找出“图像中有什么”,但针对诸如“图片描述了什么”的抽象概念标签的图像分类问题研究较少,研究难度也更大。抽象概念标签不属于图像中包含的任何一个具体的对象,而是由许多不同的概念混合在一起,所以直接学习这个抽象标签相当困难。为了解决这类抽象标签的图像分类问题,借助多示例学习方法思路,设计并实现了多示例两阶段模型。该模型由两个阶段构成,第一阶段基于Yolo模型修改,实现从图像中快速、精准提取出具体对象,第二阶段构建多层感知机,利用第一阶段模型的结果最终得到图像的分类抽象概念。最后,通过一个具有示范性的实验案例,验证多示例两阶段模型可以利用多示例学习有效解决抽象标签的图像分类问题,展示了多示例两阶段模型的可行性。

摘要： 多示例学习中的数据是由包含多个示例的包所组成的,样本之间真实的相似性被正包中大量的假正例所掩盖。为了拟合多示例数据真实的分布情况,提出了一种结合Fisher编码的多示例聚类算法MIFK-means。首先通过Fisher编码在保留数据语义的同时对多示例数据进行归一化降维,然后通过示例层次的K-means聚类算法揭示多示例数据的分布情况。在基准数据集上的实验表明,MIFK-means算法的聚类效果明显好于包层次的多示例K-means聚类算法,分类精度也可以和现有的经典多示例算法相媲美。

摘要： 近年来多示例学习(multi-instance learning,MIL)被广泛应用于复杂数据问题中,但现有的多示例学习算法往往在封闭静态环境中工作良好,其所处理的类别数量也恒定不变.然而在现实应用当中,常会有新的类别不断地加入到系统当中,例如科学的发展中不断出现新的议题、社交媒体中不断出现新的话题.由于存储限制或保密协议等原因,旧数据可能随着时间的发展变得不可见,这使得直接学习新的类别时模型会忘记曾经学过的知识.增量学习则被用于解决上述问题.因此,在多示例学习设定下进行增量数据挖掘十分有意义,然而目前针对多示例学习下的增量数据挖掘的工作十分稀少.提出一个基于注意力机制和原型分类器映射的多示例增量数据挖掘方法,通过注意力机制选择性地将多示例包的示例汇合为统一的特征表示,然后为每个类别生成类别原型表示并存储下来.类别原型通过原型分类器映射模块得到无偏鲁棒的类别分类器,并通过上一个增量阶段生成的分类器的预测结果对新增量阶段生成的分类器的预测结果进行知识蒸馏,使得模型能够在多示例学习下以极低的存储很好地保留模型的旧知识.实验结果表明:提出的方法能够有效地进行面向增量分类的多示例学习.

摘要： 语音内容分类主要用于对大批量信号进行自动处理,并基于用户的兴趣选择语音文件。据此提出了一种新的分类方法,在多示例学习框架下,使用无监督语音表示学习对大规模未标记数据进行预训练,得到用于提取语音深层表示的预训练模型,提取的语音表示作为下游分类器的输入。真实语音数据集上的实验结果表明,多示例学习在处理语音分类问题上具有优势,提出的方法能够提高分类的效果,在平均准确率指标上优于3种基线方法。

摘要： 为解决长文本的谣言检测问题,以食品健康领域的长文本谣言为例,提出一种基于多示例学习的长文本谣言检测方法。将带有明显段落结构的长文本作为包,以文章段落作为示例,结合文本卷积神经网络与注意力机制建立MI-TCNNSA模型。实验结果表明,该模型在准确率、召回率与F1得分等通用指标取得优异成绩,高于传统通用方法。通过多示例学习改进后的短文本谣言检测方法与原方法对比,验证了多示例学习在长文本谣言检测的有效性,也为该问题提供一种思路。

摘要： 视频异常检测旨在检测视频中的表观异常和运动异常,多示例学习(Multiple Instance Learning,MIL)是目前较先进的弱监督视频异常检测方法,但是MIL提取的C3D特征不能同时描述视频中表观和运动信息,这导致异常检测性能较低.本文提出了利用注意力机制的多示例学习视频异常检测算法(A-MIL),首先提取视频数据的三维特征C3D和光流特征图,并利用Conv-AE提取光流图的特征向量,然后输入至3层全连接神经网络中得到每个示例每种特征的异常分数,接着通过注意力机制获取特征的权重参数,得到最终的示例分数,最后利用改进的MIL排序算法进行模型训练并设置阈值,测试时将异常分数与阈值相比较以判断异常.在公开数据集UCF-Crime上的实验结果表明,本文方法的AUC指标提升了2.79%.

摘要： 多示例学习中,包空间特征描述包容易忽略包中的局部信息,示例空间特征描述包容易忽略包的整体结构信息,针对上述问题,本文提出了融合包空间特征和示例空间特征的多示例学习方法.首先,建立图模型表达包中示例之间的关系,将图模型转化为关联矩阵以构建包空间特征.其次,筛选出正包中与正包的类别的相关性比较强的示例和负包中与正包的类别的相关性比较弱的示例,将示例特征分别作为正包和负包的示例空间特征.最后,用Gaussian RBF核将包空间和示例空间特征映射到相同的特征空间,采用基于权重的特征融合方法进行特征融合.在多示例的基准数据集及公开的图像数据集和文本数据集上对本文方法进行了实验验证,结果表明:本文提出的方法提高了分类效果.

摘要： 传统的跟踪算法在定位目标时易受目标形变与背景噪声的影响,从而在跟踪过程中产生偏移且难以恢复.针对这一问题,在多示例学习(MIL)跟踪原理基础上,分析了跟踪偏移的原因,并在粒子滤波框架下,提出一种粒子滤波结合MIL的多尺度红外目标跟踪算法.该算法首先通过二阶自回归模型对初始粒子进行预测,并用在线提升算法强化贝叶斯分类器.由此,将分类器的响应作为重要性采样粒子的权值,从而估计出目标位置.为了验证该算法的有效性,采用三组红外目标序列图像进行实验,并与MIL、改进的模板匹配和Mean-Shift等算法作比较.实验结果表明,该算法在主观视觉和客观评价指标方面性能较优,其具有较强的抗干扰性.

摘要： 基于多示例学习的跟踪算法(Multiple Instance Learning based Track,MILT)是视觉跟踪领域近年最重要的算法之一,该算法对跟踪过程中样本标签的不确定性进行了研究,并基于多示例学习避免了跟踪中的漂移,实现了鲁棒的跟踪.但MILT的运算实时性较差,且通过实验发现MILT的特征选择基本无效,为此本文提出一种改进的高速算法.算法省略了原始算法中的特征选择步骤,极大提高了算法的运行速度.同时,为了处理遮挡,设计了新的分类器更新策略.对多个序列的实验表明,本文高速算法运算速度为原始算法的6倍左右,且具有与原始算法基本相同的跟踪精度和鲁棒性.

摘要： 目标追踪是计算机视觉领域一个非常重要的研究课题.模板漂移使得实现快速可靠的目标追踪依然是一个非常艰巨的任务.近年来提出的多示例学习算法在一定程度上能够克服模板漂移问题.然而,在线学习需要获取足够多的有用数据才能达到稳定的追踪效果,但是这却增加了算法的复杂度.为了解决这一问题,本文在压缩感知理论的基础上,运用随机观测的方法对多尺度图像特征进行降维,提取的这些低维特征中包含大量的有用信息.因此,提出的算法是先利用压缩感知理论提取目标特征之后,再使用在线多示例学习算法分类器对这些特征进行分类从而实现目标的稳定跟踪.通过对不同的图像序列进行实验,结果表明基于压缩感知的在线多示例学习算法对实时的目标追踪有很好的适应性.

摘要： 本文在MILES算法的基础上，提出了一种利用视觉关键词辞典为特征空间的多示例学习算法，并在示例判定的过程中结合分割实现了目标检测与提取。该方法采用“Bag of WordS”模型，将图像作为多示例包，表示该图像的若干视觉关键词作为包中示例，并把视觉关键诃辞典作为特征空间，通过对包中示例个数统计将其映射到特征空间中，随后采用1-norm SVM来挑选重要特征同时对图像进行分类;对判定为正的图像进行示例判定，以判定为正的示例作为相应的目标“种子”点，然后进一步结合图像分割结果，实现目标提取。在Caltech101等标准图像集上的实验结果证明了本文方法的有效性。

摘要： 针对目前互联网中存在许多不良信息,本文讨论了基于图像内容的信息过滤技术.论文对图像做基于内容的肤色分割,在肤色区域内提取图像的有效特征,将图像过滤中模糊、抽象的概念学习问题转化为多示例学习问题,在多示例学习框架下来求得敏感图像在特征空间中的目标概念,进而利用此目标概念对图像进行过滤.此外,论文还采用模拟退火算法对多示例中目标概念的求解问题提出了改进,并通过真实的数据对算法有效性进行了验证.

摘要： 由于稠密轨迹对快速不规则运动的鲁棒性较强,近年来基于稠密轨迹的人体运动表征方法越来越多地运用于行为识别等领域.但是由于相机运动造成背景相对运动,对轨迹的提取产生了很大的影响.加入了相机运动估计,为了估计相机运动,用快速鲁棒特征描述符匹配每一帧的特征点.由于人的运动和相机运动不一样,加上了人体检测去除不一致的匹配.通过多示例学习对交互行为进行分类识别.并在UT-Interaction数据集上进行了测试,证明了该方法的有效性.

摘要： 以往的半监督多示例学习算法多是把未标记包分解为示例集合，使用传统的半监督单示例学习算法确定这些示例的潜在标记以对它们进行利用。但该类方法认为多示例样本的分类与其概率密度分布紧密相关，且并未考虑包结构对包分类标记的影响。提出一种基于包层次的半监督多示例核学习方法，直接利用未标记包进行半监督学习器的训练。首先通过对示例空间聚类把包转换为概念向量表示形式，然后计算概念向量之间的海明距离，在此基础上计算描述包光滑性的图拉普拉斯矩阵，进而计算包层次的半监督核。本方法的贡献在于：1) 直接利用未标记包进行半监督多示例学习；2) 算法基于多示例核，提供了对包结构及示例密度分布特征学习的直接支持；3) 提出一种新的衡量包之间差异性的概念—空间海明距离。在多示例学习标准数据集和图像数据集上的实验表明，该算法是有效的。

摘要： 由于多示例学习能够有效处理图像的歧义性，因此本文提出一种基于多示例学习理论(MIML)机器学习的通用目标分类方法。该方法将图像作为多示例包，首先将图像分成四区域，然后分别统计各区域的直方图边界分布，这些直方图分布信息作为示例向量生成测试图像包，使用多示例学习算法(MIML方法)进行学习，并实现通用目标的识别。实验表明，在多类的通用目标分类中。本文的方法比传统的支持矢量机(SVM)分类方法平均分类准确率提高3%。

摘要： 本文利用统计文本分析中的bag-of-words方法,结合多示例学习,提出了一种图像区域物体的分类方法。该方法将区域物体切分若干小图像块,提取区域物体的粗糙语义概念并计算其置信度,再根据粗糙语义概念计算出各种区域物体类型的特征语义概念。通过使用分类器对特征语义概念进行学习,实现了对区域物体的分类。该方法无需准确的图像区域分割结果,只要对图像进行了粗略的区域分割,即可获得很好的区域物体分类准确率。

摘要： 本发明公开了一种基于自动示例选择的端到端多示例学习方法，包括以下具体步骤：（一）、对多示例数据进行采集，并将数据分成若干个多示例数据包，多示例数据包包括若干个示例，且多示例数据包设置为由若干个示例组合成的一组示例集合，多示例数据包上具有标签，示例设置为一个多维向量；（二）、搭建深度多示例网络，深度多示例网络包括示例处理层、示例选择层和分类层；（三）、每个多示例数据包通过深度多示例网络进行处理，通过前向或反向传播进行训练，训练包括深度多示例网络训练和深度多示例网络测试，相比现有技术，本发明可以通过示例选择层自动地选择重要的示例，一方面使得整个深度网络的优化过程可以端到端地进行训练。

摘要： 本发明公开一种基于判别性示例选择多示例学习的恐怖视频识别方法。该方法包括：提取训练视频集中每个视频的视频镜头，针对每个视频镜头选取情感代表帧和情感突变帧表示该镜头；提取对每个镜头的音频和视频特征作为视频示例，组成视频示例集合；从所述视频示例集合中选择出判别性视频示例；计算训练视频集合中每个视频示例与所述判别性视频示例之间的相似性距离，得到特征向量集合；将待识别视频的特征向量与训练视频集合对应的特征向量集合进行稀疏重构，根据重构误差识别视频的类别。本发明提出了一种新的基于判别性示例选择的多示例学习模型应用到恐怖电影场景识别中，该技术具有重要的学术意义和社会意义，并具有广阔的应用前景。

摘要： 本发明公开了一种基于深度学习和多示例学习的高光谱影像分类方法，包括以下步骤：S1：对高光谱影像进行预处理，删去部分冗余的波段；S2：对步骤S1得到的预处理后的高光谱影像进行特征提取，得到示例特征；S3：将步骤S2得到的示例特征映射为图像包的示例特征；S4：对步骤S3得到的图像包的示例特征进行分类。本发明能够提高特征提取效率和分类精度。

摘要： 本发明针对场景图像的两个基本特征：（1）场景图像往往包含复杂语义；（2）人工标注大量的图像需要耗费昂贵人力成本，公开了一种基于主动学习和多标签多示例学习的场景图像标注方法，包括：在有标签图像基础上训练初始分类模型；对无标签图像进行标签预测；计算分类模型可信度；选择不确定性最大无标签图像；专家对该图像进行人工标注；更新图像集合；当算法达到要求时停止。本发明利用主动学习策略，在保证分类模型精确度的同时，大大减少了需要人工标注的场景图像数量，从而降低了标注成本。同时，本发明把图像转化为多标签多示例数据，使图像复杂语义得到合理表示，提高了图像标注的精确度。

摘要： 本发明公开了一种基于自动示例选择的端到端多示例学习方法，包括以下具体步骤：（一）、对多示例数据进行采集，并将数据分成若干个多示例数据包，多示例数据包包括若干个示例，且多示例数据包设置为由若干个示例组合成的一组示例集合，多示例数据包上具有标签，示例设置为一个多维向量；（二）、搭建深度多示例网络，深度多示例网络包括示例处理层、示例选择层和分类层；（三）、每个多示例数据包通过深度多示例网络进行处理，通过前向或反向传播进行训练，训练包括深度多示例网络训练和深度多示例网络测试，相比现有技术，本发明可以通过示例选择层自动地选择重要的示例，一方面使得整个深度网络的优化过程可以端到端地进行训练。

摘要： 本发明公开一种基于判别性示例选择多示例学习的恐怖视频识别方法。该方法包括：提取训练视频集中每个视频的视频镜头，针对每个视频镜头选取情感代表帧和情感突变帧表示该镜头；提取对每个镜头的音频和视频特征作为视频示例，组成视频示例集合；从所述视频示例集合中选择出判别性视频示例；计算训练视频集合中每个视频示例与所述判别性视频示例之间的相似性距离，得到特征向量集合；将待识别视频的特征向量与训练视频集合对应的特征向量集合进行稀疏重构，根据重构误差识别视频的类别。本发明提出了一种新的基于判别性示例选择的多示例学习模型应用到恐怖电影场景识别中，该技术具有重要的学术意义和社会意义，并具有广阔的应用前景。

摘要： 本发明公开了一种基于深度学习和多示例学习的高光谱影像分类方法，包括以下步骤：S1：对高光谱影像进行预处理，删去部分冗余的波段；S2：对步骤S1得到的预处理后的高光谱影像进行特征提取，得到示例特征；S3：将步骤S2得到的示例特征映射为图像包的示例特征；S4：对步骤S3得到的图像包的示例特征进行分类。本发明能够提高特征提取效率和分类精度。

摘要： 本发明公开了一种基于加权多示例学习的加权极限学习机视频目标跟踪方法,主要解决现有技术中跟踪准确性差的问题，其实现步骤是：1.初始化类哈尔特征模型池并构造多种特征模型块，设置加权极限学习机网络参数；2.在当前帧提取训练样本及其对应于不同特征模型块的特征块；3.计算加权多示例学习权值；4.构建对应于不同特征块的多个网络并选择包的相似性函数值最大的网络与相应的特征模型块；5.计算网络全局输出权值；6.在下一帧提取检测样本及其对应于选择的特征模型块的特征块；7.使用已选择的网络对检测样本进行分类并得到下一帧目标位置；8.重复以上步骤，直到视频结束。本发明提高了跟踪的准确性，可实现对目标的鲁棒跟踪。

摘要： 本发明提出一种基于深度学习的多示例学习方法，其通过一系列的数据填充和分割手段，把多示例样本转化为等大小的特征矩阵，使用卷积神经网络进行有监督学习并分类，本发明能够发现多示例数据集中的隐含抽象概念，对数据集的误差有很好的容忍能力，有良好的泛化能力。

摘要： 本发明针对场景图像的两个基本特征：（1）场景图像往往包含复杂语义；（2）人工标注大量的图像需要耗费昂贵人力成本，公开了一种基于主动学习和多标签多示例学习的场景图像标注方法，包括：在有标签图像基础上训练初始分类模型；对无标签图像进行标签预测；计算分类模型可信度；选择不确定性最大无标签图像；专家对该图像进行人工标注；更新图像集合；当算法达到要求时停止。本发明利用主动学习策略，在保证分类模型精确度的同时，大大减少了需要人工标注的场景图像数量，从而降低了标注成本。同时，本发明把图像转化为多标签多示例数据，使图像复杂语义得到合理表示，提高了图像标注的精确度。