基于一致性预测器的置信多标记学习研究与应用

摘要

多标记学习（Multi-Label Learning）是指每个对象由一个示例描述同时具有多个类别标记，其学习任务是将所有合适的类别标记赋予未见示例，现已逐渐成为国际机器学习领域一个重要的研究热点。
　　然而，当前的多标记分类算法研究大多以提升测试集总体准确率为主要研究目标，忽视了判断结果的置信度问题，不能有效地给出预测结果的可靠性。在模式识别、医疗诊断、金融评估等高风险领域里，使用者更关心算法对新示例的预测在多大程度上是正确的，这将帮助使用者有足够的把握去做出决定。
　　针对多标记学习预测结果的置信度问题，提出将近些年发展起来的一致性预测器（Conformal Predictor）引入到多标记学习框架中，完成的主要工作有：
　　（1）提出了三种基于一致性预测器的多标记学习模型。分析多标记学习和一致性预测器的契合点，提出三种多标记一致性预测器模型：IR-MLCP、BR-MLCP和PS-MLCP。通过对比三种 MLCP模型原理指出，IR-MLCP和BR-MLCP不考虑标记间的关联性并且引入 CP框架时对校准性进行了重新定义，只有 PS-MLCP模型保留了标记间关系且完整的引入 CP。
　　（2）提出了三种 PS-MLCP模型的算法。基于 K近邻算法思想设计奇异值度量函数，进而提出三种 PS-MLCP模型的算法：PS-MLCP-KNN、PS-MLCP-MerKNN和PS-MLCP-PosKNN。通过在标准数据集上的实验，验证了三种算法的可校准性和域预测的效率。与一些常用多标记学习算法的对比表明，本文提出的三种算法不仅分类效果有所提高，而且能够为预测结果提供可校准的置信度。
　　（3）将多标记一致性预测器模型成功应用于中医慢性疲劳多证素组合诊断问题中。实验表明，PS-MLCP-MerKNN和PS-MLCP-PosKNN算法在数据集上的预测结果准确率比较高，且附带有置信度评估，对慢性疲劳证素组合诊断的可靠性具有很好的实用指导意义。
　　最后，PS-MLCP模型的算法效率等是下一步的研究方向。

目录

封面

声明

中文摘要

英文摘要

目录

第1章 引言

1.1 选题背景及研究意义

1.2 国内外研究现状

1.3 论文内容和结构安排

第2章 一致性预测器算法原理

2.1 一致性预测器算法原理

2.2 样本奇异值映射函数设计

2.3 本章小结

第3章 基于一致性预测器的多标记模型研究

3.1 IR-MLCP模型

3.2 BR-MLCP模型

3.3 PS-MLCP模型

3.4 模型的比较和评价

3.5 本章小结

第4章 基于PS-MLCP模型的算法

4.1 PS-MLCP-KNN算法

4.2 PS-MLCP-MerKNN算法

4.3 PS-MLCP-PosKNN算法

4.4 实验验证

4.5 本章小结

第5章 基于一致性预测器的多标记模型在中医上的应用

5.1 中医多证素组合诊断简介

5.2 MLCP在慢性疲劳中医诊断上的应用

5.3 实验结果和分析

5.4 本章小结

第6章 总结与展望

6.1 研究工作总结

6.2 未来工作展望

参考文献

致谢

在学期间发表的学术论文与研究成果