基于信度网的不确定性推理、学习与分类研究

摘要

信度网是人工智能中不确定性知识表达和推理的核心方法。本论文详细研究了信度网精确推理、信度网学习和信度网分类有关内容。 信度传播算法（BPA）是一种广泛用于树状信度网的精确推理算法。由于其局部计算特性，每个信度网节点可视为一个处理器进行并行运算。本文提出了一种新的BPA计算模型，可以均衡的将计算负荷分配到实际的多处理器计算机上，从而得到一种高效的并行推理算法。 一般信度网的精确推理是一个NPC问题。算法的主要困难之处在于如何将一个图三角化分解并构造一个最小权join tree。本文提出一种新的三角化算法：MsLB-Triang。该算法利用三角化图的Dirac性质和LB-单纯性质，可以计算具有更小的总权和总填充边的三角化分解，效果优于目前普遍采用的最小权启发式搜索算法。 通过很多方法，可以从数据学习信度网结构。在利用遗传算法进行信度网结构学习时，有向无环图（DAG）的内部表示对学习效率具有重要的影响。直观的方法在整个DAG空间中搜索最优解，一个明显的潜在问题是后代中将大量出现不可行解（例如，有环图）。本文给出一种新的编码方案，与邻接矩阵编码具有相同的空间复杂度。采用本方案编码DAG，可以保证交叉和变异操作产生的后代全部合法，从而提高了遗传算法学习信度网的效率。 信度网学习可以采用批量学习和增量学习两种模式。增量学习是在现有结构上，利用新到达的数据改进信度网的结构。本文提出一种基于两条增量更新律和一个选择指标的增量学习算法。算法依据新的数据反复调整信度网结构和参数，并根据选择指标确定最优的后代结构。数值实验表明算法具有较好的学习性能。 朴素贝叶斯分类器因其计算效率和分类精度高而广泛的用于机器学习中。然而，在现实世界中，很少有问题能够满足朴素贝叶斯假设，从而使得分类效果受到影响。很多分类方法适当放松朴素贝叶斯假设，提高了分类的精度，但是可能导致计算性能有较大的下降。本文基于粗糙集理论探索特征加权技术对朴素贝叶斯分类器的改进。特征加权系数直接从属性的粗糙上近似集导出，可以看作是计算每种类别的后验概率时该属性对于此计算的影响度。实验结果表明新的特征加权分类器算法（FWNB）可以达到TAN、BNTree等精心设计的分类器的分类精度，同时计算效率和所需资源显著优于这些算法。 计算机工程中，对于某些关键软件的运行状态进行自动实时监控是一个重要的应用领域。同时，在软件出现运行故障时，也需要某种方式引起系统管理员的注意。基于CPU内置的硬件性能计数器和朴素贝叶斯方法，作者设计了一种软件状态诊断模型。同时，开发了名叫“SoftDiagnose”的软件监控系统。数值实验表明，仅仅基于少数CPU性能数据，此模型即可在变化的环境中识别超过99％的未知软件故障，例如资源不足，病毒入侵，等等。