基于SVM的直推学习和模型转换及其在企业信用评估中的应用

摘要

企业信用评估是银行贷款业务经营的核心问题，评估结果对银行制定决策和获取利益具有重大意义。信用评估的可靠性、安全性和健全程度直接关系到贷款业务的成败。 国内银行的信用评估方法目前还停留在传统的比例分析阶段，因此亟需建立一套更为科学的评估模型。目前该领域已经取得了一定的研究成果，但是由于我国的资信评估行业起步较晚，历史积累的样本少，应用传统的统计分析手段难以取得理想的效果，而神经网络等常用的机器学习算法在小样本情形下的泛化能力无法得到保证。针对这一问题的现状，本文引入了一种基于小样本学习理论的标准算法——支持向量机(SuportVector Machine，SVM)，该方法特别适合于此类样本较少的学习问题。 本文的研究主要包括两方面内容： 一，本文提出一种改进的直推式支持向量机(Transductive SVM，TSVM)。TSVM是标准SVM在半监督学习问题上的扩展，但是传统的TSVM算法存在训练速度慢、回溯式学习多和性能不稳定的缺点。为此本文在直推式学习中融入后验概率(PostProbability)的思想，得到了基于后验概率的直推式支持向量机(PPTSVM)，可有效解决上述问题。在企业资信样本上的对比实验表明PPTSVM在分类准确率和计算效率上优于TSVM。 二，企业信用评估是一个多分类问题，而支持向量机在本质上是针对二分类问题设计的。因此本文对支持向量机多分类的扩展进行了研究，提出了两种解决方案：一是通过改变问题的表述方式，将多分类问题表述为二分类问题，提出了一种基于模型转换的SVM多分类方法；二是提出了一种基于聚类的二叉树结构生成算法，以类间可分性为度量，通过聚类的方式生成二叉树的节点，从而在每个决策节点将可分性最强的两个大类分开。实验结果表明，以上两种算法对多分类问题的处理可靠有效。

目录

文摘

英文文摘

声明

前言

第一章企业信用评估研究概述

1.1企业信用评估的发展状况

1.2商业银行不良贷款问题

1.3企业信用评估的研究现状

1.3.1信用要素分析法

1.3.2百分制计分方法

1.3.3信用模型分析法

1.4本文的主要工作

第二章支持向量机的理论基础

2.1支持向量机(SVM)简介

2.1.1最大间隔超平面

2.1.2软间隔分类超平面

2.1.3支持向量机

2.1.4内积核函数的选择

2.2 SVM多分类方法

2.2.1一对多

2.2.2一对一

2.2.3有向无环图

2.2.4二叉树方法

2.2.5一次性求解方法

2.3 SVM的优点

2.4 SVM的相关研究概述

第三章后验概率直推式SVM在企业信用评估中的应用

3.1后验概率支持向量机

3.1.1支持向量机输出后验概率的方法

3.1.2 Sigmoid函数参数的估计

3.2直推式支持向量机

3.2.1直推式学习概念的提出

3.2.2直推式支持向量机

3.2.3改进直推式支持相量机

3.3后验概率直推式支持向量机

3.4后验概率直推式$VM的应用

3.4.1企业信用等级的设置

3.4.2企业信用评估的指标体系

3.4.3待选指标集及其意义

3.4.4删除奇异样本点

3.4.5输入指标归一化和输入样本归一化

3.5实验结果和分析

第四章SVM多分类方法在企业信用评估的应用

4.1基于模型转换的$VM多分类方法

4.1.1构造类内子空间与类间子空间

4.1.2基于模型转换SVM多分类学习方法

4.2基于叉树聚类的SVM多分类方法

4.2.1二叉树生成结构分析

4.2.2可分性的度量

4.2.3聚类过程产生二叉树的生成结构

4.2.4对核函数的扩展

4.3企业信用评估多分类模型

第五章总结与展望

参考文献

攻读硕士学位期间发表的论文

致 谢