基于向量值再生核Hilbert空间的回归学习

摘要

现代信息技术主要依托数据分析与数据挖掘，机器学习以及学习理论在数据分析中占有重要地位。由于正则化算法的研究与维数缩减、数据挖掘、图像处理等的密切联系，其理论的研究与突破，具有重要的理论意义与应用价值。本文主要研究基于向量值的正则化回归学习算法。
　　本文研究了基于向量值再生核 Hilbert空间的回归学习算法。我们的想法是将标量值函数的学习理论拓展到向量值函数的学习。设输出数据来自Hilbert空间Y，由L(Y)-再生核生成的再生核 Hilbert空间由X→Y的某些连续映射构成。通过证明向量值积分算子LK的性质，利用积分算子的技巧研究正则化回归学习的一致性。
　　在基于向量值回归学习算法的一致性分析中，主要的创新点有两个：第一，证明了基于向量值核的积分算子的性质；第二，采用积分算子的技巧研究基于向量值的正则化回归学习算法的误差分析与学习速率，从而证明了基于向量值再生核 Hilbert空间的正则化算法的一致性。

目录

封面

声明

目录

中文摘要

英文摘要

第一章 绪 论

1.1 统计学习理论

1.2 再生核Hilbert空间与积分算子、样本算子

1.2.1 再生核Hilbert空间

1.2.2 积分算子

1.2.3 样本算子

1.3正则化算法

1.3.1正则化

1.3.2正则化回归算法

1.3.3 正则化条件

第二章 向量值再生核Hilbert空间

2.1 引言

2.2向量值再生核Hilbert空间

2.3 基于向量值再生核的积分算子

第三章 基于向量值核的正则化回归学习的误差分析

3.1 引言

3.2算法优化解的解析表达式

3.3误差分解

3.4 逼近误差的估计

3.5样本误差的估计

第四章 总结与展望

4.1总结

4.2进一步工作展望

参考文献

致谢

附录