带有稀疏化机制的核自适应滤波算法研究

摘要

核自适应滤波器（kernel adaptive filter，KAF）作为一类新型的自适应滤波器（AF，adaptive filter），它借助于核方法的手段使得滤波器的学习能力和泛化能力得以进一步增强。然而，KAF在应用过程中会有较大的计算量，同时对设备的存储要求较高。为了应对这一难题，研究者们提出了不同类型的稀疏化办法。作为目前最受欢迎的稀疏化办法，在线矢量量化（VQ，vector quantization）的策略已被广泛应用于KAF以抑制其线性增长的网络结构问题，因此产生了一类量化的核自适应滤波器（QKAF，quantized kernel adaptive filter）。本论文以量化的核最小均方（QKLMS，quantized kernelleast mean square）算法为代表，研究了QKAF中存在的不足，从而提出改进的办法并进一步探索新的QKAF。这将对非线性自适应滤波器的理论发展提供坚实的应用支撑，也将进一步促进KAF的实时应用。本文的工作集中在以下几个方面。
　　（1）结构上的改进。为了同时提高QKLMS的收敛速度和滤波精度，提出了一种凸组合的结构，因而产生了凸组合的量化核最小均方（CC-QKLMS，convex combination of quantized kernel least mean square）算法。由于结合了在线VQ办法，CC-QKLMS自然避免了线性增长的网络结构问题。此外，这里组合参数为核宽度，因而只要滤波过程采用了高斯核，这种建议的凸组合结构就能够很容易扩展到新的滤波器中。
　　（2）更新过程的改进。考虑到QKLMS在系数更新的过程中，仅仅使用了当前的预测误差，而忽略了当前输入与“字典”中与其最近的中心的差异性。梯度下降办法被用来执行更新“字典”中与当前元素最近的中心对应的系数，产生了改进的量化核最小均方（M-QKLMS，modified quantized kernel least mean square）算法。不难发现，在M-QKLMS更新过程中引入了一个基于核的加权操作，它反映了当前输入与“字典”中与其最近的中心的差异性，从而利用了更多的信息，能够提高滤波精确性。
　　（3）代价函数的改进。基于均方误差（MSE，mean square error）准则的QKAF在面对非高斯噪声环境时往往会出现一定程度的性能退化。为了提高QKAF应对复杂噪声的能力，这里以最大相关熵准则（MCC，maximum corren-tropy criterion）作为代价函数，推导出了量化的核最大相关熵（QKMC，quantized kernel maximum correntropy）算法。作为类似QKLMS的简单版本，QKMC表现出了良好的应对脉冲噪声等复杂噪声的能力，理论分析证明了其能够实现比QKLMS更高的滤波精度。
　　（4）综合更新过程与代价函数两方面，基于双边梯度的QKMC（QKMC-BG，quantized kernel maximum correntropy based on bilateral gradient）被提出来。QKMC-BG在更新“字典”中与当前输入最近的中心所对应的系数的同时，会同步更新当前的期望信号。这样一来，QKMC-BG考虑了对于输入空间中两个很近的元素，它们对应的期望输出可能离的很远，从而作出必要的调整。作为固定预算版本的QKMC-BG，QKMC-BG-FB（QKMC-BG with fixed budget）能够实现最终的网络大小可控的目的，又不会造成大的精度丢失。

目录

声明

第一章 引言

1.1 选题背景与意义

1.2 国内外研究现状

1.3 本文的组织结构

第二章 核自适应滤波算法基础

2.1 核方法相关

2.2 核自适应滤波器

2.3 本章小结

第三章 量化的核最小均方及其凸组合算法

3.1 常用的稀疏化准则

3.2 量化的核最小均方算法

3.3 凸组合量化的核最小均方算法

3.4 仿真实验

3.5 本章小结

第四章 改进的量化核最小均方算法

4.1 算法推导

4.2 均方收敛分析

4.3 仿真实验

4.4 本章小结

第五章 基于最大相关熵准则的量化核自适应滤波算法

5.1 核最大相关熵算法

5.2 量化的核最大相关熵算法

5.3 基于双边梯度的量化核最大相关熵算法

5.4 固定预算的QKMC-BG

5.5 仿真实验

5.6 本章小结

第六章 总结与展望

6.1 总结

6.2 展望

参考文献

致谢

攻读硕士期间已发表的论文

攻读硕士期间参加的科研项目