熵幂不等式

摘要

熵幂不等式是信息理论中一个重要的不等式，在某些信道编码或者信源编码方面都有应用。本文主要研究了熵幂不等式，总结了连续随机变量熵幂不等式的等价命题及其不同的证明方法，给出了取值于整数剩余类环Zq的离散随机变量的熵幂不等式。全文包括以下四个部分:
　　第一章介绍了熵幂不等式的背景知识及其具体应用;
　　第二章给出了一些信息论中基本概念，并且介绍了连续随机变量的熵幂不等式的等价命题及其离散随机变量的熵幂不等式的各种类型;
　　第三章总结了连续随机变量的熵幂不等式的三种证明方法，并且研究讨论了Sato不等式，给出关于Sato不等式成立更弱的条件;
　　第四章研究讨论了取值于整数剩余类环Zq的离散随机变量的熵幂不等式，并且给出了该离散随机变量的熵幂不等式的结论。

目录

声明

摘要

第一章 引言

第二章 基本概念

2．1 基本信息量的定义

2．2 连续随机变量的熵幂不等式

2．3 离散随机变量的熵幂不等式的各种类型

第三章 连续随机变量的熵幂不等式的各种证明

3．1 用Fisher信息不等式来证明连续随机向量的熵幂不等式

3．2 用MMSE来证明连续随机向量的熵幂不等式

3．3 用互信息不等式来证明连续随机向量的熵幂不等式

3．4 对Sato不等式的研究

第四章 取值于整数剩余类环Zq的离散随机变量的熵幂不等式

参考文献

致谢

个人简历