多维二态联合概率分布及信息传输理论

摘要

根据只取2个值(二态)的2个随机变量统计独立与(线性)不相关等价的原理,推导出2个随机变量只取2个值的联合概率分布的完整表达形式,将其原理推广到多维二态联合概率分布的情况,给出了一个多维描述方法.当给出各边缘分布,可计算出各相关系数的取值范围,再确定联合分布列;经过仿真验证了此方法的有效性.将得到的表示形式应用在数据信道通信的分析中,用信道两端的相关系数来描述输入输出的信息耦合,对信息理论是一个很好的补充.该方法与信息论中的平均互信息、数据处理定理相对应,得到非常美观的公式及非常理想的特性.