什么是信息量?

摘要

<正> 信息量是信息论中的重要概念,是指一个事件发生时所消除的不确定性的量度.例如,某初一(1)班新生第一次到学校,不知道自己的班级是哪一个教室,这个学校的24个教室都可能是初一(1)班的教室,对这个学生来说,哪个是自己班级的教室就是一个不确定性的问题.如果该生看到黑板上公布初一(1)班在二楼第1教室,就消除了这个问题的不确定性,这就是说,他得到了一定的信息量.所以,在为某个事件所消除的不确定性的量度,就是这个书件的信息量.信息量是事件发生概率的单调减函数,记作H(x).如果一事件集合中各事件是等可能即等概率的,那么信息量可按下式计算:H(x)=logN=-logP