一种考虑信息项相似度的信息熵计算方法

摘要

本发明公开了一种考虑信息项相似度的信息熵计算方法，其包括计算不同信息项之间的相似度，评估每一个信息项的出现概率，基于信息项出现概率和信息项之间的相似度计算信息熵。与传统不考虑信息项之间相似度的信息熵计算方法不同，本发明中的信息熵计算方法具有如下特点：如果所有信息项之间完全不相似，则采用本发明方法计算的信息熵等于传统熵；如果两个信息项完全相似，且其他信息项之间完全不相似，则采用本发明方法计算的信息熵等于把这两个完全相似的信息项合并为一个信息项后的传统熵；如果所有信息项之间完全相似，则采用本发明方法计算的信息熵等于零。本发明中的信息熵计算方法能够更为准确的评估一组具有相似度的信息项具有的信息熵。