統計力学的手法に基づく階層的ランダム符号の性能解析

摘要

情報理論と物理学における統計力学の関係はこれまでに数多く指摘されているが，本稿では近年Merhavにより調べられた階層構造を持つランダム符号に関する統計力学的性能解析法について議論する.統計力学的見地ではランダム符号はランダムエネルギー模型と呼ばれる可解なスピングラスの模型として捉えられることが知られている.それを踏まえ，本研究では前述の階層的ランダム符号が一般化離散ランダムエネルギー模型という可解なスピングラスの模型と完全に対応することを述べ，かつこの対応関係を利用することでデータ圧縮（情報源符号化）・通信路符号化における階層的ランダム符号の性能を直接かつ系統的に調べることが可能であることを示す.%The relation between signal processing in information science and statistical physics has been intensively discussed. In this article we deal with the random code ensemble with hierarchical structure recently investigated by Merhav. It is known that random code ensemble is closely related to a solvable spin-glass model in statistical physics, called random energy model. Here we show the hierarchical random code ensemble can also be directly mapped to another solvable spin-glass model, generalized random energy model with discrete energy. By investigating this model we show that the performance of hierarchical random code ensemble regarding data compression and channel coding is directly and systematically accessible.