有限個のアルファベット \(x_1,\ldots,x_n\) を符号化する場合に, アルファベット \(x_i\) を符号化したときの符号長を \(L(x_i)\) とする. この符号は,符号語列を復号して,元のアルファベット列を復元できる一意に復号可能な符号 (uniquely decodable code) であるとする. ここで,符号が語頭符号となるには,次のKraftの不等式が成立ことが必要十分条件: \[\sum_{i=1}^n 2^{-L(x_i)}\le 1\] ここで,\(P(x_i)=2^{-L(x_i)}\) とすると,\(P(x_i)\) は劣確率分布となる.
-- しましま