相互情報量 (mutual information)

\(x\) と \(y\) の分布が分かっていて最適な符号化をした場合に,\(y\) が分かったときに \(x\) 平均符号長の減少量. \[I(x;y)=H(x)-H(x|y)=\sum_x\sum_y \Pr(x,y)\log\frac{\Pr(x,y)}{\Pr(x)\Pr(y)}\]

-- しましま

関連項目

リンク集

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:13:00 (2494d)