ベイズ推定 (Bayesian inference)

データ \(X\) が与えられたときのパラメータの事後確率 \[\Pr[\theta|X]=\frac{\Pr[X|\theta]\Pr[\theta]}{\int\Pr[X|\theta]\Pr[\theta]d\theta}\] を考える点ではMAP推定と似ている. 新たなデータ \(x\) が生じる予測分布 \(\Pr[x|X]\) は,MAP推定では,事後確率を最大にするパラメータ値 \(\hat{\theta}\) を求め,\(\Pr[x|X]=\Pr[x|\hat{\theta}]\) とする. しかし,Bayes推定では,次のように予測分布の形で推定をする. \[\Pr[x|X]=\int\Pr[x|\theta]\Pr[\theta|X]d\theta\] パラメータの推定値は分布の形で扱われるが,一つに定めたいときには次の期待値を使うのが一般的. \[\hat{\theta}=\int\theta\Pr[\theta|X]d\theta\]

最大値を使うMAP推定では少数のはずれ値に大きく影響されることがあるが,ベイズ推定は予測分布や期待値なので頑健な推定ができる.しかし,予測分布や期待値を求める積分は高次になることが多くその計算は困難である.最近はMCMC変分ベイズなどの近似手法の発展により,によりこの積分もできるようになってきたので,ベイズ推定の研究が活発になっている.

-- しましま

関連項目

リンク集

Freeware

グラフィカルモデルの項目を参照

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:12:28 (2493d)