ベイズ因子 の変更点

• 追加された行はこの色です。
• 削除された行はこの色です。
• ベイズ因子 へ行く。

* ベイズ因子 (Bayes factor) / モデルエビデンス (model evidence) [#y0d24445]

//ここには %項目の説明を書いてください．よろしければ署名しておいてください．

*** ベイズモデル比較 [#h98e9023]

モデルの集合 \(\mathcal{M}=\{M_1,\ldots,M_i,\ldots,M_K\}\) からベイズの考え方でモデル選択をする．訓練データ \(D\) が与えられたとき，モデルの事後分布
\[\Pr[M_i|D]\propto\Pr[D|M_i]\Pr[M_i]\]
を考える．ここで，全てのモデルでそれが選ばれる事前確率 \(\Pr[M_i]\) が離散均一分布であるとすると，どのモデルが選ばれるかは \(\Pr[D|M_i]\) で決まる．このモデル \(M_i\) のパラメータを \(\theta_i\) とすると，\(\Pr[D|M_i]=\int \Pr[D|\theta_i,M_i]\Pr[\theta_i|M_i] d\theta\) は，モデル \(M_i\) の下でのエビデンスとみなせるため，''モデルエビデンス (model evidence)'' と呼ばれる．これは，このモデルの下で訓練データ \(D\) がどれくらいよく説明されるかを表していると解釈できる．

*** ベイズ因子 [#ybd1ccd9]

二つのモデル \(M_i\) と \(M_j\) があるとき，これらを比較するため，モデルエビデンスの比
\[\frac{\Pr[D|M_i]}{\Pr[D|M_j]}=\frac{\int \Pr[D|\theta_i,M_i]\Pr[\theta_i|M_i]d\theta_i}{\int \Pr[D|\theta_j,M_j]\Pr[\theta_j|M_j]d\theta_j}\]
を求める．これを''ベイズ因子 (Bayes factor)''と呼び，1よりおおきければモデル \(M_i\) が，小さければ \(M_j\) が選択される．

> -- しましま

** 関連項目 [#f5866771]

//英語や同義語のあとに，#brで区切って関連する項目をリストしてください．
-[[Bayes factor]]
#br
-[[モデルエビデンス]]
-[[model evidence]]
#br
-[[ベイズ推定]]
-[[ベイズの定理]]
-[[モデル選択]]
#br
-[[検索:モデルエビデンス ベイズ因子]]

** リンク集 [#x7ea5029]

//関連するWWW資源があればリンクしてください．
-[[Wikipedia:Bayes_factor]]
-[[Wikipedia.jp:ベイズ因子]]

** 関連文献 [#o533b948]

//この%項目%に関連する書籍や論文を紹介してください．

-A.Gelman, J.B.Carlin, H.S.Stern, and D.B.Rubin "Bayesian Data Analysis" 2nd edition, Chapman&Hall/CRC (2004)~
[[GoogleScholarAll:Bayesian Data Analysis]]
-[[Book/Pattern Recognition and Machine Learning]] 3.4節
-[[Book/Principles of Data Mining]] 4.6.1節
-[[Book/The Elements of Statistical Learning]] 7.7節