* ベイズの定理 (Bayes' theorem) [#m4870a76]

条件付き確率の条件部分と確率の部分を交換する定理
\[\Pr[\theta|D]=\frac{\Pr[D|\theta]\Pr[\theta]}{\Pr[D]}=\frac{\Pr[D|\theta]\Pr[\theta]}{\int \Pr[D|\theta]\Pr[\theta] d\theta}\]

\(\Pr[\theta]\) を''事前分布'',\(\Pr[\theta|D]\) を''事後分布''という.\(\Pr[D|\theta]\) は''[[尤度]]''と呼ばれるが,最尤推定での尤度とは違い \(\theta\) は普通の変数ではなく,この場合確率変数.

\(\Pr[D]=\int \Pr[D|\theta]\Pr[\theta] d\theta\) は,このモデルの下でデータ \(D\) が説明されている度合いと解釈できるので,''エビデンス (evidence)'' という.

学習理論や機械学習と関わると,この定理を見ない日はない (かも&huh;) 

> -- しましま

注意;この事後確率を導出する場合、xが与えられたときのyの条件付確率 \(\Pr[D|\theta]\) が,すべてが既知でないと使えない。

> -- nadja

**関連項目 [#v0f89459]

//英語や同義語のあとに,#brで区切って関連する項目をリストしてください.
-[[Bayes' theorem]]
-[[ベイズ則]]
-[[Bayes' rule]]
#br
-[[エビデンス]]
-[[evidence]]
#br
-[[ベイズ主義]]
-[[ベイズ推定]]
-[[条件付分布]]
-[[周辺分布]]
-[[事前分布]]
-[[事後分布]]
-[[結合分布]]
-[[三囚人問題]]
-[[Monty Hall問題]]
#br
-[[検索:Bayesの定理 ベイズの定理 Bayes則 ベイズ則]]

**リンク集 [#hcc44661]

//関連するWWW資源があればリンクしてください.
-[[Bayes' Theorem Calculator>http://statpages.org/bayes.html]]
#br
-[[Wikipedia:Bayes'_theorem]]
-[[Wikipedia.jp:ベイズの定理]]
-[[PlanetMath:BayesRule]]
-[[MathWorld:BayesTheorem]]

**関連文献 [#j64e292a]

//この%項目%に関連する書籍や論文を紹介してください.

-[[Book/Machine Learning]] 6.2章
-[[Book/Pattern Recognition and Machine Learning]] 1.2章
-[[Book/データマイニングの基礎]] 2.3節

トップ   編集 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS