#author("2024-03-15T02:03:21+00:00;2010-02-11T07:13:00+00:00","","") * 生成モデル (generative model) / 識別モデル (discriminative model) [#c85da00c] クラス分類を解くための手法は識別モデルと生成モデルに分けられる. データとクラスの確率変数をそれぞれ \(X\) と\(C\) で表す. パラメータは \(\theta=(\theta_1,\theta_2)\). -''生成モデル'' (generative model)~ \(X\) と\(C\) の結合確率をモデル化: \[\Pr[X,C|\theta]=\Pr[X|C,\theta_1]\Pr[C|\theta_2]\] パラメータはデータ集合とパラメータの同時確率を最大化するように学習: \[\Pr[\{x_i,c_i\}_i^N,\theta]=\Pr[\theta]\prod_i^N\Pr[x_i,c_i|\theta]=\Pr[\theta]\prod_i^N\Pr[x_i|c_i,\theta_1]\Pr[c_i|\theta_2]\] -''識別モデル (判別モデル)'' (discriminative model)~ データ \(X\) が与えられたときの,クラス \(C\) の条件付確率をモデル化し,パラメータはこの条件付確率を最大化するように学習: \[\Pr[C,\theta|X]=\Pr[\theta]\prod_i\Pr[c_i|x_i,\theta],\mathrm{\ where\ }\Pr[c_i|x_i,\theta]=\frac{\Pr[x_i,c_i|\theta]}{\sum_{c\in C}\Pr[x_i,c|\theta]}\] 生成モデルには,識別モデルと対比しないで,データを生成する分布のモデルといった意味で使われることもある. ''discriminative model'' の訳語は ''識別モデル'' と ''判別モデル'' に分かれています.どちらの訳語がよいと思いますか? #vote2(識別モデル[577],判別モデル[167],notimestamp) >-- しましま **関連項目 [#l90e9cb1] //英語や同義語のあとに,#brで区切って関連する項目をリストしてください. -[[generative model]] #br -[[識別モデル]] -[[判別モデル]] -[[discriminative model]] #br -[[識別]] -[[機械学習]] #br -[[検索:識別モデル 判別モデル 生成モデル]] **リンク集 [#k67eff58] //関連するWWW資源があればリンクしてください. -[[BayesFun:判別と生成のモデル]]:識別モデルと生成モデルについての濃ゆい議論 #br -[[Wikipedia:Generative_model]] **関連文献 [#m960b765] //この%項目%に関連する書籍や論文を紹介してください. -[[Book/Machine Learning]] の第2版が出版予定されています.~ 公開されている [[追加分のドラフト>http://www.cs.cmu.edu/%7Etom/NewChapters.html]] には,生成モデルとしてGauss単純ベイズを,識別モデルをロジスティック回帰を取り上げた説明があります. -[[T. Minka "Discriminative models, not discriminative training", MSR-TR-2005-144 (2005)>http://research.microsoft.com/research/pubs/view.aspx?type=Technical%20Report&id=998]]:二つのモデルについての関係について議論~ [[GoogleScholarAll:Discriminative models, not discriminative training]] -[[J. Lasserre, C. M. Bishop, and T. Minka "Principled hybrids of generative and discriminative models" In Proc. 2006 IEEE Conf. on Computer Vision and Pattern Recognition (2006)>http://research.microsoft.com/~cmbishop/]]:上記のテクニカルレポートを拡張して国際会議で発表したもの~ [[GoogleScholarAll:Principled hybrids of generative and discriminative models]] -[[Book/Pattern Recognition and Machine Learning]] 1.5.4節,4.2節,4.3節