Bregmanダイバージェンス の変更点

• 追加された行はこの色です。
• 削除された行はこの色です。
• Bregmanダイバージェンス へ行く。

* Bregmanダイバージェンス (Bregman divergence) [#pc45c00a]

\[D_\phi(q||p)=\phi(q)-\phi(p)-\langle q-p,\nabla\phi(p)\rangle\]
ただし \(\phi(\cdot)\) は，厳密に凸で微分可能な関数．\(\phi(\cdot)\) によっていろいろな距離やダイバージェンスなどになる．

,\(\phi(x)\),Bregmanダイバージェンス
,\(\phi(\mathbf{x})=\|\mathbf{x}\|^2\),二乗ユークリッド距離： \(\|\mathbf{x}-\mathbf{y}\|^2\)
,\(\phi(\mathbf{p})=\sum_i p_i\log(p_i)\) (負のエントロピー),Kullback-Leiblerダイバージェンス
,\(\phi(x)=x\log(x)+(1-x)\log(1-x)\),Logistic損失：\(\phi(\mathbf{x})=x\log\frac{x}{y}+(1-x)\log\frac{1-x}{1-y}\)
>-- しましま

**関連項目 [#kb72e106]

//英語や同義語のあとに，#brで区切って関連する項目をリストしてください．

-[[Bregman divergence]]
#br
-[[ダイバージェンス]]
-[[ルジャンドル変換]]
-[[Kullback-Leiblerダイバージェンス]]
#br
-[[検索:Bregmanダイバージェンス]]

**リンク集 [#sc85026c]

//関連するWWW資源があればリンクしてください．

**関連文献 [#qaaad406]

//この%項目%に関連する書籍や論文を紹介してください．

-Bregmanダイバージェンスを類似度としたクラスタリングと指数型分布族の混合分布の関係についてまとめた．~
[[A.Banerjee, S.Merugu, I.S.Dhillon and J.Ghosh "Clustering with Bregman Divergences", Journal of Machine Learning Research, vol.6, pp.1705–1749 (2005)>http://www.jmlr.org/papers/volume6/banerjee05b/banerjee05b.pdf]]~
[[GoogleScholarAll:Clustering with Bregman Divergences]]