Boltzmannマシン (Boltzmann machine)

\(\pm1\)の2状態をとる\(n\)変数確率変数同時分布が \[P(X)=\frac{1}{Z}\exp(\sum_{i<j} w_{ij} X_i X_j + \sum_i \theta_i X_i)\] というBoltzmann分布で与えられるとき,これをBoltzmannマシンという.

最適化の文脈では,\(w_{ij},\theta_i\) が与えられたときに,MCMCによってMAP推定をするのが目的となる.

一方,学習の文脈では,与えられたデータからパラメータ \(w_{ij},\theta_i\) を学習するという話になり,隠れ素子がない場合は指数分布族だから比較的簡単だが,隠れ素子がある場合はEMアルゴリズムを用いる必要がある. また,最急降下法が,二つの対数尤度の差で表されるが,これを覚醒と睡眠というアナロジーで語られることもある.

--あかほ

関連項目

リンク集

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:10:46 (2494d)