熱平衡状態にある温度 \(T\) の系がエネルギー \(E\) を取る確率は \[P(E)=\frac{1}{Z}\exp(-E/T)\] で与えられ,この確率分布を Boltzmann分布 (Gibbs分布) と呼ぶ. \(Z\) は正規化定数で分配関数と呼ばれる. 情報処理の文脈では,コスト関数をエネルギーとみなして,Boltzmann分布の形で 表現することにより,コストと確率を結びつけることが出来る.
\(E\) がパラメータの線形関数なら指数型分布族となる.
--あかほ