パラメータで記述されたモデルのクラスからモデルを選択する基準. いろいろなサンプリングに対して,真の対数尤度と経験対数尤度の差は,自由度 k のχ二乗分布に従う.ただし,k はモデルの自由度,すなわち,独立なパラメータの数. ここで,χ二乗分布の平均が自由度kに等しいので,置き換えてしまうのがAIC.自由度kのモデルのAICは次式で,これを最小にするモデルを選択する: \[\mathrm{AIC}=-2\log[\Pr(\{x\}^N|\theta)]+2k\] 第1項はk次のモデルでの最大尤度,第2項はパラメータを増やすことに対する罰則項として働く.
-- しましま