![[PukiWiki]](image/ibisforest.png "[PukiWiki]")
@Book{jb:031:00,
author = "北 研二",
title = "確率的言語モデル",
publisher = "東京大学出版会",
year = 1999,
volume = 4,
series = "言語と計算",
yomi = "Kita"
}
自然言語処理, 確率分布, ベイズの定理, Jensenの不等式, エントロピー, 有限オートマトン, 正則言語, 文脈自由文法, CYKアルゴリズム, 確率的言語モデル, Markovモデル, 隠れMarkovモデル, 確率的言語モデル, 交差エントロピー, 最尤推定, EMアルゴリズム, ゼロ頻度問題, Kolmogorov-Chapman方程式, Viterbiアルゴリズム, Baum-Welchアルゴリズム, 確率文脈自由文法, 内側・外側アルゴリズム, 最大エントロピー法
代表的な言語モデルである，文脈自由文法, Markovモデル, 隠れMarkovモデル, 確率文脈自由文法について解析や学習の方法について詳しく述べている．
後は，現実には頻繁に直面する疎なデータを扱う場合への対処である，ゼロ頻度問題や最大エントロピー法についても詳しい．
最後に，これらの言語モデルを用いてどのような自然言語処理が可能かをまとめている．
-- しましま
