* Viterbiアルゴリズム (Viterbi algorithm) [#e2b8d1a2]
//ここには %項目の説明を書いてください.よろしければ署名しておいてください.
隠れMarkovモデル \(\lambda=(A,B,\pi)\) が既知の場合に,与えられた観測系列 \(O=O_1 O_2 \cdots O_T\) から,最尤推定になる状態系列 \(Q=q_1 q_2 \ldots q_T\) を動的計画法で求めるアルゴリズム.
''入力''
-隠れMarkovモデル:\(\lambda=(A,B,\pi)\)
--状態:\(\{S_i\}_i^N\)
--遷移確率分布 \(A\):1次のモデルを想定し,状態 \(S_i\) から状態 \(S_j\) へ遷移する確率 \(a_{ij}=\Pr[q_{t+1}=S_j|q_t=S_i]\)
--観測シンボル確率分布 \(B\):状態 \(S_j\) でシンボル \(v_k\) が出力される確率 \(b_j(k)=\Pr[v_k|q_t=S_j]\)
--初期状態分布 \(\pi\):時刻 \(t=1\) で状態 \(S_i\) にある確率 \(\pi_i=\Pr[q_1=S_i]\)
-観測系列:観測されたシンボルの系列 \(O=O_1 O_2 \cdots O_T\)
''出力''
-最尤推定した状態系列 \(q_1^\ast,q_2^\ast,\ldots,q_T^\ast\)
''定義''
-時刻 \(t\) までの観測系列と \(q_t=S_i\) を出力する,最も確率の高いパス~
\(\delta_t(i)=\;\max_{q_1,q_2,\ldots,q_{t-1}}\;\Pr[q_1 q_2 \cdots q_t=S_i, O_1 O_2 \ldots O_t|\lambda]\)
-時刻 \(t\) で \(\delta_t(i)\) を最大化した状態 \(\psi_t(i)\)
''アルゴリズム''
+初期化:
--\(\delta_1(i)=\pi_i b_i(O_1),\;i=1,\ldots,N\)
--\(\psi_1(i)=0\)
+再帰:
--\(\delta_t(j)=\;\max_{1\le i\le N}\;[\delta_{t-1}(i)a_{ij}]b_j(O_t),\;\;t=2,\ldots,T,\;j=1,\ldots,N\)
--\(\psi_t(j)=\arg\max_{1\le i\le N}\;[\delta_{t-1}(i)a_{ij}],\;\;t=2,\ldots,T,\;j=1,\ldots,N\)
+終了:
--\(P^\ast=\;\max_{1\le i\le N}\; \delta_T(i)\)
--\(q^\ast_T=\arg\max_{1\le i\le N}\; \delta_T(i)\)
+パス(状態系列)のバックトラック:
--\(q_t^\ast=\psi_{t+1}(q_{t+1}^\ast),\;t=T{-}1,T{-}2,\ldots,1\)
>--しましま
**関連項目 [#q589f11e]
//英語や同義語のあとに,#brで区切って関連する項目をリストしてください.
-[[Viterbi algorithm]]
#br
-[[隠れMarkovモデル]]
-[[Baum-Welchアルゴリズム]]
-[[動的計画法]]
-[[最尤推定]]
#br
-[[検索:Viterbiアルゴリズム]]
**リンク集 [#s017a05b]
//関連するWWW資源があればリンクしてください.
-[[ビタビアルゴリズム>http://www.yobology.info/text/viterbi/viterbi.htm]] @ 情報と通信のハイパーテキスト
#br
-[[Wikipedia:Viterbi_algorithm]]
**関連文献 [#g7d926fa]
//この%項目%に関連する書籍や論文を紹介してください.
-基本文献~
A.J.Viterbi "Error bounds for convolutional codes and an asymptotically optimal decoding algorithm" IEEE transactions on Information Theory, vol.IT-13, pp.260-269 (1967)~
[[GoogleScholarAll:Error bounds for convolutional codes and an asymptotically optimal decoding algorithm]]
-チュートリアル
L.R.Rabiner, "A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition", Proc. of The IEEE, pp.257-286 (1989)~
[[GoogleScholarAll:A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition]]
-[[Book/Pattern Recognition and Machine Learning]] 13.2.5章
-[[Book/確率的言語モデル]] 4.5章
-[[Book/フリーソフトでつくる音声認識システム]] 10.3.3節