Baum-Welchアルゴリズム
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* Baum-Welchアルゴリズム (Baum-Welch algorithm) [#e2b8d1a2]
//ここには %項目の説明を書いてください．よろしければ署名...
与えられた観測系列 \(O=O_1 O_2 \cdots O_T\) から，EMアル...
''入力''
-観測系列：観測されたシンボルの系列 \(O=O_1 O_2 \cdots O_...
''出力''
-隠れMarkovモデル：\(\lambda=(A,B,\pi)\)
--遷移確率分布 \(A\)：1次のモデルを想定し，状態 \(S_i\) ...
--観測シンボル確率分布 \(B\)：状態 \(S_j\) でシンボル \(v...
--初期状態分布 \(\pi\)：時刻 \(t=1\) で状態 \(S_i\) にあ...
''定義''
-時刻 \(t\) で状態 \(S_i\) にあり，その時刻までの系列を出...
\[\alpha_t(i)=\Pr[O_1,O_2,\ldots,O_t,q_t=S_i|\lambda]\]
-時刻 \(t\) で状態 \(S_i\) にいるとして，時刻 \(t+1\) か...
\[\beta_t(i)=\Pr[O_{t+1},O_{t+2},\ldots,O_T|q_t=S_i,\lamb...
-時刻 \(t\) で状態 \(S_i\) にあり，次の時刻 \(t+1\) で状...
\[\xi_t(i,j)=\Pr[q_t=S_i,q_{t+1}=S_j|O,\lambda]\]
-時刻 \(t\) で状態 \(S_i\) にいる確率
\[\gamma_t(i)=\Pr[q_t=S_i|O,\lambda]\]
*** アルゴリズム [#r2fc90d8]
モデル \(\lambda=(A,B,\pi)\) を均一分布などで初期化．
以下のステップを収束するまで反復する．
''E-ステップ''
現在のモデルを使って ξ や γ の期待値を計算．
-αの計算
\[\alpha_1(i)=\pi_ib_i(O_1)\]
\[\alpha_{t+1}(j)=\Bigl[\sum_{i=1}^N \alpha_t(i) a_{ij}\B...
-βの計算
\[\beta_T(i)=1\]
\[\beta_t(i)=\sum_{j=1}^N a_{ij}b_j(O_{t+1})\beta_{t+1}(j...
-ξの計算
\[\Pr[O|\lambda]=\sum_{i=1}^N\sum_{j=1}^N\alpha_t(i)a_{ij...
\[\xi_t(i,j)=\frac{\alpha_t(i)a_{ij}b_j(O_{t+1})\beta_{t+...
-γの計算
\[\gamma_t(i)=\sum_{j=1}^N \xi_t(i,j)\]
''M-ステップ''
モデル \(\lambda=(A,B,\pi)\) を更新．
\[\pi_i=\gamma_1(i)\]
\[a_{ij}=\frac{\sum_{t=1}^{T-1}\xi_t(i,j)}{\sum_{t=1}^{T-...
\[b_j(k)=\frac{\sum_{t=1,\mbox{s.t.}O_t=v_k}^T \gamma_t(j...
>--しましま
**関連項目 [#q589f11e]
//英語や同義語のあとに，#brで区切って関連する項目をリスト...
-[[Baum-Welch algorithm]]
#br
-[[隠れMarkovモデル]]
-[[Viterbiアルゴリズム]]
-[[EMアルゴリズム]]
-[[最尤推定]]
#br
-[[検索:Baum-Welchアルゴリズム]]
**リンク集 [#s017a05b]
//関連するWWW資源があればリンクしてください．
-[[Wikipedia:Baum-Welch_algorithm]]
**関連文献 [#g7d926fa]
//この%項目%に関連する書籍や論文を紹介してください．
-基本文献~
L.E.Baum and T.Petrie "Statistical inference for probabil...
[[GoogleScholarAll:Statistical inference for probabilisti...
-L.E.Baum, T.Petrie, G.Soules, and N.Weiss "A Maximizatio...
[[GoogleScholarAll:A Maximization Technique Occurring In ...
-チュートリアル~
L. R. Rabiner, "A Tutorial on Hidden {Markov} Models and ...
[[GoogleScholarAll:A Tutorial on Hidden Markov Models and...
-[[Book/Pattern Recognition and Machine Learning]] 13.2.2章
-[[Book/確率的言語モデル]] 4.6章
-[[Book/フリーソフトでつくる音声認識システム]] 10.4.3節
終了行:
* Baum-Welchアルゴリズム (Baum-Welch algorithm) [#e2b8d1a2]
//ここには %項目の説明を書いてください．よろしければ署名...
与えられた観測系列 \(O=O_1 O_2 \cdots O_T\) から，EMアル...
''入力''
-観測系列：観測されたシンボルの系列 \(O=O_1 O_2 \cdots O_...
''出力''
-隠れMarkovモデル：\(\lambda=(A,B,\pi)\)
--遷移確率分布 \(A\)：1次のモデルを想定し，状態 \(S_i\) ...
--観測シンボル確率分布 \(B\)：状態 \(S_j\) でシンボル \(v...
--初期状態分布 \(\pi\)：時刻 \(t=1\) で状態 \(S_i\) にあ...
''定義''
-時刻 \(t\) で状態 \(S_i\) にあり，その時刻までの系列を出...
\[\alpha_t(i)=\Pr[O_1,O_2,\ldots,O_t,q_t=S_i|\lambda]\]
-時刻 \(t\) で状態 \(S_i\) にいるとして，時刻 \(t+1\) か...
\[\beta_t(i)=\Pr[O_{t+1},O_{t+2},\ldots,O_T|q_t=S_i,\lamb...
-時刻 \(t\) で状態 \(S_i\) にあり，次の時刻 \(t+1\) で状...
\[\xi_t(i,j)=\Pr[q_t=S_i,q_{t+1}=S_j|O,\lambda]\]
-時刻 \(t\) で状態 \(S_i\) にいる確率
\[\gamma_t(i)=\Pr[q_t=S_i|O,\lambda]\]
*** アルゴリズム [#r2fc90d8]
モデル \(\lambda=(A,B,\pi)\) を均一分布などで初期化．
以下のステップを収束するまで反復する．
''E-ステップ''
現在のモデルを使って ξ や γ の期待値を計算．
-αの計算
\[\alpha_1(i)=\pi_ib_i(O_1)\]
\[\alpha_{t+1}(j)=\Bigl[\sum_{i=1}^N \alpha_t(i) a_{ij}\B...
-βの計算
\[\beta_T(i)=1\]
\[\beta_t(i)=\sum_{j=1}^N a_{ij}b_j(O_{t+1})\beta_{t+1}(j...
-ξの計算
\[\Pr[O|\lambda]=\sum_{i=1}^N\sum_{j=1}^N\alpha_t(i)a_{ij...
\[\xi_t(i,j)=\frac{\alpha_t(i)a_{ij}b_j(O_{t+1})\beta_{t+...
-γの計算
\[\gamma_t(i)=\sum_{j=1}^N \xi_t(i,j)\]
''M-ステップ''
モデル \(\lambda=(A,B,\pi)\) を更新．
\[\pi_i=\gamma_1(i)\]
\[a_{ij}=\frac{\sum_{t=1}^{T-1}\xi_t(i,j)}{\sum_{t=1}^{T-...
\[b_j(k)=\frac{\sum_{t=1,\mbox{s.t.}O_t=v_k}^T \gamma_t(j...
>--しましま
**関連項目 [#q589f11e]
//英語や同義語のあとに，#brで区切って関連する項目をリスト...
-[[Baum-Welch algorithm]]
#br
-[[隠れMarkovモデル]]
-[[Viterbiアルゴリズム]]
-[[EMアルゴリズム]]
-[[最尤推定]]
#br
-[[検索:Baum-Welchアルゴリズム]]
**リンク集 [#s017a05b]
//関連するWWW資源があればリンクしてください．
-[[Wikipedia:Baum-Welch_algorithm]]
**関連文献 [#g7d926fa]
//この%項目%に関連する書籍や論文を紹介してください．
-基本文献~
L.E.Baum and T.Petrie "Statistical inference for probabil...
[[GoogleScholarAll:Statistical inference for probabilisti...
-L.E.Baum, T.Petrie, G.Soules, and N.Weiss "A Maximizatio...
[[GoogleScholarAll:A Maximization Technique Occurring In ...
-チュートリアル~
L. R. Rabiner, "A Tutorial on Hidden {Markov} Models and ...
[[GoogleScholarAll:A Tutorial on Hidden Markov Models and...
-[[Book/Pattern Recognition and Machine Learning]] 13.2.2章
-[[Book/確率的言語モデル]] 4.6章
-[[Book/フリーソフトでつくる音声認識システム]] 10.4.3節
ページ名:
![[PukiWiki]](image/ibisforest.png "[PukiWiki]")
