確率的コンプレクシティ
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* 確率的コンプレクシティ (stochastic complexity) [#z7d676...
//ここには %項目の説明を書いてください．よろしければ署名...
いわゆる普通のエントロピーであるShannonエントロピーは，デ...
それに対し，ある確率モデルのクラスのいずれかからデータが...
確率モデルのクラスからのモデル選択の一つである，データの...
*** 最尤符号化 [#nd385f65]
\(k\)個の実数値パラメータ\(\Theta_k\)で記述される確率モデ...
この族から生成された\(N\)個のデータからなるデータ集合\(X^...
このデータの\(\mathcal{M}\)で，データの生成確率が最大にな...
同じ大きさの全てのデータ集合についてのこの尤度の総和が\(1...
\[-\log\biggl(\frac{\Pr[X^N;\hat{k},\hat{\Theta}_k]}{\sum...
実際にはこの式の分母の計算は，一般には無理だが，漸近的に...
\[-\log\Pr[X^N;\hat{k},\hat{\Theta}_k]+\frac{k}{2}\log\fr...
ただし，\(I(\Theta)\)はFisher情報行列．
前半の\(-\log\text{尤度}+\frac{k}{2}\log N\)の項は二段階...
その他，[[BIC]]とも同様の考えのベイズ符号化や，データを一...
> -- しましま
** 関連項目 [#y707391c]
//英語や同義語のあとに，#brで区切って関連する項目をリスト...
-[[stochastic complexity]]
#br
-[[情報量規準]]
-[[Kraftの不等式]]
-[[MDL]]
-[[二段階符号]]
-[[ユニバーサル符号]]
-[[劣確率分布]]
-[[情報理論]]
-[[モデル選択]]
-[[エントロピー]]
#br
-[[検索:確率的コンプレクシティ]]
** リンク集 [#kb3c8d47]
//関連するWWW資源があればリンクしてください．
** 関連文献 [#hed072b6]
//この%項目%に関連する書籍や論文を紹介してください．
- 基本文献~
J.Rissanen, "Stochastic Complexity" Journal of The Royal ...
[[GoogleScholarAll:Stochastic Complexity]]
- 基本文献~
J.Rissanen, "Stochastic Complexity and Modeling" Annals o...
[[GoogleScholarAll:Stochastic Complexity and Modeling]]
- J.Rissanen "Stochastic Complexity in Statistical Inquir...
- 文献 1~
山西健司 "確率的コンプレクシティと学習理論" オペレーショ...
[[GoogleScholarAll:確率的コンプレクシティと学習理論]]
- 山西 健司 "情報論的学習理論" 共立出版 (2010)~
Amazon.co.jpへのリンク：&amazon(4320122550);
終了行:
* 確率的コンプレクシティ (stochastic complexity) [#z7d676...
//ここには %項目の説明を書いてください．よろしければ署名...
いわゆる普通のエントロピーであるShannonエントロピーは，デ...
それに対し，ある確率モデルのクラスのいずれかからデータが...
確率モデルのクラスからのモデル選択の一つである，データの...
*** 最尤符号化 [#nd385f65]
\(k\)個の実数値パラメータ\(\Theta_k\)で記述される確率モデ...
この族から生成された\(N\)個のデータからなるデータ集合\(X^...
このデータの\(\mathcal{M}\)で，データの生成確率が最大にな...
同じ大きさの全てのデータ集合についてのこの尤度の総和が\(1...
\[-\log\biggl(\frac{\Pr[X^N;\hat{k},\hat{\Theta}_k]}{\sum...
実際にはこの式の分母の計算は，一般には無理だが，漸近的に...
\[-\log\Pr[X^N;\hat{k},\hat{\Theta}_k]+\frac{k}{2}\log\fr...
ただし，\(I(\Theta)\)はFisher情報行列．
前半の\(-\log\text{尤度}+\frac{k}{2}\log N\)の項は二段階...
その他，[[BIC]]とも同様の考えのベイズ符号化や，データを一...
> -- しましま
** 関連項目 [#y707391c]
//英語や同義語のあとに，#brで区切って関連する項目をリスト...
-[[stochastic complexity]]
#br
-[[情報量規準]]
-[[Kraftの不等式]]
-[[MDL]]
-[[二段階符号]]
-[[ユニバーサル符号]]
-[[劣確率分布]]
-[[情報理論]]
-[[モデル選択]]
-[[エントロピー]]
#br
-[[検索:確率的コンプレクシティ]]
** リンク集 [#kb3c8d47]
//関連するWWW資源があればリンクしてください．
** 関連文献 [#hed072b6]
//この%項目%に関連する書籍や論文を紹介してください．
- 基本文献~
J.Rissanen, "Stochastic Complexity" Journal of The Royal ...
[[GoogleScholarAll:Stochastic Complexity]]
- 基本文献~
J.Rissanen, "Stochastic Complexity and Modeling" Annals o...
[[GoogleScholarAll:Stochastic Complexity and Modeling]]
- J.Rissanen "Stochastic Complexity in Statistical Inquir...
- 文献 1~
山西健司 "確率的コンプレクシティと学習理論" オペレーショ...
[[GoogleScholarAll:確率的コンプレクシティと学習理論]]
- 山西 健司 "情報論的学習理論" 共立出版 (2010)~
Amazon.co.jpへのリンク：&amazon(4320122550);
ページ名:
![[PukiWiki]](image/ibisforest.png "[PukiWiki]")
