アンサンブル学習
をテンプレートにして作成
[
トップ
] [
新規
|
一覧
|
検索
|
最終更新
|
ヘルプ
|
ログイン
]
開始行:
* アンサンブル学習 (ensemble learning) [#q3c6f53d]
ランダムに解を出力する予測器,すなわち,予測精度が最悪の...
バギングやブースティングといった手法が著名.
初期の研究ではクラス分類だけだったが,回帰やクラスタリン...
*** 文献1でのバイアス-バリアンスの観点からの議論. [#v213...
まず,クラス分類における不偏性とバイアス-バリアンスを次の...
訓練集合 \(T\) から学習した分類器 \(C(X;T)\) の,入出力対...
\[PE(C(X;T))=\Pr_{X,Y}[C(X;T)\ne Y]\]
入力に対する真のクラス条件付き分布 \(\Pr[Y|X]\) を用いた...
\[PE(C^\ast(X))=\Pr_{X,Y}[C^\ast(X)\ne Y]\]
バギングで得る凝集分類器 \(C_A(X)\) は,あらゆる \(T\) に...
ここで,分類器 \(C(x;\cdot)\) が,入力 \(x\) で,不偏であ...
これは,\(x\) での正解クラスの条件付き確率が \(C_A(x)\) ...
全ての入力 \(X\) 中で,不偏な入力の部分集合をunbiased集合...
分類器 \(C(X;\cdot)\) のバイアス \(Bias(C)\) とバリアンス...
\[Bias(C)=\Pr_{X,Y}[C^\ast(X)\ne Y;X\in B] - \mathrm{E}_T...
\[Var(C)=\Pr_{X,Y}[C^\ast(X)\ne Y;X\in U] - \mathrm{E}_T[...
すると,バイアス-バリアンスの関係が成立
\[PE(C)=PE(C^\ast)+Bias(C)+Var(C)\]
第1項は,本質的に減らせない誤差,残りはバイアスとバリアン...
- \(PE(C_A)\) を考えると,不偏性の定義からバリアンスが0に...
- ブースティングは,低バイアス・高バリアンスの弱学習器を...
- Fisher判別分析のような線形の分類器は,高バイアス・低バ...
> --しましま
**関連項目 [#ubad9009]
-[[ensemble learning]]
#br
-[[弱学習器]]
-[[weak learner]]
#br
-[[ブースティング]]
-[[バギング]]
-[[arcing]]
-[[ランダムフォレスト]]
-[[誤り訂正出力符号]]
-[[クラスタアンサンブル]]
#br
-[[検索:アンサンブル学習 ensemble]]
** リンク集 [#f0bd15f9]
-[[boosting.org>http://www.boosting.org/]]:チュートリア...
#br
-[[Wikipedia:Category:Ensemble_learning]]
** 関連文献 [#x319a2c2]
-文献1:バイアス-バリアンスの観点からバギングとブースティ...
L.Breiman "Arcing Classifiers" The Annals of Statistics, ...
[[GoogleScholarAll:Arcing Classifiers]]
-文献2:バギングとブースティングの比較実験~
J.R.Quinlan, "Bagging, Boosting, and C4.5", AAAI1996~
[[GoogleScholarAll:Bagging, Boosting, and C4.5]]
-文献3:バギングとブースティングの比較実験~
T.G.Dietterich, "An Experimental Comparison of Three Meth...
[[GoogleScholarAll:An Experimental Comparison of Three Me...
-[[Book/Pattern Recognition and Machine Learning]] 14.1〜...
-[[Book/Data Mining - Concepts and Techniques]] 6.14節
-[[Book/Pattern Classification]] 9.5節
-[[Book/The Elements of Statistical Learning]] 8.7節, 10章
-[[Book/Data Mining - Practical Machine Learning Tools an...
-[[Book/パターン認識と学習の統計学(統計科学のフロンティア...
-[[Book/学習システムの理論と実現]] 6章
-[[Book/データマイニングの基礎]] 3.1節
-[[Book/人工知能学事典]] 14-27節
-ブースティングの基本から始まるが,後半は濃くなってゆく~
金森 敬文, 畑埜 晃平, 渡辺 治, 小川 英光 "ブースティング ...
Amazon.co.jpへのリンク:&amazon(4627813317);
終了行:
* アンサンブル学習 (ensemble learning) [#q3c6f53d]
ランダムに解を出力する予測器,すなわち,予測精度が最悪の...
バギングやブースティングといった手法が著名.
初期の研究ではクラス分類だけだったが,回帰やクラスタリン...
*** 文献1でのバイアス-バリアンスの観点からの議論. [#v213...
まず,クラス分類における不偏性とバイアス-バリアンスを次の...
訓練集合 \(T\) から学習した分類器 \(C(X;T)\) の,入出力対...
\[PE(C(X;T))=\Pr_{X,Y}[C(X;T)\ne Y]\]
入力に対する真のクラス条件付き分布 \(\Pr[Y|X]\) を用いた...
\[PE(C^\ast(X))=\Pr_{X,Y}[C^\ast(X)\ne Y]\]
バギングで得る凝集分類器 \(C_A(X)\) は,あらゆる \(T\) に...
ここで,分類器 \(C(x;\cdot)\) が,入力 \(x\) で,不偏であ...
これは,\(x\) での正解クラスの条件付き確率が \(C_A(x)\) ...
全ての入力 \(X\) 中で,不偏な入力の部分集合をunbiased集合...
分類器 \(C(X;\cdot)\) のバイアス \(Bias(C)\) とバリアンス...
\[Bias(C)=\Pr_{X,Y}[C^\ast(X)\ne Y;X\in B] - \mathrm{E}_T...
\[Var(C)=\Pr_{X,Y}[C^\ast(X)\ne Y;X\in U] - \mathrm{E}_T[...
すると,バイアス-バリアンスの関係が成立
\[PE(C)=PE(C^\ast)+Bias(C)+Var(C)\]
第1項は,本質的に減らせない誤差,残りはバイアスとバリアン...
- \(PE(C_A)\) を考えると,不偏性の定義からバリアンスが0に...
- ブースティングは,低バイアス・高バリアンスの弱学習器を...
- Fisher判別分析のような線形の分類器は,高バイアス・低バ...
> --しましま
**関連項目 [#ubad9009]
-[[ensemble learning]]
#br
-[[弱学習器]]
-[[weak learner]]
#br
-[[ブースティング]]
-[[バギング]]
-[[arcing]]
-[[ランダムフォレスト]]
-[[誤り訂正出力符号]]
-[[クラスタアンサンブル]]
#br
-[[検索:アンサンブル学習 ensemble]]
** リンク集 [#f0bd15f9]
-[[boosting.org>http://www.boosting.org/]]:チュートリア...
#br
-[[Wikipedia:Category:Ensemble_learning]]
** 関連文献 [#x319a2c2]
-文献1:バイアス-バリアンスの観点からバギングとブースティ...
L.Breiman "Arcing Classifiers" The Annals of Statistics, ...
[[GoogleScholarAll:Arcing Classifiers]]
-文献2:バギングとブースティングの比較実験~
J.R.Quinlan, "Bagging, Boosting, and C4.5", AAAI1996~
[[GoogleScholarAll:Bagging, Boosting, and C4.5]]
-文献3:バギングとブースティングの比較実験~
T.G.Dietterich, "An Experimental Comparison of Three Meth...
[[GoogleScholarAll:An Experimental Comparison of Three Me...
-[[Book/Pattern Recognition and Machine Learning]] 14.1〜...
-[[Book/Data Mining - Concepts and Techniques]] 6.14節
-[[Book/Pattern Classification]] 9.5節
-[[Book/The Elements of Statistical Learning]] 8.7節, 10章
-[[Book/Data Mining - Practical Machine Learning Tools an...
-[[Book/パターン認識と学習の統計学(統計科学のフロンティア...
-[[Book/学習システムの理論と実現]] 6章
-[[Book/データマイニングの基礎]] 3.1節
-[[Book/人工知能学事典]] 14-27節
-ブースティングの基本から始まるが,後半は濃くなってゆく~
金森 敬文, 畑埜 晃平, 渡辺 治, 小川 英光 "ブースティング ...
Amazon.co.jpへのリンク:&amazon(4627813317);
ページ名: