MetaCost

MetaCost †

コスト考慮型学習を，普通の分類器で実行する汎用手法の一つ．訓練事例のクラスを，期待コスト最小化した場合に適切なクラスに書き換え，その書き換えた訓練事例集合を使って普通に分類器を作ることでコスト考慮型の分類器を作る．

バギングの手続きで弱学習器を作る
- 元の訓練事例から復元抽出で作った訓練事例集合を，\(m\)個作る
- それぞれの事例集合から弱分類器を作る
事例 \(\mathbf{x}\) がクラス \(j\) になる条件付き確率質量関数の推定値 \(\hat{\Pr}[j|\mathbf{x}]\) を求める
- 全ての事例 \(\mathbf{x}\) とクラス \(j\) について，次の量を \(\hat{\Pr}[j|\mathbf{x}]\) とする
  - 弱学習器がクラス \(j\) の確率を出力できるなら，\(m\) 個の弱学習器の平均
  - そうでなければ，\(m\) 個の弱学習器の中での予測クラスがクラス \(j\) に一致する割合
事例 \(\mathbf{x}\) をクラス \(i\) に分類するときの期待コスト \(L(\mathbf{x},i)\)を最小にするクラス（\(i_\min (\mathbf{x}) = \underset{i}{\arg \min} \, L(\mathbf{x},i)\)）を求め、訓練事例 \(\mathbf{x}\) のクラスをこれへ書き換える \[L(\mathbf{x},i) \triangleq \sum_j \hat{\Pr}[j|\mathbf{x}] C(i|j)\]
このクラスを書き換えた訓練事例集合を使って分類器を学習すると，期待コストを最小化する分類器が得られる．