Book/Semi-supervised Learning

Semi-supervised Learning†

#amazon(0262033585)

@Book{eb:052:00,
 editor =       "O. Chapelle and B. Sch{\"{o}}lkopf and A. Zien",
 title =        "Semi-supervised Learning",
 publisher =    "{MIT} Press",
 year =         2006
}

↑

キーワード†

半教師あり学習, ラベルあり・なし混在データ, トランスダクティブ学習, TSVM, 共訓練

↑

メモ†

教師あり・なし混在データを用いて，より予測精度の高いクラス分類を行う半教師あり学習についての本．それほど，成熟した研究分野ではないので，この本も教科書ではなく論文集の要素が強い．

1章は，現在の半教師あり学習をきれいに俯瞰している．以下は，この1章にある全体説明の概要．
第I部(2〜5章) は，p(x|y) と p(x) の分布の推定を使う生成モデルに基づく方法．教師なしデータは p(x) の推定に寄与．
第II部(6〜10章)は，違うクラスのデータは低密度の領域で分離されているという仮定に基づく方法．第II部やIII部の p(y|x) を考える識別モデルだと p(x) の分布は関係ないので，そのままだと教師なしデータは無意味だが，この仮定を正則化項として取り込むことで教師なしデータを生かす．
第III部(11〜14章)は，データをグラフで表すことで，データが存在する多様体を暗黙的に想定する手法．
第IV部(15〜17部)は，まずラベルを使わずにデータの表現形式を変更した後で，ラベルを使った通常のクラス分類をする手法
第V部(18〜21章)は，大規模化や適用例に加え，ベンチマークデータによる比較．
第VI部(22〜24章)は，PAC学習に基づく理論，回帰への拡張，トランスダクティブ学習と半教師あり学習の差についての議論