Paper/JMLR-2006-6-p1817

A Framework for Learning Predictive Structures from Multiple Tasks and Unlabeled Data †

@Article{jmlr:05:07,
 author =       "R. K. Ando and T. Zhang",
 title =        "A Framework for Learning Predictive Structures from Multiple Tasks and Unlabeled Data",
 journal =      "Journal of Machine Learning Research",
 volume =    6,
 year =         2005,
 pages =     "1817-1853"
}

キーワード †

半教師あり学習, 転移学習, 仮説空間, 次元削減, 特徴生成

メモ †

半教師あり学習だが，仮説空間を作るための補助問題を利用するため，転移学習としても捉えられる手法．目標問題に関連した補助問題を使って特徴生成をする方法とも考えられる．大きくは次の2ステップ

1. ラベルなしデータからいくつかの補助問題を生成し，全補助問題に対する損失の平均を最小化するような部分空間を構造的損失最小化の枠組みで見つける
2. もとから与えられたラベルありデータと，ここで見つけた部分空間とを用いて，目標問題を解く

補助問題の例 †

• ラベルなしデータに対し，語集合を W1 と W2 に分け，W1 中のある語が，W1中で最も頻出する語かどうかを W2 中の語から予測
• ラベルなしデータに対し，現在の位置の語について，ある特定の語であるかどうかを，両側の語を特徴として予測
• ラベルありデータで目標問題の分類器を作り，それでラベルなしデータを分類してラベルとする．そのラベルをラベルなしデータから予測．

-- しましま

リンク †

• GoogleScholarAll:A Framework for Learning Predictive Structures from Multiple Tasks and Unlabeled Data