Rankprop

ニューラルネットで,1/0 のそれぞれのクラスへのなりやすさではなく,そのなりやすさで整列したときの順位を正確に予測する工夫. 機械学習分野で,順位付けの問題を扱った初期の研究.

訓練事例は1/0の2クラス. これを,整列すると,1の事例が上位に,0の事例が下位に並ぶ. しかしこれでは大量の同順位が生じる. そこで,1の訓練事例内で,現在のネットワークの出力の大きさに応じて整列. 0の訓練事例内でも同様の処理をする. すなわち,訓練事例の1/0を1次キー,ネットワークの各事例の予測値を2次キーとして与えられた訓練事例を整列.

訓練事例を整列したら,今度は,この列中での順位を予測するように,最小2乗誤差基準でバックプロパゲーションを用いてネットワークを再訓練する.

仮想コードで書くと,次の手続きを反復

  1. 各事例に対するネットワークの出力を順伝播で求める.
  2. 各事例のクラスを1次キー,ネットワークの出力値を2次キーとして事例を整列
  3. この列での各事例の順位を予測するように,最小2乗誤差基準でネットワークを再訓練

この方法がうまくゆく理由としては,関数そのものより,その関数と単調な関係の関数を学習する方が,学習の条件として緩くなることを挙げている.

-- しましま

関連項目

リンク集

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:11:22 (2493d)