逐次学習 (sequential learning)

多くの学習では \(N\)個のデータが一括して与えられ,そこからパラメータの決定などの学習をする.こうした学習を 一括学習 (batch learning) という.

一方,逐次学習 (sequential learning; オンライン学習),データは一つずつ逐次的に与えられ,データが与えられるたびにパラメータを更新する.データを\(N\)個観測したあとでパラメータ\(\mathbf{\theta}^{(N)}\)が推定されているとする.このとき,\(N+1\)個目のデータと\(\mathbf{\theta}^{(N)}\)から,パラメータを\(\mathbf{\theta}^{(N+1)}\)を順次求めるようにする学習方法.

長所

  • 全てのデータを一時的に蓄積しなくて良いので,少ないメモリで大規模なデータを扱える
  • データが増加したときに,増加した分だけ学習し直せば良いので,全部計算し直す一括学習より計算は少ない

短所

  • 実用的には,学習の早さと,正しい解への収束性のトレードオフがあり,パラメータの更新の係数の設定はなかなか難しい.

-- しましま

関連項目

リンク集

Freeware

機械学習の項目を参考に

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:13:14 (2488d)