パーセプトロン (perceptron)

最も基本的なニューラルネットの形式.次式の符号により,2クラスのクラス分類を行う. \[f(\mathbf{x})=\sum_{i}^N w_i x_i\] ただし,\(\mathbf{x}=(x_1,\ldots,x_n)\) は入力信号,\(\mathbf{w}=(w_1,\ldots,w_n)\) は重み,バイアス項は定数入力に対する重みで表現.すなわち,活性化関数がステップ関数であるような一般化線形モデル

線形分離可能な問題にしか適用できない.しかし,そうでない問題にも,カーネルトリックを使って問題を線形分離可能にすれば適用できる.

誤り訂正学習 (error correcting learning)

確率的勾配降下法の重みの学習方法.これは誤分類したときにのみ,重み \(\mathbf{x}\) に入力 \(\mathbf{x}\) を更新する.

  • if 分類結果が正しい then 重み \(\mathbf{w}\) は変更なし
  • if 分類結果が誤り then
    • if 1 クラスを 0 クラスに間違った then \(\mathbf{w}\leftarrow\mathbf{w}+\mathbf{x}\)
    • if 0 クラスを 1 クラスに間違った then \(\mathbf{w}\leftarrow\mathbf{w}-\mathbf{x}\)
  • 線形分離可能な場合には収束する.
  • この方法では,収束する前では重みが正しいかどうかは分からない.この問題に対処したWidrow-Hoffの学習規則という方法もある.

-- しましま

関連項目

リンク集

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:12:25 (2492d)