パーセプトロンの変更点

追加された行はこの色です。
削除された行はこの色です。
パーセプトロンへ行く。
*パーセプトロン (perceptron) [#e229a0e3]

最も基本的なニューラルネットの形式．次式の符号により，2クラスの[[クラス分類]]を行う．
\[f(\mathbf{x})=\sum_{i}^N w_i x_i\]
ただし，\(\mathbf{x}=(x_1,\ldots,x_n)\) は入力信号，\(\mathbf{w}=(w_1,\ldots,w_n)\) は重み，バイアス項は定数入力に対する重みで表現．すなわち，活性化関数がステップ関数であるような一般化線形モデル．

線形分離可能な問題にしか適用できない．しかし，そうでない問題にも，カーネルトリックを使って問題を線形分離可能にすれば適用できる．

*** 誤り訂正学習 (error correcting learning) [#zaed22cb]

確率的勾配降下法の重みの学習方法．これは誤分類したときにのみ，重み \(\mathbf{x}\) に入力 \(\mathbf{x}\) を更新する．
- ''if'' 分類結果が正しい ''then'' 重み \(\mathbf{w}\) は変更なし
- ''if'' 分類結果が誤り ''then''
-- ''if'' 1 クラスを 0 クラスに間違った ''then'' \(\mathbf{w}\leftarrow\mathbf{w}+\mathbf{x}\)
-- ''if'' 0 クラスを 1 クラスに間違った ''then'' \(\mathbf{w}\leftarrow\mathbf{w}-\mathbf{x}\)

- 線形分離可能な場合には収束する．
- この方法では，収束する前では重みが正しいかどうかは分からない．この問題に対処したWidrow-Hoffの学習規則という方法もある．
- 

> -- しましま

**関連項目 [#xf216c5a]
-[[perceptron]]
#br
-[[誤り訂正学習]]
-[[error correcting learning]]
#br
-[[ニューラルネット]]
-[[Widrow-Hoffの学習規則]]
-[[線形分離可能]]
-[[SVM]]
-[[バックプロパゲーション]]
-[[逐次学習]]
#br
-[[検索:パーセプトロン perceptron 誤り訂正学習]]

** リンク集 [#r8278126]

-[[ニューラルネットワーク入門>http://mars.elcom.nitech.ac.jp/java-cai/neuro/menu.html]] @ 岩田 彰
-[[Perceptron Learning Algorithm>http://www-cse.uta.edu/~cook/ai1/lectures/applets/perceptron/]] デモアプレット
-[[Perceptron Learning Applet>http://diwww.epfl.ch/mantra/tutorial/english/perceptron/html/]] デモアプレット
#br
-[[Wikipedia:Perceptron]]
-[[Wikipedia.jp:パーセプトロン]]

** 関連文献 [#a823650e]

-基本文献：誤り訂正学習~
Frank Rosenblatt "The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain, Cornell Aeronautical Laboratory" Psychological Review, Vol.65, No.6, pp.386-408 (1958)~
[[GoogleScholarAll:The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain, Cornell Aeronautical Laboratory]]
-Marvin L. Minsky and Seymour A. Papert "Perceptrons" MIT Press, 1969~
Marvin L. Minsky and Seymour A. Papert "Perceptrons -- Expanded Edition" MIT Press, 1988~
パーセプトロンは線形分離可能でない問題を解けないという限界を示した．~
[[GoogleScholarAll:Perceptrons]]
-[[Book/わかりやすいパターン認識]] 2.3節
-[[Book/学習システムの理論と実現]] 3.1節
-[[Book/パターン認識と学習の統計学(統計科学のフロンティア6)]] 2.6節
-[[Book/フリーソフトでつくる音声認識システム]] 4.3節
-[[Book/Machine Learning]] 4.4章
-[[Book/Neural Networks for Pattern Recognition]] 3.5章
-[[Book/Pattern Recognition and Machine Learning]] 4.1.7章
パーセプトロン の変更点
