ニューラルネット (neural network)

ニューロンのモデルを入力の線形和を非線形変換したものとするのが基本である. 統計的な観点から見ると,これは一般化線形モデルということになる. また,関数近似的な観点からは,峰型のリッジ関数のモデル化である.

ニューラルネットはこれらを互いに結合したものであり,フィードバックがあるかないかで扱いがかなり異なる. フィードバックがない場合は多層パーセプトロンといい,原理的には何層も重ねることが出来るが,中間の層が一つだけの三層ニューラルネットを用いることが多い(三層で任意の関数が近似可能であることが示されている). 多層パーセプトロンの代表的な学習法にバックプロパゲーションがある.

三層パーセプトロンでは入力から中間素子への変換が基底関数,中間素子から出力への変換がその基底関数の線形和とみなすことができる. 通常の基底関数展開は基底関数が固定されているが,ニューラルネットでは基底関数が適応的に変化可能となっていることが特徴である. ただし,そのために基底関数が冗長になりえるため,特異モデルと呼ばれるモデルになっており,理論的には取り扱いが難しい.

一方フィードバックがある場合には,ダイナミクスが問題となる.Elmanネットワークは多層パーセプトロンにフィードバックを導入することによって内部状態のある非線形時系列モデルモデル化ができる. また,ボルツマンマシンは対称結合型のMarkovネットの一つで,連想記憶などの脳のモデル化だけでなく,最適化やMCMCといった用途にも用いられる.

-- あかほ

関連項目

リンク集

Freeware

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:12:23 (2490d)