自然勾配 (natural gradient)

幾何的に自然な計量で勾配を計算しましょうという話でかっちりした定義があるわけではなく文脈によって微妙に使い分けられている. 統計多様体での最適化では自然な計量がFisher情報行列で,それは漸近的にはヘシアンのマイナスに一致するので,ニュートン法と等価になる. ニュートン法なので特異点の付近ではジャンプが大きくなってプラトーが避けられるという話もあるが効果の程はいかほどだろうか. また独立成分分析などで用いられる直交行列上の最適化では,リー群の構造から導かれる計量を使うと,逆行列の計算がなくなるところがおいしい.

--あかほ

関連項目

リンク集

関連文献


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2010-02-11 (木) 16:13:11 (2487d)