* Newton法 (Newton method) [#x5d871c2]

//ここには %項目の説明を書いてください.

解に近い初期値 \(\mathbf{x}_0\) から始めて次のステップを反復する
\[\mathbf{x}_{n+1}=\mathbf{x}_n\pm H^{-1}\nabla f(\mathbf{x}_n)\]

ただし,\(H\) は \(f(\mathbf{x})\) のHesse行列.Hesse行列の前の符合が負なら極小値,正なら最大値を求める.

> -- しましま

関数のゼロ点を関数の線形近似によって求める方法. 1回積分した世界では,関数の極大・極小値(の局所解)を関数の2次関数近似によって求める方法となる. 見方をかえると,2回微分の逆行列を計量とした最急降下法ともみなせる. 収束は速いが,2回微分の逆行列の計算に時間がかかったり,逆行列が退化して不安定になったりする.

> -- あかほ 

**関連項目 [#j22c9d38]

-[[Newton method]]
-[[Newton-Raphson法]]
-[[Newton-Raphson method]]
#br
-[[最適化]]
-[[最急勾配法]]
-[[Levenberg-Marquardt法]]
-[[IRLS法]]
-[[準Newton法]]
-[[Hesse行列]]
#br
-[[検索:ニュートン法 Newton法]]

//関連する%項目%をリストしてください.

** リンク集 [#a9aa41a2]

-[[Newton's Method>http://www.cse.uiuc.edu/iem/optimization/Newton_Opt2D/]] @ Scientific Computing
-[[NumericalRecipes:c9-4]] Newton-Raphson Method Using Derivative
-[[NumericalRecipes:c9-6]] Newton-Raphson Method for Nonlinear Systems of Equations
#br
-[[MathWorld:NewtonsMethod]]
-[[PlanetMath:NewtonRaphsonMethod]]
-[[Wikipedia:Newton's_method]]
-[[Wikipedia.jp:ニュートン法]]

** 関連文献 [#ga8a6ae7]

//この%項目%に関連する書籍や論文を紹介してください.

-[[Book/最適化の手法]] 4.3章
-[[Book/Neural Networks for Pattern Recognition]] 7.9節
-[[Book/Pattern Classification]] 5.4.2節
-[[Book/Pattern Recognition and Machine Learning]] 4.3.3節

トップ   編集 差分 履歴 添付 複製 名前変更 リロード   新規 一覧 検索 最終更新   ヘルプ   最終更新のRSS