解に近い初期値 \(\mathbf{x}_0\) から始めて次のステップを反復する \[\mathbf{x}_{n+1}=\mathbf{x}_n\pm H^{-1}\nabla f(\mathbf{x}_n)\]
ただし,\(H\) は \(f(\mathbf{x})\) のHesse行列.Hesse行列の前の符合が負なら極小値,正なら最大値を求める.
-- しましま
関数のゼロ点を関数の線形近似によって求める方法. 1回積分した世界では,関数の極大・極小値(の局所解)を関数の2次関数近似によって求める方法となる. 見方をかえると,2回微分の逆行列を計量とした最急降下法ともみなせる. 収束は速いが,2回微分の逆行列の計算に時間がかかったり,逆行列が退化して不安定になったりする.
-- あかほ