Hessian: eğrinin eğriliğini ölçmek

Aynı kayıp, aynı öğrenme hızı kuralı. Vadi yuvarlakken tek adımda bitiyor, dar bir kanyona dönünce 363 adım sürüyor.

Kaynaklar

• Nocedal, J. & Wright, S. J. 2006 · Numerical Optimization, Bölüm 3.3 · Springer
• LeCun, Y. ve ark. 1998 · Efficient BackProp · Neural Networks: Tricks of the Trade, Springer
• Goodfellow, Bengio, Courville 2016 · Deep Learning, Bölüm 4.3.1 ve 8.2 · MIT Press