Davidon, fizyka z Argonne National Laboratory.
Opis metody Jak w metodzie Newtona, stosowane są aproksymacje drugiego stopnia w celu znalezienia minimum funkcji Rozwinięcie w szereg Taylora funkcji wyraża się wzorem:
gdzie jest gradientem , a jej hesjanem.
Szereg Taylora samego gradientu:
rozwiązanie równania daje pierwszy krok:
jednak jest nieznana. W jednowymiarowym problemie znajdowanie i wykonywanie newtonowskiego kroku z zaktualizowaną wartością jest równoważne metodzie siecznych. W problemie wielowymiarowym jest wyznaczana.
Stosuje się wiele metod do wyznaczania rozwiązania równania siecznej, które jest symetryczne i najbliższe aktualnie aproksymowanej wartości zgodnie z pewną metryką Aproksymowana wartość początkowa jest zazwyczaj wystarczająca do osiągnięcia szybkiej zbieżności. nieznany jest aktualizowana przez stosowanie newtonowskiego kroku obliczanego przy użyciu hesjanu z dobraną by spełnić warunek Wolfa;
Gradient obliczany w nowym punkcie i
są używane do poprawienia hesjanu lub bezpośrednio jego odwrotności używająć wzoru Shermana-Morrisona.
Najpopularniejsze metody obliczania przybliżeń:
Metoda DFP BFGS Broyden Broyden Family SR1
Zobacz też metoda gradientu prostego optymalizacja