Einführung in Conjugate Gradient
Conjugate Gradient ist eine Methode zwischen der steilsten Abstiegsmethode und der Newton-Methode. Es muss nur die ersten abgeleiteten Informationen verwenden, aber es überwindet die Mängel der langsamen Konvergenz der steilsten Abstiegsmethode und vermeidet die Notwendigkeit der Speicherung in Newtons Methode. Neben den Unzulänglichkeiten bei der Berechnung der Hesse-Matrix und der Suche nach dem Inversen ist die Konjugatgradientenmethode nicht nur eine der nützlichsten Methoden zur Lösung großer linearer Gleichungen, sondern auch einer der effektivsten Algorithmen zur Lösung großer nichtlinearer Optimierungen.