Was die Beziehung aussagt
Die allgemeine Updateformel gilt für differenzierbare reelle Zielfunktionen. Eine Konvergenzbehauptung braucht zusätzliche Annahmen. Der Rechner behandelt nur eine streng konvexe eindimensionale Parabel mit konstanter Schrittweite und einer ganzen Anzahl von 0 bis 1000 Schritten. Ein stationärer Start am Minimum ist eine exakte Identität, auch wenn die gewählte Schrittweite für andere Starts ungeeignet wäre.
Der Gradient liefert die lokale Richtung, die Hesse-Matrix beschreibt die Krümmung. Beim Newton-Verfahren wird diese Krümmung zur Skalierung des Schritts benutzt. In höheren Dimensionen begrenzen die Eigenwerte einer positiv definiten quadratischen Hesse-Matrix den stabilen Bereich der konstanten Schrittweite. Für nichtkonvexe Aufgaben bedeutet ein kleiner Gradient zunächst nur Nähe zu einer stationären Stelle.
Schritt für Schritt herleiten
Die lineare Taylor-Näherung sagt für eine kleine Verschiebung d die Änderung ∇f(x)·d voraus. Bei festem kleinen Abstand zeigt die negative Gradientenrichtung am stärksten nach unten. Die Schrittweite bestimmt jedoch, wie weit dieser lokale Hinweis benutzt wird. Für eine Parabel kann die gesamte Iteration exakt als geometrische Fehlerfolge beschrieben werden.
- Berechne die Ableitung der festen Parabel f(x)=a(x−b)2/2: f′(x)=a(x−b), a>0.
- Setze xn+1=xn−ηa(xn−b) mit η>0. Subtrahiere b auf beiden Seiten.
- Der Ortsfehler en=xn−b erfüllt en+1=(1−ηa)en. Deshalb en=(1−ηa)ne0.
- Konvergenz für jeden Start verlangt |1−ηa|<1, also 0<ηa<2. Der Zielfunktionsabstand ist a·en2/2; sein Verhältnis ist (1−ηa)2.
Modell sichtbar machen
Drei Schritte auf einer Parabel
Kostenlos mit Quanta-Konto. Dein Download bleibt nach der Registrierung bereit.
Zwei durchgerechnete Beispiele
Drei kontrollierte Schritte
- Gegeben
- Autorenrechnung: f(x)=(x−1)2, x0=5, η=0,1.
- Gesucht
- Punkt und Zielfunktionsabstand nach drei Schritten.
a=2, b=1, Fehlerfaktor q=1−0,1·2=0,8.
Die Folge lautet 5→4,2→3,56→3,048. Alternativ x3=1+0,83·4.
Der Ortsfehler ist 2,048; f(x3)−f(1)=2,0482=4,194304.
Ergebnis: x3=3,048, Zielfunktionsabstand 4,194304.
Kontrolle: 0<ηa=0,2<2 und die Zielfunktion sinkt von 16 auf 4,194304.
Überschwingen kann trotzdem konvergieren
- Gegeben
- Autorenrechnung: dieselbe Parabel und x0=5, aber η=0,75.
- Gesucht
- Zwei Schritte und Schwingung erklären.
q=1−2·0,75=−0,5: Der Fehler wechselt die Seite und halbiert seinen Betrag.
x1=1−0,5·4=−1; x2=1+(−0,5)2·4=2.
Die Funktionswerte sind 16→4→1. Der Ort ist nicht monoton, die Funktionswerte schon.
Ergebnis: Die Folge schwingt um b=1 und konvergiert trotzdem.
Kontrolle: |q|=0,5<1; ein Vorzeichenwechsel des Fehlers ist kein Divergenzbeweis.
Den Rechenweg später mit den Karten dieser Formel abrufen.
10 Karteikarten · Deutsche Inhalte
Schon ein Konto? Anmelden für KarteikartenÜbernehmen ab Essential. Ein fertiges Set zur Formel, ohne KI-Credits. Die Artikelaufgaben sind nicht vollständig enthalten.
Grenzen und Ergebnisprüfung
Eine negative Gradientenrichtung garantiert nur für ausreichend kleine positive Schritte einen lokalen Abstieg, nicht für beliebiges η. Bei ηa=2 pendelt der Ortsfehler ohne zu schrumpfen. Bei ηa>2 wächst er im Betrag. Numerisch kann ein Stillstand außerdem durch Rundung statt durch ein echtes Minimum entstehen. Die konkrete Parabelrechnung ist ein überprüfbares Lernmodell, keine verdeckte Optimierung beliebiger Funktionen.
- Negative Richtung erlaubt jede Schrittweite. Der konkrete Schritt muss zur Krümmung passen.
- ηa=2 wird als konvergent eingeordnet. q=−1 bedeutet ungedämpfte Schwingung außer am bereits stationären Start.
- Gradient null bedeutet immer Minimum. Zusätzliche Krümmungs- oder Konvexitätsbedingungen prüfen.
Fünf Aufgaben mit Lösungsweg
Einsetzen und Rechnen · Einstieg
f(x)=(x−1)2, x0=5, η=0,1. Bestimme x3.
Hinweis anzeigen
f′=2(x−1), Fehlerfaktor 0,8.
Lernziel: Drei Gradienten-Schritte berechnen
Lösung und Rechenweg anzeigen
x1=4,2, x2=3,56, x3=3,048.
Alternativ 1+0,83·(5−1)=3,048.
Umstellen · Einstieg
Für a>0 soll die feste Parabel aus jedem Start in einem Schritt b erreichen. Welche Schrittweite braucht sie?
Hinweis anzeigen
Setze 1−ηa=0.
Lernziel: Passende Ein-Schritt-Weite bestimmen
Lösung und Rechenweg anzeigen
η=1/a.
Dann ist der Fehlerfaktor null und x1=b.
Bei a=2 ergibt sich η=0,5.
Diese optimale Konstante gilt für die feste eindimensionale Parabel, nicht für beliebige Funktionen.
Interpretieren · Anwenden
Bei ηa=1,5 wechselt xn−b das Vorzeichen. Muss die Zielfunktion steigen?
Hinweis anzeigen
Quadriere den Fehlerfaktor.
Lernziel: Ortswechsel und Funktionsabstieg trennen
Lösung und Rechenweg anzeigen
Nein.
Der Ortsfehlerfaktor ist −0,5, der Faktor des Funktionsabstands aber (−0,5)2=0,25.
Der Ort schwingt, während der Abstand der Funktionswerte geometrisch sinkt.
Fehleranalyse · Anwenden
Jemand behauptet: η=2/a konvergiert am schnellsten, weil die Schrittweite maximal ist. Prüfe das.
Hinweis anzeigen
Berechne q=1−ηa.
Lernziel: Randfall der Stabilität erkennen
Lösung und Rechenweg anzeigen
q=−1.
Jeder nichtverschwindende Ortsfehler wechselt nur das Vorzeichen; sein Betrag und der Zielfunktionsabstand bleiben gleich.
Konvergenz aus beliebigem Start braucht die strenge Ungleichung η<2/a.
Transfer · Vertiefen
Eine positiv definite quadratische Hesse-Matrix hat Eigenwerte 2 und 10. Welche konstanten η konvergieren aus jedem Start?
Hinweis anzeigen
Jeder Eigenmodus braucht |1−ηλ|<1.
Lernziel: Mehrdimensionale Stabilität übertragen
Lösung und Rechenweg anzeigen
Für λ=2 gilt 0<η<1; für λ=10 gilt 0<η<0,2.
Der gemeinsame Bereich ist 0<η<0,2.
Die größte Krümmung begrenzt den Schritt.
Dein Verständnis mit dem Referenztest dieser Formel prüfen.
8 Testfragen · Deutsche Inhalte
Schon ein Konto? Anmelden für den TestÜbernehmen ab Essential. Ein fertiges Set zur Formel, ohne KI-Credits. Die Artikelaufgaben sind nicht vollständig enthalten.
Belege zu dieser Erklärung
Quanta · Bearbeitet 8. November 2026
Redaktion: Quanta Study Redaktion
Prüfumfang
Diese Erklärung, 2 Rechenbeispiele und 5 Aufgaben liegen auf Deutsch und Englisch vor. Aufbau, Quellenzuordnung und mathematische Darstellung werden automatisiert geprüft. Rechnungen, Modellvoraussetzungen und beide Sprachfassungen erhalten eine gesonderte KI-Gegenprüfung.
Eine unabhängige, namentliche menschliche Fachprüfung ist noch nicht dokumentiert. Unsere Aufgabenzahlen sind Rechenbeispiele und keine Messdaten der zitierten Quellen.
Redaktion, Quellen und VorgehenÄnderungsverlauf
- Vollartikel mit Modellgrenzen, eigenständig berechneten Beispielen, fünf Übungswegen und Quellenbelegen ergänzt.
Diese Nachschlageseite zitieren
Quanta. Gradientenabstieg. Stand 8. November 2026. https://quanta-study.de/tafelwerk/gradientenabstieg
Bei einer konkreten fachlichen Aussage zusätzlich die dort verknüpfte Fachquelle nennen.