Ridge-Regression (L₂-Regularisierung)

Die Beziehung \hat{\beta}=\arg\min_{\beta}\left(\|y-X\beta\|_2^2+\lambda\|\beta\|_2^2\right) fasst Ridge-Regression minimiert quadratische Residuen plus L₂-Strafe und stabilisiert Koeffizienten bei korrelierten Merkmalen. zusammen. Lies sie als Modell für klar definierte Größen, nicht als automatische Aussage über jede reale Situation. Im Beispiel Mit X=I₂, y=(2,0)ᵀ und λ=1 minimiert ||y−β||²+||β||². Die Normalgleichung (I+I)β=y ergibt β=(1,0)ᵀ. Probe: Residuenquadratsumme 1, Strafe 1, Zielfunktionswert 2; ohne Strafe wäre β=(2,0) und der Koeffizientenbetrag größer. werden die Symbole mit konkreten Werten verbunden und das Ergebnis wird fachlich interpretiert. Gültigkeitsgrenze: Die L₂-Strafe zieht Koeffizienten gegen null, setzt sie aber im Allgemeinen nicht exakt auf null. Bei λ=0 entspricht das Ziel gewöhnlichen kleinsten Quadraten; großes λ verstärkt Schrumpfung. Merkmale und Ziel Quelle: scikit-learn User Guide, §1.1.2.1 Ridge regression: penalized residual sum of squares.

Schreibe zuerst die gesuchte Größe und alle gegebenen Werte mit ihren Bezeichnungen auf. Setze sie in \hat{\beta}=\arg\min_{\beta}\left(\|y-X\beta\|_2^2+\lambda\|\beta\|_2^2\right) ein und prüfe, ob die Einheiten zusammenpassen. Das Beispiel Mit X=I₂, y=(2,0)ᵀ und λ=1 minimiert ||y−β||²+||β||². Die Normalgleichung (I+I)β=y ergibt β=(1,0)ᵀ. Probe: Residuenquadratsumme 1, Strafe 1, Zielfunktionswert 2; ohne Strafe wäre β=(2,0) und der Koeffizientenbetrag größer. liefert eine Rechenprobe: Werte Formel und Ergebnis müssen dieselbe Größenordnung und Bedeutung ergeben; runde erst am Ende. Gültigkeitsgrenze: Die L₂-Strafe zieht Koeffizienten gegen null, setzt sie aber im Allgemeinen nicht exakt auf null. Bei λ=0 entspricht das Ziel gewöhnlichen kleinsten Quadraten; großes λ verstärkt Schrumpfung. Merkmale und Ziel Quelle: scikit-learn User Guide, §1.1.2.1 Ridge regression: penalized residual sum of squares.

Die Formel gilt nur, wenn die Größen so definiert sind wie in der Quelle und im Hintergrundtext. Prüfe insbesondere Randfälle, Messbedingungen und ob ein Näherungszeichen statt Gleichheit gemeint ist. Ein formal korrektes Einsetzen kann trotzdem fachlich falsch sein, wenn diese Voraussetzungen verletzt werden oder die betrachtete Population beziehungsweise Systemgrenze wechselt. Gültigkeitsgrenze: Die L₂-Strafe zieht Koeffizienten gegen null, setzt sie aber im Allgemeinen nicht exakt auf null. Bei λ=0 entspricht das Ziel gewöhnlichen kleinsten Quadraten; großes λ verstärkt Schrumpfung. Merkmale und Ziel Quelle: scikit-learn User Guide, §1.1.2.1 Ridge regression: penalized residual sum of squares.

Die angegebene Einheit lautet: Residuumseinheit²; λ dimensionslos bei dimensionslosen X und konsistent skaliertem Ziel; β passend zu Merkmal/Ziel. Vor dem Einsetzen müssen alle Werte auf ein konsistentes Einheitensystem gebracht werden; Anzahlen, Prozentangaben und dimensionslose Verhältnisse sind dabei nicht austauschbar. Die Variablenliste benennt die Rolle jedes Symbols. Einheitenkontrolle erkennt viele Fehler, ersetzt aber nicht die Prüfung, ob die Formelannahmen erfüllt sind. Gültigkeitsgrenze: Die L₂-Strafe zieht Koeffizienten gegen null, setzt sie aber im Allgemeinen nicht exakt auf null. Bei λ=0 entspricht das Ziel gewöhnlichen kleinsten Quadraten; großes λ verstärkt Schrumpfung. Merkmale und Ziel Quelle: scikit-learn User Guide, §1.1.2.1 Ridge regression: penalized residual sum of squares.

Ein Vergleich hilft, wenn beide Größen dieselbe Aufgabe beantworten, aber unterschiedliche Eigenschaften betonen. Berichte Definition, Eingabedaten, Schwelle oder Aggregation zusammen mit dem Zahlenwert. Die Quelle scikit-learn User Guide, §1.1.2.1 Ridge regression: penalized residual sum of squares. stützt die hier verwendete Definition; bei anderen Konventionen können Ergebnisse abweichen. Verwende die Kennzahl deshalb passend zum konkreten Lern- oder Analyseziel. Gültigkeitsgrenze: Die L₂-Strafe zieht Koeffizienten gegen null, setzt sie aber im Allgemeinen nicht exakt auf null. Bei λ=0 entspricht das Ziel gewöhnlichen kleinsten Quadraten; großes λ verstärkt Schrumpfung. Merkmale und Ziel Quelle: scikit-learn User Guide, §1.1.2.1 Ridge regression: penalized residual sum of squares.