Dein Lernbereich wird geladen
App wird gestartet …
Dein Lernbereich wird geladen
App wird gestartet …
Softmax wandelt K Klassen-Scores in nichtnegative, zu eins summierte Werte um.
Ansehen kostenlos · Karteikarten oder Multiple-Choice-Test · übernehmen ab Essential
Formel
zi dimensionslose Scores; Ausgaben dimensionslos und Summe 1
| Symbol | Bedeutung | Einheit |
|---|---|---|
| Score beziehungsweise Logit für Klasse i | dimensionslos | |
| Anzahl der Klassen | Anzahl | |
| Normalisierter Ausgabewert der Klasse i | dimensionslos |
\mathrm{softmax}(z)_i=\frac{e^{z_i}}{\sum_{j=1}^{K}e^{z_j}}Die Exponentialabbildung macht alle Ausgaben positiv; Division durch die Summe normiert sie zu einer Verteilung über die gewählte Achse. Eine gemeinsame additive Verschiebung aller Scores ändert die Ausgabe nicht. Sehr große Scores erfordern numerisch stabile Berechnung, typischerweise durch Subtraktion des Maximums. Die Werte sind nicht allein durch Softmax garantiert kalibrierte Wahrscheinlichkeiten; diese Deutung hängt vom Modell und Trainingsverfahren ab.
Die Exponentialabbildung macht alle Ausgaben positiv; Division durch die Summe normiert sie zu einer Verteilung über die gewählte Achse. Eine gemeinsame additive Verschiebung aller Scores ändert die Ausgabe nicht. Sehr große Scores erfordern numerisch stabile Berechnung, typischerweise durch Subtraktion des Maximums. Die Werte sind nicht allein durch Softmax garantiert kalibrierte Wahrscheinlichkeiten; diese Deutung hängt vom Modell und Trainingsverfahren ab.
Softmax wandelt K Klassen-Scores in nichtnegative, zu eins summierte Werte um.
Score-Verhältnis zweier Klassen
Softmax outputs are positive and normalized along the chosen class axis.
Erkläre am Beispiel zu Softmax-Funktion, welche Eingabegrößen zur gesuchten Ausgabe führen.
Das Beispiel verknüpft konkrete Eingaben mit dem Ergebnis.
Softmax wandelt K Klassen-Scores in nichtnegative, zu eins summierte Werte um.
Gültig ist die Beziehung nur unter den genannten Voraussetzungen.
Die Beziehung ohne ihre angegebenen Voraussetzungen auf einen anderen Fall übertragen.
Prüfe vor dem Einsetzen den Gültigkeitsbereich: Die Exponentialabbildung macht alle Ausgaben positiv; Division durch die Summe normiert sie zu einer Verteilung über die gewählte Achse. Eine gemeinsame additive Verschiebung aller Scores ändert die Ausgabe nicht. Sehr.
Formelcluster
Softmax wandelt K Klassen-Scores in nichtnegative, zu eins summierte Werte um.
Für zwei Scores z=(0,ln 3) sind die Exponentialwerte (1,3), daher softmax(z)=(0,25;0,75) und die Summe ist 1.
Mehrklassenklassifikation, Ausgabeschichten neuronaler Netze und normalisierte Scores.
Eine typische Aufgabe Schritt für Schritt: Softmax-Funktion (softmax(z)i = eᶻⁱ/Σⱼeᶻʲ).
Aufgabe
Erkläre am Beispiel zu Softmax-Funktion, welche Eingabegrößen zur gesuchten Ausgabe führen.
Rechenweg
Das Beispiel verknüpft konkrete Eingaben mit dem Ergebnis.
Softmax wandelt K Klassen-Scores in nichtnegative, zu eins summierte Werte um.
Gültig ist die Beziehung nur unter den genannten Voraussetzungen.
Softmax exponentiert jeden Score und teilt anschließend durch die Summe aller Exponentialwerte. Dadurch ist jeder Anteil positiv, und die Summe der Anteile ist exakt eins bis auf Rundungsfehler. Für zwei Scores 0 und ln 3 entstehen Exponentialwerte 1 und 3, daraus folgen 0,25 und 0,75. Die Normierung gilt entlang der vorgesehenen Klassenachse. Softmax normalisiert entlang der gewählten Klassenachse. Die Ausgabe summiert dort zu eins, ist aber ohne passende Modellierung und Kalibrierung keine automatisch verlässliche Wahrscheinlichkeit. Scores können formal korrekt normalisiert sein und trotzdem schlecht kalibrierte Vorhersagen ergeben; prüfe Klassendefinition und Achse.
Werden alle Scores um dieselbe Konstante c erhöht, erhält jeder Zähler den Faktor eᶜ und auch der Nenner diesen Faktor. Beim Kürzen bleibt die Verteilung unverändert. Diese Eigenschaft erlaubt eine stabile numerische Berechnung durch Abzug des größten Scores vor dem Exponenzieren. Unterschiedliche Änderungen einzelner Klassen verändern dagegen ihre relativen Wahrscheinlichkeiten. Softmax normalisiert entlang der gewählten Klassenachse. Die Ausgabe summiert dort zu eins, ist aber ohne passende Modellierung und Kalibrierung keine automatisch verlässliche Wahrscheinlichkeit. Scores können formal korrekt normalisiert sein und trotzdem schlecht kalibrierte Vorhersagen ergeben; prüfe Klassendefinition und Achse.
Nein. Sie bezeichnet die größte modellierte Klassenwahrscheinlichkeit innerhalb der betrachteten Kandidaten, aber keine Sicherheit. Ein Modell kann überkonfident oder schlecht kalibriert sein, besonders außerhalb seiner Trainingsverteilung. Softmax erzwingt nur positive Werte mit Summe eins. Prüfe Kalibrierung an unabhängigen Daten und unterscheide den höchsten Score von einer verlässlichen Fehlerwahrscheinlichkeit. Softmax normalisiert entlang der gewählten Klassenachse. Die Ausgabe summiert dort zu eins, ist aber ohne passende Modellierung und Kalibrierung keine automatisch verlässliche Wahrscheinlichkeit. Scores können formal korrekt normalisiert sein und trotzdem schlecht kalibrierte Vorhersagen ergeben; prüfe Klassendefinition und Achse.
Sigmoid wandelt einen einzelnen Score in einen Wert zwischen null und eins um; unabhängige Sigmoids müssen nicht zu eins summieren. Softmax nimmt dagegen mehrere Klassen-Scores gemeinsam und normiert sie als konkurrierende Kategorien. Das passt zu genau-einer-Klasse-Aufgaben. Für Mehrfachlabel-Aufgaben, bei denen mehrere Klassen zugleich gelten dürfen, sind unabhängige Sigmoids oft geeigneter. Softmax normalisiert entlang der gewählten Klassenachse. Die Ausgabe summiert dort zu eins, ist aber ohne passende Modellierung und Kalibrierung keine automatisch verlässliche Wahrscheinlichkeit. Scores können formal korrekt normalisiert sein und trotzdem schlecht kalibrierte Vorhersagen ergeben; prüfe Klassendefinition und Achse.
Bei sehr großen zi kann eᶻi den darstellbaren Zahlenbereich überschreiten. Setze m=max(z) und berechne eᶻi−ᵐ/Σjeᶻʲ−ᵐ; wegen der Verschiebungsinvarianz bleibt Softmax gleich, während die größten Exponenten höchstens eins sind. Bibliotheken implementieren diese oder eine äquivalente stabile Form. Für Kreuzentropie ist log-softmax oft robuster als log(softmax(z)). Softmax normalisiert entlang der gewählten Klassenachse. Die Ausgabe summiert dort zu eins, ist aber ohne passende Modellierung und Kalibrierung keine automatisch verlässliche Wahrscheinlichkeit. Scores können formal korrekt normalisiert sein und trotzdem schlecht kalibrierte Vorhersagen ergeben; prüfe Klassendefinition und Achse.
Quanta-Prüfungsset
Kuratiertes Prüfungsset für "Softmax-Funktion":
Frage (Vorderseite)
Welche Formel beschreibt Softmax-Funktion?
Antwort in deinem Set
Frage (Vorderseite)
Wie stellst du softmax(z)i = eᶻⁱ/Σⱼeᶻʲ nach Score-Verhältnis zweier Klassen um?
Antwort in deinem Set
Frage (Vorderseite)
Welcher typische Fehler passiert bei softmax(z)i = eᶻⁱ/Σⱼeᶻʲ?
Antwort in deinem Set
+ 7 weitere Karten: Einheiten, Variablen, Herleitung, Beispiel, Klausuraufgabe
Das Formelset enthält 10 Karten. Nach der Übernahme kannst du sie prüfen und lernen; deine Bewertungen bestimmen die weiteren Wiederholungen.
Die Liste nennt Fachquellen und weiterführende Literatur. Eine Seiten- oder Abschnittsnummer steht dabei, wenn sie Teil der Literaturangabe ist; es handelt sich nicht um wörtliche Zitate.
Erstelle ein kuratiertes FSRS-Prüfungsset für softmax(z)i = eᶻⁱ/Σⱼeᶻʲ: Formelabruf, Variablen, Herleitung, Umstellung, Beispiel, typische Fehler und Klausurkontext.
Kuratiertes Formelset · LaTeX · FSRS Spaced Repetition · übernehmen ab Essential