Definition in einem Satz
Cálculo que cuantifica el error del modelo respecto al objetivo usado para actualizar sus parámetros durante el entrenamiento.
Direkte Definition: ein Kriterium für Abweichungen
Eine Verlustfunktion ist eine mathematische Funktion, die einer Vorhersage einen Wert zuweist, indem sie diese anhand eines festgelegten Kriteriums mit einem Zielwert oder einer Referenz vergleicht. Dieser Wert gibt die Abweichung wieder, die für die jeweilige Aufgabe als relevant gilt. Er ist keine allgemeingültige Messgröße für den Wert eines Modells: Entscheidend sind die Vorhersageaufgabe, der verwendete Zielwert und die Fehler, die die Funktion bestraft.
Das Wort „Verlust“ kann den Eindruck erwecken, die Zahl fasse alles zusammen, was schiefgelaufen ist. Das tut sie nicht. Sie beschreibt das Ergebnis einer konkreten Regel, angewandt auf konkrete Daten. Zwei Funktionen können dieselbe Vorhersage und denselben Zielwert erhalten und dennoch unterschiedliche Werte ausgeben, weil sie Arten oder Größen von Fehlern verschieden gewichten. Um den Wert einzuordnen, muss man daher die Aufgabe und die gewählte Formulierung kennen – nicht nur feststellen, ob die Zahl groß oder klein ist.
Im Alltag wird der Verlust manchmal als „Fehler“ des Modells bezeichnet. Das ist eine hilfreiche Vereinfachung, sofern klar ist, dass damit der von der Funktion definierte Fehler gemeint ist und nicht unbedingt eine Fehlerrate, die sich unmittelbar verständlich interpretieren lässt. Ein Verlust kann auf einer Skala liegen, die sich nicht direkt in „Prozent falscher Antworten“ oder eine praktische Qualitätsmessung übersetzen lässt.
Welche Rolle die Verlustfunktion beim Training spielt
Der gedankliche Ablauf beginnt mit einer Eingabe und einer Vorhersage des Modells. Die Verlustfunktion vergleicht diese Vorhersage mit dem zugehörigen Zielwert und liefert einen Wert. Das Trainingsverfahren nutzt dieses Signal, um die Modellparameter so anzupassen, dass die Verluste bei späteren Berechnungen gemäß dem gewählten Kriterium sinken können. Die Verlustfunktion legt fest, was gemessen wird; das Optimierungsverfahren bestimmt, wie die Parameter angepasst werden.
Die Verlustfunktion ist also nicht selbst der Algorithmus, der das Modell aktualisiert. Wenn es heißt, ein Training „minimiere den Verlust“, bedeutet das, dass der zu diesem Kriterium gehörende Wert verringert werden soll. Daraus folgt nicht, dass das Modell in einer Anwendung nützlich ist, in jedem Fall korrekte Antworten liefert oder alle Anforderungen des praktischen Einsatzes erfüllt.
Wie die Aktualisierung genau abläuft, hängt vom Trainingsverfahren und von der Implementierung ab. Bei Optimierungsverfahren, die auf Gradienten beruhen, werden häufig Gradienten verwendet. Aus der bloßen Erwähnung einer Verlustfunktion lässt sich jedoch nicht auf einen bestimmten Algorithmus schließen. Auch die Berechnung des Verlusts und der Aktualisierungsschritt sind nicht dasselbe: Sie hängen zusammen, sind aber begrifflich unterschiedliche Vorgänge.
Der grundlegende Ablauf
- 01Das Modell erhält eine Eingabe und erzeugt eine Vorhersage.
- 02Die Verlustfunktion vergleicht die Vorhersage mit dem für diese Eingabe festgelegten Zielwert.
- 03Die Berechnung liefert gemäß dem ausgewählten Kriterium einen Verlustwert.
- 04Das Optimierungsverfahren nutzt das Trainingssignal, um Parameter anzupassen; die Verlustfunktion aktualisiert sie nicht eigenständig.
- 05Der Ablauf wird wiederholt. Dabei werden sowohl der Verlust als auch weitere relevante Messgrößen betrachtet.
Verlust für ein Beispiel und aggregierter Verlust
Eine Funktion kann für ein einzelnes Beispiel einen Wert berechnen. Beim Training werden meist mehrere Beispiele berücksichtigt. Daher braucht es eine Regel, um ihre einzelnen Werte zu einer aggregierten Größe zusammenzufassen. Beispielsweise kann ein Mittelwert gebildet oder eine andere, in der Implementierung festgelegte Reduktion verwendet werden. Man sollte nicht voraussetzen, dass alle Systeme auf dieselbe Weise aggregieren.
Die Aggregation ist wichtig, weil sie eine Menge zusammenfasst, dabei aber Unterschiede zwischen einzelnen Fällen verdecken kann. Ein niedrigerer Mittelwert zeigt für sich genommen nicht, ob sich der Verlust bei allen Beispielen ähnlich verbessert hat oder ob einzelne Beispiele weiterhin hohe Verluste aufweisen. Bei der Interpretation einer Kurve sollte außerdem klar sein, welche Daten dafür verwendet wurden: Trainingsdaten, Validierungsdaten oder eine andere Datenmenge – und ob sich deren Zusammensetzung oder Verarbeitung geändert hat.
Die Aussage „Der Verlust ist gesunken“ lässt also noch Fragen offen: Geht es um den Verlust pro Beispiel oder um einen aggregierten Wert? Welche Reduktionsregel kam zum Einsatz? Für welche Datenaufteilung wurde gerechnet? Welche Zeitpunkte des Trainings werden verglichen? Ohne diese Angaben kann der Verlauf informativ sein, beschreibt die Leistung aber nicht vollständig.
Worauf es bei einem Wert oder einer Kurve ankommt
| Frage | Warum sie wichtig ist |
|---|---|
| Welche Funktion wurde berechnet? | Sie legt fest, welche Abweichungen zählen und wie sie bewertet werden. |
| Welche Beispiele gingen ein? | Der Wert hängt von den Daten ab, auf denen er berechnet wird. |
| Wie wurden die Werte aggregiert? | Die Reduktionsregel bestimmt, wie die Verluste mehrerer Beispiele zusammengefasst werden. |
| Stammt der Wert aus dem Training oder aus einer Auswertung? | Ein Verlust auf Trainingsdaten beschreibt für sich genommen nicht das Verhalten auf anderen Daten. |
Anwendungsbeispiel: numerische Regression
Stell dir eine Regressionsaufgabe vor, bei der die Lieferzeit einer Bestellung vorhergesagt wird. Für eine Bestellung gibt das Modell eine geschätzte Dauer aus, die mit der erfassten tatsächlichen Dauer als Zielwert verglichen wird. Eine Verlustfunktion weist der Abweichung zwischen beiden einen Wert zu. Liegt die Vorhersage weit vom Zielwert entfernt, kann der Wert gemäß der gewählten Regel eine größere Abweichung ausdrücken.
Die Wahl der Regel verändert, welche Fehler stärker ins Gewicht fallen. Eine mögliche Formulierung kann dafür sorgen, dass große Fehler besonders deutlich einfließen, während eine andere ihren relativen Einfluss verringert. Allein aus der Bezeichnung „Regression“ lässt sich nicht ableiten, welche Funktion verwendet wird. Dafür müssen die Funktionsdefinition und ihre Konfiguration geprüft werden.
Das zeigt auch, warum die Aussage „den Fehler minimieren“ unvollständig ist. Das Training versucht, die von der Funktion formalisierte Abweichung zu verringern. Es optimiert damit nicht zwangsläufig die durchschnittliche Verspätung, die Betriebskosten oder den Anteil der Lieferungen innerhalb eines akzeptablen Zeitfensters. Für solche Fragen können zusätzliche Bewertungsmetriken erforderlich sein.
Anwendungsbeispiel: Textklassifikation
Bei einer Textklassifikation erhält das Modell einen Text und erzeugt eine Ausgabe, die sich auf mehrere mögliche Klassen bezieht, zum Beispiel „Anfrage“, „Beschwerde“ oder „Antrag“. Für die Trainingsbeispiele liegen Zielklassen in Form von Labels vor. Eine Verlustfunktion vergleicht die Modellausgabe anhand einer Klassifikationsregel mit diesen Labels und liefert einen Wert, der beim Training verwendet werden kann.
Dieser Wert ist nicht automatisch der Anteil der korrekt klassifizierten Texte. Die Trefferquote beantwortet eine andere Frage: Bei wie vielen Vorhersagen stimmte die endgültig zugewiesene Klasse gemäß einer Entscheidungsregel mit dem Label überein? Eine Verlustfunktion kann mehr Informationen aus der Modellausgabe berücksichtigen als nur, ob die ausgewählte Klasse richtig oder falsch war. Deshalb können zwei Modelle dieselbe Trefferquote, aber unterschiedliche Verlustwerte haben – abhängig von ihren Ausgaben und der verwendeten Funktion.
Um das Ergebnis einzuordnen, muss man prüfen, welche Labels verwendet wurden, welche Funktion zum Einsatz kam und auf welchen Texten gerechnet wurde. Außerdem garantiert ein niedrigerer Trainingsverlust nicht, dass der Klassifikator bei neuen Texten, einer anderen Themenverteilung oder Klassen mit anderen Fehlerkosten ebenso gut funktioniert.
Anwendungsbeispiel: Objekterkennung
Bei der Objekterkennung soll das Modell Informationen über die in einem Bild vorhandenen Objekte ausgeben. Als konzeptionelle Gliederung lassen sich Fragen danach unterscheiden, wo sich ein Objekt befindet und welcher Klasse es angehört. Eine Verlustfunktion für diese Aufgabe kann Abweichungen in mehr als einem Aspekt der Vorhersage abbilden. Wie konkrete Bestandteile kombiniert werden, hängt vom Modell und seiner Implementierung ab.
Das Beispiel hilft, eine Vereinfachung zu vermeiden: Eine komplexe Aufgabe lässt sich nicht immer mit einem einzigen elementaren Fehler zusammenfassen. Es wäre jedoch nicht sachgerecht, allen Detektoren dieselbe Formel, eine feste Liste von Komponenten oder eine universelle Gewichtung zuzuschreiben. Um eine konkrete Erkennungsfunktion zu beschreiben, müsste die technische Dokumentation der betreffenden Implementierung geprüft werden – einschließlich der berechneten Terme und ihrer Aggregation.
Der Verlust ersetzt außerdem nicht automatisch die Metriken, mit denen Erkennungen bewertet werden. Wird ein Verlustwert angegeben, muss geklärt werden, welches Kriterium er abbildet. Wird eine Bewertungsmetrik genannt, ist ihre Definition gesondert zu prüfen. Beide Arten von Angaben gegenüberzustellen kann hilfreich sein, berechtigt aber nicht dazu, ihre Werte als wären sie auf derselben Skala zu behandeln.
Verwandte Begriffe: Verlust, Metrik, Kostenfunktion und Optimierer
Eine Bewertungsmetrik fasst einen Leistungsaspekt anhand einer Messregel zusammen. Sie kann Fragen beantworten wie: Wie viele Vorhersagen waren korrekt? Oder: Welche Qualität hat ein Ergebnis gemäß einer bestimmten Definition? Eine Verlustfunktion weist dagegen Vorhersagen und Zielwerten für die festgelegte Aufgabe einen Wert zu. Metriken und Verlustfunktionen können miteinander zusammenhängen, sind aber nicht automatisch synonym und müssen nicht gleich interpretiert werden.
„Fehler“ ist ein allgemeiner und mehrdeutiger Begriff. Er kann die Abweichung einer formal definierten Funktion, eine falsche Vorhersage oder eine in verständlichen Einheiten ausgedrückte Metrik meinen. Es ist deshalb besser, die konkrete Größe zu benennen. Auch „Kostenfunktion“ wird in technischen Texten unterschiedlich verwendet, etwa für ein aggregiertes Kriterium. Man sollte nicht voraussetzen, dass alle Autorinnen und Autoren individuelle Verluste und aggregierte Kosten nach derselben Terminologie unterscheiden.
Das Trainingsziel bezeichnet das übergeordnete Kriterium, das in einer bestimmten Konfiguration optimiert werden soll. Die Verlustfunktion kann Teil dieses Ziels sein, doch die vollständige Beschreibung kann weitere Bestandteile umfassen. Der Optimierer ist das Verfahren, das die Parameteraktualisierungen ausführt. Kurz gesagt: Der Verlust ist eine definierte Messgröße; das Ziel ist das, was optimiert werden soll; der Optimierer organisiert die Aktualisierungen; eine Metrik dient der Bewertung einer Eigenschaft.
Nützliche Unterscheidungen
| Begriff | Welche Frage hilft er zu beantworten? | Nicht zu verwechseln mit |
|---|---|---|
| Verlustfunktion | Welchen Wert weist das Kriterium der Vorhersage im Verhältnis zum Zielwert zu? | Einer vollständigen Beschreibung des Nutzens eines Modells. |
| Bewertungsmetrik | Wie lässt sich ein Leistungsaspekt zusammenfassen? | Dem Trainingsverlust, sofern dies nicht ausdrücklich so definiert ist. |
| Optimierer | Wie werden die Parameter während des Trainings angepasst? | Der Funktion, die den Verlust berechnet. |
| Aggregierte Kosten oder Trainingsziel | Welche Gesamtgröße soll in einer konkreten Formulierung optimiert werden? | Einer einheitlichen Terminologie, die in allen Quellen dieselbe Bedeutung hat. |
Was ein niedriger Verlust nicht beweist
Ein niedriger Verlust zeigt, dass der Wert des festgelegten Kriteriums auf den betrachteten Daten niedrig ist. Für sich genommen beweist er nicht, dass das Modell auf ungesehenen Beispielen gut generalisiert, gut kalibriert oder für die Nutzerinnen und Nutzer hilfreich ist oder verschiedene Gruppen gerecht behandelt. Um solche Eigenschaften zu beurteilen, braucht es passende Definitionen, Daten und Auswertungen.
Auch die Trainingsdaten können sich von den Daten im späteren Einsatz unterscheiden. Passt das Modell das Kriterium auf den Trainingsbeispielen sehr gut an, verschlechtert sich aber auf anderen Daten, reicht der Trainingsverlust nicht aus, um das Problem zu erkennen oder zu erklären. Vergleiche auf geeigneten Datensätzen können zusätzliche Hinweise liefern. Dabei sind jedoch auch Auswahl und Repräsentativität dieser Datensätze wichtig.
Eine Kurve lässt sich nicht ohne Kontext interpretieren. Ihre Bedeutung hängt von der Funktion, der Aggregation, den Daten und dem Zeitpunkt der Berechnung ab. Ein fallender Verlauf kann darauf hindeuten, dass das Verfahren das optimierte Kriterium senkt. Daraus folgt jedoch nicht ohne Weiteres, dass sich alle Fähigkeiten des Modells verbessern. Dieser Unterschied ist zentral, wenn es um Generalisierung und Overfitting geht.
Praktische Kriterien zur Interpretation eines Verlusts
- 01Bestimme die Aufgabe, die konkrete Funktion und den Zielwert, mit dem die Vorhersage verglichen wird.
- 02Kläre, ob der Wert für ein einzelnes Beispiel oder als Aggregat berechnet wurde und welche Aggregationsregel gilt.
- 03Prüfe, aus welcher Datenteilmenge der Wert stammt und ob er mit dem Vergleichswert überhaupt vergleichbar ist.
- 04Ziehe Metriken heran, die zu den praktischen Folgen von Fehlern bei dieser Aufgabe passen.
- 05Leite aus einem einzelnen Verlustwert weder Generalisierung noch Kalibrierung, Nutzen oder Verzerrungsfreiheit ab.
Häufige Missverständnisse und verwandte Konzepte
Ein häufiges Missverständnis ist die Aussage, das Modell habe „gelernt, weil der Verlust auf null gesunken ist“. Der Wert null ist nur in Bezug auf eine bestimmte Funktion und bestimmte Daten zu interpretieren; er beweist nicht, dass das System alle relevanten Fälle korrekt löst. Ein weiterer Fehler besteht darin, Verluste aus unterschiedlichen Aufgaben, Funktionen oder Konfigurationen direkt miteinander zu vergleichen. Ohne kompatible Formulierungen sind die Zahlen möglicherweise nicht vergleichbar.
Außerdem wird die Verlustfunktion mit dem Optimierungsalgorithmus verwechselt oder ein Verlustwert so kommuniziert, als wäre er eine Produktmetrik. Dagegen hilft eine klare Angabe dazu, welche Funktion verwendet wurde, auf welcher Datenmenge sie berechnet wurde und welche Metrik das praktische Ergebnis bewertet. Beim Training beschreibt der Verlust das Kriterium; bei der Berichterstattung über Ergebnisse müssen die Bewertungsmaße ausdrücklich genannt werden.
Diese Glossardefinition steht in Zusammenhang mit Bewertung, Generalisierung und Overfitting: Der Verlust ist ein Teil der Analyse des Trainings; die verwandten Konzepte helfen, das Verhalten über die optimierte Zahl hinaus zu untersuchen. Auch für Fine-Tuning und selbstüberwachtes Lernen ist das relevant, weil die Formulierung des Ziels festlegt, welches Trainingssignal verwendet wird. Der Glossarindex und der Vergleich verwandter Konzepte können als Orientierung dienen; jeder Begriff muss jedoch im jeweiligen Kontext definiert werden.