Étienne Klein y la era de lo "falso": por qué la IA nos empuja a repensar nuestra relación con la verdad

En la Maison de l'Océan, durante la Cumbre de IA para el Bien Común organizada por Challenges, Étienne Klein volvió a recentrar el debate donde debe estar: no en las mentiras que la IA podría propagar, sino en lo "falso" que ayuda a construir.

Estas son las pocas notas que tomé durante ese debate apasionante entre, de un lado, un Étienne Klein didáctico y, del otro, un Bruno Le Maire pesimista y un Louis Dreyfus (Le Monde) pragmático.

El matiz entre mentira y falso es esencial. La mentira supone una voluntad de engañar, una verdad oculta, un juego entre quien sabe y quien ignora. Lo "falso", en cambio, se difunde a menudo sin mala intención, impulsado por algoritmos que explotan nuestras debilidades cognitivas y por una tecnología incapaz de distinguir lo verdadero de lo verosímil. Para el físico-filósofo, el peligro no está tanto en la máquina como en nuestra propia vulnerabilidad frente a ella.

Klein parte de una constatación implacable: nuestro cerebro está biológicamente programado para privilegiar lo simple, lo espectacular, lo tranquilizador. La IA, al optimizar el engagement, no hace sino amplificar esa tendencia. No crea lo "falso": lo revela, al ofrecernos relatos que, porque halagan nuestras expectativas, nos parecen más verdaderos que la propia realidad. Cuando el 17 % de los adolescentes franceses duda de que la Tierra sea redonda, el problema no es solo el error, sino el hundimiento de los mecanismos que deberían protegernos de él. Ya no estamos en la ignorancia, sino en la incapacidad de comprender cómo se establece el saber.

Lo "falso" como síntoma de una crisis cognitiva Para Étienne Klein, la distinción entre inteligencia cibernética e inteligencia crítica está en el centro del problema. La IA destaca en la primera: trata datos, calcula correlaciones, predice comportamientos. Pero ignora por completo la segunda, la que cuestiona, duda y contextualiza. Y es precisamente esa inteligencia la que nos permite resistir a las ilusiones. Al delegar parte de nuestra reflexión en herramientas tan potentes como ciegas, corremos el riesgo de confundir eficacia y verdad.

El ejemplo de los chatbots es revelador. Cuando un usuario pregunta a una IA sobre un tema que divide, la respuesta estará optimizada para agradar, no para iluminar. Reflejará los sesgos de los datos con los que fue entrenada, pero también los del usuario, y creará un círculo vicioso en el que cada bando ve confirmadas sus creencias. El debate público ya no es un espacio de confrontación de ideas, sino un archipiélago de realidades paralelas, hechas inconmensurables por la ausencia de referencias comunes.

Klein insiste en un punto crucial: lo "falso" no es un bug, sino una consecuencia directa de cómo funcionan estos sistemas. No mienten: fabrican lo verosímil. Y lo verosímil, cuando es espectacular, se impone casi siempre a lo verdadero, sobre todo cuando lo verdadero es complejo o decepcionante.

(Es, por supuesto, un ángulo absolutamente crucial para las marcas en su manera de abordar la visibilidad y la autoridad en los motores de búsqueda de IA, como habrás podido leer en mis otros artículos)

La IA como acelerador de la fragmentación democrática El debate con Bruno Le Maire y Louis Dreyfus sacó a la luz una doble amenaza. Por un lado, la aparición de una «ciudadanía algorítmica», en la que decisiones esenciales —el acceso al crédito, al empleo, a los servicios públicos— las toman cajas negras, sin transparencia ni recurso. Por el otro, una polarización creciente del espacio público, en la que el diálogo cede el paso a la confrontación permanente. Los algoritmos, al encerrarnos en burbujas de confirmación, no se limitan a mostrarnos lo que queremos ver: nos impiden ver el resto.

Sin embargo, como subrayó Louis Dreyfus, los gigantes de la IA empiezan a buscar salvaguardas. Al apoyarse en medios fiables para documentar sus respuestas, reconocen de forma implícita los límites de su modelo. Pero esta solución, por útil que sea, no basta. No restaura la confianza en las instituciones, ni la capacidad de pensamiento crítico que está en la base de la democracia.

Klein recuerda que la tecnología nunca es neutra. Refleja y amplifica nuestras tendencias más profundas. Frente a máquinas que no comprenden, sino que calculan, nuestra única ventaja sigue siendo la capacidad de pensar, a condición de no delegarla.

Resistir a lo "falso": un desafío cultural ante todo La respuesta no puede ser solo técnica. Tiene que pasar por una rehabilitación del espíritu crítico, una educación que enseñe no solo a saber, sino a comprender cómo se sabe. Eso supone frenar, citar las fuentes, cruzar las miradas y volver a aprender a dudar. En suma, cultivar esa inteligencia francesa que los algoritmos nunca podrán sustituir.

La cuestión, por tanto, no es solo regular la IA, sino regularnos a nosotros mismos. ¿Cómo restaurar una cultura de la duda en un mundo concebido para la ausencia de fricción? ¿Cómo devolverle valor a la complejidad, cuando todo nos empuja a privilegiar la sencillez?