Étienne Klein et l’ère du "faux" : pourquoi l’IA nous pousse à repenser notre rapport à la vérité

À la Maison de l’Océan, lors du Sommet IA pour le Bien commun organisé par Challenges, Étienne Klein a une nouvelle fois recentré le débat là où il faut : non pas sur les mensonges que l’IA pourrait propager, mais sur le "faux" qu’elle aide à construire.

Voila les quelques notes que j'ai prises lors de ce débat passionnant entre, d'un coté, un Etienne Klein didactique, et de l'autre un Bruno Le Maire pessimiste et un Louis Dreyfus (Le Monde) pragmatique.

La nuance mensonge/faux est essentielle. Le mensonge suppose une volonté de tromper, une vérité cachée, un jeu entre celui qui sait et celui qui ignore. Le "faux", en revanche, se diffuse souvent sans mauvaise intention, porté par des algorithmes qui exploitent nos faiblesses cognitives et une technologie incapable de distinguer le vrai du plausible. Pour le physicien-philosophe, le danger n’est pas tant dans la machine que dans notre propre vulnérabilité face à elle.

Klein part d’un constat implacable : notre cerveau est biologiquement programmé pour privilégier le simple, le spectaculaire, le rassurant. L’IA, en optimisant l’engagement, ne fait qu’amplifier cette tendance. Elle ne crée pas le "faux", elle le révèle, en nous offrant des récits qui, parce qu’ils flatent nos attentes, nous semblent plus vrais que la réalité elle-même. Quand 17 % des adolescents français doutent que la Terre soit ronde, le problème n’est pas seulement l’erreur, mais l’effondrement des mécanismes qui devraient nous en protéger. Nous ne sommes plus dans l’ignorance, mais dans l’incapacité à comprendre comment le savoir s’établit.

Le "faux" comme symptôme d’une crise cognitive Pour Étienne Klein, la distinction entre intelligence cybernétique et intelligence critique est au cœur du problème. L’IA excelle dans la première : elle traite des données, calcule des corrélations, prédit des comportements. Mais elle ignore tout de la seconde, celle qui questionne, doute, contextualise. Or, c’est précisément cette intelligence-là qui nous permet de résister aux illusions. En délégant une partie de notre réflexion à des outils aussi puissants qu’aveugles, nous risquons de confondre efficacité et vérité.

L’exemple des chatbots est révélateur. Quand un utilisateur interroge une IA sur un sujet clivant, la réponse sera optimisée pour plaire, pas pour éclairer. Elle reflétera les biais des données sur lesquelles elle a été entraînée, mais aussi ceux de l’utilisateur, créant un cercle vicieux où chaque camp se voit confirmer ses croyances. Le débat public n’est plus un espace de confrontation des idées, mais un archipel de réalités parallèles, rendues incommensurables par l’absence de références communes.

Klein insiste sur un point crucial : le "faux" n’est pas un bug, mais une conséquence directe de la façon dont ces systèmes fonctionnent. Ils ne mentent pas, ils fabriquent du plausible. Et le plausible, quand il est spectaculaire, l’emporte presque toujours sur le vrai, surtout quand celui-ci est complexe ou déceptif.

(C'est évidemment un angle absolument crucial pour les marques dans leur approche de leur visibilité et autorité sur les moteurs de recherche IA, comme vous avez pu le lire dans mes autres articles)

L’IA comme accélérateur de la fragmentation démocratique Le débat avec Bruno Le Maire et Louis Dreyfus a mis en lumière une menace double. D’un côté, l’émergence d’une "citoyenneté algorithmique", où des décisions essentielles – accès au crédit, à l’emploi, aux services publics – sont prises par des boîtes noires, sans transparence ni recours. De l’autre, une polarisation croissante de l’espace public, où le dialogue cède la place à la confrontation permanente. Les algorithmes, en nous enfermant dans des bulles de confirmation, ne se contentent pas de nous montrer ce que nous voulons voir : ils nous empêchent de voir le reste.

Pourtant, comme l’a souligné Louis Dreyfus, les géants de l’IA commencent à chercher des garde-fous. En s’appuyant sur des médias fiables pour sourcer leurs réponses, ils reconnaissent implicitement les limites de leur modèle. Mais cette solution, aussi utile soit-elle, ne suffit pas. Elle ne restaure pas la confiance dans les institutions, ni la capacité à penser critique qui est au fondement de la démocratie.

Klein rappelle que la technologie n’est jamais neutre. Elle reflète et amplifie nos tendances les plus profondes. Face à des machines qui ne comprennent pas mais calculent, notre seul avantage reste notre capacité à penser – à condition de ne pas la déléguer.

Résister au "faux" : un défi culturel avant tout La réponse ne peut être uniquement technique. Elle doit passer par une réhabilitation de l’esprit critique, une éducation qui apprend non seulement à savoir, mais à comprendre comment on sait. Cela suppose de ralentir, de sourcer, de croiser les regards, de réapprendre à douter. En somme, de cultiver cette intelligence française que les algorithmes ne pourront jamais remplacer.

La question n’est donc pas seulement de réguler l’IA, mais de nous réguler nous-mêmes. Comment restaurer une culture du doute dans un monde conçu pour l’absence de friction ? Comment redonner de la valeur à la complexité, alors que tout nous pousse à privilégier la simplicité ?