Étienne Klein und das Zeitalter des „Falschen“: Warum KI uns zwingt, unser Verhältnis zur Wahrheit neu zu denken
Bei einem öffentlichen Gipfel holt Étienne Klein die Debatte auf das Falsche zurück, das KI mitbaut, nicht nur auf die Lügen, die sie verbreiten könnte.

Antoine HeftlerMitgründer

In der Maison de l'Océan, beim AI for the Common Good Summit von Challenges, hat Étienne Klein die Debatte erneut dorthin zurückgeholt, wo sie hingehört: nicht zu den Lügen, die KI verbreiten könnte, sondern zu dem „Falschen“, an dessen Konstruktion sie mitwirkt.
Hier die wenigen Notizen, die ich während dieser faszinierenden Debatte gemacht habe, zwischen einem didaktischen Étienne Klein auf der einen Seite und auf der anderen einem pessimistischen Bruno Le Maire und einem pragmatischen Louis Dreyfus (Le Monde).
Die Unterscheidung zwischen Lüge und Falschem ist wesentlich. Eine Lüge setzt eine Täuschungsabsicht voraus, eine verborgene Wahrheit, ein Spiel zwischen der Person, die weiß, und der Person, die nicht weiß. Das „Falsche“ verbreitet sich dagegen oft ohne böse Absicht, getragen von Algorithmen, die unsere kognitiven Schwächen ausnutzen, und von einer Technologie, die das Wahre nicht vom Plausiblen unterscheiden kann. Für den Physiker-Philosophen liegt die Gefahr weniger in der Maschine als in unserer eigenen Verwundbarkeit ihr gegenüber.
Klein geht von einer unnachgiebigen Beobachtung aus: Unser Gehirn ist biologisch darauf programmiert, das Einfache, das Spektakuläre, das Beruhigende zu bevorzugen. KI verstärkt diese Neigung nur, indem sie das Engagement optimiert. KI erzeugt das „Falsche“ nicht, sie enthüllt es, indem sie uns Erzählungen anbietet, die wahrer scheinen als die Wirklichkeit selbst, weil sie unseren Erwartungen schmeicheln. Wenn 17 % der französischen Jugendlichen zweifeln, dass die Erde rund ist, liegt das Problem nicht nur im Irrtum, sondern im Zusammenbruch der Mechanismen, die uns davor schützen sollten. Wir sind nicht mehr in der Unwissenheit, sondern in der Unfähigkeit zu verstehen, wie Wissen zustande kommt.
Das „Falsche“ als Symptom einer kognitiven Krise Für Étienne Klein steht die Unterscheidung zwischen kybernetischer Intelligenz und kritischer Intelligenz im Zentrum des Problems. KI glänzt bei der ersten: Daten verarbeiten, Korrelationen berechnen, Verhalten voraussagen. Von der zweiten weiß sie nichts, der Intelligenz, die fragt, zweifelt und einordnet. Und genau diese Intelligenz lässt uns Illusionen widerstehen. Wenn wir einen Teil unseres Denkens an Werkzeuge delegieren, die ebenso mächtig wie blind sind, riskieren wir, Effizienz mit Wahrheit zu verwechseln.
Das Beispiel der Chatbots ist bezeichnend. Wenn ein Nutzer eine KI zu einem spaltenden Thema befragt, wird die Antwort darauf optimiert, zu gefallen, nicht aufzuklären. Die Antwort spiegelt die Verzerrungen der Daten, mit denen das System trainiert wurde, und auch die des Nutzers, und erzeugt einen Teufelskreis, in dem jedes Lager seine Überzeugungen bestätigt sieht. Die öffentliche Debatte ist kein Raum mehr, in dem Ideen aufeinandertreffen, sondern ein Archipel paralleler Wirklichkeiten, unvergleichbar durch das Fehlen gemeinsamer Referenzen.
Klein beharrt auf einem entscheidenden Punkt: Das „Falsche“ ist kein Defekt, sondern eine direkte Folge der Funktionsweise dieser Systeme. Diese Systeme lügen nicht, sie erzeugen das Plausible. Und das Plausible setzt sich, wenn es spektakulär ist, fast immer gegen das Wahre durch, vor allem wenn das Wahre komplex oder enttäuschend ist.
(Das ist natürlich ein absolut entscheidender Winkel für Marken in der Art, wie sie ihre Sichtbarkeit und Autorität in KI-Engines angehen, wie Sie vielleicht in meinen anderen Artikeln gelesen haben)
KI als Beschleuniger demokratischer Fragmentierung Die Debatte mit Bruno Le Maire und Louis Dreyfus hat eine doppelte Bedrohung scharf gestellt. Auf der einen Seite das Entstehen einer „algorithmischen Bürgerschaft“, in der wesentliche Entscheidungen — Zugang zu Kredit, zu Beschäftigung, zu öffentlichen Diensten — von Blackboxen getroffen werden, ohne Transparenz und ohne Rechtsmittel. Auf der anderen eine wachsende Polarisierung der öffentlichen Sphäre, in der der Dialog einer dauernden Konfrontation weicht. Algorithmen, die uns in Bestätigungsblasen einschließen, zeigen uns nicht nur, was wir sehen wollen, sondern hindern uns daran, den Rest zu sehen.
Doch wie Louis Dreyfus anmerkte, beginnen die großen KI-Anbieter, nach Leitplanken zu suchen. Indem sie sich auf verlässliche Medien stützen, um ihre Antworten zu belegen, erkennen sie die Grenzen ihres Modells implizit an. Aber diese Lösung, so nützlich sie ist, genügt nicht, denn das Vertrauen in die Institutionen kommt dadurch nicht zurück, und auch nicht die Fähigkeit zum kritischen Denken, die das Fundament der Demokratie ist.
Klein erinnert daran, dass Technologie nie neutral ist. Technologie spiegelt unsere tiefsten Neigungen und verstärkt sie. Gegenüber Maschinen, die nicht verstehen, sondern rechnen, bleibt unser einziger Vorteil die Fähigkeit zu denken — vorausgesetzt, wir delegieren sie nicht.
Dem „Falschen“ widerstehen: vor allem eine kulturelle Herausforderung Die Antwort kann nicht allein technisch sein und muss über eine Rehabilitierung des kritischen Denkens führen, über eine Bildung, die nicht nur lehrt, wie man weiß, sondern wie man zum Wissen gelangt. Das heißt: verlangsamen, belegen, Standpunkte vergleichen, wieder zweifeln lernen. Kurz, jene französische Intelligenz pflegen, die Algorithmen niemals werden ersetzen können.
Die Frage ist daher nicht nur, wie wir KI regulieren, sondern wie wir uns selbst regulieren. Wie stellen wir eine Kultur des Zweifels wieder her, in einer Welt, die auf die Abwesenheit von Reibung ausgelegt ist? Wie geben wir der Komplexität ihren Wert zurück, wenn alles uns dazu drängt, die Einfachheit zu bevorzugen?
Verfolgen Sie, was KI-Engines über Ihre Marke sagen
ResonanceMetrics verfolgt Ihre Marke in fünf KI-Engines und schlägt Verbesserungen vor. Der kostenlose Tarif braucht keine Kreditkarte.