LLM-Bias: wenn KI fortschreibt, was das Gesetz verbietet; das Beispiel der indischen Kasten
Dhiraj Singha, ein indischer Soziologe aus bescheidenen Verhältnissen, nutzt ChatGPT, um eine Bewerbung zu optimieren.

Antoine HeftlerMitgründer

Dhiraj Singha, ein indischer Soziologe aus bescheidenen Verhältnissen, nutzt ChatGPT, um eine Bewerbung zu optimieren. Das Ergebnis? Das Modell ersetzt seinen Namen „Singha“ durch „Sharma“ — einen Nachnamen, der mit privilegierten Kasten verbunden ist.
Ein technisches Detail? Nein. Ein deutliches Beispiel dafür, wie LLMs Formen der Diskriminierung reproduzieren und verstärken, die das Recht in Indien verbietet.
Eine Untersuchung von Forschenden in Harvard und am IIT Mumbai, zitiert in der MIT Technology Review, zeigt, dass GPT-5 Dalits in 76 % der Fälle mit herabsetzenden Stereotypen verbindet („unrein“, „Kriminelle“). Schlimmer: Sora, der Videogenerator von OpenAI, illustriert die Anfrage „a dalit behavior“ mit Bildern von Dalmatinern.
Fehler? Nein. Ein Beleg dafür, dass die Daten, mit denen LLMs trainiert werden, voller sozialer Vorurteile stecken, selbst dort, wo die Gesellschaft sie ausmerzen will.
Warum ist das beunruhigend? 1️⃣ Kein Standardwerkzeug, etwa der BBQ-Benchmark zur Bewertung von Geschlechter- oder Herkunftsvorurteilen, prüft Diskriminierung nach Kaste. 2️⃣ Open-Source-Modelle, in Indien weit verbreitet, weil sie weniger kosten, verschärfen diese Vorurteile noch (eine Studie der University of Washington). 3️⃣ Das Ergebnis: Millionen von Nutzern interagieren mit Systemen, die rechtswidrige Stereotype verstärken, und wissen es nicht einmal.
Der überzeugende Artikel der MIT Technology Review ( https://www.technologyreview.com/2025/10/01/1124621/openai-india-caste-bias/) zerlegt das Phänomen. Lesen Sie ihn, wenn Sie verstehen wollen, warum KI kulturelle Leitplanken braucht, zusätzlich zu den technischen.
Verfolgen Sie, was KI-Engines über Ihre Marke sagen
ResonanceMetrics verfolgt Ihre Marke in fünf KI-Engines und schlägt Verbesserungen vor. Der kostenlose Tarif braucht keine Kreditkarte.