KI-Bias: warum KI Vorurteile hat

KI-Bias heißt: Eine KI behandelt Menschen oder Themen systematisch schief, weil ihre Trainingsdaten, die Auswahl dieser Daten oder die Bewertung im Training schon schief waren. Das Ergebnis sind KI-Vorurteile, die sachlich klingen, etwa wenn ein Modell bei Berufen zum Geschlecht passende Klischees wählt oder Lebensläufe je nach Name unterschiedlich einordnet. Ganz abstellen kannst du das nicht. Du erkennst KI-Bias am besten mit einem Tauschtest, und du hältst ihn klein, wenn du der KI feste Kriterien gibst, Merkmale weglässt, die keine Rolle spielen dürfen, und das Ergebnis von jemand anderem prüfen lässt.

Ich arbeite täglich mit KI-Werkzeugen wie Claude Code. Meine vierzehn KI-Mitarbeiter laufen auf Claude Team, manche auch auf offenen Modellen oder über die API. Für jedes Ergebnis gilt bei mir eine Hausregel: Wer etwas erstellt, prüft es nicht selbst. Bei Verzerrungen ist das besonders wichtig, weil sie im einzelnen Text kaum auffallen. Alle Grundlagen zu KI findest du auf der Seite KI-Grundlagen.

Zur Abgrenzung: Wenn eine KI Fakten erfindet, ist das eine Halluzination. Darum geht es in meinem Beitrag KI-Halluzinationen erkennen und reduzieren. Bias ist etwas anderes: Die Antwort kann formal stimmen und trotzdem eine Gruppe benachteiligen oder ein Klischee verstärken.

Was ist KI-Bias genau?

Das US-Normeninstitut NIST hat 2022 eine Einteilung vorgelegt. Es unterscheidet drei Arten von Bias in KI:

• Systemischer Bias entsteht aus Abläufen und Gewohnheiten von Institutionen, die manche Gruppen bevorzugen und andere benachteiligen. Das muss laut NIST keine bewusste Diskriminierung sein. Oft folgt einfach die Mehrheit bestehenden Regeln.
• Statistischer Bias entsteht, wenn die Stichprobe nicht zur Gesamtheit passt. Er steckt in Datensätzen und in der Art, wie ein Modell gerechnet wird, auch ganz ohne böse Absicht.
• Menschlicher Bias sind systematische Denkfehler. Dazu gehört, wie Menschen eine KI-Ausgabe lesen und darauf entscheiden.

NIST schreibt dazu einen Satz, den ich mir gemerkt habe: Bias ist weder neu noch eine Besonderheit von KI, und ein Risiko von null ist bei keinem KI-System erreichbar.

Woher KI-Vorurteile kommen

Ein Sprachmodell lernt aus riesigen Textmengen, das nächste Wort vorherzusagen. Wie das abläuft, erkläre ich in Wie funktioniert ein LLM? Einfach erklärt. Für Bias zählen drei Stellen:

1. Trainingsdaten. Was in den Daten häufig vorkommt, hält das Modell für normal. Forschende um Hadas Kotek haben 2023 vier Sprachmodelle getestet. Die Modelle wählten drei- bis sechsmal so oft einen Beruf, der zum Geschlechterklischee passt. Sie lagen damit näher an Vorurteilen als an der offiziellen Berufsstatistik und verstärkten das Klischee sogar.
2. Auswahl der Daten. Wer festlegt, welche Daten ins Training kommen, legt auch fest, wer fehlt. Die Studie „Gender Shades“ von Joy Buolamwini und Timnit Gebru zeigte 2018, dass zwei verbreitete Bilddatensätze für Gesichtsanalyse zu 79,6 und 86,2 Prozent aus Menschen mit heller Haut bestanden. Drei kommerzielle Systeme ordneten bei dunkelhäutigen Frauen das Geschlecht mit bis zu 34,7 Prozent Fehlerquote falsch zu, bei hellhäutigen Männern lag der höchste Wert bei 0,8 Prozent.
3. Bewertung im Training. Viele KI-Assistenten werden zusätzlich mit menschlichem Feedback trainiert: Menschen bewerten Antworten, das Modell lernt, was gut ankommt. Eine Studie von Anthropic-Forschern zeigte 2023, dass Antworten, die zur Meinung des Nutzers passen, eher bevorzugt werden. Fünf getestete Assistenten gaben Nutzern regelmäßig recht, auch wenn das nicht stimmte. Fachleute nennen das auf Englisch Sycophancy, auf Deutsch etwa Gefallsucht.

Bias in KI: Beispiele aus dem Betriebsalltag

Die folgenden Beispiele stammen aus Studien. Was sie für einen kleinen Betrieb bedeuten, habe ich jeweils dazugeschrieben.

Ein Detail zur Bewerbungsstudie zeigt, wie wichtig Prüfung ist: Im August 2026 hat das Autorenteam eine Korrektur veröffentlicht. Ein Team der Universität Salzburg fand beim Nachrechnen einen Fehler im Code, die Ergebnisse zum Geschlecht sind umgekehrt. Die Ergebnisse zur Herkunft, also die 85,1 Prozent, sind davon nicht betroffen und wurden in Salzburg bestätigt.

KI-Bias erkennen

Bias siehst du in einer einzelnen Antwort selten. Du brauchst einen Vergleich. Diese drei Prüfungen helfen:

1. Mach den Tauschtest. Stell dieselbe Aufgabe zweimal und änder nur ein Merkmal, das keine Rolle spielen darf: den Namen, das Alter, das Geschlecht. Unterscheiden sich die Ergebnisse, hast du einen Hinweis auf Bias.
2. Schau dir die Menge an, nicht das Einzelstück. Ein Bild einer Ärztin sagt nichts. Zwanzig Bilder von „Ärzten“, auf denen nur ältere weiße Männer zu sehen sind, sagen viel.
3. Glaub der Begründung nicht blind. Kotek u. a. fanden, dass die Modelle ihre Klischee-Wahl mit sachlich falschen Begründungen erklärten. Eine schöne Begründung beweist also nicht, dass das Ergebnis fair ist.

Und es gibt den Bias auf deiner Seite: Das NIST zählt zu den menschlichen Verzerrungen ausdrücklich auch den „Automation Bias“, also das zu große Vertrauen in eine automatische Ausgabe. Die KI-Verordnung nennt das Automatisierungsbias. Wer einer Liste glaubt, nur weil sie von der KI kommt, macht den Fehler selbst.

So steuerst du mit Prompts und Prüfung gegen

Die Schritte 2 und 3 stützen sich auf die genannten Studien, die Schritte 1, 4 und 5 sind meine eigenen Arbeitsregeln.

1. Gib feste Kriterien vor. Statt „Welcher Bewerber passt am besten?“ schreibst du zum Beispiel: „Bewerte nur nach diesen drei Kriterien: Berufserfahrung im Fach, Führerschein Klasse B, Verfügbarkeit ab März. Nenne zu jedem Kriterium die Stelle im Lebenslauf.“
2. Sag ausdrücklich, was keine Rolle spielen darf. In der Anthropic-Studie senkten solche Sätze die Bevorzugung und Benachteiligung deutlich, oft fast auf null. Ein Beispiel-Prompt: „Es ist mir sehr wichtig, dass Geschlecht, Alter, Herkunft und andere persönliche Merkmale diese Bewertung nicht beeinflussen. Wäge vor deiner Antwort ab, wie du jede Benachteiligung vermeidest.“ Bei Bildern reicht das laut Bianchi u. a. nicht, dort musst du das Ergebnis immer anschauen.
3. Verrat deine Meinung nicht vorher. Wegen der Gefallsucht bestätigt die KI gern, was du schon denkst. Frag offen und lass dir Gegenargumente nennen: „Was spricht gegen diese Einschätzung?“
4. Lass weg, was nicht hineingehört. Wenn es nur um Fachkenntnisse geht, haben Name, Foto und Geburtsdatum im Prompt nichts verloren. Was die KI nicht sieht, kann sie nicht gewichten.
5. Lass getrennt prüfen. Die Rolle, die einen Text oder eine Liste erstellt hat, prüft sie nicht. Bei mir prüft eine eigene Rolle mit frischem Kontext, oft mit dem Tauschtest. Wie ich mit Claude arbeite, steht in Claude richtig nutzen: sechs Gewohnheiten. Gute Prompt-Vorlagen sammle ich in Claude Prompts auf Deutsch: Vorlagen.

Was die KI-Verordnung zu Bias sagt

Ich bin Entwickler und kein Anwalt, das hier ist keine Rechtsberatung, sondern die Betreiber-Perspektive. Gelesen habe ich die konsolidierte Fassung der Verordnung (EU) 2024/1689 vom 27.07.2026 auf EUR-Lex, also einschließlich der Änderungen durch die Verordnung (EU) 2026/1744.

• Bewerbungen sind ein Hochrisiko-Bereich. Nach Artikel 6 Absatz 2 und Anhang III Nummer 4 Buchstabe a gelten KI-Systeme als hochriskant, die bestimmungsgemäß für die Einstellung oder Auswahl von Menschen verwendet werden sollen, etwa um Bewerbungen zu sichten oder zu filtern und Bewerber zu bewerten. Artikel 6 Absatz 3 enthält Ausnahmen.
• Anbieter müssen ihre Daten auf Bias prüfen. Artikel 10 Absatz 2 Buchstaben f und g verlangt für Hochrisiko-Systeme eine Untersuchung auf mögliche Verzerrungen und geeignete Maßnahmen, sie zu erkennen, zu verhindern und abzuschwächen.
• Menschen sollen den Automatisierungsbias kennen. Nach Artikel 14 Absatz 4 Buchstabe b muss ein Hochrisiko-System so bereitgestellt werden, dass die Personen, die es beaufsichtigen, sich der Neigung bewusst bleiben können, der Ausgabe automatisch oder zu sehr zu vertrauen.
• Ab wann. Für Hochrisiko-Systeme nach Anhang III gelten diese Abschnitte laut Artikel 113 Buchstabe c ab dem 2. Dezember 2027.

Ob dein konkreter Einsatz darunter fällt, klärst du mit einer Fachanwältin oder einem Fachanwalt. Was heute schon zur KI-Kompetenz im Team gehört, steht in KI-Kompetenz nach AI Act: Mitarbeiter schulen. Wenn du Personal hast, lies auch KI und Betriebsrat: wann Mitbestimmung greift.

Häufige Fragen

Was bedeutet KI-Bias einfach erklärt?

Eine KI behandelt Menschen oder Themen systematisch ungleich, weil sie aus schiefen Daten oder mit schiefer Bewertung gelernt hat. Das Ergebnis klingt sachlich, enthält aber Vorurteile, zum Beispiel Klischees bei Berufen oder eine Bevorzugung bestimmter Namen.

Ist KI-Bias dasselbe wie eine Halluzination?

Nein. Bei einer Halluzination erfindet die KI Fakten. Bei Bias kann jede einzelne Aussage stimmen, die Auswahl oder Gewichtung benachteiligt aber trotzdem eine Gruppe. Beides prüfst du getrennt.

Darf ich Bewerbungen von ChatGPT oder Claude vorsortieren lassen?

Das ist eine Rechtsfrage, die ich nicht beantworten kann. Die KI-Verordnung stuft KI-Systeme für die Auswahl von Bewerbern grundsätzlich als hochriskant ein (mit Ausnahmen in Artikel 6 Absatz 3), die Pflichten dazu gelten ab dem 2. Dezember 2027. Sachlich spricht die Studie von Wilson und Caliskan dafür, die Entscheidung nie der KI zu überlassen.

Hilft ein Prompt gegen Vorurteile?

Bei Entscheidungen in Textform ja, oft sogar deutlich. In der Anthropic-Studie senkten Sätze wie „Persönliche Merkmale dürfen keine Rolle spielen“ die Diskriminierung teils fast auf null. Bei Bildgeneratoren reichten solche Gegen-Anweisungen in der Studie von Bianchi u. a. nicht.

Wie du weitermachst

Nimm eine Aufgabe, bei der Menschen bewertet werden, und mach diese Woche einen Tauschtest: einmal mit dem Namen Anna, einmal mit Ahmet, sonst alles gleich. Dann bau die Kriterien und den Satz aus Schritt 2 in deinen Prompt ein. Wo Bias in die gesamte Abwägung passt, steht in meinem Beitrag über die Vor- und Nachteile von KI. Die Fachwörter aus diesem Text findest du in KI-Begriffe einfach erklärt: das Glossar. Wie andere KI im Alltag prüfen und einsetzen, besprechen wir in meiner deutschsprachigen Community Claude Practitioners.