Verzerrung in der Künstlichen Intelligenz (KI) bezeichnet eine systematische Verfälschung in den Vorhersagen oder Ergebnissen eines KI-Modells, die oft zu ungenauen oder unfair ausgerichteten Schlüssen führt.

Stell dir vor …

Stell dir vor, du hast eine digitale Kamera, die darauf trainiert wurde, Hunde zu erkennen. Wenn diese Kamera jedoch hauptsächlich mit Bildern von goldenen Retrievern trainiert wurde, könnte sie Schwierigkeiten haben, andere Hunderassen als Hunde zu erkennen. Das liegt daran, dass die Trainingsdaten verzerrt sind – sie stellen nicht die Vielfalt aller Hunderassen dar.

Beispiel

Ein reales Beispiel für Verzerrung in der KI wäre ein Bewerbungsauswahl-System, das Lebensläufe analysiert. Wenn das System auf historischen Daten trainiert wurde, die eine Bevorzugung bestimmter Gruppen zeigen, könnte es diese Verzerrungen unbewusst übernehmen und Bewerber unfair beurteilen.

Verzerrungen können aus verschiedenen Quellen stammen, wie unvollständigen oder einseitigen Daten, Voreingenommenheiten der Entwickler oder fehlerhaften Annahmen im Design des Modells. Es ist entscheidend, diese Verzerrungen zu identifizieren und zu korrigieren, um zu gewährleisten, dass KI-Systeme fair, genau und zuverlässig sind.