Bias in KI durch systematisches Testen vermeiden

Künstliche Intelligenz ist längst fester Bestandteil moderner Anwendungen. Von Fahrerassistenzsystemen über personalisierte Werbung bis hin zur automatisierten Kreditvergabe – KI-basierte Verfahren prägen zahlreiche Lebens- und Geschäftsbereiche. Mit dieser zunehmenden Verbreitung steigt jedoch auch die Bedeutung eines zentralen Qualitätsaspekts: Bias in KI. Verzerrungen in Daten und Modellen können dazu führen, dass KI-Systeme systematisch falsche oder diskriminierende Entscheidungen treffen. Insbesondere in regulierten Bereichen wie dem Finanzsektor stellt dies ein erhebliches Risiko dar. Gleichzeitig verschärfen regulatorische Anforderungen – etwa durch den EU AI Act – die Notwendigkeit, Bias nicht nur zu vermeiden, sondern auch nachweisbar zu kontrollieren. Der entscheidende Hebel liegt dabei im Testing. Klassische Testverfahren reichen jedoch nicht aus. Es bedarf eines systematischen, statistisch fundierten Ansatzes, wie ihn ITPower Solutions entwickelt und einsetzt.

Bias in KI am Beispiel der Kreditwürdigkeitsprüfung

Ein besonders relevantes Anwendungsfeld für Bias in KI ist die Kreditwürdigkeitsprüfung. KI-gestützte Verfahren werden hier bereits breit eingesetzt – sowohl im Privatkundengeschäft als auch zunehmend im Bereich kleiner und mittlerer Unternehmen. Der Nutzen ist offensichtlich: Große Datenmengen können effizient verarbeitet werden, Entscheidungen werden schneller getroffen und Prozesse skalierbarer gestaltet. Gleichzeitig entstehen neue Fragestellungen. Wird ein Kreditantrag abgelehnt, stellt sich die Frage nach der Begründung. Da KI-Systeme auf statistischen Zusammenhängen basieren, ist diese oft nicht unmittelbar nachvollziehbar. Entscheidend ist: Die Qualität der Entscheidung hängt direkt von den Trainingsdaten ab. Sind diese unvollständig oder verzerrt – etwa durch Unterrepräsentation bestimmter Gruppen – wirkt sich dies unmittelbar auf das Ergebnis aus. Insbesondere Minderheiten oder seltene Fälle sind betroffen, da sie in zufälligen Stichproben seltener auftreten. Dies kann dazu führen, dass die KI in genau diesen Fällen eine deutlich schlechtere Performance zeigt.

Regulatorische Anforderungen an diskriminierungsfreie KI

Die Problematik von Bias in KI ist auch regulatorisch klar adressiert. Der EU AI Act fordert für Hochrisiko-KI-Systeme, dass Trainings-, Validierungs- und Testdaten:

• relevant für den Einsatzzweck sind
• hinreichend repräsentativ sind
• möglichst fehlerfrei und vollständig sind

Darüber hinaus verpflichtet das Grundgesetz zur Gleichbehandlung und untersagt Diskriminierung aufgrund personenbezogener Merkmale. Für KI-Systeme bedeutet dies konkret: Sie müssen sowohl repräsentativ als auch diskriminierungsfrei arbeiten. Hier entsteht eine zentrale Herausforderung: Repräsentative Daten enthalten Minderheiten naturgemäß seltener. Gleichzeitig darf die Qualität für diese Gruppen nicht schlechter sein. Dieses Spannungsfeld lässt sich nicht mit klassischen Testmethoden auflösen.

Warum klassische Testansätze nicht ausreichen

Traditionelle Softwaretests prüfen deterministische Systeme. KI-Systeme hingegen sind probabilistische Modelle, die Wahrscheinlichkeitsverteilungen aus Daten lernen. Das hat mehrere Konsequenzen:

• Das Verhalten ist datenabhängig
• Fehler treten statistisch verteilt auf
• Durchschnittswerte verdecken gruppenspezifische Unterschiede

Ein System kann insgesamt eine gute Genauigkeit aufweisen, während es für bestimmte Subgruppen signifikant schlechter funktioniert. Damit wird deutlich: Bias in KI ist ein statistisches Problem – und muss auch statistisch getestet werden.

Systematisches Testen von KI-Systemen

Um Bias in KI gezielt zu identifizieren und nachzuweisen, verfolgt ITPower Solutions einen strukturierten Testansatz, der zwei zentrale Testobjekte berücksichtigt:

1. die Trainingsdaten
2. das KI-System selbst

Der Ansatz gliedert sich in drei Schritte.

1. Erstellung einer Referenzverteilung für die Einsatzumgebung

Zunächst wird eine Referenzverteilung definiert, die die reale Einsatzumgebung (ODD) beschreibt. Ein naheliegender Ansatz wäre, diese aus den Trainingsdaten abzuleiten. Dieser ist jedoch ungeeignet, da:

• die Unabhängigkeit zwischen Entwicklung und Test verloren geht
• keine Aussage über die Vollständigkeit der Daten möglich ist

Stattdessen setzt ITPower auf die Modellierung mittels Ontologien. Dabei werden relevante Merkmale und deren Beziehungen strukturiert erfasst. Durch die Erweiterung dieser Ontologien um Wahrscheinlichkeiten entsteht eine probabilistisch erweiterte Ontologie (PEON). Diese erlaubt es, eine belastbare Referenzverteilung zu definieren, die unabhängig vom Trainingsdatensatz ist.