Neuer Algorithmus für mehr KI-Fairness bei Bewerbungen
Das System, das für mehr Gerechtigkeit bei Auswahlverfahren sorgen soll, wurde vom Wiener Complexity Science Hub und der TU Graz entwickelt. „Bestehende KI-Fairness-Tools gehen davon aus, dass jede Auswahl unabhängig ist“, erklärt Mauritz Cartier van Dissel, von der Forschungsgruppe „Algorithmic Fairness“. „Aber in der Realität ist es bei der Auswahl aus einem festen Pool eher so, als würde man Karten aus einem Deck ziehen – sobald man eine Karte zieht, beeinflusst das den Rest des Stapels.“
Dynamische Anpassung des Algorithmus
Ein einfaches Beispiel zeigt, worauf die Forschenden hinweisen wollen: Bei einer Bewerbung mit 50 Personen, davon 30 % Frauen, werden zunächst fünf Männer ausgewählt. Klassische Modelle würden weiterhin von einem Frauenanteil von 30 % ausgehen. Tatsächlich aber ist der Männeranteil im Restpool gesunken – die Wahrscheinlichkeit, dass nun eine Frau ausgewählt wird, steigt. Bei bisherigen, aktuellen fairen Rankings ändert sich jedoch an der Ausgangslage für die nächste Runde nichts, es bleibt bei 70 % Männern und 30 % Frauen.
Das neue Tool hingegen verfeinert den ursprünglichen FAIR-Algorithmus und nutzt eine hypergeometrische Verteilung – ein statistisches Modell, das Stichproben ohne Zurücklegen berücksichtigt. Während Kandidat:innen ausgewählt und aus dem Pool entfernt werden, passt hyperFA*IR die Wahrscheinlichkeiten für die verbleibenden Kandidat:innen dynamisch an. Dies ist besonders wichtig, wenn die Anzahl der Auswahlen im Verhältnis zur Poolgröße groß ist oder wenn unterrepräsentierte Gruppen klein sind. „Wenn man bereits viele Personen aus einer Gruppe ausgewählt hat, sinken die Chancen, weitere Personen aus dieser Gruppe auszuwählen, auf natürliche Weise“, so Mauritz Cartier van Dissel.
Fairness auch für die hinteren Plätze
Im Gegensatz zu Tools, die sich nur auf die Spitzenpositionen konzentrieren, will hyperFA*IR Fairness über das gesamte Ranking hinweg beibehalten, einschließlich der hinteren Plätze. Dies ist in Szenarien wichtig, in denen auch nachrangig platzierte Kandidat:innen von Wartelisten, Ausweichoptionen oder sekundären Möglichkeiten profitieren. „In Einstellungsverfahren oder bei der Hochschulzulassung können niedriger platzierte Kandidat:innen immer noch von Wartelisten profitieren“, so die Forscher:innen. „Im öffentlichen Dienst oder bei der Wohnungsvergabe hilft Fairness am Ende des Rankings, systemische Benachteiligungen zu verhindern und eine gerechte Behandlung unterrepräsentierter Gruppen sicherzustellen.“
Die Forscher:innen arbeiten derzeit an einem Modell, das mehrere Gruppen gleichzeitig berücksichtigt, nicht nur zwei Gruppen. „Sicherzustellen, dass Rankings ‚fair‘ sind, kann knifflig sein“, betont der Cartier van Dissel. Die Realität ist, dass Menschen komplex sind und mehrere Merkmale haben – wie ethnische Zugehörigkeit, Geschlecht und Alter.
Eine interaktive Geschichte
Wie entstehen Ungleichheiten bei der Auswahl von Bewerbern? In dieser interaktiven Geschichte befassen Sie sich mit einem Szenario zur Hochschulzulassung, bewerten Bewerber und erfahren, was faire Ranglisten sind und wie man Fairness mithilfe statistischer Methoden messen kann: bitte hier klicken!
Über Complexity Science Hub (CSH)
Der Complexity Science Hub (CSH) ist ein wissenschaftliches Zentrum zur Erforschung komplexer Systeme. Mit interdisziplinären Methoden forschen über 70 Wissenschafter:innen an Kompetenzen, um Antworten auf heutige und zukünftige Herausforderungen zu finden.
