Hilft die Digitalisierung bei sozialer Gerechtigkeit?

Die öffentliche Hand versucht, Services für Bürger:innen treffsicherer zu machen. Das reicht von der Arbeitsvermittlung über den Gesundheits- und Sozialversicherungsbereich bis hin zur Stadtverwaltung. Dafür setzen viele Organisationen und Institutionen auf das Sammeln von Daten und auf automatisierte Prozesse, die auf neuen Technologien beruhen.

Nun steht der Einsatz technischer Systeme bei der Verteilung von Sozialleistungen im Fokus eines Forschungsprojektes. Darüber steht die Frage: Führen KI und Daten zu einer gerechteren Gesellschaft – oder einzig zu mehr Effizienz? Doris Allhutter widmet sich diesen Themen. Sie arbeitet am Institut für Technikfolgen-Abschätzung der Österreichischen Akademie der Wissenschaften (ÖAW).

Wohlergehen oder Effizienz?

Die Modernisierung des Sozialstaates umfasst die Einführung technischer Systeme, durch Daten und durch KI. „Darüber stehen oft Leitbilder, die nicht das menschliche Wohlergehen, sondern die Effizienz der Verwaltung in den Vordergrund stellen,“ führ die Wissenschaftlerin aus. „Es gibt eine weite Bandbreite: von einfachen Systemen, die überprüfen, ob alle Daten in Anträgen vorhanden sind, über Chatbots und den Aufbau von Dateninfrastrukturen bis zum Einsatz von KI.“

Was bedeutet das nun für uns Bürger:innen? Dieser Frage geht Allhutter mit europäischen Kolleg:innen im Forschungsprojekt „Die Automatisierung von Wohlfahrt“ (AUTO-WELF) nach. Das interdisziplinäre Team erforscht die Länder Österreich und Deutschland, Italien und Portugal, Estland und Polen sowie Dänemark und Schweden. Jedes Länderpaar repräsentiert ein sogenanntes „Wohlfahrtsregime“. Hierzulande ist dieses konservativ-korporatistisch geprägt. Das bedeutet, Sozialleistungen sind stark an die Erwerbstätigkeit geknüpft. Soziale Ansprüche von Partner:innen, die sich der Familien- und Pflegearbeit widmen, sind in vielen Fällen nur davon abgeleitet, sagt Allhutter.

Wo kommen welche Systeme zum Einsatz?

Die Art automatisierter Systeme und deren Verbreitung sind in den Ländern und deren Regionen sehr divers. Dennoch beobachteten die Forschenden über Europa verteilt ähnliche Entwicklungen. „Erst wurden technische Systeme in einzelnen Bereichen eingesetzt: Viele Länder versuchten etwa, Arbeitssuchende in Gruppen aufzuteilen. Dadurch wollten sie herausfinden, welche Unterstützung sie benötigen“, so Allhutter. Ein Beispiel dafür ist der Algorithmus, den das österreichische Arbeitsmarktservice (AMS) einzusetzen plante. Ein anderer Einsatzbereich ist der Versuch, datenbasiert „Wohlfahrtsbetrug“ aufzudecken.

Allhutter und ihr Team interviewten Entwickler:innen, Entscheidungsträger:innen und Sachbearbeiter:innen in österreichischen öffentlichen Institutionen. So bekamen sie Einblicke in die technische Entwicklung, den beabsichtigten Nutzen und mögliche Probleme in der Anwendung der Systeme.

„Viele zielen darauf ab, Arbeitsabläufe und Entscheidungen zu beschleunigen“, sagt Allhutter. Vor allem regelbasierte Systeme können Prozesse effizienter machen, etwa indem sie automatisch überprüfen, ob Anträge korrekt ausgefüllt wurden. „Diese Systeme arbeiten allerdings nur mit einer begrenzten Anzahl an Parametern.“ Soziale Verhältnisse hingegen seien komplex und ließen sich nicht so leicht in Computersystemen abbilden, wendet die Forscherin ein. Mit dem Ergebnis, dass datenbasierte Systeme Entscheidungen nicht zwangsmäßig objektiver und gerechter machen.

Ungleichheiten inklusive

Zugleich spiegeln Daten gesellschaftliche Ungleichheiten wider, wie man aus der Forschung weiß. Der AMS Berufsinformat schlug etwa Frauen vermehrt Berufe wie Friseurin oder Modehändlerin, Männern hingegen solche in der IT vor. Die Trainingsdaten, die der KI-basierte Chatbot erhielt, waren voller solcher stereotypen Zuschreibungen. Das AMS musste die Anwendung überarbeiten lassen. Das zeigt: Der Einsatz technischer Systeme kann unerwünschte Folgen haben, in dem er Ungleichheiten fortsetzt.

Falsche Ergebnisse eines Algorithmus haben etwa auch in den Niederlanden vermehrt Familien mit Migrationshintergrund benachteiligt. Die Familien hatten demnach ungerechtfertigt Beihilfen bezogen – und mussten diese auch zurückzahlen. Viele schlitterten dadurch in die Armut – und erfuhren erst Jahre später, warum.

Die Folgen für Organisationen, Städte und Sozialstaat

Allhutter sagt dazu: Damit Ungleichheiten sich nicht verstärken, braucht es einen rechtlichen und institutionellen Rahmen, regelmäßige Überprüfungen und Möglichkeiten der Einsichtnahme durch die Bürger:innen. „Wir interessieren uns für die Folgen des Einsatzes dieser Systeme. Das geht bis hin zu der Frage, wie sich Sozialpolitik verändert, wenn wir Daten sammeln. Auf dieser Basis wollen wir Modelle entwerfen, um herauszufinden, welche Maßnahmen gut funktionieren“, erklärt die Forscherin.

Workshops mit Bevölkerung

Damit datenbasierte Modelle und technische Lösungen positive Veränderungen anstoßen, sei es wichtig, dass die Menschen, die es letztendlich betrifft, mitentscheiden dürfen, wo sie eingesetzt werden, plädieren die Wissenschaftler:innen. Auch aus diesem Grund führen die Forschungsteams Workshops mit der Bevölkerung durch.

In Österreich gibt es etwa im September 2024 im Rahmen des Ars Electronica Festivals in Linz die Möglichkeit, sich mit den Forschenden auszutauschen. „Wir wollen herausfinden, was die Bürgerinnen und Bürger wirklich vom Sozialstaat und ihrer Stadt wollen, wenn man von Vorstellungen der Effizienz weggeht“, erläutert Allhutter.

Zum Projekt:

Das Projekt „Automatisierung der Wohlfahrt“ (AUTO-WELF) läuft von 2022 bis 2025 und wird im Rahmen des europäischen Forschungsprogramms HERA vom Wissenschaftsfonds FWF mit rund 306.000 Euro gefördert.

Zur Person

Doris Allhutter ist Senior Scientist am Institut für Technikfolgen-Abschätzung (ITA) der Österreichischen Akademie der Wissenschaften (ÖAW). Sie lehrt am Institut für Wissenschafts- und Technikforschung der Universität Wien und ist Mitglied des UNESCO-Beirats für Ethik der Künstlichen Intelligenz.