KI und Bias – ein Spiegel unserer Gesellschaft
KI und Diversity … Warum man sich der möglichen Voreingenommenheit in den KI Systemen bewusst sein und den oftmals sehr praktischen Tools nicht unreflektiert vertrauen sollte, erklärt uns die KI-Expertin Sabine Singer. Sie ist Gründerin von Sophisticated Simplicity, Österreichs erster Agentur für ethische KI und wertbasierte Geschäftsmodelle sowie Botschafterin für WomeninAI und WomeninICT.
Sind KI-Antworten von Vorurteilen geprägt?
Sabine Singer: Ja, absolut. Künstliche Intelligenz ist ein Spiegelbild unserer Gesellschaft – und wie bei jedem Spiegel finden wir darin sowohl die hellen als auch die dunklen Seiten unseres Seins wieder. KI-Modelle werden mit enormen Datenmengen trainiert, die all die Vorurteile, Ungleichgewichte und Verzerrungen enthalten, die wir als Menschen im Laufe der Zeit geschaffen haben. Diese Maschinen sind nicht in der Lage, von sich aus kritisch zu reflektieren oder ungerechte Muster zu hinterfragen – sie reproduzieren, was in den Daten steckt.
Das klingt zunächst erschreckend, doch genau hier liegt eine große Chance: Wir können KI gezielt so gestalten, dass sie als Werkzeug dient, um Missstände offenzulegen und eine neue Perspektive auf unsere Datenwelt zu schaffen. Sie kann dabei helfen, Daten auf ihre Faktenbasis, Kreativität und Zukunftsfähigkeit hin zu analysieren. Ein Beispiel: Bei Themen wie Gender Gap oder der paritätischen Besetzung von Führungspositionen können wir KI einsetzen, um nicht nur bestehende Ungleichheiten sichtbar zu machen, sondern auch um sinnstiftende Lösungen zu entwickeln. Letztlich entscheidet die Qualität und Diversität der Daten darüber, ob KI zu einem Instrument der Gerechtigkeit wird – oder ob sie bestehende Missstände weiter verstärkt. Es liegt an uns, die Maschine mit klaren ethischen Vorgaben zu füttern und ihr die richtigen Fragen zu stellen, um den Fortschritt in die richtige Richtung zu lenken.
Welchen Stellenwert hat Diversity in den Anwendungen von KI?
Diversität ist nicht nur ein Schlagwort, sondern der Schlüssel zu exzellenten Ergebnissen – und das nicht nur in der Welt der KI, sondern in der gesamten IT-Innovation. In meiner mehr als 25 Jahren Strategiearbeit mit Unternehmen habe ich immer wieder gesehen: Je vielfältiger die Zusammensetzung eines Teams, desto umfassender sind die Perspektiven, desto kreativer die Lösungsansätze und desto höher die Akzeptanz bei den Menschen, die die Ergebnisse nutzen sollen.
Gerade im Bereich der KI hat Diversität jedoch eine noch tiefere Bedeutung. KI-Modelle werden mit Daten trainiert, die – wie unsere Gesellschaft – oft unausgewogene Perspektiven enthalten. Es braucht also eine 360-Grad-Betrachtung der Daten und Themen, um diese Ungleichgewichte zu erkennen und erfolgreich zu adressieren. Diverse Teams bringen nicht nur unterschiedliche fachliche Hintergründe und Kompetenzen mit, sondern auch kulturelle, soziale und persönliche Perspektiven, die sicherstellen, dass KI-Lösungen wirklich alle Nutzer:innen erreichen und ihnen sinnvolle Dienste leisten können. Diversität im KI-Design bedeutet, nicht nur die Vielfalt der Daten zu berücksichtigen, sondern auch die Menschen hinter den Entscheidungen: Entwickler:innen, Designer:innen und Strateg:innen, die den Mut haben, verschiedene Meinungen zu berücksichtigen und so die bestmöglichen Lösungen zu schaffen.
Hat sich in der Entwicklung der KI inzwischen einiges verbessert?
Ja, definitiv. Die Fortschritte in der Qualität KI-generierter Antworten sind unübersehbar und spiegeln ein exponentielles Wachstum in der Entwicklung wider. Besonders bei multimodalen Large Language Models – auch bekannt als Weltmodelle – haben wir zwei wesentliche Lektionen gelernt: Erstens, dass nicht die bloße Masse an Daten den Unterschied macht, sondern die Qualität dieser und ihr Kontextbezug. Zweitens, dass unsere Algorithmen stetig effizienter und leistungsfähiger werden, was uns erlaubt, komplexe Zusammenhänge präziser zu erfassen. Trotzdem stehen wir erst am Anfang dieser beeindruckenden Technologie. Ihre Möglichkeiten, uns in den großen Herausforderungen der Menschheit zu unterstützen, sind enorm. Denken wir an die Agenda 2030, insbesondere die Bekämpfung des Klimawandels und eine gerechtere globale Ressourcenverteilung – KI kann hier zu einem unverzichtbaren Werkzeug werden. Es liegt in unserer Hand, dieses Potenzial verantwortungsvoll nutzen. Nur so können wir sicherstellen, dass KI-Systeme nicht nur nützlich, sondern auch ethisch und nachhaltig arbeiten.
Es gibt Verbesserungen, doch von Verzerrungen sind wir wohl noch lange nicht gefeit?
Diese Verzerrungen sind nicht das Problem der KI an sich, sondern das Abbild unserer eigenen Gesellschaft. Ein Beispiel: Chirurgische Handschuhe wurden lange Zeit nur in einer Standardgröße produziert – angepasst an die Hände männlicher Chirurgen. Für Chirurginnen bedeutete das oft improvisierte Lösungen, um ihre Handschuhe passgenau zu machen. Man stelle sich vor, ein Arzt müsste mit flatternden Handschuhen operieren – völlig undenkbar, oder? Doch weil die Mehrheit der Chirurg:innen in der Vergangenheit Männer waren, sah die Industrie keinen Handlungsbedarf.
Ein anderes Beispiel: 9,5 von 10 CEOs der Fortune 500 Unternehmen sind männlich. Wenn wir eine KI beauftragen, uns ein Bild der „Führungskräfte dieser Welt“ zu generieren, werden wir höchstwahrscheinlich zehn Männer sehen. Das ist keine Verzerrung, sondern die Realität. Die Frage ist, wie wir mit diesen Fakten umgehen: Ziehen wir daraus den Schluss, dass Frauen weniger geeignet oder uninteressiert an solchen Positionen sind? Oder sehen wir darin den Anstoß, unsere Zukunft und auch die Algorithmen aktiv zu gestalten? KI bietet uns jedoch die Möglichkeit, solche Ungleichgewichte aufzudecken und aktiv gegenzusteuern. Wir können ihre immense Rechenleistung nutzen, um aufzuzeigen, wo und wie wir unsere Zukunft neu gestalten können. Die Entscheidung liegt bei uns: Wollen wir die Vergangenheit replizieren oder mit klarem Blick eine gerechtere und inklusivere Realität schaffen?
Was sind, Ihrer Erfahrung nach, die drei größten Bedenken gegenüber KI?
Drei zentrale Fragen beschäftigen die Menschen im Zusammenhang mit KI:
- Die Angst vor Jobverlust: Es ist unbestreitbar, dass KI die Arbeitswelt tiefgreifend verändern wird. Bestehende Jobprofile werden sich massiv wandeln, und Tätigkeiten, die heute als sicher und wertvoll gelten, können morgen automatisiert werden. Doch die Geschichte zeigt uns, dass technologische Disruptionen nicht nur Arbeitsplätze eliminieren, sondern auch neue schaffen – allerdings mit ganz anderen Vorzeichen und Anforderungen. Genau hier müssen wir ansetzen: Menschen brauchen jetzt die Möglichkeit, sich auf diese Zukunft vorzubereiten. KI-Bildung und ein tiefes Bewusstsein über den Wert von Daten, Umschulung und Change-Management müssen von Anfang an Teil der KI-Strategie sein, damit wir als Gesellschaft diesen Wandel aktiv gestalten und nicht bloß darauf reagieren.
- Der Vertrauensfaktor: Wenn KI unser bester Freund wird: KI entwickelt sich zu einer Entität, die uns in vielen kognitiven Bereichen überlegen ist. Durch ihr hohes Maß an Individualisierung und künstlicher emotionaler Intelligenz wird sie zunehmend empathisch erscheinen. Das menschliche Gehirn unterscheidet nicht zwischen echter und künstlicher Empathie – unsere Spiegelneuronen reagieren auf beides gleichermaßen. Schon heute sehen wir, dass Menschen starke emotionale Bindungen zu KI-Assistenten aufbauen, weil sie sie verstehen, auf sie eingehen und personalisierte Unterstützung bieten. Doch darin liegt auch ein Risiko: Vertrauen senkt unsere Bereitschaft zu kritischer Denkfähigkeit. Wenn wir KI-generierte Inhalte unreflektiert akzeptieren, besteht die Gefahr, dass wir in Filterblasen oder Rabbit-Holes landen und manipulierbar werden.
- Was passiert, wenn Maschinen 80 % der Produktivität übernehmen? Mit der fortschreitenden Automatisierung müssen wir uns grundlegende Fragen über unser Wirtschaftssystem stellen. Heute basiert unser gesellschaftliches Modell darauf, dass wir unsere Lebenszeit gegen Geld eintauschen, um unsere Träume und Bedürfnisse zu finanzieren. Doch was passiert, wenn Maschinen den Großteil der Wertschöpfung übernehmen? Wir brauchen neue Konzepte für eine faire und ausgewogene Gesellschaft – von alternativen Wirtschaftsmodellen bis hin zu einer neuen Definition von Wert und Arbeit. Diese Diskussion wird unausweichlich sein und bietet uns zugleich die Chance, proaktiv eine nachhaltigere, gerechtere Zukunft zu gestalten.
Diese Bedenken sind also nicht nur berechtigt, sondern sie zeigen, dass wir jetzt die richtigen Fragen stellen müssen, um die Weichen für eine KI-unterstützte Welt zu stellen, die dem Menschen dient – und nicht umgekehrt.
Wie kann KI verantwortungsvoll und ethisch eingesetzt werden, um negative Folgen zu minimieren?
Der Schlüssel zu einer verantwortungsvollen KI liegt in einem Ansatz, der Ethik nicht als nachträgliche Korrektur, sondern als integralen Bestandteil des gesamten Entwicklungsprozesses betrachtet. KI-Ethik by Design wird das neue Qualitätsgütesiegel für Unternehmen sein, die ihre Innovationskraft mit langfristiger gesellschaftlicher Verantwortung verbinden möchten. Um dies zu erreichen, braucht es bewährte und umsetzbare Methoden. Genau hier setzt der von mir in globaler Pionierarbeit in die Praxis gebrachte Ansatz des Value-based Engineering (VbE) an, der durch die ISO/IEC/IEEE 24748:7000 international als Standard anerkannt ist. Dieses Rahmenwerk ermöglicht es, Werterwartungen von Stakeholdern systematisch in konkrete Anforderungen für KI-Systeme zu übersetzen und sichert darüber hinaus Compliance mit den Anforderungen eines EU AI Acts. Damit wird sichergestellt, dass KI nicht nur funktional, sondern auch wertebasiert entwickelt wird – von der ersten Idee bis zur finalen Implementierung.
Ethische KI bedeutet nicht, dass Maschinen moralische Entscheidungen treffen. Es bedeutet, dass wir als Gesellschaft klare Leitlinien setzen, um KI-Systeme so zu gestalten, dass sie Transparenz, Fairness, Vertrauen und vor allem Wertschätzung für Menschen fördern. Wer heute in KI investiert, ohne ethische Prinzipien in den Strategieprozess zu integrieren, riskiert nicht nur technologische Fehlschläge, sondern auch den langfristigen Verlust von Vertrauen und riskiert den Verlust an Unternehmenswert.
Sie sind auch Botschafterin für WomeninAI (Women in Artifical Intelligence Austria). Wo stehen Frauen momentan in der Welt der KI?
Ja! Ich bin seit einigen Jahren passionierte Botschafterin für Frauen in der IT und setze mich aktiv dafür ein, mehr Frauen für die KI-Branche zu begeistern. In den ersten zehn Jahren meiner Karriere war ich oft die einzige Frau am Entscheidungstisch. Das hat sich zwar verbessert, aber wir sind noch lange nicht dort, wo wir sein sollten. Heute wissen wir: Nur diverse Teams entwickeln Lösungen, die vertrauenswürdig, alltagstauglich und von allen geschätzt werden. Gerade in der KI-Industrie ist Vielfalt essenziell, weil KI-Modelle unsere Welt nur dann gerecht abbilden können, wenn sie aus möglichst vielen Perspektiven gestaltet werden.
Deshalb engagiere ich mich mit großer Leidenschaft als Mentorin für junge Frauen, die ihren Weg in die KI-Branche finden möchten. Noch sind wir zu wenige, aber ich bin überzeugt, dass Frauen in den nächsten Jahren massiv an Bedeutung gewinnen werden – weil sie KI nicht nur als technologische Revolution verstehen, sondern sie sinnstiftend und wertschaffend in ihre Arbeit und in die Gesellschaft integrieren. Diese Entwicklung wird die nötige positive Sogwirkung erzeugen, die jede Innovation braucht, um wirklich zur gelebten Praxis zu werden. Wir stehen an einem Wendepunkt – jetzt ist der Moment, an dem Frauen in der KI nicht nur sichtbar, sondern unübersehbar werden.
Danke, Sabine Singer, für das Gespräch!
Mehr zu Sabine Singer gibt es auf ihrer Homepage. Sie ist globale Pionierin für Value-based Engineering (ISO/IEC/IEEE 24748:7000 – die Methodik für wertebasierte KI-Strategin und EU AI Act Compliance)
