Algorithmus für alle? Schon die Trainings­daten für intelligente Systeme schließen Menschen aus, sagt KI-Expertin und Autorin Mina Saidze. In ihren Antworten auf “3 fiese Fragen” für die turi2-Themenwoche KI in der Kommunikation erklärt sie, warum Diversity in Tech keine Luxus­debatte ist und wieso nicht längst mehr Frauen Künstliche Intelligenz mitgestalten. Sie wirbt für eine ethisch verantwortungs­volle KI-Strategie als Wettbewerbs­vorteil, mit dem Unternehmen “das Vertrauen der Kunden und der Öffentlichkeit gewinnen” können – und verrät, wie die in der Praxis konkret aussehen könnte.
 

 
von Anne-Nikolin Hagemann
 
1. Diversity ist ein Schlagwort, das gefühlt 2020 mal Trend war. Warum sollen wir das jetzt schon wieder durchkauen – diesmal unter dem Dach von KI?

Bei Diversity darf es nicht nur um die Vermarktung von rotem Lippen­stift oder glamouröse Events unter dem Deck­mantel von “Female Empowerment” gehen. Das ist leider das, was vor allem die Linked-in-Bubble darunter versteht. Wir müssen weg vom Bauchgefühl und Kommerzialisierung und hin zu einem evidenz­basierten Kultur­wandel, wofür wir Zahlen, Daten und Fakten brauchen. Denn Daten­sätze bilden unsere gesellschaftliche Realität ab.

Aktuell wird im medialen Diskurs häufig von diskriminierenden Algorithmen gesprochen. Die Wahrheit ist jedoch komplexer: KI per se ist weder diskriminierend noch rassistisch noch sexistisch. Der Algorithmus lernt auf Basis von Trainings­daten, eine Entscheidung zu treffen. Und genau da steckt der Wurm drin: In den Trainings­daten sind bestimmte Gruppen, zum Beispiel Frauen, unter­repräsentiert.

Diskriminierung entsteht nicht erst durch KI, sondern durch menschliches Verhalten. Das Identifizieren und Neutralisieren von Bias ist nur eine ober­flächliche Lösung; die Wurzel des Problems bleibt bestehen und erfordert weiterhin gesellschaftliche Veränderungen. Die schnelle Verbreitung von KI verdeutlicht die Mängel unserer Gesellschaft, und wir erkennen zunehmend die Dringlichkeit dieses Themas. Wir müssen ein Bewusst­sein dafür schaffen, dass Rassismus ein strukturelles Problem ist und dass Gleich­berechtigung noch nicht erreicht wurde. Dies sind keine neben­sächlichen Aspekte, sondern klare strukturelle Probleme, die angegangen werden müssen. Und auch eine wichtige Frage­stellung wurde zu lange verdrängt: Wie kann ich, wenn ich von algorithmischer Diskriminierung betroffen bin, dagegen vorgehen?

Synthetische Daten, die von KI generiert werden, bieten eine Möglichkeit, die Lücken in großen Daten­sätzen zu füllen und sicher­zustellen, dass KI-Systeme auf der Grund­lage viel­fältiger Daten trainiert werden. Auch braucht es vielfältige KI-Teams. Als migrantische Frau in einem Tech-Team bin ich nicht automatisch Expertin in Gender- und Anti-Rassismus-Fragen. Dennoch steigt die Wahrscheinlichkeit, dass ich auf meine Perspektive und Bedürfnisse aufmerksam mache und diese bei der Entwicklung von KI berücksichtigt werden.
Diversity in Tech ist keine Luxus­debatte. Sondern es geht darum, wie unsere Welt von morgen aussieht.

2. Die KIs, die die Zukunft prägen, werden aktuell mehrheitlich von weißen Männern aus der Ober­schicht programmiert. Warum hat der Feminismus diese digitale Revolution verschlafen?

Das war nicht immer so: Viele der ersten Computer­pioniere waren Frauen. Beim Programmieren des ersten Computers des US-Militärs 1946 bestand die Gruppe zu über 50 % aus Frauen. Grace Hopper, Marine-Admiralin und Informatikerin, ermöglichte den USA, Atom­bomben zu modellieren. In den 80er Jahren nahm der Frauen­anteil in der Informatik ab, als Computer als Spiel­zeug für Männer vermarktet wurden. Filme und Medien verstärkten dieses Bild.

Es gibt eine Vielzahl an Beispielen dafür, dass KI Sexismus reproduziert: Wenn ich als Frau eine Bild­generator-KI wie Lensa AI Bilder von mir erstellen lasse, kann es sein, dass ich Pamela Anderson ähnlicher sehe als mir selbst. KI, die von Banken für die Kredit­vergabe genutzt wird, benachteiligt Frauen systematisch.

Dass Frauen in den Trainings­daten der KIs unter­repräsentiert sind, wird auch als Gender Data Gap bezeichnet. Die Vereinten Nationen gehen davon aus, dass 22 Jahre nötig sein werden, um den Gender Data Gap zu schließen. Im medizinischen Bereich kann es lebens­bedrohliche Folgen haben, wenn geschlechts­spezifische Symptome bei der Anwendung von Bild­erkennungs­algorithmen zur Krebs­diagnostik nicht angemessen erkannt werden oder Medikamente unzureichend auf die Bedürfnisse weiblicher Patientinnen abgestimmt sind. Dem “Women in AI”-Report von Deloitte zufolge sagten 63 % der Befragten, dass KI-Modelle immer verzerrte Ergebnisse liefern, solange das Feld eine Männer­domäne bleibt.

Was hindert aber Frauen daran, Gestalterinnen von Künstlicher Intelligenz zu sein? Eine BCG-Studie hat gezeigt, dass Frauen das Feld der KI als sehr abstrakt wahrnehmen. Das hängt auch oft mit der medialen Bericht­erstattung zusammen, wo nur kommuniziert wird, wie KI die Welt revolutioniert. Der Bezug zum Daily Business fehlt oft. Ein weiterer Grund ist, dass Frauen schon früh durch die Erziehung vermittelt bekommen haben, dass technische Bereiche eher Männer­sache sind und Kreativität, Sprachen oder soziale Berufe “typisch weiblich”. Mit lediglich 17 % Frauen in IT-Berufen in Deutschland ist es umso dringlicher, dass Frauen als Tech-Expertinnen in den Medien präsent sind. Denn: Seeing is believing.

3. Diskutieren und Kritisieren statt einfach mal machen: Was tust du, um in der KI-Branche nicht als typisch deutsche Bedenken­trägerin abgestempelt zu werden?

Die Tech-Industrie hat mir zu gesellschaftlicher Teilhabe, Anerkennung und sozialer Mobilität verholfen. Sie ermöglicht ein relatives Wohl­stands­versprechen, ein Arbeiten orts­unabhängig und in Teil­zeit. Daher ist sie für Frauen und soziale Aufsteiger wie mich besonders geeignet. Und ich möchte, dass dieses Privileg mehr Menschen in Deutschland und Europa zuteil wird. Nur so können KI-basierte Produkte auch besser, viel­fältiger und gerechter werden.

Das bedeutet für mich auch, Gefahren wie Macht­missbrauch und Vorein­genommenheit von KI nicht nur zu erkennen, sondern aktiv vorzubeugen. Deswegen setze ich mich seit Jahren für einen verantwortungsvollen Umgang mit Zukunftstechnologien ein.

Angesichts des EU AI Acts, der weltweit ersten KI-Verordnung, können gesellschaftliche, rechtliche und regulatorische Frage­stellungen nicht mehr ignoriert werden. KI-Ethik darf kein Stie­fkind sein! Sie muss von Anfang an in die KI-Strategie integriert werden, nicht als nach­träglicher Gedanke. Für das Top-Management ist es entscheidend, klare Zuständigkeiten für KI-Ethik auf C-Level-Ebene zu verankern – sei es als Chief Technology Officer oder Chief Information Officer. Zusätzlich empfehlt es sich, eine spezialisierte Abteilung oder Projekt­leitung einzurichten, wie StepStone es umgesetzt hat. Tech-Mitarbeitende können dabei helfen, Bias- und User-Testing in die Produkt­entwicklung zu integrieren und synthetische Daten in der KI-Entwicklung zu nutzen, so dass alle Bevölkerungs­gruppen angemessen repräsentiert sind. Unternehmen, die ethisch verantwortungs­volle KI-Systeme entwickeln, erfüllen nicht nur eine rechtliche Verpflichtung, sondern können das Vertrauen der Kunden und der Öffentlichkeit gewinnen.
 
Dieses Interview ist Teil der Themenwoche KI in der Kommunikation.
 
(Foto: Dagmara Musial)