KI ist nicht neutral – sie ist das Spiegelbild unserer Vorurteile
KI-Systeme lernen aus unseren Daten – und übernehmen dabei auch unsere Vorurteile. Was das für Bewerberinnen bedeutet, ist alarmierend.
Neue Technik ist häufig mit großen Hoffnungen verbunden. Kritiker haben es da häufig schwer. "Digitalisierung first, Bedenken second", bringt die Forderung nach Umsetzung ohne Regulierung auf den Punkt. Unternehmen erhoffen sich Gewinnsteigerungen durch lobende Schlagzeilen.
Inzwischen werden Digitalisierungsthemen kritischer diskutiert. Deepfakes werden in vielen Medien als Gefahr für die Menschenwürde dargestellt, ein Social-Media-Verbot für Jugendliche wird auch hierzulande nicht mehr ausgeschlossen.
In den Betrieben beginnen Probleme oft schon bei der Bewerbung. Vor der automatisierten Diskriminierung von Frauen warnen die Juristinnen Saskia Ostendorff, Dr. Chiara Streitbörger, Alexandra Lorch und Jacqueline Sittig, die Mitglieder der "Kommission Recht der digitalen Gesellschaft" im Deutschen Juristinnenbund sind.
Denn Software zur Personalauswahl suggeriert Objektivität, dabei basieren Entscheidungen häufig auf selektiven Daten und diskriminierenden Mustern.
Automatisierte Diskriminierung von Frauen
Das zeigte ein automatisiertes Recruitingsystem bei Amazon:
"Eigentlich sollte es die besten Bewerbenden in einem männlich dominierten Umfeld herausfiltern. Die unerwünschte Folge war, dass die Künstliche Intelligenz (KI) Frauen systematisch benachteiligte, da der Algorithmus mit Daten von angenommenen Bewerbenden der vergangenen Jahre trainiert wurde, die überwiegend männlich waren"
Ostendorff, Streitbörger, Lorch, Sittig
KI trifft keine autonomen Entscheidungen, vielmehr basieren diese auf Trainingsdaten:
"Dieses Training findet anhand der Datenlage zu bestehenden gesellschaftlichen Strukturen statt, einschließlich der Ungleichheiten und Stereotype, die sich darin etabliert haben. Die KI reproduziert daher durch das Training die gesellschaftlichen Ungleichheiten in die digitale Gesellschaft hinein."
Ostendorff, Streitbörger, Lorch, Sittig
Die Ergebnisse generativer KI basieren auf großen Trainingsdatensätzen. Die zugrundeliegenden Daten sind alles andere als neutral. Sie spiegeln gesellschaftliche Machtverhältnisse, Vorurteile und Ausschlüsse wider. Und weil KI daraus lernt, reproduziert sie diese auch. Die Juristinnen machen deutlich, die Benachteiligung von Frauen ist ein Verstoß gegen das Grundgesetz.
Ferda Ataman, die Unabhängige Bundesbeauftragte für Antidiskriminierung, machte bereits 2023 den Vorschlag, den Schutz vor Diskriminierung durch KI in das Allgemeine Gleichbehandlungsgesetz aufzunehmen.
Personalplanung durch KI
Inzwischen soll auch Personalplanung per KI erfolgen, berichtet Martina Eckermann, Content- und SEO-Expertin beim Seminaranbieter Management Circle. KI kann im Sinne der Personaleinsatzplanung historische Daten und aktuelle Bedarfe abgleichen.
"Mithilfe von Predictive Analytics können Unternehmen so beispielsweise Muster erkennen und Prognosen ableiten, die eine vorausschauende Personalplanung mit KI ermöglichen. […] Das Ergebnis wird dank KI-Einsatz eine strategische Personalplanung sein, die operative Effizienz mit langfristiger Stabilität verbindet."
Martina Eckermann
Die Entscheidungen müsse aber das Unternehmen treffen, KI liefere nur Empfehlungen. Die Entwicklung gehe jedoch weiter.
"Bei Workforce Analytics werden Qualifikationen, Leistungsdaten und Weiterbildungsstände in die Analyse verknüpft."
Martina Eckermann
Die Zukunft der Personalplanung mit KI wird „sicherlich durch noch stärkere Automatisierung“ geprägt sein, ist sich Eckermann sicher. Dazu gehören auch "selbstoptimierende Schichtmodelle".
Kritik am "KI-Hype" durch Experten
Den "KI-Hype" kritisiert Rainer Mühlhoff, Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück. In seinem Buch "Künstliche Intelligenz und der neue Faschismus" setzt sich der Philosoph und Mathematiker kritisch mit KI auseinander:
"Wie wir über KI sprechen, überhöht die technologische Realität von KI-Systemen, die tatsächlich weder denken, fühlen oder autonom agieren können noch in einem vollwertigen Sinne intelligent sind, wie wir es über uns Menschen sagen würden."
Wiederholung nach Wahrscheinlichkeit ist das Geheimnis der KI. Daraus ergibt sich aber auch ein großes Risiko: Large Language Models erzeugen Gleichklang. Sie bilden nicht den klügsten Satz, sondern reproduzieren die Muster, die oft genug wiederholt wurden.
Mühlhoff hält die Übertragung von Entscheidungen auf KI-Agenten für falsch. Menschliche Entscheidungen und KI-Mustererkennung unterscheiden sich fundamental. Beim KI-System kann nicht erklärt werden, wie es Entscheidungen fällt. Es entfällt die Einzelfallprüfung und der Anspruch des Betroffenen, dass jeder einzelne Fall von kompetenten Menschen geprüft wird.
Das Besondere an der neuen Technik seien größere Speicherkapazitäten und leistungsstärkere Hardware auf der einen Seite. Und auf der anderen Seite der Zugriff auf riesige Datenmengen durch das Internet, so Mühlhoff.
Ein unkritisches Herangehen an das Thema würde an die Vorstellungen der Tech-Konzerne anknüpfen. Diese propagieren technikgläubige Gesellschaftsutopien, wonach vor allem die Technikentwicklungen maßgeblich für den gesellschaftlichen Fortschritt seien. Die Macht der Silicon-Valley-Giganten basiert auf einer massiven Konzentration von Macht bei wenigen Konzernen.
"Ohne staatliche Regulierung eignet sich diese Machttechnologie ideal für autoritäre oder gar faschistische Zwecke. […]
Das zentrale Kennzeichen der neuen faschistischen Kräfte besteht in dem Bestreben, die spezifischen Möglichkeiten von Datenanalyse- und KI-Technologie zu nutzen, um den Rechtsstaat und die freiheitliche demokratische Ordnung zu schwächen und durch ein schlankes auf Automatisierung und Präemtion (algorithmische Vorhersage und Vorwegnahme) basierendes Staatswesen zu ersetzen."
Rainer Mühlhoff
Diese Entwicklungen, die der Autor heute in den USA beobachtet, müssten in Europa verhindert werden. KI müsse als Technik gesehen werden, die demokratisch zu gestalten ist und nicht den Tech-Eliten überlassen wird. Dabei geht es nicht darum, einzelne Tools zu boykottieren.
Vielmehr ist über Machtverhältnisse und rechtliche Grenzen zu diskutieren und eine Demokratisierung der Technologiepolitik zu fordern. KI darf nicht durch private Konzerne oder autoritäre Regierungen monopolisiert werden, sondern muss unter demokratische Kontrolle gestellt werden.