Ein Schritt vor, zwei zurück: Warum Künstliche Intelligenz derzeit vor allem die Vergangenheit [...]

Künstliche Intelligenz (KI) wird von vielen als Technologie der Zukunft gefeiert, doch blickt sie selbst vor allem in die Vergangenheit. Dieser Blogartikel beleuchtet, warum KI-Systeme oft alte Muster reproduzieren, statt fortschrittliche Lösungen zu entwickeln. Welche Rolle spielen historische Daten bei den Vorhersagen und Entscheidungen von KI? Wie werden bestehende Ungleichheiten und die Benachteiligung von Menschen in unserer Gesellschaft durch KI-Systeme vertieft – und was bedeutet das für die soziale Gerechtigkeit?

Der zunehmende Einsatz von KI in vielen Bereichen unseres Alltags hat den Diskurs um die vermeintliche Allmacht der Maschine angeheizt. Die Versprechen schwanken zwischen einem wahren Hype um die problemlösenden Assistenten und der dystopischen Vorstellung, diese könnten den Menschen irgendwann ersetzen. Obwohl dieser Punkt noch weit in der Zukunft liegt, setzen staatliche und nicht-staatliche Akteure große Hoffnungen in KI-gesteuerte, vermeintlich effizientere und optimierte Prozesse.

Künstliche Intelligenz begegnet uns überall im Alltag, zum Beispiel wenn sie uns ohne Umwege zum Ziel führt oder unsere Mails vorsortiert. Was viele allerdings nicht wissen ist, dass sie zunehmend auch eingesetzt wird, um auf verschiedenen gesellschaftlichen Ebenen Vorhersagen über zukünftige Ereignisse zu treffen. Von der Wettervorhersage über den Finanzmarkt bis hin zur medizinischen Diagnose versprechen KI-Systeme eine präzisere Vorhersage und bessere Entscheidungsfindung. Diese Vorhersagen basieren auf historischen Trainingsdatensätzen, die den KI-Technologien zugrunde liegen und auf deren Basis sie arbeiten.

Genauer gesagt: Viele KI-Systeme gründen auf Algorithmen des maschinellen Lernens. Diese Algorithmen analysieren historische Daten, um darin Muster zu erkennen und nutzen diese, um für uns die Zukunft zu prognostizieren. Das bedeutet jedoch im Umkehrschluss, dass die oft angenommene Neutralität oder das Gefühl der Objektivität von KI-Systemen eine Illusion ist. In Wirklichkeit neigen derzeitige KI-Systeme, besonders aufgrund unzureichender und lückenhafter Trainingsdaten dazu, vergangene Muster zu reproduzieren. Dadurch festigen sie schon bestehende soziale Ungleichheiten und Machtgefälle.

Ein Beispiel: Wenn ein KI-System für Jobbewerbungen auf historischen Daten basiert, die hauptsächlich von einer bestimmten Bevölkerungsgruppe stammen (zum Beispiel weiß und cis-männlich), bevorzugt das System möglicherweise ähnliche Kandidaten in Zukunft. Dadurch werden bestehende Ungleichheiten auf dem Arbeitsmarkt verstärkt und marginalisierte Gruppen wie BIPoC, weiblich gelesene Personen/Frauen*, FLINTA/LGBTIQA+ weiter benachteiligt.

Der Diskurs um Künstliche Intelligenz ist eng mit gesellschaftlichen Macht- und Herrschaftsverhältnissen und der Frage verbunden, wer die Deutungshoheit über diesen Diskurs hat. Dabei besteht ein Ungleichgewicht: Bestimmte Geschichten und Perspektiven dominieren die Entwicklung, Implementierung und Nutzung von KI-Technologie. Diese Dominanz hat tiefgreifende Auswirkungen auf die Art und Weise, wie KI wahrgenommen, verstanden und eingesetzt wird. Wer also die Geschichte erzählt und das Narrativ kontrolliert, hat auch die Macht, die öffentliche Meinung über KI zu lenken und zu formen.

In der aktuellen Technologielandschaft dominieren oft große Tech-Unternehmen und Akteure aus dem globalen Norden die KI-Erzählung. Diese Akteure haben die Ressourcen und die Macht, ihre Perspektiven und Interessen in den Vordergrund zu stellen. Das führt dazu, dass andere Stimmen, insbesondere aus marginalisierten oder minorisierten Gruppen, unterrepräsentiert bleiben und nicht ausreichend gehört werden.

Das narrative Machtgefälle entsteht, weil die Teams, die KI entwickeln, häufig nicht divers sind. Wenn hauptsächlich weiße, cis-männliche Perspektiven aus ressourcenstarken Regionen in die Entwicklung einfließen, bleiben andere Perspektiven und Bedürfnisse unberücksichtigt. Ein Beispiel sind KI-Systeme zur Bewertung von Kreditwürdigkeit einzelner Menschen: Diese Algorithmen basieren häufig auf historischen Daten, die von Bevölkerungsgruppen dominiert werden, die bereits Zugang zu Krediten hatten, wie weiße, cis-männliche Personen aus wirtschaftlich starken Regionen. Dadurch werden Menschen aus marginalisierten Gruppen, wie Frauen, People of Colour oder Menschen aus einkommensschwachen Gegenden, systematisch benachteiligt.

Die Verwendung von KI-basierten Vorhersagesystemen führt so zu selbsterfüllenden Prophezeiungen, in denen bestimmte Gruppen bevorzugt oder benachteiligt werden, weil sie historisch immer schon bevorzugt oder benachteiligt wurden.

Der Diskurs über die politische Regulierung von Künstlicher Intelligenz hinkt oft der schnellen Entwicklung der Technologie hinterher. Die Europäische Union hat schließlich nach langen Verhandlungsrunden den AI Act auf den Weg gebracht. Sowohl UNESCO, als auch EU haben schon vor einigen Jahren auf die Risiken beim Einsatz von KI in (sensiblen) gesellschaftlichen Bereichen hingewiesen. Laut Europäischer Kommission könnten KI-Systeme die Werte der EU gefährden und Grundrechte wie Meinungsfreiheit, Nichtdiskriminierung und Schutz personenbezogener Daten beeinträchtigen.

Die UNESCO betont zudem, dass geschlechtsspezifische Stereotypen und Diskriminierung in KI-Systemen vermieden und aktiv bekämpft werden müssen. Dafür startete die UNESCO 2022 das Projekt "Women for Ethical AI", um Geschlechtergerechtigkeit in die KI-Agenda zu integrieren. Auch das UN AI Advisory Board fordert eine gemeinwohlorientierte KI und hebt Gender als wichtiges Querschnittsthema hervor.

In Deutschland hingegen fehlen aktuell noch konkrete Regelungen zur Vermeidung algorithmischer Diskriminierung in diesem Bereich. Hier müsste insbesondere das Allgemeine Antidiskriminierungsgesetz (AGG) angepasst werden.

Mit dem Artificial Intelligence Act hat die Europäische Union nun einen bedeutsamen Schritt in Richtung KI-Regulierung unternommen. Doch spezifische Regelungen zur Geschlechtergleichstellung sind bisher nicht fest verankert. Das Gesetz folgt einem risikobasierten Ansatz, um zu gewährleisten, dass der Einsatz KI-basierter Systeme keine negativen Auswirkungen auf die Sicherheit, Gesundheit und Grundrechte von Menschen hat.

Die jeweiligen gesetzlichen Auflagen hängen von dem jeweiligen Risikopotential eines KI-Systems ab: Inakzeptabel risikoreiche Systeme sind verboten, Hochrisiko-Systeme unterliegen bestimmten Regeln und risikoarme KI-Systeme sind keinen Auflagen unterworfen. Einige Anwendungen zum sogenannten Social Scoring und Predictive Policing sollen dadurch verboten werden.

Diese Verzerrungen machen es besonders schwer, gerechte und repräsentative KI-Systeme zu schaffen. Die Regulierung solcher Systeme wird dadurch erschwert, dass privilegierte Gruppen oft weniger stark überwacht werden und sich leichter gegen den Zugriff auf ihre Daten wehren können. Gleichzeitig haben marginalisierte Gruppen kaum Mittel, sich gegen die Nutzung ihrer Daten oder die diskriminierenden Ergebnisse solcher Systeme zur Wehr zu setzen.

Angesichts dieser Herausforderungen wird in Regulierungsdebatten zunehmend die Rolle menschlicher Aufsicht ins Feld geführt. Ein zentraler Ansatz des AI Acts ist die Forderung nach „Human in the Loop“-Modellen, die sicherstellen sollen, dass Menschen in den Entscheidungsprozess von KI-Systemen eingebunden werden.

Das Alexander von Humboldt-Institut für Internet und Gesellschaft trägt mit seinem „Human in the Loop?“-Projekt aktiv dazu bei, diese Herausforderungen zu erforschen. Es untersucht neue Ansätze, wie Menschen sinnvoll in KI-Entscheidungsprozesse eingebunden werden können.