Artikel downloaden

Algorithmen sind allgegenwärtig
Im digitalen Zeitalter gelten Algorithmen oft als leistungsfähige Hilfsmittel, die es Menschen und Organisationen ermöglichen, bessere Entscheidungen zu treffen und ihre Ziele effektiver zu erreichen. Dabei geht man gern davon aus, dass Algorithmen rein faktenbasiert funktionieren und unverfälschte und objektive Ergebnisse liefern. Es gibt jedoch immer mehr Hinweise darauf, dass auch Algorithmen – ähnlich wie wir Menschen – zu Diskriminierung neigen können. Beispielsweise musste Amazon Pläne für die Einführung eines KI-gesteuerten automatisierten Rekrutierungsinstruments aufgeben, weil sich das System als diskriminierend gegenüber Bewerberinnen erwies und männliche Bewerber bevorzugte. Auch Algorithmen, die Apple bei der Einführung eigener Kreditkarten zum Einsatz brachte, lösten im Jahr 2019 Untersuchungen von Regulierungsbehörden aus. Das System hatte Männern viel höhere Kreditlimits angeboten als Frauen, selbst im Fall von verheirateten Paaren, die sich ihre Bankkonten teilten.

Verzerrungseffekte in der automatisierten Werbung
Scheinbar diskriminierende Algorithmen findet man auch in der Werbung. Eine aufschlussreiche Studie der Informatik-Professorin Latanya Sweeney fokussierte auf Google-Search-Ads. Sie suchte nach gebräuchlichen afro-amerikanischen Namen und dokumentierte die Suchwerbung, die zusammen mit den organischen Suchergebnissen gezeigt wurde. Gleichzeitig suchte sie nach Namen, die unter Weißen geläufiger sind. Bei der Suche nach „schwarz klingenden“ Namen wurden häufiger Anzeigen gezeigt, in denen Services für die Recherche zu Haftstrafen angeboten wurden. Darüber hinaus gibt es Untersuchungen, die geschlechtsspezifische Ungleichbehandlung dokumentieren.
In einer eigenen Studie zur Online-Werbung haben wir solche Effekte im Kontext von MINT-Karrieren (Mathematik, Informatik, Naturwissenschaft und Technik) untersucht. Wir haben analysiert, inwieweit Internet- und Social-Media-Algorithmen dazu führen, dass Werbeinhalte von Männern und Frauen unterschiedlich häufig gesehen werden, und was mögliche Gründe dafür sein könnten. Unsere Ergebnisse weisen darauf hin, dass Werbealgorithmen zwar nicht geschlechtsspezifisch agieren, dass aber wirtschaftliche Einflussfaktoren zu unbeabsichtigten unausgewogenen Ergebnissen führen können.

Ursachenforschung: Warum sehen junge Frauen die MINT-Werbung seltener?
Dass Frauen die Anzeige so viel seltener sahen, war überraschend, da kein Merkmal der Kampagne eine Ungleichverteilung spezifiziert hatte. Wir machten uns daher auf die Suche nach möglichen Ursachen.

Als Erstes fragten wir uns, ob der Algorithmus auf das Verhalten von Frauen reagiert haben könnte, falls diese die Anzeigen weniger oft angeklickt haben sollten als Männer. Wenn dem so wäre, könnte der Werbealgorithmus gelernt haben, dass die Schaltung bei Männern ökonomisch sinnvoller ist. Es stellte sich jedoch heraus, dass Frauen die Werbung eher häufiger anklickten als Männer. Dieser Grund für die ungleich verteilte Schaltung der Werbung fällt also weg.

Als Zweites untersuchten wir, ob der Algorithmus auf mögliche Unterschiede in der Grundgesamtheit reagiert haben könnte – vielleicht gibt es auf Facebook insgesamt zu wenig aktive Frauen. Auch hier fanden wir allerdings keine Erklärung, da Frauen in sozialen Medien ähnlich aktiv sind wie Männer.

Als dritten Punkt analysierten wir, ob der Algorithmus vielleicht grundsätzliche, länderspezifische Diskriminierungstendenzen gegenüber Frauen widerspiegeln könnte. Daten der Weltbank zeigten jedoch keinen Zusammenhang zwischen den Bildungs- und Arbeitsmarktchancen von Frauen und der Einblendung der MINT-Werbung.

Zuletzt wandten wir uns der Frage zu, ob das Ungleichgewicht bei der Schaltung von MINT-Anzeigen zwischen den Geschlechtern durch ökonomische Mechanismen verursacht sein könnte. Tatsächlich fanden wir in der Art und Weise, wie Werbeauktionen auf Facebook und anderen Plattformen funktionieren, einen Erklärungsansatz für die Ungleichbehandlung (siehe Box 2).

Ökonomische Mechanismen: Die Aktionen anderer Werbetreibender beeinflussen die Wirksamkeit der eigenen Kampagne
Höhere Gebote konkurrierender Werbetreibender haben zur Folge, dass Anzeigen ohne preisliche Unterscheidungen für verschiedene Geschlechter öfter von männlichen als von weiblichen Nutzern gesehen werden, und genau das war bei der Kampagne für MINT-Karrieren der Fall. Der Algorithmus selbst ist zwar nicht-diskriminierend, aber Nebeneffekte aus anderen Branchen bewirken, dass bestimmte Segmente leichter erreicht werden können als andere. Der höhere Preis für Werbung bei Frauen ergibt sich daraus, dass Frauen insgesamt, und noch verstärkt im Alter von 25 bis 34 Jahren, öfter als andere Gruppen auf gezeigte Werbung durch tatsächliche Käufe reagieren. Dies wiederum bedeutet, dass es für Werbetreibende mit einer geschlechtsneutralen Strategie schwieriger ist, Frauen zu erreichen. Ökonomische Einflussfaktoren führen zu niedrigeren Werbepreisen bei Männern und begünstigen überdurchschnittlich häufige Anzeigen in dieser Gruppe, auch wenn das nicht so geplant war.

Tückischen Algorithmen entgegenzuwirken, ist eine schwierige Herausforderung
Lösungen für diese Art von Problemen sind nicht so leicht umsetzbar. Erstens geht es um unbeabsichtigte Wechselwirkungen der Aktionen von verschiedenen und unabhängigen Marktteilnehmern mit jeweils eigenen Werbestrategien. Zweitens gibt es auch in den Arbeitsgesetzen der meisten Länder noch keine Lösung dafür, wie sich insbesondere geschlechtsspezifisches Targeting mit bestehenden Antidiskriminierungsgesetzen vereinbaren lässt. Einige der scheinbar einfachen Lösungen können deshalb derzeit nicht funktionieren.

• Getrennte Kampagnen?
  Auf den ersten Blick könnte eine mögliche Lösung in getrennten Kampagnen für Männer und Frauen liegen. Damit könnte man sicherstellen, dass die beiden demographischen Gruppen gleichermaßen angesprochen werden. Testweise konzipierten wir eine Kampagne, die genau dies tun würde. Facebook hinderte uns jedoch daran, diese Kampagne zu starten. Der Grund dafür lag in einem amerikanischen Bundesgesetz, das es Unternehmen verbietet, Stellenangebote geschlechtsspezifisch auszuschreiben. Ironischerweise unterbindet damit ein Gesetz, das Diskriminierung verhindern soll, eine ziemlich einfache Möglichkeit, ungeplant auftretende Diskriminierung zu korrigieren, und erschwert es Auftraggebern, hier gegenzusteuern.