Login

Die dunklen Seiten des digitalen Marketings

Algorithmen-basierte Werbung: Ungeplante Nebeneffekte und warum es nicht ganz einfach ist, negative Auswirkungen zu vermeiden

Anja Lambrecht und Catherine Tucker

Keywords

Algorithmen, Werbe-Auktionen, Diskriminierung, Gender-Effekte, MINT

Artikel downloaden

Algorithmen sind allgegenwärtig
Im digitalen Zeitalter gelten Algorithmen oft als leistungsfähige Hilfsmittel, die es Menschen und Organisationen ermöglichen, bessere Entscheidungen zu treffen und ihre Ziele effektiver zu erreichen. Dabei geht man gern davon aus, dass Algorithmen rein faktenbasiert funktionieren und unverfälschte und objektive Ergebnisse liefern. Es gibt jedoch immer mehr Hinweise darauf, dass auch Algorithmen – ähnlich wie wir Menschen – zu Diskriminierung neigen können. Beispielsweise musste Amazon Pläne für die Einführung eines KI-gesteuerten automatisierten Rekrutierungsinstruments aufgeben, weil sich das System als diskriminierend gegenüber Bewerberinnen erwies und männliche Bewerber bevorzugte. Auch Algorithmen, die Apple bei der Einführung eigener Kreditkarten zum Einsatz brachte, lösten im Jahr 2019 Untersuchungen von Regulierungsbehörden aus. Das System hatte Männern viel höhere Kreditlimits angeboten als Frauen, selbst im Fall von verheirateten Paaren, die sich ihre Bankkonten teilten.

Verzerrungseffekte in der automatisierten Werbung
Scheinbar diskriminierende Algorithmen findet man auch in der Werbung. Eine aufschlussreiche Studie der Informatik-Professorin Latanya Sweeney fokussierte auf Google-Search-Ads. Sie suchte nach gebräuchlichen afro-amerikanischen Namen und dokumentierte die Suchwerbung, die zusammen mit den organischen Suchergebnissen gezeigt wurde. Gleichzeitig suchte sie nach Namen, die unter Weißen geläufiger sind. Bei der Suche nach „schwarz klingenden“ Namen wurden häufiger Anzeigen gezeigt, in denen Services für die Recherche zu Haftstrafen angeboten wurden. Darüber hinaus gibt es Untersuchungen, die geschlechtsspezifische Ungleichbehandlung dokumentieren.
In einer eigenen Studie zur Online-Werbung haben wir solche Effekte im Kontext von MINT-Karrieren (Mathematik, Informatik, Naturwissenschaft und Technik) untersucht. Wir haben analysiert, inwieweit Internet- und Social-Media-Algorithmen dazu führen, dass Werbeinhalte von Männern und Frauen unterschiedlich häufig gesehen werden, und was mögliche Gründe dafür sein könnten. Unsere Ergebnisse weisen darauf hin, dass Werbealgorithmen zwar nicht geschlechtsspezifisch agieren, dass aber wirtschaftliche Einflussfaktoren zu unbeabsichtigten unausgewogenen Ergebnissen führen können.

 

Ursachenforschung: Warum sehen junge Frauen die MINT-Werbung seltener?
Dass Frauen die Anzeige so viel seltener sahen, war überraschend, da kein Merkmal der Kampagne eine Ungleichverteilung spezifiziert hatte. Wir machten uns daher auf die Suche nach möglichen Ursachen.

Als Erstes fragten wir uns, ob der Algorithmus auf das Verhalten von Frauen reagiert haben könnte, falls diese die Anzeigen weniger oft angeklickt haben sollten als Männer. Wenn dem so wäre, könnte der Werbealgorithmus gelernt haben, dass die Schaltung bei Männern ökonomisch sinnvoller ist. Es stellte sich jedoch heraus, dass Frauen die Werbung eher häufiger anklickten als Männer. Dieser Grund für die ungleich verteilte Schaltung der Werbung fällt also weg.

Als Zweites untersuchten wir, ob der Algorithmus auf mögliche Unterschiede in der Grundgesamtheit reagiert haben könnte – vielleicht gibt es auf Facebook insgesamt zu wenig aktive Frauen. Auch hier fanden wir allerdings keine Erklärung, da Frauen in sozialen Medien ähnlich aktiv sind wie Männer.

Als dritten Punkt analysierten wir, ob der Algorithmus vielleicht grundsätzliche, länderspezifische Diskriminierungstendenzen gegenüber Frauen widerspiegeln könnte. Daten der Weltbank zeigten jedoch keinen Zusammenhang zwischen den Bildungs- und Arbeitsmarktchancen von Frauen und der Einblendung der MINT-Werbung.

Zuletzt wandten wir uns der Frage zu, ob das Ungleichgewicht bei der Schaltung von MINT-Anzeigen zwischen den Geschlechtern durch ökonomische Mechanismen verursacht sein könnte. Tatsächlich fanden wir in der Art und Weise, wie Werbeauktionen auf Facebook und anderen Plattformen funktionieren, einen Erklärungsansatz für die Ungleichbehandlung (siehe Box 2).

 

Ökonomische Mechanismen: Die Aktionen anderer Werbetreibender beeinflussen die Wirksamkeit der eigenen Kampagne
Höhere Gebote konkurrierender Werbetreibender haben zur Folge, dass Anzeigen ohne preisliche Unterscheidungen für verschiedene Geschlechter öfter von männlichen als von weiblichen Nutzern gesehen werden, und genau das war bei der Kampagne für MINT-Karrieren der Fall. Der Algorithmus selbst ist zwar nicht-diskriminierend, aber Nebeneffekte aus anderen Branchen bewirken, dass bestimmte Segmente leichter erreicht werden können als andere. Der höhere Preis für Werbung bei Frauen ergibt sich daraus, dass Frauen insgesamt, und noch verstärkt im Alter von 25 bis 34 Jahren, öfter als andere Gruppen auf gezeigte Werbung durch tatsächliche Käufe reagieren. Dies wiederum bedeutet, dass es für Werbetreibende mit einer geschlechtsneutralen Strategie schwieriger ist, Frauen zu erreichen. Ökonomische Einflussfaktoren führen zu niedrigeren Werbepreisen bei Männern und begünstigen überdurchschnittlich häufige Anzeigen in dieser Gruppe, auch wenn das nicht so geplant war.

Tückischen Algorithmen entgegenzuwirken, ist eine schwierige Herausforderung
Lösungen für diese Art von Problemen sind nicht so leicht umsetzbar. Erstens geht es um unbeabsichtigte Wechselwirkungen der Aktionen von verschiedenen und unabhängigen Marktteilnehmern mit jeweils eigenen Werbestrategien. Zweitens gibt es auch in den Arbeitsgesetzen der meisten Länder noch keine Lösung dafür, wie sich insbesondere geschlechtsspezifisches Targeting mit bestehenden Antidiskriminierungsgesetzen vereinbaren lässt. Einige der scheinbar einfachen Lösungen können deshalb derzeit nicht funktionieren.

  • Getrennte Kampagnen?
    Auf den ersten Blick könnte eine mögliche Lösung in getrennten Kampagnen für Männer und Frauen liegen. Damit könnte man sicherstellen, dass die beiden demographischen Gruppen gleichermaßen angesprochen werden. Testweise konzipierten wir eine Kampagne, die genau dies tun würde. Facebook hinderte uns jedoch daran, diese Kampagne zu starten. Der Grund dafür lag in einem amerikanischen Bundesgesetz, das es Unternehmen verbietet, Stellenangebote geschlechtsspezifisch auszuschreiben. Ironischerweise unterbindet damit ein Gesetz, das Diskriminierung verhindern soll, eine ziemlich einfache Möglichkeit, ungeplant auftretende Diskriminierung zu korrigieren, und erschwert es Auftraggebern, hier gegenzusteuern.

Weder die Transparenz von Algorithmen noch die Geschlechtsneutralität einer Kampagne reichen aus, um ungünstige Gender-Effekte zu verhindern.

  • Transparenz?
    Als weiteres beliebtes Heilmittel gegen Fälle von offensichtlicher Diskriminierung gelten transparente Algorithmen, deren Codes offengelegt werden. Transparenz kann einer Diskriminierung dann entgegenwirken, wenn diese in den Code einprogrammiert ist. Im Kontext unserer MINT-Kampagne hätte ein Offenlegen der Codes den Regulierungsbehörden jedoch wohl nicht geholfen, die unausgewogenen Ergebnisse vorherzusehen. Eine Prüfung hätte vermutlich gezeigt, dass der Algorithmus auf eine Minimierung der Werbekosten für die Werbetreibenden ausgerichtet ist, was ja an sich vernünftig ist. Ohne entsprechendes Wissen über den wirtschaftlichen Kontext und darüber, wie sich eine solche Kostenminimierung auf die Verteilung der Werbung bei unterschiedlichen Kundensegmenten auswirken könnte, wäre Transparenz also nicht wirklich hilfreich gewesen.
     
  • Gleiche Verteilung von Werbung über Gruppen hinweg?
    Weder die Transparenz von Algorithmen noch die Geschlechtsneutralität einer Kampagne reichen demnach aus, um ungünstige Gender-Effekte zu verhindern. Die Probleme im beschriebenen Spannungsfeld zeigen, dass neue und zusätzliche Regelungen gebraucht werden. Denkbar wäre es beispielsweise, dass Plattformen Werbetreibenden für eine bestimmte Kampagne die Option bieten, Anzeigen gleichmäßig auf bestimmte demographische Gruppen zu verteilen.

Politische Entscheidungsträger sollten wachsam sein
Politische Entscheidungsträger und Plattformen sollten die Erkenntnisse aus unserer Forschung ernst nehmen, da die zielgenaue Informationsverbreitung wichtig sein kann, um gleiche Zugangschancen zu gewährleisten. Der primäre Verteilungsmechanismus für Werbebotschaften richtet sich nicht nach der Erwünschtheit der Informationsverbreitung, sondern nach der Rentabilität der Werbeausgaben über alle Branchen. Die Werbemittel, die im Einzelhandelssektor für Haushaltsprodukte eingesetzt werden, können sich auf die Kommunikationsmöglichkeiten und -kosten von Sektoren auswirken, die Karrierechancen oder Ausbildungsoptionen anbieten. Die Kommunikationskosten für Gruppen, bei denen politische Entscheidungsträger einen besonders hohen Informationsbedarf sehen – in unserer Studie Frauen im Vergleich zu Männern – könnten höher ausfallen.

Autor/en

Anja Lambrecht, Professor of Marketing, London Business School, England, alambrecht@london.edu

Catherine Tucker, Professor of Marketing, Massachusetts Institute of Technology, Cambridge, MA, USA, cetucker@mit.edu

 

Literaturhinweise

Lambrecht, A.; & Tucker, C. (2019): “Algorithmic Bias? An Empirical Study of Apparent Gender-Based Discrimination in the Display of STEM Career Ads”, Management Science, Vol. 65(7), 2966-2981. https://doi.org/10.1287/mnsc.2018.3093

Sweeney, L. (2013): “Discrimination in online ad delivery”, ACM Queue, Vol. 11(3), 10:10–10:29.