Algorithmen sind allgegenwärtig
Im digitalen Zeitalter gelten Algorithmen oft als leistungsfähige Hilfsmittel, die es Menschen und Organisationen ermöglichen, bessere Entscheidungen zu treffen und ihre Ziele effektiver zu erreichen. Dabei geht man gern davon aus, dass Algorithmen rein faktenbasiert funktionieren und unverfälschte und objektive Ergebnisse liefern. Es gibt jedoch immer mehr Hinweise darauf, dass auch Algorithmen – ähnlich wie wir Menschen – zu Diskriminierung neigen können. Beispielsweise musste Amazon Pläne für die Einführung eines KI-gesteuerten automatisierten Rekrutierungsinstruments aufgeben, weil sich das System als diskriminierend gegenüber Bewerberinnen erwies und männliche Bewerber bevorzugte. Auch Algorithmen, die Apple bei der Einführung eigener Kreditkarten zum Einsatz brachte, lösten im Jahr 2019 Untersuchungen von Regulierungsbehörden aus. Das System hatte Männern viel höhere Kreditlimits angeboten als Frauen, selbst im Fall von verheirateten Paaren, die sich ihre Bankkonten teilten.
Verzerrungseffekte in der automatisierten Werbung
Scheinbar diskriminierende Algorithmen findet man auch in der Werbung. Eine aufschlussreiche Studie der Informatik-Professorin Latanya Sweeney fokussierte auf Google-Search-Ads. Sie suchte nach gebräuchlichen afro-amerikanischen Namen und dokumentierte die Suchwerbung, die zusammen mit den organischen Suchergebnissen gezeigt wurde. Gleichzeitig suchte sie nach Namen, die unter Weißen geläufiger sind. Bei der Suche nach „schwarz klingenden“ Namen wurden häufiger Anzeigen gezeigt, in denen Services für die Recherche zu Haftstrafen angeboten wurden. Darüber hinaus gibt es Untersuchungen, die geschlechtsspezifische Ungleichbehandlung dokumentieren.
In einer eigenen Studie zur Online-Werbung haben wir solche Effekte im Kontext von MINT-Karrieren (Mathematik, Informatik, Naturwissenschaft und Technik) untersucht. Wir haben analysiert, inwieweit Internet- und Social-Media-Algorithmen dazu führen, dass Werbeinhalte von Männern und Frauen unterschiedlich häufig gesehen werden, und was mögliche Gründe dafür sein könnten. Unsere Ergebnisse weisen darauf hin, dass Werbealgorithmen zwar nicht geschlechtsspezifisch agieren, dass aber wirtschaftliche Einflussfaktoren zu unbeabsichtigten unausgewogenen Ergebnissen führen können.