download pdf

Die zunehmende Verlagerung der Märkte auf Online-Plattformen hat das Potenzial, Transaktionen effizienter und fairer zu machen. Untersuchungen aus der Frühphase haben auch darauf hingedeutet, dass die relative Anonymität der Online-Transaktionspartner zu weniger Diskriminierung führte. In welchem Maße dieses Versprechen eingehalten wird, hängt jedoch vom Plattformdesign ab. Mit der Verlagerung von immer mehr Märkten und Transaktionen ins Internet entwickeln sich auch die Marktplätze weiter, und die Plattformdesigner suchen beständig nach neuen Möglichkeiten, Vertrauen zwischen fremden Transaktionspartnern zu fördern. Dabei sind die Plattformen im Laufe der Zeit unterschiedliche Wege gegangen, selbst innerhalb einzelner Branchen. Die konzeptionellen Entscheidungen im Plattformdesign bestimmen, wie effizient und integrativ Märkte tatsächlich sind.

Wenn vertrauensbildende Maßnahmen Diskriminierung fördern
Anders als frühere Online-Marktplätze haben sich Plattformen wie Airbnb entschieden, Namen und Fotos von potenziellen Transaktionspartnern online zu stellen. Dies mag in der Absicht geschehen sein, Vertrauen zu stiften und Geschäftsbeziehungen zwischen Fremden zu erleichtern, aber es öffnet auch der Diskriminierung Tür und Tor. Untersuchungen zeigen inzwischen in einer Reihe von digitalen Plattformen, von Stellenmärkten über Kreditbörsen bis hin zum Immobilienmarkt, rassistische oder ethnische Diskriminierung. Möglich wird dies vor allem durch zwei grundsätzliche Möglichkeiten, die Plattformen bieten. Erstens geht es um die Präsentation von Merkmalen, die Rückschlüsse auf die Zugehörigkeit zu bestimmten Gruppen ermöglichen und bewusste oder unbewusste Diskriminierung auslösen können. Dazu gehören zuallererst Fotos, aber auch subtilere Indikatoren wie Namen. Zweitens können Verkäufer immer freier entscheiden, mit welchen Käufern sie ins Geschäft kommen wollen. Beide Optionen basieren auf Entscheidungsmöglichkeiten, die Plattformdesigner aktiv anbieten.

Wie Manager die Diskriminierung auf Online-Plattformen reduzieren können
Selbst innerhalb einer Branche unterscheiden sich Plattformen oft in ihren konzeptionellen Merkmalen, was ein unterschiedliches Maß an Diskriminierung zur Folge haben kann. Das Ferienwohnungsportal HomeAway zeigt auf der Hauptseite der Suchergebnisse nur Fotos der Mietobjekte und veröffentlicht Fotos der Gastgeber erst in einer späteren Phase oder überhaupt nicht, während Airbnb traditionell Fotos der Gastgeber direkt auf der Hauptergebnisseite gezeigt hat. Als Reaktion auf unsere Untersuchung hat Airbnb diese Voreinstellung umprogrammiert und zeigt Fotos von Gastgebern und Gästen jetzt ebenfalls erst in einer späteren Phase. Dies ist ein gutes Beispiel dafür, mit welchen Schritten Plattformen Diskriminierung reduzieren können. Auf der Basis unserer früheren Untersuchungen und unserer Erfahrung mit Unternehmen prüfen wir Schritte zur Bekämpfung von Diskriminierung (siehe Abbildung 2).

• Bewusstsein für Diskriminierungspotenzial auf Plattformen schärfen
  Plattformen sollten ein Verständnis dafür entwickeln, wie Designentscheidungen und Algorithmen das Ausmaß der Diskriminierung auf einem Marktplatz beeinflussen können. Mit einem besseren Bewusstsein für diese Problematik können Manager das Problem proaktiv untersuchen und angehen. So hat zum Beispiel das zentrale Steuerungsteam des Fahrdienstanbieters Uber eine Fairness Working Group eingerichtet, die Diskriminierungsprobleme untersuchen soll. Diese Gruppe ist unter anderem deshalb so wertvoll, weil sie interdisziplinär angelegt ist: Sie umfasst Ökonomen, Data Scientists, Rechtsanwälte und Produktmanager aus allen Bereichen des Unternehmens, die gemeinsam für mehr Fairness sorgen sollen. Insbesondere große Organisationen können von Arbeitsgruppen profitieren, die sich ausschließlich mit Diskriminierungsrisiken bei neuen Projekten befassen.
   
• Diskriminierung auf Plattformen erfassen
  Aktuell wissen viele Plattformen wenig über die Zusammensetzung ihrer Nutzerschaft in Bezug auf Hautfarbe, ethnische Gruppierung oder Geschlecht. Und es ist schwer, ein Problem zu bekämpfen, das man nicht erfasst hat. Ein regelmäßiger Untersuchungsbericht zu diskriminierungsgefährdeten Gruppen und deren Erfolg auf der Plattform ist eine entscheidende Maßnahme, um Probleme aufzudecken und zu lösen. Airbnb hat nach unserer Untersuchung damit begonnen, das Ausmaß der Diskriminierung auf der Plattform zu erfassen und Ökonomen gemeinsam mit Data Scientists mit diesem Thema betraut. Und auch Uber arbeitet mit seiner Arbeitsgruppe an der kontinuierlichen Überprüfung von Diskriminierung.

• Sensible Daten zurückhalten
  Eine einfache, aber wirksame Maßnahme besteht in vielen Fällen darin, dass Plattformen potenziell sensible Nutzerdaten wie Hautfarbe oder Geschlecht bis nach einem Geschäftsabschluss zurückhalten. Manche Plattformen, darunter Amazon und eBay, tun dies bereits. Was passiert, wenn Rückschlüsse auf die Hautfarbe im Vorfeld einer Transaktion möglich sind, zeigte sich auch bei eBay, obwohl dieser Online-Marktplatz die Hautfarbe nicht offen darstellt. Bei einer aktuellen Studie haben eBay-Nutzer Baseballkarten zum Verkauf angeboten und die Karten nicht auf einer neutralen Unterlage fotografiert, sondern mit der Hand vor die Kamera gehalten und dieses Foto gepostet; selbst dieses subtile Offenlegen der Hautfarbe hat beim Verkauf der Karten auf eBay zu Diskriminierung geführt.
   
• Transaktionen automatisieren, aber Algorithmen auf Diskriminierung prüfen
  Automatisierung und Algorithmen können nützliche Werkzeuge gegen Vorurteile sein. Die in Box 1 beschriebene Sofortbuchung bei Airbnb ist ein gutes Beispiel dafür. Bei dieser Funktion entfällt der Schritt, in dem Gastgeber sich Namen und Fotos von Gästen ansehen und sich dann für oder gegen bestimmte Gäste entscheiden. Airbnb hat die Zahl der Nutzer, die die Sofortbuchungsfunktion nutzen, inzwischen deutlich erhöht.
  Darüber hinaus untersuchen immer mehr Experten, wie sich auch bei Algorithmen Vorurteile ausschließen lassen. Präferenzen oder Verhaltensweisen der Menschen zu ändern, ist oft schwierig; die Eingabeparameter oder die Ziele eines Algorithmus zu verändern, kann da deutlich einfacher sein. So hat zum Beispiel LinkedIn sein Recruiter-Tool, mit dem Arbeitgeber nach geeigneten Kandidaten suchen können, so verändert, dass das Geschlechterverhältnis der Suchergebnisse dem Geschlechterverhältnis des jeweiligen Berufs entspricht. Wenn also 30% aller Data Scientists weiblich sind, dann sind auch 30% der Kandidaten, die einem Unternehmen angezeigt werden, weiblich. Dieses Beispiel zeigt, wie Algorithmen den Gleichheitsgrundsatz und die Fairness einer Plattform beeinflussen können – und welche Spielräume und Möglichkeiten der Feinsteuerung Manager beim Entwickeln von Algorithmen haben, denn die Zielquote ist nur eine von vielen Möglichkeiten, Fairness zu fördern.