Big-Tech-Plattformen im „Big-Brother“-Modus: Wie kann man Überwachung und Einflussnahme begrenzen?

Digitale Plattformunternehmen sind zu Aushängeschildern der digitalen Wirtschaft geworden und gehören zu den wertvollsten Firmen der Welt. Big-Tech-Plattformen und ihre Ökosysteme haben ein beispielloses Maß an wirtschaftlicher Macht erreicht. Im März 2024 lag die gemeinsame Marktkapitalisierung der vier Unternehmen Alphabet-Google, Amazon, Apple und Facebook bei nahezu sieben Billionen US-Dollar, was in etwa der Marktkapitalisierung der gesamten Euronext-Börse und einem Viertel des amerikanischen Aktienindex Standard & Poor‘s 100 entspricht. Die BigTech-Plattformen Apple, Amazon, Google, Microsoft und Facebook sind inzwischen so groß, dass sie vermögender und einflussreicher sind als viele Nationen. Google und Facebook beherrschen knapp 60 Prozent der digitalen Werbung. Google dominiert in den meisten Märkten (außer China) den Suchmaschinenmarkt mit einem Anteil von etwa 90 Prozent, und sein kostenloses Betriebssystem Android ist auf rund 70 Prozent aller Smartphones installiert. Amazon erreichte 2022 in den USA einen E-Commerce-Anteil von knapp 40 Prozent und ist weiterhin Marktführer im E-Book-Bereich. Und Facebook ist mit einem Anteil von 60 Prozent an SocialMedia-Aktivitäten nach wie vor das meistgenutzte soziale Netzwerk.

Die enorme Macht dieser großen Player ist durchaus bedenklich. In den letzten Jahren sind Big-Tech-Plattformen zunehmend in die Kritik geraten, und die Vorwürfe gehen weit über wettbewerbswidriges Verhalten hinaus: Sie betreffen den Kern unserer gesellschaftlichen Werte, grundlegende Menschenrechte und die Demokratie. Ein Kritikpunkt ist, dass die Online-Plattformen die Verhaltensgewohnheiten von Milliarden von Usern erfassen und massiv für ihre Zwecke nutzen. Mit diesen Daten optimieren sie ihre digitalen Dienste, entwickeln neue Services und erschließen neue Märkte. Im Zusammenhang mit der ständigen exzessiven Generierung, Erfassung und Nutzung von Daten gelten folgende Strategien bzw. Umstände als besonders problematisch:

Einflussreiche Kritiker wie der Internetpionier Jaron Lanier oder die ehemalige Harvard-Professorin Shoshana Zuboff haben für die Logik der „Datafizierung“ menschlicher Aktivitäten den Begriff „Überwachungskapitalismus“ geprägt, der den Menschen und der Gesellschaft ihrer Ansicht nach grundlegend schadet. Die Menschen interagieren ständig und oft unbewusst mit Organisationen und digitalen Plattformen, die ihnen scheinbar „kostenlose“ Dienste anbieten. Ein Beispiel dafür ist die zunehmende Erfassung und Analyse von Gesundheitsdaten auf digitalen Plattformen, die es Nutzern ermöglichen, ihren Gesundheitszustand zu überwachen. Dies birgt jedoch eine große Gefahr: Unterschiedliche Akteure außerhalb anerkannter medizinischer und klinischer Einrichtungen erhalten Zugriff auf die Gesundheitsdaten einer großen Anzahl von Personen – und können so einen gewissen Einfluss auf deren Gesundheit ausüben. Die Nutzer tragen unbewusst zur Gewinnmaximierung der Unternehmen bei, denn anhand der erfassten Daten sind die Plattformen in der Lage, das Nutzerverhalten zu ihren Gunsten zu manipulieren. Diese wirtschaftlichen Mechanismen können eine ernsthafte Bedrohung für die zentralen Werte liberaler Gesellschaften wie die Entscheidungsfreiheit und das Recht auf Privatsphäre darstellen.

Digitale Plattformen mit werbebasierten Geschäftsmodellen erfassen und vermarkten nutzergenerierte Daten äußerst gewinnbringend. Dabei sind sich die Endnutzer ihrer Rolle häufig nicht bewusst und erhalten keinerlei Gegenleistung. Sie werden „instrumentalisiert“: Ihr Verhalten dient als Input für eine Geschäftslogik, die auf den Strategien datenhungriger Unternehmen basiert. Nutzer von sozialen Medien erhalten ununterbrochen individuelle, kontinuierlich angepasste Meldungen. Jaron Lanier warnt, dass es sich dabei nicht mehr nur um Werbung handle, sondern eine andauernde Verhaltensänderung zu beobachten sei. Er argumentiert, dass „das, was normal geworden ist – allgegenwärtige Überwachung und ständige, subtile Manipulation –, unmoralisch, grausam, gefährlich und unmenschlich ist“. Zudem kritisiert er Suchtmechanismen auf Social-Media-Plattformen, die den freien Willen bedrohen.

Digitale Plattformen verletzen die Privatsphäre von Konsumenten in erheblichem Maße. So hat etwa die Strategie von Facebook, Apps von Drittanbietern mit seinem Netzwerk zu verknüpfen, zu massiven Datenlecks geführt, bei denen sensible Informationen von mehreren hundert Millionen Nutzern offengelegt wurden, wie beispielsweise im Cambridge-Analytica-Skandal. Facebook hat schließlich doch die Infrastrukturen von Facebook Messenger, WhatsApp und Instagram zusammengeführt, nachdem das Unternehmen dies Jahre zuvor ausgeschlossen hatte. Aus Sicht des Datenschutzes ergeben sich dadurch Fragen zum Transfer von Daten zwischen den Diensten. In der Vergangenheit war für die Registrierung bei WhatsApp lediglich eine Telefonnummer erforderlich. Facebook und Facebook Messenger verlangten von ihren Nutzern dagegen die Offenlegung ihrer wahren Identität. Die Zuordnung von Facebook- und Instagram-Usern zu ihren WhatsApp-Konten könnte daher denjenigen schaden, die eine getrennte Nutzung der Apps vorziehen.

Digitale Plattformen verwenden sogenannte Dark Patterns – manipulative Benutzeroberflächen, die Nutzer zu Aktionen verleiten, die nicht ihren Vorlieben oder Erwartungen entsprechen. Gerade in den Bereichen Datenschutz und -sicherheit sind Dark Patterns keine Ausnahme. Google Maps fragt seine User zum Beispiel immer wieder, ob ein Ort, zu dem sie regelmäßig fahren, als „Zuhause“ oder „Arbeit“ markiert werden soll. Erst wenn die Nutzer zustimmen, werden die Pop-ups eingestellt. Klicken sie jedoch auf „Nicht jetzt“, werden sie nach ein paar Tagen erneut gefragt. Dies kann dazu führen, dass die Anwender schließlich ihre persönlichen Informationen preisgeben – nicht, weil sie das möchten, sondern einfach, um die lästigen Aufforderungen zu vermeiden. So gestalten Plattformen manchmal Standards oder Benutzeroberflächen, die den Nutzern keine oder wenig Wahl lassen oder ihnen unzureichende oder absichtlich verzerrte Informationen zur Verfügung stellen.

Die Bedrohung der Privatsphäre erstreckt sich nicht nur auf unmittelbar erhobene Daten, sondern auch auf ein breites Spektrum an abgeleiteten Informationen. Plattformen setzen Big Data, Algorithmen, prädiktive Analysen, Modelle und Machine Learning ein, um aus den gesammelten Rohdaten immer mehr Rückschlüsse auf die Personen zu ziehen. In einem bekannten Fall wollte ein verärgerter Vater beispielsweise wissen, warum das Handelsunternehmen Target seiner Teenager-Tochter Coupons für Schwangerschaftsartikel schickte. Wie sich herausstellte, hatten die Systeme von Target aus den Online-Aktivitäten der Tochter (korrekt) abgeleitet, dass sie schwanger war – eine Tatsache, die dem Vater noch nicht bekannt war. In den vergangenen Jahren haben sich zahlreiche solcher Geschichten ereignet – und sie zeigen, wie wichtig es ist, den Datenschutz in Bezug auf abgeleitete Informationen zu wahren. Schlussfolgerungen dieser Art werden wiederum genutzt, um Personen zu manipulieren, zu bewerten, zu beeinflussen und ihr Verhalten vorherzusagen – häufig ohne deren Zustimmung und fast immer ohne jegliche Kontrolle oder Rechenschaftspflicht. Dabei sind die Rückschlüsse solcher Systeme häufig fehlerhaft und ungenau.

Mit zunehmender Marktdominanz verlieren digitale Plattformen leicht aus den Augen, womit sie ihre Vormachtstellung erst erlangt haben: ihrer Innovationskraft und Rolle als zentrale Schnittstelle für den Austausch zwischen unterschiedlichen Nutzergruppen. Denn mit dem Erfolg wächst auch die Versuchung, die eigene Machtposition auszunutzen. Dies bedroht jedoch langfristig die Nachhaltigkeit ihres Plattformökosystems, erzeugt Widerstand und Kritik und erfordert regulatorische Maßnahmen – von außen in Form von Gesetzen und/oder von innen durch ausgewogenere Plattform-Governance-Regeln.

In Europa, Australien und den USA haben mehrere einflussreiche Berichte über die genannten Probleme und Methoden des Machtmissbrauchs das Interesse der Regulierungsbehörden geweckt und das regulatorische Umfeld wurde verändert. Bereits vorliegende Gesetzesvorschläge sollen beispielsweise verhindern, dass plattformspezifische Benutzeroberflächen und Dienste die Nutzer durch massive Vorselektion von Inhalten manipulieren, in die Irre führen oder suchtähnliches Verhalten auslösen. Die meisten geltenden Richtlinien und Verordnungen wurden nicht speziell für Online-Plattformen konzipiert. Die EU hat jedoch eine Plattform-to-Business-Verordnung (P2B-VO) eingeführt, um ein besseres Geschäftsumfeld für gewerbliche Nutzer von Online-Vermittlungsdiensten zu schaffen und Fairness und Transparenz in Geschäftsbeziehungen dieser Art zu fördern. Das Gesetz über digitale Märkte (GDM) und das Gesetz über digitale Dienste (GdD) sind in der gesamten EU bereits vollständig anwendbar. Box 1 gibt einen kurzen Überblick über diese zentralen Elemente der Plattformregulierung. Abbildung 1 veranschaulicht die Einführung des GdD

Da die öffentliche Regulierung lediglich schrittweise und lokal erfolgt und niemals sämtliche kritische Aspekte abdecken oder neue Entwicklungen vorhersehen kann, ist auch Selbstregulierung notwendig, um Missbrauch zu verhindern. Digitale Plattformen müssen also auch als private Regulierungsbehörde für ihre eigenen Ökosysteme agieren. Sie definieren die Regeln für die Interaktion zwischen den unterschiedlichen Nutzern – sowohl Einzelpersonen als auch Organisationen – und entscheiden über die Art der Durchsetzung. Gute Plattformgovernance ist eine Gratwanderung, denn es gilt, Werte für Plattformakteure mit unterschiedlichen Interessen zu schaffen. Mit der Einführung strenger Regeln ist es allerdings noch nicht getan: Governance besteht auch darin, den Mitgliedern eines Ökosystems glaubwürdige Zusagen zu machen, um sie bei der Stange zu halten. Wie Plattformen ihr Ökosystem aus Akteuren steuern, hängt maßgeblich davon ab, wie sie ihre digitalen Schnittstellen gestalten. Um noch schärferen gesellschaftlichen Gegenwind zu verhindern, müssen Big-Tech-Plattformen ihre Methoden der Datenerfassung und -nutzung überdenken und Wahlmöglichkeiten weniger manipulativ gestalten.

Digitale Plattformen haben einen enormen Einfluss auf die gesamte Gesellschaft. Es muss verhindert werden, dass die Nutzer lediglich als Datenquelle betrachtet und vorsätzlich manipuliert werden, um ihre Entscheidungen zu Gunsten der Plattformanbieter zu beeinflussen. Die Entscheidungsfreiheit der Nutzer in der digitalen Welt benötigt besonderen Schutz und sollte deshalb in jeder Form der Plattformregulierung berücksichtigt werden.

Gawer, A. (2021). Digital platforms and ecosystems: Remarks on the dominant organizational forms of the digital age. Innovation, 24(1), 110–124. doi.org/10.1080/14479338.2021.1965888

Lanier, J. (2018). Ten arguments for deleting your social media accounts right now. Henry Holt and Co.

Zuboff, S. (2019). The age of surveillance capitalism: The fight for a human future at the new frontier of power. Profile Books.