Login

Die dunklen Seiten des digitalen Marketings

Licht ins Dunkel: Den unbeabsichtigten Konsequenzen des digitalen Marketings auf der Spur

Caroline Wiertz und Christine Kittinger-Rosanelli

Keywords

Digitales Marketing, Algorithmen, Marketing-Utopie, Marketing-Dystopie, Unbeabsichtigte Konsequenzen

Artikel downloaden

Der Aufstieg der dunklen Seite
Unser Verhältnis zu neuen Technologien ist ziemlich paradox. Einerseits kaufen und nutzen wir immer mehr Geräte und Apps und hinterlassen damit unsere Spuren im digitalen Raum. Andererseits werden die Schattenseiten – wie diese digitalen Spuren genutzt und missbraucht werden können – immer deutlicher sichtbar und sorgen für Beunruhigung. Algorithmen kurbeln ohne große Einschränkungen die Verbreitung unkontrollierter Fake News in den Sozialen Medien an, indem sie den Nutzern ständig mehr vom Gleichen präsentieren. Die Erstürmung des Kapitols in Washington durch erbitterte Unterstützer des ehemaligen US-Präsidenten hat uns gezeigt, wozu das führen kann. Selbst die lächerlichsten Verschwörungstheorien werden gepusht und machen die Bekämpfung der aktuellen Pandemie schwieriger. Aber Fake News und Verschwörungstheorien sind nur zwei Problembereiche unter vielen, die Forscher, Romane, Filme, Konsumenten, Gesetzgeber – und ja – sogar die großen Technologiekonzerne und offensichtlichen Nutznießer der globalen Digitalisierung beschäftigen und fordern. Andere Problembereiche sind Datenschutz, Diffamierungen und Beleidigungen oder die Frage der menschlichen Wahlfreiheit. Haben wir Menschen noch die Kontrolle über unser Handeln oder werden wir zu Marionetten an den Fäden globaler Player, die Zielsetzungen verfolgen, die wir nicht einmal kennen?

Die aktuellen Tendenzen und mögliche dystopische Zukunftsperspektiven waren nicht beabsichtigt
Sir Tim Berners-Lee, der Erfinder des World Wide Web, baute das Internet auf dem utopischen Versprechen auf, allen Menschen zu jeder Zeit Zugang zu den besten Informationen zu geben. Soziale Medien sollten die Welt verbinden und Gemeinschaft zwischen längst verloren geglaubten Freunden und Fremden gleichermaßen ermöglichen. Von Nutzern generierte Inhalte würden das Informationsgefälle zwischen traditionellen Content-Produzenten und Konsumenten ausgleichen. Die neuen Technologien würden es Unternehmen ermöglichen, eine echte Personalisierung zu erreichen und authentische, individuelle Beziehungen zu allen Kunden aufzubauen. In vielerlei Hinsicht wurde diese utopische Vision auch Wirklichkeit: Wikipedia ist die weltweit größte, frei zugängliche nutzergenerierte Wissensdatenbank, Facebook verbindet fast drei Milliarden Menschen und selbst kleine Firmen können Kunden auf der ganzen Welt gezielter ansprechen als je zuvor. Doch auch mit den unbeabsichtigten Konsequenzen dieser technologischen Fortschritte müssen wir uns zunehmend auseinandersetzen.

Warum unbeabsichtigte Konsequenzen entstehen
Wenn wir über unbeabsichtigte Folgen nachdenken, ist es sinnvoll, sich zunächst zu überlegen, warum und wie diese überhaupt entstehen. In einem klassischen Aufsatz in der American Sociological Review beschreibt der Soziologe Robert Merton bereits 1936 vier Hauptursachen für die Entstehung unbeabsichtigter Folgen sozialen Handelns, die auch heute noch relevant sind und in Abb. 1 dargestellt werden. In unserer vernetzten, digitalen Welt entstehen viele weitreichende Folgewirkungen durch ein Zusammenspiel dieser Ursachen, die wir im Folgenden näher betrachten.

 

  • Unzureichendes Wissen
    Vorahnungen helfen, unbeabsichtigte Konsequenzen einer Handlung besser zu antizipieren. Um diese zu entwickeln, sollte man versuchen, ein möglichst detailliertes Verständnis für alle möglichen Auswirkungen und insbesondere deren Zusammenspiel untereinander und mit zusätzlichen Faktoren aufzubauen. Die rasante Einführung hochentwickelter Werbe- und Marketingtechnologien während der letzten zehn Jahre hat Marketingmanagern ein reichlich kompliziertes Entscheidungsumfeld beschert. In automatisierten digitalen Werbemärkten oder bei KI-Produkten, die mit Netzwerken anderer Produkte interagieren, ist es beispielsweise fast unmöglich, über das notwendige Wissen zu verfügen, um alle möglichen Ergebnisse vollständig zu verstehen und vorherzusagen. Schlimmer noch: Kozinets und Gretzel weisen in einem aktuellen Kommentar im Journal of Marketing darauf hin, dass die meisten Marketingmanager keine Experten für maschinelles Lernen oder Datenanalyse, sondern reine Nutzer komplexer Technologien und Künstlicher Intelligenz sind. Sie können Ergebnisse zwar beobachten und interpretieren, aber sie verstehen nicht, wie diese zustande kommen, und können deshalb auch nicht wirklich daraus lernen. Und wenn es uns schon kaum gelingt, geplante Ergebnisse unserer Marketingaktionen zu verstehen, wie können wir dann erwarten, dass wir unerwartete Konsequenzen vorhersehen können?
  • Fehler und Irrtum
    Eine zweite Quelle unbeabsichtigter Folgewirkungen sind Fehler, vor allem im Sinne von Vorurteilen und logischen Irrtümern. Eine der paradoxesten Eigenschaften digitaler Marktplätze liegt darin, dass es zwar Zahlen und Daten im Überfluss gibt, aber Erkenntnisse fehlen. So ist es beispielsweise üblich, Beobachtungsdaten anstatt experimentell gewonnener Daten zu verwenden, um kausale Behauptungen über die Wirkung von Werbe- und anderen Marketingaktionen aufzustellen. Aber wie kann man den tatsächlichen Uplift einer Kampagne beurteilen, wenn man keine Kontrollgruppe zum Vergleich hat? Wie Blake und Kollegen in einer bekannten, 2015 publizierten Studie zeigten, musste beispielsweise eBay feststellen, dass die Rendite der eigenen Google-Suchwerbung in Wirklichkeit negativ war, nachdem das Unternehmen seine Suchwerbung in einem Quasi-Experiment in einigen geografischen Gebieten eingestellt hatte, in anderen jedoch nicht. Dieses Ergebnis kam für die eBay-Führungskräfte überraschend, da sie aufgrund früherer Beobachtungsdaten davon ausgegangen waren, dass Suchwerbung den Traffic auf ihren Seiten effektiv fördern würde. Ein schlampiger Zugang zu Korrelation und Kausalität kann zu vielen falschen Schlüssen in Bezug auf die beobachteten Phänomene führen. Auch die aktuelle Debatte über Impfstoffe liefert ein Beispiel: Sind gesundheitliche Probleme nach einer Impfung tatsächlich durch den Impfstoff verursacht oder sind die beiden Ereignisse zufällig zusammen aufgetreten? Fehlinterpretationen fördern nicht nur suboptimale Entscheidungen, sondern auch falsche Prognosen. Wenn wir die Ursachen falsch interpretieren, können wir auch die Folgen – ob beabsichtigt oder nicht – schlecht beurteilen.
  • Die Bevorzugung unmittelbarer Interessen
    Eine dritte Quelle unbeabsichtigter Konsequenzen ist die alleinige Konzentration auf die beabsichtigten unmittelbaren Folgen einer Handlung zu Lasten weiterer möglicher Folgen. Über lange Zeit lautete die Devise von Facebook „Move fast and break things“, und der Fokus lag auf unerbittlichem Wachstum und Disruption. Dieser strategische Imperativ hatte zur Folge, dass Facebook viele andere Begleiterscheinungen der Plattform rund um Themen wie Datenschutz, Konsumentenschutz, Meinungsmanipulation oder die psychische Gesundheit der Nutzer vernachlässigte. Diese Auswirkungen schienen einfach nicht wichtig genug, um das Wachstum zu bremsen. Ein weiteres Beispiel: Der Empfehlungsalgorithmus von YouTube ist darauf ausgelegt, die Verweildauer eines Nutzers auf der Plattform zu optimieren. Je länger ein Nutzer bleibt, desto mehr lernt YouTube über sein Verhalten und desto besser kann die Plattform monetarisiert werden. Das ist das Ergebnis, das unmittelbar interessiert. Eine unbeabsichtigte Folge sind jedoch sogenannte „Rabbit holes“: So nennt man das Phänomen, dass Empfehlungsalgorithmen immer extremere Inhalte vorschlagen, um das Interesse eines Nutzers zu halten. Generell gilt, dass die unmittelbar angestrebten Effekte meist kommerzieller Natur sind, während die unbeabsichtigten Konsequenzen meist breitere gesellschaftliche Themen betreffen. Im Gegensatz zu unzureichendem Wissen und Irrtum, die es schwierig machen, unbeabsichtigte Folgen vorherzusagen, werden die Folgen des Handelns hier zwar gesehen, aber als unwichtig oder uninteressant abgetan. Hier handelt es sich um eine aktive Entscheidung.
  • Die unkritische Berufung auf grundlegende Werte
    Die vierte Quelle unbeabsichtigter Folgen ist in gewisser Weise ebenfalls das Ergebnis einer aktiven Entscheidung. In diesem Fall werden weitere Konsequenzen möglicherweise nicht bedacht, wenn das Handeln als logische und zwingende Folge von Grundwerten erscheint. Die mangelnde Bereitschaft vieler Social-Media-Plattformen, ihre Inhalte zu regulieren, ist hierfür ein gutes Beispiel. Meinungsfreiheit ist ein wichtiger Grundwert in demokratischen Ländern, insbesondere den USA. Die dort ansässigen Social-Media-Unternehmen fühlen sich äußerst unwohl bei dem Gedanken, redaktionelle Verantwortung für die von ihren Nutzern geteilten Inhalte zu übernehmen. Doch wenn jeder alles sagen darf, kann es zu enormen Verzerrungen der Realität kommen, und es wird immer schwieriger, zu beurteilen, was „wahr“ ist und was nicht. Die Folgen können gefährlich sein, wie wir an der Verbreitung von Verschwörungstheorien sehen. Das Schadenspotenzial für unsere Gesellschaft ist gewaltig und weitreichend – vom Unterlaufen der Impfkampagnen gegen COVID-19 bis zum bereits erwähnten Sturm von Trump-Anhängern auf das Kapitol. Natürlich kann es auch gefährlich sein, wenn private Tech-Unternehmen zum Regulator der freien Meinungsäußerung werden. Das Problem mit fundamentalen Werten ist jedoch, dass sie selten in Frage gestellt werden – eben weil sie so fundamental sind. Wenn ein Dogma gilt, gibt es in der Tat auch wenig Spielraum für die Betrachtung unbeabsichtigter Konsequenzen, die aus der strikten Umsetzung entstehen könnten.

Wenn es uns schon kaum gelingt, geplante Ergebnisse unserer Marketingaktionen zu verstehen, wie können wir dann erwarten, dass wir unerwartete Konsequenzen vorhersehen können?
 

Brisante Themen des digitalen Marketings
Werfen wir nun einen genaueren Blick auf einige der komplexen Themenbereiche des digitalen Marketings und darauf, wie unzureichendes Wissen, Fehler, kurzsichtige Entscheidungen und die unkritische Berufung auf grundlegende Werte zu ungewünschten Ergebnissen führen können.

  • Der Algorithmus: Freund oder Feind?
    Immer häufiger nutzen wir Algorithmen, die entweder automatisierte Entscheidungen für uns treffen oder unsere Entscheidungsfindung unterstützen. Da diese Algorithmen oft Black Boxes sind, überlassen wir im Grunde viele Entscheidungen Mechanismen, die wir nicht verstehen. Es ist praktisch, Zeit und Mühe zu sparen, um bestimmte Ziele zu erreichen, aber Komfort hat seinen Preis:den Verlust von Autonomie. Buder und seine Kollegen argumentieren, dass Algorithmen nicht nur für ihre Nutzer arbeiten: Sie verfolgen auch unternehmerische Ziele, die Nutzer nicht kennen und die möglicherweise auch nicht in ihrem besten Interesse liegen. Wir wissen meist nicht, ob Algorithmen wirklich den Nutzen ihrer Anwender oder eher die Rendite eines Unternehmens optimieren. Die Optionen, die ein Algorithmus vorschlägt, sind nur eine Teilmenge aller möglichen Alternativen. Was sonst noch möglich wäre, werden wir nie erfahren. Unter diesen Umständen ist Wahlfreiheit eine Illusion. Schlimmer noch, die Einschränkung von Optionen kann Diskriminierung oder Manipulation Tür und Tor öffnen. Beispiele für algorithmische Rassen- oder Geschlechterdiskriminierung gibt es zuhauf, aber selbst wenn ein Algorithmus nicht diskriminierend wirkt, können ökonomische Mechanismen zu verzerrten Ergebnissen führen: Lambrecht und Tucker fanden diskriminierende Effekte bei Facebook-Werbung. In ihrer Studie erhielten Frauen seltener Informationen über MINT-Karrieren als Männer, obwohl sie gleichermaßen angesprochen wurden. Das Problem schien recht einfach, erwies sich aber als kaum lösbar und ist ein typisches Beispiel dafür, dass unzureichendes Wissen zu unbeabsichtigten Konsequenzen führen kann. Die Welt der vernetzten Algorithmen ist so komplex geworden, dass es selbst bei besten Absichten schwierig ist, im Sinne der Konsumenten zu handeln.

 

 

Die Welt der vernetzten Algorithmen ist so komplex geworden, dass es selbst bei besten Absichten schwierig ist, im Sinne der Konsumenten zu handeln.

  • Datenschutz: Der Preis persönlicher Daten
    Konsumenten sind es gewohnt, auf kostenlose und sehr bequeme digitale Dienste zuzugreifen. Kostenlose E-Mails und Nachrichten, kostenlose soziale Medien, kostenlose Apps, kostenlose Suchfunktionen und Informationen sowie maßgeschneiderte Angebote sind fester Bestandteil unseres Tagesablaufs. Wir chatten mit Freunden, posten unsere Bilder, tracken unsere Performance, navigieren zu gewünschten Orten und kaufen die interessanten Produkte, die es rein zufällig auf unsere Screens schaffen. Doch die Sache hat einen Haken. Kostenlos ist nicht wirklich kostenlos: Wir bezahlen mit den Spuren und Daten, die wir online hinterlassen, und das oft, ohne uns dessen bewusst zu sein. Wertenbroch berichtet in seinem Artikel über eine Studie, die zeigt, dass Konsumenten den monetären Wert ihrer persönlichen Daten deutlich unterschätzen – ein Fehler, der zu unbeabsichtigten Konsequenzen führt. Unternehmen im Datengeschäft können diese Unterbewertung ausnutzen und Gewinne auf Kosten der Konsumenten erzielen. Regulierungsbehörden wie die Europäische Union versuchen zwar, die Privatsphäre der Konsumenten mit Gesetzen wie der DSGVO zu schützen, sind aber nur begrenzt erfolgreich. Regulierung ist sicherlich notwendig, sie kann aber auch den Wettbewerb um Daten untergraben und damit eine faire Preisbildung für Daten verhindern.
  • Die Macht der Kennzahlen
    In unserer datengetriebenen Welt läuft alles auf scheinbar unbestreitbare Zahlen, Kennzahlen und Benchmarks hinaus. In dieser Ausgabe werfen Kuebler und Pauwels  einen genaueren Blick auf die US-Präsidentschaftswahl 2016 und analysieren, warum die demokratischen Wahlmanager auf falsche Zahlen vertrauten (die einen komfortablen Vorsprung für Hillary Clinton anzeigten) und damit verheerende Fehler in ihrem Wahlkampf machten. Wir haben oft mehrere Datenquellen zur Auswahl und es ist deshalb herausfordernd, die richtige Mischung aus Daten und Kennzahlen für eine fundierte Entscheidungsfindung zu identifizieren. „Garbage in, garbage out“, heißt es so schön. Manager sollten daher kritisch gegenüber entscheidungsrelevanten Kennzahlen sein und den gesunden Menschenverstand sowie alternative Datenquellen und Kennzahlen als Gegencheck für Ergebnisse nutzen.
    Ein weiteres Problem ist die Macht festgeschriebener Kennzahlen. Sobald eine Kennzahl als relevant definiert wird, konzentrieren sich alle Bemühungen darauf, diese Kennzahl zu verbessern. In unserem Interview weist Douglas Rushkoff darauf hin, dass ein größerer Teil der Menschheit daran arbeitet, unsere Social Media Feeds überzeugender zu machen, als daran, sauberes Wasser zur Verfügung zu stellen. Dies ist ein eindrucksvolles Beispiel dafür, wie unmittelbare Interessen zu unbeabsichtigten Folgen führen können. Aber selbst wenn wir uns einig sind, was wirklich wichtig ist, können Kennzahlen irreführend sein. In seinem kürzlich erschienenen Buch bemerkt Tim Harford, dass Daten „gute Annäherungen für etwas sein können, das wirklich wichtig ist“. Wenn das, worauf es ankommt, aber sehr komplex ist, können relevante Teilaspekte verloren gehen und kritische Lücken verursachen zwischen dem, was wir messen können, und dem, was wir tatsächlich wollen. Wenn Marketingmanager zum Beispiel entscheiden, dass Engagement auf Social Media wichtig ist, wird der Fokus auf der Verbesserung von Kennzahlen wie der Anzahl von Klicks oder Shares liegen. Diese Ziele stellen einen Anreiz dar, Inhalte zu produzieren, die Aufmerksamkeit erregen und starke Emotionen hervorrufen – was dazu führt, dass Fakten und nüchterne Informationen weniger Chancen auf Verbreitung haben. Ist das wirklich die Welt, die wir schaffen wollen? Hier passt das berühmte Zitat von Albert Einstein: „Nicht alles, was gezählt werden kann, zählt, und nicht alles, was zählt, kann gezählt werden." Im Zeitalter der Algorithmen muss alles auf Zahlen heruntergebrochen werden, und deshalb ist das Problem unbeabsichtigter Konsequenzen vereinfachter, unvollständiger oder schlicht falscher Kennzahlen relevant wie nie zuvor.

Selbst wenn wir uns einig sind, was wirklich wichtig ist, können Kennzahlen irreführend sein.

Autor/en

Caroline Wiertz, Professor of Marketing and Associate Dean for Entrepreneurship, Business School - City, University of London, c.wiertz@city.ac.uk

Christine Kittinger-Rosanelli, Managing Editor NIM MIR, Nuremberg Institute for Market Decisions, Nuremberg, Germany, christine.kittinger@nim.org

Literaturhinweise

Blake, Tom, Chris Nosko, and Steven Tadelis (2015): “Consumer Heterogeneity and Paid Search Effectiveness: A Large-Scale Field Experiment,” Econometrica, Vol. 83 (1), 155-74.

Hartford, Tim (2021): “The Data Detective: Ten Easy Rules to Make Sense of Statistics”, Riverhead Books, New York

Kozinets, Robert V., and Ulrike Gretzel (2021): “Commentary: Artificial Intelligence: The Marketer’s Dilemma,” Journal of Marketing, Vol. 85 (1), 156-159.

Merton, Robert K. (1936): “The Unanticipated Consequences of Purposive Social Action,” American Sociological Review, Vol. 1 (6), 894-904.