Login

Die dunklen Seiten des digitalen Marketings

Nicht die Technologie dient den Menschen, sondern die Menschen der Technologie

Interview mit Douglas Rushkoff, Autor und Medientheoretiker

Neue Technologien und künstliche Intelligenz (KI) provozieren heiße Debatten über die Zukunft des menschlichen Lebens. Während Fans der Singularität meinen, dass künstliche Intelligenz bald klüger sein wird als wir Menschen und deshalb die Weltherrschaft übernehmen sollte, ist eine solche Vision für andere ein Albtraum. Douglas Rushkoff gehört eindeutig zur zweiten Gruppe und vertritt leidenschaftlich eine Pro-Mensch-Position. In unserem Interview erklärt er, warum es ein Fehler ist, Technologien zu viel Raum zu geben, und warum Menschen einen Platz in der digitalen Zukunft verdienen. Er erklärt, dass bereits heute Technologien einen viel stärkeren Einfluss auf unser Leben haben, als den meisten von uns bewusst ist. Für ihn ist Menschsein ein Mannschaftssport, und er fordert die Stärkung menschlicher Beziehungen sowie einen bewussteren Umgang mit Technologien. Um in einer automatisierten Welt Menschlichkeit in all ihren Facetten zu schützen, sollten wir die Werte, die wir in unsere Algorithmen einbetten, sorgfältig auswählen. Technologien sollten nicht nur dem permanenten Wachstum dienen, sondern den Menschen helfen, wieder mehr miteinander und mit ihrer physischen Umgebung in Verbindung zu treten. Es hängt von unseren eigenen Entscheidungen ab, ob Technologien uns dienen werden oder wir der Technologie.

Keywords

Interview, Douglas Ruskoff, Technologie, Team Human, KI, Wahlfreiheit

 

Artikel downloaden

 

MIR: Diese Ausgabe unserer Zeitschrift legt ihren Fokus auf die dunklen Seiten des digitalen Marketings, ein Thema, mit dem Sie sich beinahe seit der Entstehung des Internets beschäftigen. In Ihrem jüngsten Buch Team Human argumentieren Sie, dass digitale Technologien, soziale Medien und KI-gestützte Anwendungen in ihrem Kern „anti-human“ sind. Wie können Werkzeuge, die allgemein dafür gelobt werden die Handlungsfähigkeit von Menschen zu erweitern und unser Leben bequemer zu machen, gegen Menschen gerichtet sein?

Douglas Rushkoff: Unter dem Vorwand, Probleme zu lösen und den Menschen das Leben zu erleichtern, räumen die meisten unserer technologischen Innovationen die Menschen nur aus dem Blickfeld oder aus dem Weg. Wir haben nur wenig Kontrolle über die Programmierung der Technologien, stattdessen programmieren die Technologien uns. Wir werden von den führenden Technologieunternehmen für uns unbekannte Zwecke instrumentalisiert und optimiert.

MIR: Warum meinen Sie, dass die Technologien uns programmieren?

Douglas Rushkoff: Technologieanwender sind ständiger automatisierter Manipulation ausgesetzt. Amerikas führende Universitäten lehren und entwickeln „Persuasive Technology“, die dann auf Plattformen, E-Commerce-Seiten und sozialen Netzwerken bis hin zu Smartphones und Fitness-Armbändern implementiert wird. Ziel dieses Ansatzes ist es, „Verhalten zu verändern“ und „Gewohnheiten zu etablieren“, meist ohne Wissen oder Zustimmung des Nutzers. Der Designtheorie zufolge ändern Menschen ihr Verhalten nicht, weil sich ihre Einstellungen und Meinungen ändern. Es funktioniert genau umgekehrt: Zuerst handeln die Menschen und ändern dann ihre Einstellungen, so dass diese ihrem Verhalten entsprechen. In diesem Denkmodell sind wir eher Maschinen als denkende, autonome Wesen. Oder zumindest können wir dazu gebracht werden, so zu funktionieren.

MIR: Das Problem ist also, dass wir keine aktiven Entscheidungen mehr treffen, sondern das machen, was die Technologie von uns will?

Douglas Rushkoff: Richtig, so wie Innenarchitekten in realen Räumen bestimmte Farben, Musik oder Lichtzyklen einsetzen, um gewünschtes Verhalten zu stimulieren, so nutzen Designer von Web-Plattformen und Smartphone-Apps sorgfältig getestete Animationen und Sounds, um bei den Nutzern optimale emotionale Reaktionen auszulösen. Jede Komponente einer digitalen Umgebung wird auf ihre Fähigkeit getestet, bestimmte Reaktionen hervorzurufen, seien es mehr Views, mehr Käufe oder einfach mehr Abhängigkeit. Eine neue Nachricht kommt mit einem fröhlichen Ton, das Ausbleiben von Post klingt traurig. Die physische Geste des Wischens, um die eigenen Social-Media-Feeds zu aktualisieren, verankert und verstärkt den zwanghaften Drang, nachzusehen, obʼs was Neues gibt – vorsichtshalber.

MIR: Die meisten Menschen sind da aber recht gelassen und nicht allzu besorgt. Sie genießen und nutzen digitalen Dienste, ohne sich manipuliert zu fühlen. Was ist das Problem, wenn die Nutzer zufrieden sind?

Douglas Rushkoff: Das Problem ist, dass es den Technologieunternehmen nicht mehr primär darum geht, Menschen zu helfen. Technologien werden als reine Investitionen betrachtet, die Wachstum und steigende Aktienkurse bringen sollen. Benutzer und ihr Verhalten werden optimiert, um diese Ziele zu erreichen. Die süchtig machenden Reize von Spielautomaten werden durch Algorithmen in Newsfeeds eingebaut, um eine Technologie-Abhängigkeit zu fördern und uns dazu zu bewegen, gegen unser ursprünglich erworbenes und besseres Urteilsvermögen zu handeln. Die Technologie optimiert uns, anstatt dass wir die Technologien zu unserem Vorteil nutzen. Es hat eine Art Figur-Grund-Umkehrung stattgefunden, wie bei der Rubinʼschen Vase. Was eigentlich die Figur sein sollte, ist zum Hintergrund geworden.  

 

MIR: In Ihrem Buch nennen Sie das Ergebnis dieser Optimierung die Aufmerksamkeitsökonomie.

Douglas Rushkoff: Ja, anstatt uns zu helfen, die Zeit so zu nutzen, dass wir durch unseren intellektuellen Vorteil profitieren, wurde das Internet in ein „Always-on“-Medium umgewandelt und zum Vorteil derjenigen konfiguriert, die unsere Aktivitäten verfolgen und uns vermarkten wollen. Ins Internet zu gehen, ist keine aktive Entscheidung mehr, sondern eher ein ständiger Daseinszustand. Und jedes Mal, wenn ich zum Handy greife, wird es schlauer in Bezug auf mich und ich dümmer in Bezug auf das, was es mit mir macht.

MIR: Sind sich die Menschen ausreichend dessen bewusst, dass alles, was sie online tun, verfolgt wird, und erkennen sie, wie sich dies auf ihre Entscheidungen auswirkt?

Douglas Rushkoff: Das glaube ich nicht. Facebook vermarktet Ihnen Ihre Zukunft, bevor Sie noch dort angekommen sind. Das Unternehmen entwickelt prädiktive Algorithmen, um herauszufinden, was Sie wahrscheinlich tun werden, und dann arbeitet es darauf hin, das Eintreten ihrer Prognosen noch wahrscheinlicher zu machen. Es wird immer besser dabei, Sie zu programmieren und Ihre Spontaneität zu reduzieren. Und es kann Ihr Gesicht und Ihren Namen verwenden, um durch Sie zu werben, weil sie das akzeptiert haben. Ich wollte nicht, dass Facebook mich als Werbevehikel nutzt und jede meiner Handlungen zu Wasser auf den Mühlen der Marketing-Maschinerie des Unternehmens wird. Deshalb habe ich Facebook 2013 verlassen, aber die meisten Menschen verfallen dieser „Angst, etwas zu verpassen“, die Plattformen wie Facebook so erfolgreich kultivieren.

MIR: Sie argumentieren also, dass Menschen einige zutiefst menschliche Eigenschaften wie Spontaneität, Kreativität oder Unberechenbarkeit verlieren. Sehen Sie auch kollektive Schäden?

Douglas Rushkoff: Ja, die großen Technologieunternehmen entziehen bestehenden Systemen den gesamten Wert. Sie nehmen unsere Daten und lassen uns dann das tun, was für sie am besten ist. Nehmen Sie zum Beispiel Uber. Wenn Uber den Menschen in den Städten durch Beförderungsleistungen hilft, ist das nur ein Mittel für den nächsten Schritt in der Umsetzung des Business-Plans. Uber investiert viel in den Aufbau einer monopolistischen Plattform und trifft Vorbereitungen, dieses Monopol auf andere Bereiche wie Zustellungen, Drohnentransporte oder andere Logistikleistungen auszudehnen. Der Wohlstand all der Menschen, die früher in der Taxiindustrie tätig waren, wird am Ende dem Wachstum dieses Unternehmens geopfert. Und genau wie Uber saugen auch andere stark fremdfinanzierte Technologieunternehmen Geld aus unserer Wirtschaft heraus und lagern es im Fett ihrer Aktienkurse ein. Das ist kein Tauschgeschäft mehr, sondern Wertextraktion.

MIR: Was ist mit künstlicher Intelligenz? Glauben Sie nicht, dass Algorithmen und KI viele Probleme besser lösen können als der Mensch?

Douglas Rushkoff: Wenn wir davon ausgehen, dass unsere Probleme durch Technologien lösbar sind, dann forcieren wir damit ganz bestimmte Strategien. Wir verbessern die Kennzahlen, die eine bestimmte Technologie verbessern kann, ignorieren aber oft die Probleme, die sie nicht zu lösen vermag. Wir geraten aus dem Gleichgewicht, weil wir unser Geld und unsere Energie nur auf technologisch lösbare Probleme und hier vor allem auf diejenigen lenken, die für diese Lösungen bezahlen. Zum Beispiel arbeiten mehr Menschen daran, unsere sozialen Medien überzeugender zu machen, als daran, für einen besseren Zugang zu sauberem Wasser zu sorgen. Wir bauen unsere Welt um das herum, was Technologien leisten können.

MIR: Meinen Sie, wir sollten die sozialen Medien aufgeben und uns von algorithmen-gestützten und automatisierten Entscheidungen ganz zurückziehen, um menschlich zu bleiben?

Douglas Rushkoff: Nein, neue Technologien mögen viele Probleme verursachen, aber sie sind nicht unsere Feinde. Genauso wenig wie Märkte, Wissenschaftler, Roboter, Algorithmen oder unser menschlicher Fortschrittshunger. Aber was wir tun müssen, ist, diese Elemente mit unseren organischeren, emotionalen und sozialen Bedürfnissen in Einklang zu bringen. Das ist kein Paradoxon. Wenn wir es wünschen, können wir beide Seiten integrieren.

Neue Technologien mögen viele Probleme verursachen, aber sie sind nicht unsere Feinde.

MIR: In Ihrem Buch schlagen Sie vor, dass wir wieder menschlicher werden müssen, um der toxischen Wirkung der digitalen Technologie zu widerstehen. Was sollten wir tun?

Douglas Rushkoff: Wir sollten aufhören, dauernd über unseren Nutzwert nachzudenken, denn Maschinen werden immer einen höheren Nutzwert haben als ein Mensch. Dieses Denken beginnt schon in den Schulen. Wir sollten unsere Kinder mehr über die Würde des Menschen aufklären und weniger darauf hinzielen, dass sie nützlich sein müssen, um einen Platz in der Gesellschaft zu haben. Wenn wir erst einmal gelernt haben, ein grundlegendes Naheverhältnis zueinander aufrechtzuerhalten, dann kann so etwas wie eine verschworene menschliche Gemeinschaft entstehen. Wenn wir gemeinsam mit anderen Menschen in einem Raum atmen, Blickkontakt haben und Gespräche führen, beginnen wir, unsere eigene Kraft und Würde und die Würde anderer Menschen zu spüren. Wenn man diese grundlegende Würde in sich selbst erkennt, lässt man sich nicht so einfach von irgendjemandem oder irgendetwas kontrollieren.

MIR: Wir befinden uns mitten in der zweiten Welle der Corona-Pandemie: nicht die besten Zeiten für den Aufbau menschlicher Beziehungen. Glauben Sie, dass die Traumata von Lockdowns, Arbeitsplatzverlusten, Krankheit und Todesfällen eine Gegenbewegung auslösen werden?

Douglas Rushkoff: Covid-19 hat uns in eine raue, unsoziale Welt gezwungen. Wir müssen uns quasi entmenschlichen, damit wir uns nicht gegenseitig infizieren. Aber nach dem Ende der Pandemie haben wir umso mehr die Chance, uns zu rehumanisieren – wir müssen wieder Formen des Miteinanders entwickeln, die lokale Resilienz, die lokale Wirtschaft, die lokale Produktion, das Kleingewerbe und die Kreislaufwirtschaft stärken – all die Dinge tun, die im Moment nicht gehen, weil wir in diesem Selbstdesinfektionszyklus feststecken.

MIR: Diese Rehumanisierung wäre Teil einer Periode, die Sie als neue Renaissance bezeichnen. Welche Veränderungen erwarten oder erhoffen Sie sich?

Douglas Rushkoff: Eine Renaissance ist eigentlich die Rückbesinnung auf alte Werte und ihre Wiedergeburt in einem neuen Kontext. Ich denke, dass eine neue Form des Kollektivismus den Individualismus ersetzen wird, der in der letzten Renaissance im Mittelalter entstanden ist. Das damals etablierte Wertesystem hat letztlich dazu geführt, dass Investoren kurzfristige Gewinne maximieren, und Risikokapitalgeber unanfechtbare und extraktive Plattformmonopole errichten. Derzeit entsteht wieder ein Gefühl der kollektiven Sensibilität, das mehrdimensional und partizipatorisch ist. Er spiegelt sich wider in der „Occupy Wall Street“- oder der „Fridays for Future“-Bewegung sowie der dezentralen Wirtschaft, die von den Open-Source- und Blockchain-Bewegungen angestrebt wird, um nur einige zu nennen.

MIR: Sie glauben also an eine Koexistenz von Technologien und Menschen, bei der wir Menschen weiterhin als handelnde Subjekte die Kontrolle behalten können und nicht zu Objekten der Optimierung werden?

Douglas Rushkoff: Die Zukunft ist offen und gestaltbar. Sie ist nicht etwas, das einfach so entsteht, sondern etwas, das wir durch unser Handeln in der Gegenwart selbst erschaffen. Sogar das Wetter auf unserem Planeten ist nicht gottgegeben, sondern hängt von den Entscheidungen ab, die wir heute in Bezug auf Energienutzung, Konsumverhalten und Abfallentsorgung treffen. Ich ermutige die Menschen, sich den aktuellen Herausforderungen offen zu stellen. Wir müssen Position beziehen und darauf bestehen, dass menschliche Werte in jede neue Technologie einfließen. Wir müssen aufstehen und aufzeigen. Egal wie unvollkommen, schrullig und fehleranfällig wir Menschen uns auch fühlen mögen, es ist an der Zeit, dass wir zusammenstehen und uns zu Mitgliedern des Team Human erklären.

MIR: Das waren sehr klare Worte, Herr Rushkoff. Vielen Dank, dass Sie uns die Schattenseiten der technologischen Entwicklung vor Augen geführt haben und für das Aufzeigen neuer Wege. Wir sind dabei!  

Autor/en

Das Interview wurde von Christine Kittinger im November 2020 geführt.

Literaturhinweise

https://rushkoff.com/