Die Verfinsterung des digitalen Traums: Shoshana Zuboffs Analyse des “Überwachungskapitalismus”

Bei diesem Text handelt es sich um die deutsche Fassung einer Rezension, die in gekürzter Form und auf Englisch im Journal Organization zur Veröffentlichung angenommen ist erschienen ist. Von Richard Weiskopf.

Erinnern Sie sich an den Skandal, um den Ge- und Missbrauch von Facebook-Profilen durch die Firma Cambridge Analytica? Oder daran, wie vor allem um 2016 herum Horden von Menschen, meist junge, umherzogen, begeistert und wie ferngesteuert auf der Jagd nach dem „Pokèmon“? Waren auch Sie überrascht zu hören, dass die (österreichische) Post mit den Daten ihrer Kund_innen einen regen Handel betreibt? Waren Sie auch schon erstaunt darüber, wie genau Amazon über Ihre Wünsche Bescheid weiß? Waren auch Sie schon in Versuchung, den smarten Kühlschrank über die Einkaufsliste entscheiden zu lassen oder das Smartphone über den idealen Heimweg? Erscheinen Ihnen solche Phänomene zuweilen als unheimlich oder gar bedrohlich?

Shoshana Zuboff, ihres Zeichens emeritierte Professorin für Business Administration in Harvard, ist in ihrem neuen Buch dieser Erfahrung nachgegangen und sie fragt nach den Kräften, die sie hervorbringen. Das Buch ist eine Fortsetzung von Work in the Age of the Smart Machine, ihrem grundlegenden Werk aus dem Jahr 1988. Hier studierte sie Veränderungen, die sich in der Arbeitswelt durch die Automatisierung und Informatisierung abzeichnen. Als eine der ersten Autor_innen erkannte sie schon damals das panoptische Potenzial der modernen Informationstechnologie. Seither sind mehr als drei Jahrzehnte vergangen. Es wurde nicht nur das Internet erfunden (und zunehmend als Geschäftsfeld erschlossen); auch die Möglichkeiten und Potentiale der Erfassung, Speicherung und Verarbeitung von Daten haben sich exponentiell erweitert. „Big Data“ verspricht nichts weniger als eine „Revolution“, die „die Art und Weise, wie wir leben, arbeiten und denken“ fundamental transformiert (Mayer-Schönberger & Cukier, 2013). Während optimistische Szenarien die großartigen Möglichkeiten von „data-rich markets“ hervorheben (Mayer-Schönberger & Ramge, 2018), warnen Kritiker_innen vor den Gefahren, die mit der „Datafizierung“ einhergehen. Mit den neuen digitalen Möglichkeiten ist die Überwachung vielfältig und „flüchtig“ geworden (Bauman & Lyon, 2013), sie dringt in alle Bereiche des Alltags vor und prägt die „surveillance culture(s)“ (Lyon, 2018; Harding, 2018) der Gegenwart.

Zuboff geht es darum, die „Verfinsterung des digitalen Traums“ (S. 22), die mit der Subsumtion des Digitalen unter die „gefräßige“ Logik des Kapitalismus einhergeht, beschreibbar zu machen. Für vieles, was uns in diesem neuen Kontext begegnet, fehlen uns ganz einfach die begrifflichen und konzeptionellen Werkzeuge, die uns helfen zu verstehen, was mit uns passiert. In der neuen digitalen Welt sind wir nicht selten in einer Situation, die mit der der indigenen Völker vergleichbar ist. So wie diese für eine Hand voll funkelnder, aber wertloser, Glasperlen ganze Territorien verschenkten, so verschenken wir oft unsere persönlichen Daten; und ähnlich wie die indigenen Bewohner die Konquistadoren in ihren glänzenden Rüstungen für Götter hielten, verwechseln wir Big-Data-Experten und ihre prognostischen Fähigkeiten mit Propheten und Wahrsagern, denen wir nicht nur unser Potential zur kritischen Reflexion opfern sondern auch den ethisch-politischen Raum der Transformation.

Das Monster, das wir erst in Umrissen erkennen und noch nicht richtig benennen können, erhält von Zuboff den Namen „Überwachungskapitalismus“ (ÜK). Dieser ist für sie eine – durchaus bösartige – Mutation[1] des Kapitalismus, die sich durch eine neue Akkumulationslogik auszeichnet. Diese lässt sich in Begriffen des Ökonomen Karl Polanyi (1946) beschreiben. Nach Polanyi beruht der Kapitalismus darauf, Arbeit, Boden und Geld in fiktive Waren zu transformieren. Der ÜK macht aus der menschlichen Erfahrung eine vierte Warenfiktion. Erfahrung wird in „Verhaltensdaten“ umgewandelt, diese sind der „Rohstoff“ zur Herstellung von „Vorhersageprodukten“, also von Produkten „die prognostizieren sollen, was wir jetzt, bald und irgendwann fühlen, denken und tun“ (S. 119). Hergestellt durch „Maschinenintelligenz“, werden diese auf spezifischen Märkten („Verhaltensterminkontraktmärkte“) gehandelt und zu Geld gemacht.

In insgesamt 18 Kapiteln und auf über 600 (bzw. inklusive Anmerkungen mehr als 700) Seiten beschreibt Zuboff zunächst in Teil I die historischen Rahmenbedingungen und die Erfindung und Entstehung des ÜK im „neoliberalen Biotop“, das sich seit den 1980er Jahren rund um das Silicon Valley entwickelte. Eine große Rolle spielen dabei die ersten Schritte der Ausarbeitung bei Google, für Zuboff Pionier, Modell und Knotenpunkt des ÜK zugleich. Im Teil II beschreibt sie den „Vormarsch“ des ÜK über die digitale Welt hinaus. In diesem Prozess, wird das (technische) „Datamining“ zunehmend zu einem „Realitymining“, in dem die „Tiefen der menschlichen Erfahrung“ ausgelotet, erforscht und „ausgeliefert“ („gerendered“) werden und das menschliche Verhalten durch vielfältige Prozesse, Techniken beeinflusst und modifiziert wird. Im Teil III schließlich beschreibt sie das Entstehen einer neuen Form von Macht, die sie als „Instrumentarianismus“ bezeichnet.

Google ist wie gesagt für Zuboff Inbegriff und Modell des ÜK, so wie es die Ford Motor Company für den Industriekapitalismus war. Ford revolutionierte die Produktion. Größenvorteile ermöglichten kostengünstige Massenproduktion, dafür steht das berühmte Modell T. Das Kapital ist abhängig von der Arbeitskraft der Arbeiter_innen und von der Kaufkraft der Kunden_innen (was für ein gewisses, wenn auch prekäres, Gleichgewicht der Kräfte sorgte). Diese Konstellation ändert sich im ÜK grundlegend. Google revolutionierte nicht die Produktion, sondern die Extraktion. Für Google sind wir nicht primär als Arbeitskräfte relevant, und auch nicht als Kund_innen. Vielmehr braucht uns Google als „Rohstoff“ zur Produktion der „Vorhersageprodukte“. Aus der Verwertung und Kapitalisierung von Verhaltensprognosen generiert Google seinen sagenhaften Reichtum. Die eigentlichen Kunden von Google sind die Werbekunden; „wir“, also diejenigen, die Googles Suchmaschine und andere komfortable und zunehmend unverzichtbare Dienste in Anspruch nehmen, sind der Rohstoff für die Produktion der „Vorhersageprodukte“. Der wirkliche Sündenfall trat für Zuboff ein, als Google entdeckte, dass überschüssige Daten, die bei der Nutzung der Dienste anfallen („data-exhaust“), nicht einfach nur wertloser Abfall sind und sich für mehr nutzen lassen als für die Optimierung der „user-experience“. Als Google im Jahr 2000 das Gegenseitigkeitsprinzip aufkündigte, auf personalisierte Werbung setzte und „den einzelnen User ins Visier“ (S. 97) nahm, um die „Vorhersageprodukte“ zu optimieren, war der Damm gebrochen. Die „Generierung von Nutzerinformation zur Nutzung zielgerichteter Werbung“ (so heißt das 2003 von Google angemeldete Patent) wurde zum Programm. Im Klartext: Überwachung – die systematische Feststellung und Registrierung dessen was ein bestimmtes Individuum zu einem bestimmten Zeitpunkt denkt, fühlt, will, präferiert – wird zur Geschäftsgrundlage.

Zwei zentrale ökonomische Imperative treiben den ÜK an. Der (geheime) „Imperativ der Extraktion“, welcher dazu zwingt, aus der menschliche Erfahrung „Verhaltensüberschuss“ zu extrahieren, und der „Vorhersageimperativ“, welcher dazu zwingt, möglichst treffsichere Prognosen zu generieren, um Streuverluste (z.B. bei personalisierter Werbung) gering zu halten. Das zwingt dazu, möglichst große Datenmengen zu generieren und möglichste viele verschiedene Quellen anzuzapfen und zu durchforsten. Der Vorhersageimperativ führt nicht nur dazu, dass Überwachung als normale Dienstleistung angeboten wird, sondern auch dazu, dass die Beeinflussung und sogar das Produzieren von Verhalten, das zuverlässige Ergebnisse bringt, erforderlich wird (S. 235).

Cambridge Analytica, das insbesondere nach den Bekenntnissen des Whistleblowers Christopher Whiley skandalisiert und kriminalisiert wurde, ist in diesem Sinne kein Betriebsunfall des ÜK, sondern lediglich die Spitze des Eisbergs. Der eigentliche Skandal ist das Geschäftsmodell von Cambridge Analytica („We use data to influence audience behaviour“), welches die Prinzipien des ÜK auf den Punkt bringt und doch weitgehend als ganz normale Praxis akzeptiert wird.

Wie jeder Kapitalismus, beruht der Überwachungskapitalismus auf Prozessen der Enteignung und Expropriation. Für diesen durchaus gewaltvollen Prozess hat Zuboff den Begriff der „Rendition“ erfunden. Der Begriff ist äußerst vielschichtig und umfasst die Bedeutung von darstellen, sichtbarmachen aufführen, ebenso wie ausliefern. Wenn zusätzlich Assoziationen zu den „Renditions“ der (US-amerikanischen) Geheimdienste entstehen, dann ist das sicherlich ganz im Sinne Zuboffs. Bei diesen handelt es sich um (illegale) Auslieferungsprogramme, in denen Terrorverdächtige überfallen und verschleppt werden um an dunklen Orten, oft unter Anwendung spezieller Verhörmethoden ausgequetscht und „bearbeitet“ zu werden. Zuboff verwendet den Begriff um all die „konkrete operativen Praktiken der Enteignung“ (S. 270) zu erfassen und den „maschinellen Einmarsch in die menschlichen Tiefen“ (S. 294) zu beschreiben. Sie meint damit die „Rendition“ des Körpers, die diesen zum Objekt macht, das man tracken, messen und indexieren kann (z.B. über Sensortechnologien, Gesichtserkennung, Wearables, Geotags, Fitness-Apps, etc.), die „Rendition“ des Selbst (z.B. durch die algorithmische „Entschlüsselung“ der Persönlichkeit, zum Zweck des „customer profiling“ oder des „micro targeting“) oder die „Rendition aus den Tiefen“, die unter dem Stichwort der Personalisierung (von Werbung) erfolgt. Vielfältigste Methoden, von der Emotions- und Gesinnungsanalytik, bis zum „affective computing“ und zur Telematik dienen der Produktion von Verhaltensdaten und der Modifikation im Sinne der gewünschten Ergebnisse. Bei all diesen „Renditions“ handelt es sich weniger um neuartige Versuche, den Menschen oder die Gesellschaft etc. besser zu verstehen. Nach Zuboff handelt es sich „im Regelfall um einen ebenso ungenehmigten wie einseitigen, gefräßigen und unverfrorenen Vorgang“ (S. 278).

Die verschiedensten digitalen Technologien erlauben es, immer tiefer, aber auch immer unauffälliger und indiskreter in alle Ritzen des menschlichen Lebens einzudringen und die intimsten Details dem interessierten Blick diverser Organisationen, Einrichtungen und Experten auszuliefern (und die gewonnenen Verhaltensdaten in ein profitables „Vorhersageprodukt“ zu verwandeln). Sie ermöglichen es auch Verhalten systematisch zu beeinflussen, zu konditionieren, in bestimmte Richtungen zu lenken und zu „stupsen“ („nudgen“). Paradigmatisch hierfür ist wohl der Ansatz der „People Analytics“, der von Experten des Human Dynamics Lab am MIT vorangetrieben wird und als Schlüssel zu einer neuen „Sozialphysik“ präsentiert wird, die ein präzises Verständnis sozialen Verhaltens verspricht. Zuboff diskutiert diesen Ansatz ausführlich und präsentiert ihn als eine Art digitale Wiedergeburt der Konditionierungsfantasien und -programme durch die der berühmt-berüchtigte Frederik B. Skinner in den 1960er und 1970er Jahren Aufsehen erregte. Sensoren oder „batches“ produzieren nicht nur massenhaft Daten, die eine prädiktive Transparenz erzeugen, sie verfügen auch über das was Zuboff „Aktuationsfähigkeit“ (S. 335) nennt, also die Fähigkeit, in Echtzeit die reale Welt zu modifizieren. Die Skinner’schen „Verstärkungsprogramme“ werden in algorithmische Prozeduren übersetzt, die die Welt nach ihrem Bilde her- und zurichten.

Die Möglichkeiten der (digitalen) Verhaltensmodifikation sind vielfältig und Zuboff beschreibt diese anschaulich. Neben der Konditionierung, heute auch „behavioral engineering“ genannt, nennt Zuboff „herding“ (die Lenkung einer Menge durch Manipulation des Kontexts) und „tuning“ (die subtile Beeinflussung durch (digitale) „nudges“).

Das Zusammenspiel all dieser Verfahren und Instrumente der Verhaltensmodifikation lässt eine neue Form der Macht entstehen. „Instrumentarianismus“, so der Name dieser Machtform, ist die „Instrumentierung und Instrumentalisierung von Verhalten zum Zweck seiner Modifizierung, Vorhersage und Monetarisierung“ (S. 412). Für diese Form der Macht gibt es historisch keinen Präzedenzfall. Diese Macht setzt an die Stelle von Gewaltmitteln, Mittel der Verhaltensmodifikation, sie verspricht kein Seelenheil und braucht nicht zu belehren oder zu bekehren. Sie ist gegenüber den Motiven der Menschen gleichgültig und interessiert sich allein für das reibungslose – und gewinnbringende – Funktionieren. Ihre Gesetze leiten sich nicht aus einer spezifischen Ideologie ab, sondern aus der „Wissenschaft vom menschlichen Verhalten“. Die „Priester“ dieser Macht betreiben „angewandte Utopistik“ (S. 481) und träumen von einer Welt, in der die Teile harmonisch zusammenspielen und ein effizientes Ganzes bilden. Vom Einzelnen wird nicht absolute Loyalität verlangt, sondern vollständige Transparenz. An die Stelle des (totalitären) „Big Brother“, der von seinen Untertanen geliebt werden will, tritt bei Zuboff „Big Other“. Das ist das Insgesamt der Techniken, die den Menschen, getreu nach dem behavioristischen Credo, zum „the Other-One“ machen: ihn also als Menschen ignorieren und zu einem Bündel von Verhalten zu machen, das es zu optimieren und gewinnbringend einzusetzen gilt (vgl. auch Zuboff, 2015).

Während die Hohepriester und intellektuellen Meister des ÜK etwa in den Laboratorien des MIT experimentieren und ihre Wahrheiten in den Journals der Verhaltensökonomie verkünden, findet man den Inbegriff der instrumentären Macht im Chinesischen Social Credit System idealtypisch verkörpert. Zuboff diskutiert dieses als Beispiel für eine „automatisierte Verhaltensmodifikationsmaschine“ (S. 456), die als Orwell’sche Big Brother Dystopie unzureichend verstanden ist. Für sie ist es vielmehr die „Apotheose einer vom Staat kontrollierten instrumentären Macht“ (S. 452). Offen bleibt die Frage, ob repressive staatliche Kontrolle (das China Modell) oder die Undurchsichtigkeit der (westlichen) algorithmengesteuerten „Blackbox Society“ (Pasquale, 2015) die größeren Bedrohungen der Freiheit mit sich bringen.

Der ÜK ist nicht nur eine Mutation des Kapitalismus, sondern auch ein ethisch-politisches Projekt. Zuboff lässt keinen Zweifel daran, dass sie in der bloßen Tatsache des ÜK eine Verletzung der Menschenwürde erblickt. Der ÜK macht den Menschen zum Objekt, das vermessen und erforscht, analytisch zerlegt und neu zusammengesetzt wird und zu einem Versuchskaninchen, das manipuliert und „gestupst“, geködert und „gamifiziert“ wird. Die „Personalisierung“, von der sich direct-marketers die Optimierung der „user experience“ versprechen und Profilingexperten eine Erhöhung der Treffsicherheit, ist keine ermächtigende oder emanzipatorische, sondern eine „die alles Persönliche an uns besudelt, schändet, aufhebt und verdrängt“ (S. 587).

Dass Ideen der Verhaltenskonditionierung, die kritische Geister einst auf die Barrikaden brachten, heute zum Teil begeisterte Zustimmung finden, kann man mit Zuboff sicher als ein „Beleg für unsere seelisch-geistige Abstumpfung“ (S. 35) werten. Dieser Umstand verweist aber auch die Entstehung eines neuen Wahrheitsregimes, das die Reflexivität des Menschen systematisch umgeht, und die Herausbildung einer ethischen Subjektivität erschwert. Die Prinzipien des ÜK verkörpern die gespenstische Logik einer algorithmischen Gouvernementalität (Rouvroy & Berns, 2013), die vom konkreten Leben abstrahiert und uns durch Fernsteuerung, Incentivierung und Verhaltensprogrammierung auf die gewünschten Bahnen lenkt und in die ökonomische Kreisläufe einschleust. Dazu kommt, dass der ÜK ein zutiefst anti-demokratisches Projekt ist. An die Stelle politischer Entscheidung und Argumentation tritt rechnerische Gewissheit und die „Manipulation der Entscheidungsarchitektur“.

Zuboff ist keine Antikapitalistin. Sie kann marktwirtschaftlichen Prinzipien durchaus etwas abgewinnen. Der Kapitalismus muss aber, wie sie in Anlehnung an Thomas Piketty schreibt, „gekocht“ (sprich: gezähmt und reguliert) werden. Im Rohzustand ist er schwer verdaulich, wenn nicht gar toxisch. Eine Anleitung oder gar ein Rezept dafür, wie der Überwachungskapitalismus „gekocht“ werden muss um genießbar zu sein, findet man in Zuboffs Buch nicht. Zuboff beschreibt in einer überzeugenden und engagierten Art und Weise, wie die losgelassenen ökonomischen Imperative den “digitalen Traum verfinstern”. Streckenweise liest sich das Buch sicher wie ein schwarzmalerisches Weltuntergangsszenario, doch das ist es nicht. Durch ihre Analyse legt sich ein dunkler Schatten über die Landschaft des ÜK, der die Euphorie von Digitalisierungsoffensiven dämpft. Dieser Schatten ist aber paradoxerweise erhellend. Er lässt uns die Konturen des Territoriums besser erkennen, vor allem die Abgründe, die sich auftun wie auch, wenn auch sehr viel undeutlicher, die Aus- und Fluchtwege. Gegen jede „Unvermeidlichkeitsdoktrin“ (S. 256) – sei sie (computer)technisch oder politisch begründet – präsentiert Zuboff den Überwachungskapitalismus als ein kontingentes historisches Produkt, das von konkreten Personen und Organisationen erfunden wurde. Er besteht aus einer Vielzahl von Praktiken, die ihrerseits nicht deterministisch festgelegt sind, sondern auch einen Raum der Transformation beinhalten. Eine solche Transformation erfordert nicht in erster Linie die Erweiterung technischer Fähigkeiten und algorithmischer Wunderwaffen, die für uns die Welt entschlüsseln und uns womöglich vom Übel befreien[2]. Es erfordert etwas, das sehr viel einfacher ist und zugleich auch sehr viel schwieriger. In Zuboffs Worten: „Mut und einen moralischen Kompass“ (S. 598). Zuboffs Buch hat und verkörpert beides. Es verkörpert den intellektuellen Mut von George Orwell, der verlangt, das Übel zu benennen und Stellung zu beziehen und es bietet einen moralischen Kompass als Reflexionsfolie, die es ermöglicht unsere eigene ethische Haltung gegenüber diesen Praktiken zu entwickeln.

Darüber hinaus könnte man sagen, dass eine Transformation v.a. auch Kooperation, Vernetzung und kollektive Organisationsformen erfordert. Mit der „digitalen Revolution“ verändert sich nicht nur Logik der Akkumulation (die Zuboff so profund beschreibt) sondern auch Logik der Kooperation. Die digitale Transformation bringt nicht nur neue Ausbeutungsformen hervor, sondern auch neue Formen der Kooperation- und Partizipation. Diese können die Logik der Akkumulation unterstützen, sie können aber auch in einen Widerspruch zu dieser Logik stehen. Diese widersprüchliche Dynamik und das transformative Potential, das sie beinhalten, bleiben bei Zuboff etwas unterbelichtet. Dieses Potenzial zu realisieren ist eine Sache der kreativen Praxis, die in den Zwischenräumen des Überwachungsgefüges Fluchtlinien findet und  transversale Verbindungen herstellt die neue Formen des Zusammenlebens und -arbeitens ermöglichen.

[1] Zuboff bezieht sich dabei auf den Ökonomen Joseph Schumpeter, der Innovationen, die „bleibende und nachhaltige qualitative Veränderungen in Logik, Verständnis und Praxis der kapitalistischen Akkumulation“ mit sich bringen als „Mutation“ bezeichnete und von zufälligen, zeitlich begrenzten oder opportunistischen Reaktionen auf Umstände abgrenzte. (S. 71)

[2] Die Idee, instrumentäre Machtmittel einzusetzen, um etwa terroristische Inhalte auf Facebook oder Twitter oder auf Googles Diensten zu identifizieren, wurde beispielsweise nach den Anschlägen in Paris im Dezember 2015 diskutiert, ebenso wie die Idee eines „Radikalismus Algorithmus“ zur Schaffung eines Identifikations- und Bewertungsmechanismus für Online-Inhalte auf sozialen Medien.

Literatur

Bauman, Z. and D. Lyon (2013). Liquid Surveillance. Cambridge, Polity Press.

Lyon, D. (2018). The Culture of Surveillance. Watching as a Way of Life. London, Polity Press.

Harding, J. N. (2018). Performance, Transparency and the Cultures of Surveillance. Michigan: University of Michigan Press.

Mayer-Schönberger, V. and K. Cukier (2013). Big Data. A Revolution That Will Transform How We Live, Work and Think. London, John Murray.

Mayer-Schönberger, V. & Ramge, T. (2018). Reinventing Capitalism in the Age of Big Data. London: John Murray.

Polany, K. (1946 (1978)). The Great Transformation. Politische und ökonomische Ursprünge von Gesellschaften und Wirtschaftssystemen. Frankfurt a.M.: Suhrkamp.

Rouvroy, A., & Berns, T. (2013). Algorithmic governmentality and prospects of emancipation. Esparateness as a precondition for individuation through relationships? Résaux, 1(177), 163-196.

Zuboff, S. (1988). In the age of the smart machine: the future of work and power. New York: Basic Books.

Zuboff, S. (2015). “Big other: surveillance capitalism and the prospects of and information civilization.” Journal of Information Technology 30(1): 75-89.

Zuboff, S. (2018). Das Zeitalter des Überwachungskapitalismus. Frankfurt a.M. und New York, Campus.