interview

‘Het doel is ons te automatiseren'

©REUTERS

Shoshana Zuboff breekt het debat open met ‘toezichtskapitalisme’, een ontspoord marktsysteem waarin bedrijven alles over ons weten en wij niets over hen. Haar ambitieuze boek moet ons wakker schudden voor we in een digitale nachtmerrie belanden waarin we allen geautomatiseerd zijn.

Ze heeft er veel voor opgeofferd. ‘Ik heb zeven jaar aan dit boek geschreven, de laatste vijf jaar 14 tot 16 uur per dag. Angst was de motivator die me elke ochtend weer deed opstaan om de volgende pagina te schrijven’, vertelt Shoshana Zuboff in een interview met De Tijd in Brussel, waar de Amerikaanse ex-professor van de Harvard Business School ‘The Age of Surveillance Capitalism’ kwam voorstellen.

Over welke angst ze het heeft, werd deze week geïllustreerd door een zoveelste schandaal bij Facebook. De website TechCrunch onthulde dat Facebook tieners vanaf 13 jaar tot 20 dollar per maand betaalde om een app op hun smartphone te installeren waarmee het socialemediabedrijf al hun doen en laten kon volgen.

Bio

Shoshana Zuboff (67) kwam in 1981 naar de Harvard Business School, waar ze een van de eerste vastbenoemde vrouwelijke professoren werd.

Ze wijdde haar carrière aan de opkomst van de digitale maatschappij en de gevolgen ervan.

In 1988 publiceerde ze het baanbrekende ‘In the Age of the Smart Machine’, over de impact van de computer op de werkomgeving. Haar nieuwe boek, ‘The Age of Surveillance Capitalism’, bouwt voort op een bekroonde paper uit 2015.

Apple bande de app prompt van zijn platform. De zoveelste aanval op onze privacy weerhield Facebook er niet van woensdag andermaal recordkwartaalcijfers bekend te maken.

Het toont de uitdaging waarvoor Zuboff staat. De periodieke publieke verontwaardiging over het gedrag van techgiganten als Facebook en Google blijft voorlopig zonder gevolgen. De realiteit is dat we nog amper kunnen zonder de gratis diensten die ze aanbieden, van online zoeken tot navigeren via hun kaarten en het onderhouden van contacten. Dat onze privacy erbij inschiet, aanvaarden we berustend.

Zuboff ziet dat anders, al was het maar omdat het verlies van privacy slechts een opmaat is tot het verlies van onze menselijke autonomie en onze democratische waarden.

‘Geen enkele 21ste-eeuwse burger zou zo’n enorme prijs hoeven te betalen om te kunnen genieten van wat goed is aan digitale technologie.’ Daarmee geeft ze aan dat het probleem niet bij de technologie ligt, maar bij de manier waarop een gemuteerde vorm van het kapitalisme - ‘toezichtskapitalisme’ noemt ze het - de digitale droom gekaapt heeft.

Shoshana Zuboff legt 'toezichtskapitalisme' uit

De term ‘toezichtskapitalisme’, die steeds meer in het publieke debat opduikt, is niet het enige begrip dat Zuboff aanreikt om iets te benoemen wat volgens haar zonder precedent én onaanvaardbaar is. ‘We voelen allemaal dat er iets fout zit, maar zolang we het niet exact kunnen benoemen, weten we niet wat we ertegen kunnen doen.’

Ziedaar de ambitie van Zuboff, die in 1988 voor het eerst van zich liet spreken met haar boek ‘The Age of the Smart Machine’. Toen ging het over de impact van computers op onze werkomgeving. Vandaag is heel onze belevingswereld in de greep van de machine.

Zuboff ziet een verontrustende parallel met de industriële maatschappij, die bloeide ten koste van het milieu. De door toezichtskapitalisten aangestuurde informatiemaatschappij dreigt ten koste te gaan van onze menselijke natuur.

Wat verstaat u precies onder ‘toezichtskapitalisme’?

Shoshana Zuboff: ‘Kapitalisme evolueert door zaken die buiten de markt staan binnen de marktdynamiek te brengen en ze beschikbaar te maken voor verkoop. Zo maakte het industriële kapitalisme een product van onze arbeid, die we konden aanbieden aan de fabrieken.'

Toezichtskapitalisme claimt onze private menselijke ervaringen voor de markt en laat ons daarbij zo veel mogelijk in het ongewisse

'Toezichtskapitalisme doet hetzelfde, maar geeft er een donkere draai aan. Het claimt onze private menselijke ervaringen voor de markt en laat ons daarbij zo veel mogelijk in het ongewisse. Door analyse van onze data probeert het ons gedrag te voorspellen, waarna die voorspellingen verkocht worden aan bedrijven.’

‘De pionier was Google, dat na het barsten van de dotcomzeepbel onder druk van investeerders de data van zoekopdrachten ging gebruiken om te voorspellen op welke advertenties we klikken. Na de overstap van Sheryl Sandberg van Google naar Facebook werd ook dat laatste een toezichtskapitalist. Vandaag volgt heel Silicon Valley dezelfde logica.’

‘Meer nog, allerlei sectoren - verzekeraars, banken, de gezondheidszorg, autobouwers - gaan daar intussen in mee. Zo hoopt de autofabrikant Ford de beurswaardering van Google achterna te gaan door een databedrijf te worden.

'De CEO van Ford zei onlangs op een schat van data te zitten van de miljoenen mensen die met een Ford-auto rijden. Hij ziet elke auto als een kleine toezichtsbubbel. Die data kan hij vervolgens combineren met de data van zijn autokredietbusiness. Dankzij die business weet hij al alles over zijn klanten, zegt hij zelf.’

Ford hoopt de beurswaardering van Google achterna te gaan door een databedrijf te worden. Het ziet elke auto als een toezichtsbubbel.

‘Omdat toezichtskapitalisten concurreren op basis van de kwaliteit van hun voorspellingen, schuift de grens steeds verder op. Het begint met volume: voor goede voorspellingen heb je veel data nodig. Dus ga je die overal zoeken. Je hebt ook zo divers mogelijke data nodig, inclusief data uit de reële wereld: waar we wandelen en winkelen, wat we eten, wat we doen in onze wagen en in ons huis (waar een virtuele assistent als Alexa van Amazon ons kan volgen, red.).'

'Dan volgen data die onze emoties en persoonlijkheid in kaart brengen, bijvoorbeeld door onze stem en ons gezicht te analyseren. De laatste stap - de ultieme, ‘zekere’ voorspelling - is het sturen van ons gedrag in de richting van het gewenste commerciële resultaat.’

Kunt u daar een voorbeeld van geven?

Zuboff: ‘Het gaat van de Pokémon Go-rage, die spelers leidde naar cafés en winkels die betaalden om mee te doen in deze markt voor toekomstig gedrag, tot de bekende experimenten waarbij Facebook via subtiele boodschappen op zijn pagina’s het gemoed en het stemgedrag van gebruikers kon beïnvloeden. De betrokken datawetenschappers waren nog trots ook dat ze via de online wereld de reële wereld konden besmetten.’

‘De concurrentiële dwang om ons gedrag stiekem te sturen in de richting van commerciële en politieke doelstellingen betekent een fundamentele schending van onze menselijke autonomie. Ze creëert een manipulatieve wereld van stimulus en respons, van beloning en straf, in plaats van dat we vanuit de vrije wil onze eigen toekomst bepalen. Voor toezichtskapitalisten volstaat het niet lange informatiestromen over ons te automatiseren. Het doel is ons te automatiseren.’

En dat brengt ook onze democratie in gevaar?

Zuboff: ‘Toezichtskapitalisten bezitten de grootste concentratie van kennis in de geschiedenis van de mensheid, en dat voor hun eigen private doelen.'

Onze digitale samenleving er een met een enorme asymmetrie in kennis en macht

'We weten niet eens wat ze weten en we hebben ook niet de autoriteit er iets aan te veranderen. Daardoor is onze digitale samenleving er een met een enorme asymmetrie in kennis en macht. Boven op de gekende economische ongelijkheid krijg je zo een sociale ongelijkheid die antidemocratisch is.’

Hoe hebben we het zover laten komen?

Zuboff: ‘Toezichtskapitalisten zijn meesters in het spuien van mist en het verdraaien van de waarheid. Een goed voorbeeld is voormalig Google-CEO Eric Schmidt. Toen in 2009 een schandaal losbarstte over hoe inlichtingendiensten toegang hadden tot de zoekresultaten van Google, reageerde hij dat zoekmachines inderdaad informatie bijhouden.'

Het is nonsens dat de praktijken van Google of Facebook een onvermijdelijk gevolg zouden zijn van de gebruikte technologie. Maar het publiek slikt die uitleg wel.

'Zie je wat hij doet? Hij zegt dat de technologie dat doet, niet de mensen van Google. Dat hun praktijken een onvermijdelijk gevolg zouden zijn van de gebruikte technologie is complete nonsens. Technologie dient altijd een berekend economisch doel. Maar het publiek slikte zijn uitleg. Dat laat meteen toe critici weg te zetten als mensen die tegen vooruitgang zijn.’

‘Daarnaast kon het toezichtskapitalisme wortel schieten dankzij het complete gebrek aan wetgeving. Met dank aan de decennialange neoliberale aanval op regelgeving, die als een beknotting van de vrijheid werd neergezet.’

U noemt toezichtskapitalisme een kwaadaardige mutatie van het kapitalistisch systeem. In welke zin wijkt het ervan af?

Zuboff: ‘Kapitalisme is historisch geëvolueerd door steeds beter de behoeften van de massa te bevredigen en brede welvaart te creëren. Toezichtskapitalisme doet dat niet. Het maakt een einde aan de typische wederkerigheid tussen het kapitalistisch systeem en de samenleving.'

©rv

'Een eeuw geleden betaalde Henry Ford zijn arbeiders goede lonen omdat hij inzag dat ze op die manier ook klanten van zijn massaproductie konden worden. Toezichtskapitalisten daarentegen hebben ons niet nodig als klanten. Bedrijven zijn hun klanten.’

‘Bovendien hebben ze - op een kern van datawetenschappers na - maar weinig werknemers nodig. General Motors stelde tijdens de Grote Depressie van de jaren 30 meer mensen tewerk dan Google op het hoogtepunt van zijn beurswaarde. Dat leidt tot een systeem dat steeds meer elitair en afstandelijk is.’

Draagt het zo niet de kiem van zijn eigen ondergang in zich? Kijk naar de populistische protestgolven.

Zuboff: ‘Populisme kan op verschillende manieren worden ingevuld. Westerse populisten in landen als Polen en Hongarije hangen autoritaire waarden aan. Het is niet moeilijk zich in te beelden dat ze, net als Donald Trump in de VS, de digitale mogelijkheden kunnen kapen om hun macht te bestendigen. De Chinese overheid gebruikt trouwens al dezelfde instrumenten om haar eigen autoritaire doelstellingen te realiseren.’

‘Een effectieve tegenreactie kan enkel als de publieke opinie zich laat gelden door nieuwe wetten en regelgeving te eisen. Die kunnen voortbouwen op wat al bestaat over privacy en concurrentiebeleid. -'

©Photo News

'Al zal het opbreken van Facebook in verschillende bedrijven niet volstaan. We hebben nood aan een alternatief ecosysteem dat de digitale samenleving weer op het juiste pad zet, met respect voor de menselijke autonomie. Dat betekent concreet dat wijzelf akkoord moeten gaan met de data die gebruikt worden om diensten te verbeteren die wijzelf wensen en waarvan de voordelen integraal naar ons moeten gaan.’

‘Het ‘Aware Home’-project uit 2000 is een perfect voorbeeld. Bij dat universiteitsonderzoek naar de mogelijkheden van een ‘smart home’ was het toen evident dat de huisbewoners de volledige controle behielden over de data en de kennis die via sensors werden gecreëerd. Voor de betrokken datawetenschappers was privacy een heilig principe. Nog geen 20 jaar later lijkt dat een sprookje.’

Gelooft u dat we het tij zullen keren?

Zuboff: ‘Ik ben optimistisch omdat het niet over de technologie gaat, maar over de vorm van het kapitalisme. We hebben als samenleving al meermaals bewezen dat we via democratische weg het kapitalistische systeem weer aansluiting kunnen doen vinden bij onze maatschappelijke doelen.'

'Zo maakten we een einde aan de excessen van de ‘Guilded Age’ door onder meer kinderarbeid te verbieden en collectieve loononderhandelingen mogelijk te maken. Misschien zijn we vergeten dat we die macht hebben.'

'Het Europees Parlement neemt alvast de leiding met zijn GDPR-regels over privacy. Daarnaast moeten enkele grote, geloofwaardige bedrijven mee aan de kar trekken. Apple en zijn CEO Tim Cook kunnen hier een rol spelen.’

Lees verder

Advertentie
Advertentie

Tijd Connect