Advertentie

In de greep van het algoritme

©Filip Ysenbaert

Na getuigenissen van een klokkenluider groeit de eensgezindheid over een strengere aanpak van sociale media, die allerlei ongewenst gedrag in de hand zouden werken. Maar weten we eigenlijk wat het probleem precies is? En hoe doe je dat, een algoritme reguleren?

Wat veel Facebook-watchers al lang zeggen, hoorden we vorige week uit de mond van iemand die de interne keuken van het bedrijf kent. Frances Haugen, een voormalige productmanager van Facebook die verantwoordelijk was voor het bestrijden van desinformatie, getuigde in de Amerikaanse senaat over de tegenstrijdige keuzes die Facebook regelmatig moet maken. De zorg voor zijn eigen groei en rendabiliteit staat tegenover de zorg voor zijn gebruikers en de gezondheid van onze maatschappij. Haar conclusie: ‘Winst gaat bij Facebook systematisch voor op het belang van mensen, en uit zichzelf zal het bedrijf nooit veranderen.’

De essentie

Klokkenluider
Frances Haugen, een voormalige Facebook-manager, getuigde vorige week over de schadelijke effecten van het massale gebruik van sociale media, doordat hun algoritmes negatief gedrag versterken. Volgens Haugen beseft Facebook dat perfect, maar doet het niets aan het probleem omdat dat ten koste zou gaan van zijn winstgevendheid.

Regulering

Door de getuigenissen klinkt de roep om regulering weer luider. Maar dat is sneller gezegd dan gedaan. De bestaande wetgeving is niet gemaakt om een complex probleem zoals gedragsmanipulatie door algoritmes aan te pakken. Op nieuwe wetgeving is het nog jaren wachten, en dan nog zal het moeilijk zijn om die juridisch af te dwingen.

Bewustwording

Intussen kunnen we Facebook wel op andere manieren aanpakken, zeggen experts. Door de bestaande wetgeving maximaal te gebruiken, door druk uit te oefenen op adverteerders en door als gebruikers onze rechten op te eisen. Vooral jongeren moeten bewuster en weerbaarder worden gemaakt tegen de verslavende effecten van sociale media.

In een artikelenreeks in The Wall Street Journal maakte de klokkenluidster haar aanklachten concreet (zie onderaan). Uit gelekte mails en documenten blijkt dat Facebook goed beseft dat zijn algoritme problemen zoals anorexia of zelfverminking bij tienermeisjes, politieke polarisatie en gevaarlijke complottheorieën in de hand werkt. Toch past het bedrijf dat algoritme niet ingrijpend aan omdat dat slecht zou zijn voor de cijfers over het gebruik van de Facebook-platformen en de bijbehorende reclamedollars, aldus Haugen.

Voor het eerst lijkt in de Amerikaanse politiek eensgezindheid te groeien dat Facebook - en bij uitbreiding ook andere sociale media - beter gereguleerd moet worden. Maar dat is gemakkelijker gezegd dan gedaan. Heel wat maatschappelijke problemen die aan Facebook toegeschreven worden, zijn een gevolg van subtiele neurologische en psychologische mechanismen waar we het fijne nog niet van weten.

Uit gelekte mails en documenten blijkt dat Facebook goed beseft dat zijn algoritme problemen zoals anorexia of zelfverminking bij tienermeisjes, politieke polarisatie en gevaarlijke complottheorieën in de hand werkt.

Het obsessieve gebruik van sociale media wordt vaak omschreven als een soort verslaving, en volgens recent onderzoek klopt dat beeld ook. Als we content op sociale media posten, worden we daarvoor beloond met aandacht en erkenning van andere gebruikers, waardoor we ‘getraind’ worden om nog meer en nog vaker gelijkaardige content te posten. Elk opgestoken duimpje en elke positieve commentaar bezorgt ons brein een shotje van het zogenaamde gelukshormoon dopamine, waar we na verloop van tijd almaar meer van willen. Een team van de Vrije Universiteit Amsterdam, dat 1 miljoen posts van meer dan 4.000 mensen op verschillende mediaplatformen analyseerde, omschrijft sociale media als ‘een Skinner Box voor de moderne mens’. Skinner was een beroemde gedragswetenschapper die dieren in kooien conditioneerde door hen te belonen als ze bepaalde gedragingen vertoonden.

Olivier Tjon van het marktonderzoeksbureau Beyond Reason, dat onderzoek doet naar de onbewuste drijfveren en voorkeuren van consumenten, kwam vanuit zijn eigen discipline tot dezelfde conclusie. ‘Uit onderzoek dat we gedaan hebben voor bedrijven in de telecomsector blijkt heel duidelijk dat consumenten in de eerste plaats erkenning zoeken op digitale platformen. Dat is een diepe, genetisch ingebakken behoefte van de mens.’

Complimenten en aanmoedigingen

Een jonge vrouw in een leuke jurk kreeg vroeger een handvol complimentjes, vandaag wordt ze online overspoeld met lofbetuigingen.
Olivier Tjon Marktonderzoeker

Erkenning en appreciatie waren voor de vroege homo sapiens essentieel om bevestigd te worden als lid van zijn stam, wat hem de garantie bood op bescherming en hulp van de andere stamleden. Ruim 50.000 jaar later is onze stam misschien een digitaal vriendennetwerk geworden, maar onze hersenen zijn nog altijd afgestemd op het verzamelen van zo veel mogelijk complimentjes en aanmoedigingen. ‘Een jonge vrouw in een leuk jurkje kreeg vroeger misschien een handvol complimentjes, vandaag wordt ze online overspoeld met honderden lofbetuigingen. Zeker voor jongeren die nooit een tijd zonder sociale media hebben gekend, wordt het een problematische verslaving die hen in de echte wereld veel frustraties bezorgt’, zegt Tjon. ‘We zien heel duidelijk dat de nood aan erkenning bij jongeren nog veel groter is.’

De extreme drang naar bevestiging is niet het enige versterkende effect van sociale media. Een uitvoerig beschreven fenomeen zijn de zogenaamde echokamers: hoe meer interactie iemand toont met een bepaald soort inhoud, hoe meer de algoritmes hem ervan zullen voorschotelen, en hoe beperkter zijn blik op de wereld wordt. Een andere vervorming van de werkelijkheid, de zogenaamde ‘popularity bias’, ontstaat doordat algoritmes inhoud selecteren op basis van wat populair is bij andere gebruikers. Op zich lijkt daar niets mis mee, maar onderzoek toont aan dat populaire inhoud vaak ook inhoud van lage kwaliteit is. De algoritmes versterken zo de verspreiding van weinig informatieve bagger. Het kuddegedrag van de mens, die de neiging heeft populaire en emotionele content mee rond te bazuinen, maakt het virale effect compleet.

De algoritmes versterken de verspreiding van weinig informatieve bagger.

Partijen met weinig nobele bedoelingen gooien nog olie op het vuur. Dictators, religieuze extremisten, radicale politieke partijen en amorele ondernemers weten maar al te goed hoe ze via Facebook aan onze emotionele touwtjes moeten trekken en voeden het monster permanent met schadelijke inhoud.

De optelsom van al die distorsies en ‘feedback loops’, de klok rond in een realtimeomgeving met honderden miljoenen mensen, creëert een toxische cocktail met onvoorspelbare gevolgen. Sommigen vinden erkenning door banale kattenfilmpjes te posten, anderen zoeken geborgenheid in groepen die gevaarlijke complottheorieën verspreiden en mensen tegen elkaar opzetten. Terwijl je in de echte wereld op een vorm van sociale controle kan rekenen is die online vaak afwezig.

De onthullingen van klokkenluidster Haugen tonen aan dat de top van Facebook dat allemaal perfect beseft. Alleen is het bedrijf niet geneigd de kip met de gouden eieren te slachten. Emotionele en polariserende berichten mogen dan potentieel schadelijk zijn, ze maken dat we aan onze schermen gekluisterd blijven en klikken en liken dat het een lust is. En elke minuut die we langer aan Facebook of Instagram besteden, levert extra reclamedollars op voor CEO Mark Zuckerberg en zijn aandeelhouders.

Omgekeerd effect

Het is niet dat Zuckerberg doof is voor de kritiek. Maar de remedies die Facebook zelf aanbracht, losten de problemen niet op. Een voorbeeld daarvan was de aanpassing aan het algoritme in januari 2018. Als reactie op de kritiek dat Facebook nepnieuws verspreidde en echokamers creëerde, kondigde Zuckerberg toen aan dat het algoritme voortaan meer gewicht zou geven aan interacties met vrienden en familie in plaats van aan boodschappen van bedrijven en nieuwsmedia. Uit intern onderzoek bleek echter dat de wijziging het omgekeerde effect had. De boosheid, de politieke polarisering en de verspreiding van leugens en desinformatie werden alleen groter, maar toch wilde Zuckerberg niet op zijn stappen terugkeren.

Kan een externe waakhond meer gedaan krijgen? Een pasklaar antwoord is er niet. ‘Vandaag heeft geen enkele regulator de oplossingen om Facebook te herstellen, omdat Facebook hen geen informatie wil geven over de oorzaken van de problemen’, zegt Haugen. Met andere woorden: elke oplossing moet beginnen bij meer transparantie over de werking en de effecten van de algoritmes. En laat dat nu goedbewaarde bedrijfsgeheimen zijn.

De academische wereld vraagt al heel lang om inzicht te krijgen in de Facebook-data, om er onafhankelijk en op een privacyveilige manier onderzoek naar te kunnen doen. ‘De platforms hebben baat bij geheimhouding. Als je hen verplicht tot toezicht door externe partijen zullen ze hun gedrag aanpassen’, zegt Stanford-professor Nathaniel Persily, een van de voorvechters van meer transparantie.

Consumenten zoeken in de eerste plaats erkenning op digitale platformen. Dat is een diepe, genetisch ingebakken behoefte van de mens.
Olivier Tjon Marktonderzoeker

Maar het idee van meer transparantie roept ook nieuwe vragen op. Welke data willen we precies inzien? Wie mag die analyseren? En vooral: zal dat volstaan om het onweerlegbare bewijs te leveren dat de algoritmen ons gedrag beïnvloeden? ‘Dat is moeilijk hard te maken, en het zal altijd tot discussie leiden’, zegt Jan De Bruyne, onderzoeker van het Leuvense Centre for IT & IP Law (CiTiP).

De Europese Commissie heeft dit jaar een eerste aanzet gegeven voor een AI-richtlijn, die een wettelijk kader moet scheppen om lerende algoritmes en systemen met artificiële intelligentie (AI) te reguleren. Maar het kan nog jaren duren voor die wetgeving van kracht is. Bovendien is er nog een verschil tussen het formuleren van algemene principes en de toepassing daarvan, waarschuwt De Bruyne. ‘Het zal misschien verboden worden om mensen subliminaal te manipuleren, maar hoe toon je zo’n manipulatie concreet aan? Dat dreigt een groot welles-nietesspel te worden. We mogen het belang van dat procedurele luik niet over het hoofd zien.’

Voorlopig moeten we het doen met bestaande wetgeving, die niet gemaakt is om de impact van algoritmes te sturen. De Europese GDPR-datawetgeving bevat beperkingen op het profileren van gebruikers op basis van persoonsgegevens. Die zou je kunnen gebruiken om de algoritmes enigszins aan banden te leggen - opnieuw op voorwaarde dat we meer inzicht krijgen in de werking ervan.

Een andere piste is het gebruik van antitrustwetgving om Instagram en WhatsApp af te splitsen van het Facebook-imperium, waardoor het bedrijf minder machtig zou worden. Daarvoor moet je evenwel kunnen hardmaken dat Facebook misbruik maakt van een monopoliepositie. De meeste juristen geven het weinig kans.

Acties

Facebook heeft een rechtstreekse lijn met adverteerders. Je kan hen ook sensibiliseren om actie te ondernemen.
Rob Heyman
Lead bij het kenniscentrum Data & Maatschappij bij imec-SMIT

Volgens Rob Heyman, lead bij het kenniscentrum Data & Maatschappij bij imec-SMIT (VUB), mogen we niet alleen op de wetgever en rechtbanken vertrouwen om zaken in beweging te krijgen. ‘Facebook heeft een rechtstreekse lijn met adverteerders. Je kan hen ook sensibiliseren om actie te ondernemen.’

Verschillende grote bedrijven kondigden vorig jaar een boycot van Facebook af omdat ze vonden dat het platform te laks omging met haatboodschappen en andere negatieve inhoud. Volgens de Anti-Defamation League, een van de burgerbewegingen die tot de boycot had aangezet, heeft de actie gedeeltelijk succes gehad. De vraag is of grote adverteerders bereid zijn tot nog hardere en langere acties om grondige veranderingen af te dwingen.

Ook de gebruikers van de socialemediaplatformen kunnen meer doen om hun rechten te vrijwaren, vindt Heyman. Hij geeft het voorbeeld van de Oostenrijkse burgerrechtenactivist Max Schrems, die gebruikmaakte van zijn recht om alle persoonlijke data op te vragen die Facebook van hem bijhoudt. Na een kafkaiaanse procedure kreeg hij die toegestuurd in de vorm van een paar kilo papier. ‘Als mensen massaal gebruikmaken van hun recht op inzage kan Facebook dat niet bolwerken, en wordt het gedwongen een automatisch systeem te ontwikkelen om iedereen inzage te geven.’

We moeten niet alle verantwoordelijkheid bij de platformen leggen. We kunnen ook de verspreiders van gevaarlijke content aanpakken, zegt Heyman. Klokkenluidster Haugen riep de Amerikaanse politici op een einde te maken aan ‘Section 230’, een wet die digitale platformen ontslaat van verantwoordelijkheid voor de inhoud die hun gebruikers publiceren. Maar ook dan kom je al snel op glad ijs: willen we dat sociale media proactief beslissen welke boodschappen ze plaatsen en welke niet, en beperkt dat niet het recht op vrije meningsuiting?

Een wonderoplossing is duidelijk niet voor morgen. De beste optie die we hebben, zeggen de experts, is de bewustwording en de weerbaarheid van de gebruikers - en zeker van jongeren - te verhogen. Velen maken nu de vergelijking met de grote tabaksbedrijven, die hun klanten willens en wetens verslaafd hebben gemaakt aan hun product. Maar ondanks decennia van antirookcampagnes en miljardenboetes voor de bedrijven hebben we dat probleem vandaag nog niet onder controle.

Wat zeggen de ‘Facebook-files’?

Frances Haugen publiceerde haar onthullingen in een artikelenreeks in de zakenkrant The Wall Street Journal. Wat leren we daaruit? Een groep van enkele miljoenen vipgebruikers is vrijgesteld van de regels die Facebook andere gebruikers oplegt, onder meer over pestgedrag en aanzetten tot geweld.
Onderzoek door Facebook-dochter Instagram toont aan dat jonge meisjes mentaal geschaad worden door veelvuldig gebruik van de app. In het openbaar heeft Facebook dat probleem altijd geminimaliseerd. Meer nog, in het bedrijf werden strategieën ontwikkeld om meer jonge meisjes (12 jaar en jonger) aan te trekken omdat die een ‘waardevol en onderbediend doelpubliek zijn’.
Het platform wordt in ontwikkelingslanden misbruikt door drugskartels en mensenhandelaars. Facebook reageert daar niet of nauwelijks op.
Een goedbedoelde poging om vaccinaties tegen Covid-19 aan te moedigen, werd door tegenstanders van de vaccins misbruikt om valse informatie te verspreiden. Ze gebruikten tools die Facebook zelf in het leven had geroepen om twijfel te zaaien over de pandemie en de bestrijding ervan.

Lees verder

Advertentie
Advertentie
Advertentie
Advertentie

Gesponsorde inhoud

Gesponsorde inhoud