column

Brainwash

Roland Legrand

Er zijn zo van de experten in artificiële intelligentie, afdeling gezichtsherkenning, met een merkwaardig gevoel voor humor.

Neem de academici van de universiteit van Stanford die hun onderzoeksproject Brainwash noemden. Ongelukkig toch, in een tijd van grote kritiek op het manipulatief gebruik van data en artificiële intelligentie.

Blijkt dat Brainwash de naam is van een café in San Francisco. De onderzoekers konden er gebruik maken van een livevideostream waarop de klanten te zien waren. Het Stanford Department of Computer Science gebruikte de data voor het ontwikkelen van software voor gezichtsherkenning.

Dan was Microsoft minder onkies met het vinden van een naam. MS Celeb is met ruim 10 miljoen beelden van honderdduizend individuen de grootste publiek toegankelijke databank voor gezichtsherkenning ter wereld. ‘Celeb’ staat voor beroemdheden, maar in werkelijkheid zitten ook vrij gewone mensen in de databank. Toch heeft ook Microsoft, gewild of niet, een zekere dosis humor: bij de beelden zitten er ook van Shoshana Zuboff, auteur van het kritische boek ‘Surveillance Capitalism’.

Biometrische bewakingstechnologie wordt een gegeerd product voor autoritaire regimes.

Ook is er nog de MTMC dataverzameling van Duke University. Hier staat ‘MTMC’ voor ‘multi-target multi-camera’. De beelden komen van bewakingscamera’s op de campus. Het materiaal wordt gebruikt voor het herkennen van gezichten en personen ook wanneer de resolutie laag is.

De drie datacollecties hebben gemeen dat de betrokken burgers niet om instemming werd gevraagd. Ze maken ook alle drie deel uit van het project MegaPixels van Adam Harvey en Jules LaPlace. Vanuit hun standplaats in Berlijn waren die Amerikaanse kunstenaars de dataverzamelingen op het spoor gekomen. Gefascineerd als ze zijn door biometrische bewakingstechnologie maakten ze er een kunst- en onderzoeksproject van, met bijzondere aandacht voor de ethische en maatschappelijke kant van dat soort research.

Meer columns 'Legrand Inconnu' vindt u hier. 

De aandacht van kunstenaars en pers deed de makers van de databanken terugkrabbelen. De krant Financial Times berichtte dat Microsoft zijn MS Celeb wiste. De data -waren inmiddels wel gedeeld met andere onderzoekers.

Harvey en LaPlace stelden vast dat in de drie gevallen de datasets ook werden gebruikt door instellingen die nauw zijn verbonden met autoritaire regimes zoals dat van China. De Chinese overheid zet enthousiast biometrische bewakingssystemen in om de bevolking gedwee te houden. De Chinese expertise ter zake is zodanig dat ook andere autoritaire landen interesse tonen. Biometrische disciplinering als exportproduct dus, met dank aan westerse techbedrijven en universiteiten.

Kunstenaars lijken gevoeliger voor het misbruik van bewakingstechnologie. Het gevaar van AI zit hem niet in een superieure kunstmatige intelligentie die de wereldmacht verovert, maar in wat mensen er op onnadenkende of cynische wijze mee uitrichten. Wilt u achterhalen of uw beeltenis wordt gebruikt in trainingsdatabanken voor gezichtsherkenning, ga dan in januari naar de conferentie voor privacy en dataprotectie (CPDP) in Brussel, waar Adam Harvey zijn nieuwste project voorstelt.

Lees verder