Protest na ontslag Google-onderzoekster

Google in Mountainview, Californië ©BELGAIMAGE

Een experte in de ethiek van artificiële intelligentie werd de deur gewezen bij Google. Honderden personeelsleden protesteren tegen de maatregel. Ook extern klinkt luid protest.

Timnit Gebru is zwart en wees er in haar onderzoek naar gezichtsherkenning op dat nogal wat systemen slecht presteren bij het identificeren van gezichten van zwarte mensen. Ook wijst ze op een gebrek aan diversiteit in bedrijven, ook bij Google.

Het conflict dat uitmondde in haar vertrek heeft te maken met een paper die vragen stelt bij grote taalmodellen. Dergelijke modellen laten toe dat machines teksten produceren die vrijwel niet van menselijke teksten zijn te onderscheiden. Als specialist in de ethiek vroeg Gebru zich af wie belang heeft bij dergelijke technologie en wie er eventueel door wordt benadeeld.

Het gevaar bestaat dat dergelijke modellen vooroordelen en haatspeech overnemen omdat ze getraind worden op basis van enorme hoeveelheden bestaande teksten. Ook merkte ze op dat dergelijke modellen bijzonder veel energie verbruiken.

Gebru is co-auteur van de paper, waar ook andere onderzoekers van Google en van de University of Washington aan meewerkten. In het bedrijf ontstond discussie over de inhoud. Volgens leidinggevenden zou te weinig aandacht gaan naar manieren waarop de risico's en nadelen van taalmodellen worden beperkt. Ook werd haar een interne mail kwalijk genomen waarin ze het gebrek aan diversiteit scherp aanklaagde.

Google zegt dat Gebru zelf ontslag nam, wat ze ontkent.

Lees verder

Advertentie
Advertentie

Gesponsorde inhoud