Techreuzen smeken overheid om regels over AI

IBM-topvrouw Gini Rometty leidt woensdag een panel in Davos rond artificiêle intelligentie. ©REUTERS

Het gebeurt niet vaak dat de grote techbedrijven de overheid om meer regulering vragen. Voor meer regels rond artificiële intelligentie (AI) zijn IBM en Google daar wel vragende partij voor.

Gini Rometty, de topvrouw van IBM, zit dinsdag in Davos een panel voor rond artificiële intelligentie, een van de grote thema’s die de wereldleiders op het World Economic Forum bezighouden. Om het debat aan te zwengelen publiceerde IBM maandag voorstellen om de technologie beter te reguleren. De overheid moet volgens het techbedrijf kwaliteitsnormen opleggen om te vermijden dat AI leidt tot discriminatie van vrouwen en minderheden.

Dat dat geen denkbeeldig risico is, bleek onlangs uit de resultaten van een studie door het Amerikaanse National Institute of Standards and Technology (NIST). Die gaf aan dat de bestaande gezichtsherkenningstechnologie, die gebruikmaakt van AI, mensen discrimineert op basis van leeftijd, ras en etniciteit

Ook vormen van sociaal-economische discriminatie zijn niet denkbeeldig als algoritmes bijvoorbeeld beslissen wie van de bank een lening krijgt en wie niet.

IBM, dat zijn relevantie in de techsector de voorbije twee decennia wat is kwijtgespeeld, heeft sterk ingezet op AI en andere disruptieve technologie zoals quantum computing. Het 108 jaar oude bedrijf kwam al in 2010 op de proppen met zijn AI-computer Watson. Met zijn oproep voor meer regelgeving wil het bedrijf tonen dat het een leidende rol blijft spelen in het maatschappelijke debat over artificiële intelligentie.

IBM stelt voor dat bedrijven een AI-verantwoordelijke moeten benoemen, dat ze verplicht worden hun software grondig te testen op mogelijke onbedoelde ‘bijwerkingen’, en dat ze de werking van hun AI-systeem grondig documenteren, zodat achteraf kan worden uitgezocht waarom een systeem een bepaalde beslissing heeft genomen. Zo hoopt het bedrijf te vermijden dat een AI een zogenaamde ‘black box’ wordt, een systeem dat belangrijke beslissingen kan nemen zonder dat iemand kan uitleggen waarom het die neemt.

Sundar Pichai

IBM staat niet alleen met zijn vraag. Ook Google-topman Sundar Pichai schreef deze week in een opiniestuk in Financial Times dat AI ‘te belangrijk is om niet te reguleren’. Pichai roept wel op tot een ‘redelijke’ aanpak die innovatie niet aan banden legt. Die woorden lijken vooral bestemd voor de Europese Commissie, die binnenkort een aantal voorstellen gaat publiceren. Een van de maatregelen die Europa overweegt, is een totaalverbod op gezichtsherkenningstechnologie voor vijf jaar. Pichai sprak maandag voor een Europese denktank in Brussel over AI, en reisde daarna door naar Davos.

De techsector wil een herhaling voorkomen van het Cambridge Analytica-schandaal, waarbij Facebook betrapt werd op het doorgeven van persoonlijke gegevens van miljoenen Amerikanen. Dat schandaal gaf de overheid een excuus om de strenge regels en hoge boetes op te leggen waar de sector zich jaren tegen had verzet. ‘Als we helemaal niets doen, neemt de kans toe dat de overheid zal reageren op een incident en dat de regels van bovenaf worden opgelegd’, zegt Chris Padilla, de directeur publiek beleid van IBM.

Zowel de regering-Trump als de Europese Commissie bestuderen of en hoe ze een wettelijk kader moeten geven aan de ontwikkeling van AI-systemen. De VS lijken meer de klemtoon te leggen op het stimuleren van de nieuwe technologie, terwijl Europa meer aandacht heeft voor de risico’s. Met name in gevoelige sectoren zoals de gezondheidszorg en het transport zou Europa aansturen op strenge veiligheidsmaatregelen.

Lees verder

Advertentie
Advertentie

Tijd Connect