interview

‘We moeten eerlijkheid inbakken in AI'

©Dieter Telemans

Technologie is niet neutraal. Een van de grootste risico’s van artificiële intelligentie is dat ze menselijke vooringenomenheid weerspiegelt, waarschuwt Francesca Rossi, AI-ethica bij IBM.

Als het over artificiële intelligentie gaat, duurt het zelden lang voor het doembeeld van superrobots die ons leven overnemen ter sprake komt. Veel experts wuiven dat Hollywood-scenario weg, en wijzen naar een veel acuter probleem: onbedoelde vooringenomenheid. Of met de preciezere Engelse term: ‘bias’. Algoritmes nemen steeds meer beslissingen in ons dagelijks leven, van de mensen met wie we op date gaan tot de weg naar het werk die we nemen. Maar in machine learning, de vorm van AI waarbij computersystemen steeds beter worden naarmate ze leren uit de handelingen die ze uitvoeren, voeden algoritmes zich met data, waarin ze patronen herkennen. En data zijn gevoelig voor bias. Gaan er slechte data in een algoritme, dan komen er slechte beslissingen uit.

De voorbeelden van waartoe dat kan leiden, stapelen zich op. In de VS bleek een softwaresysteem waarop rechters zich baseren om mensen al dan niet op borg vrij te laten racistische trekken te hebben. In 2015 bleekt dat het advertentiesysteem van Google jobs met een hoog inkomen veel vaker toonde aan mannen dan aan vrouwen. Telkens het gevolg van onvoldoende diverse data.

Bedrijven en AI-specialisten nemen de topic steeds meer ter harte. De technologiegigant IBM lanceerde deze week software die ontwikkelaars van AI helpt om mogelijke bias te detecteren. ‘Het is belangrijk voor iedereen die met AI bezig is het potentieel van die krachtige technologie in te zien’, zegt Francesca Rossi, bij IBM verantwoordelijk voor de ethische kant van AI. De Italiaanse computerwetenschapster, professor aan de universiteit van Padua, was deze week in Brussel voor de eerste vergadering van de High Level Expert Group on AI van de Europese Commissie. ‘We moeten eerlijkheid zo veel mogelijk inbakken in technologie.’

Welke concrete risico’s zijn verbonden aan vooringenomenheid bij AI?
Francesca Rossi: ‘Als je een systeem wil bouwen dat beslissingen neemt over wie wel en wie geen lening krijgt en je data waarmee je de AI traint, zijn niet inclusief genoeg, dan zal het systeem generaliseren en denken dat geslacht een kenmerk is dat een verschil maakt bij het toekennen van een lening. Daar moeten we altijd voor op onze hoede zijn, want we weten dat wij mensen vooringenomen zijn als we beslissingen nemen. Zelfs onbewust. Nog niet lang geleden was de veronderstelling: hoe meer data hoe beter. Dat klopt nog altijd, maar we weten nu dat niet enkel de kwantiteit belangrijk is.’

Hoe kunnen we voorkomen dat die bias erin sluipt?
Rossi: ‘Het is belangrijk om te overleggen met experts van andere domeinen: sociale wetenschappers, burgerrechtenactivisten, filosofen, enzovoort. Zij hebben dit trouwens op de agenda gezet. Op basis daarvan kunnen de technici oplossingen ontwerpen. Ze moeten zich ook kunnen inleven in situaties die niet uit het persoonlijke leven gegrepen zijn. De aanpak moet multidisciplinair zijn.’

Is regulering het antwoord? Moeten er wetten komen rond eerlijke AI?
Rossi: ‘De technologie ontwikkelt zich volop, en anders dan wat je soms zou denken, is AI niet af. Integendeel, we zitten nog in een primitief stadium. De manier waarop machines bepaalde taken tot een goed einde leren te brengen is vandaag heel succesvol, maar staat nog in de kinderschoenen. Simpele zaken als gezond verstand of een dialoog voeren zijn nog altijd te hoog gegrepen. Maar de komende jaren zal het snel gaan. Volgens mij is het prematuur om nu al aan harde wetten te denken. Het komt erop aan de technologie te sturen terwijl ze ontwikkeld wordt.’

We gebruiken te vaak spelletjes om de vooruitgang van AI weer te geven. Zoals schaken of go. Zo lijkt het altijd of het mens tegen machine is.
Francesca Rossi
Ai-Ethica bij IBM

Betekent dit dat we beter met z’n allen kritischer worden tegenover technologie? Gaan we er te snel van uit dat machines dingen beter doen omdat ze geen kleine menselijke kantjes hebben?

Rossi: ‘Machines en mensen zijn heel complementair. De beste resultaten volgen als we die complementariteit zo goed mogelijk uitspelen. Machines zijn veel beter dan mensen in het herkennen van patronen in enorme hoeveelheden data, en in statistisch en probabilistisch redeneren. Maar wij zijn dan weer veel beter in intuïtie, analogie en waardeoordelen. Studies geven aan dat pas als je mens en machine zo goed mogelijk aan elkaar koppelt, je resultaten krijgt die beduidend beter zijn dan mens of machine alleen. We gebruiken heel vaak spelletjes om de evolutie van AI af te meten, en dat misleidt mensen. Schaken, go, Jeopardy. Daarin is het altijd mens tegen machine. Het lijkt alsof we in AI moeten concurreren met machines. De reden is simpel: spelletjes hebben duidelijke regels, en het is eenvoudig om te meten of je een bepaalde mijlpaal bereikt. Het echte leven werkt niet zo.’

Hoe meer politici de ontwikkeling en het begrip van AI stimuleren, hoe beter.
Francesca Rossi
Ai-Ethica bij IBM

Intussen zet de hype rond AI een internationale wedloop in gang. Politici hebben er de mond van vol.
Rossi: ‘Ze begrijpen dat het heel krachtige technologie is die in veel plaatsen in de maatschappij kan worden ingezet, ook in de regering. Het is goed dat ze een beter begrip willen en daar geld en talent voor vrijmaken. Hoe meer ze de ontwikkeling en het begrip van AI stimuleren, hoe beter. Het helpt ook bepaalde facetten van de hype en de dystopische scenario’s te doorprikken, zoals de notie van een superintelligentie die de wereld gaat overnemen.’

Vladimir Poetin, een van die politici, zei vorig jaar: ‘Wie leidt in AI, leidt de wereld.’ Bent u het daarmee eens?
Rossi: ‘Ik begrijp niet eens wat hij bedoelt als hij zegt: het land dat leider is in AI. De technologie zal op globale schaal worden gebruikt. Het is echt niet constructief om voor de competitieve aanpak te kiezen. Het is heel belangrijk nationaal en internationaal samen te werken.’

Wordt AI vandaag niet overschat? Denken we niet dat AI meer kan dan het eigenlijk kan?
Rossi: ‘Het klopt dat je interactie met Siri op je iPhone tot frustraties kan leiden. Maar weet je nog hoe moeilijk het amper enkele jaren geleden was om tegen een computer te praten? Nu is de spraakherkenning al zoveel beter. Verwacht niet dat je een filosofisch gesprek kan aangaan met je digitale assistent. Maar hij is al heel bruikbaar en hij begrijpt je stem en wat je zegt. Meestal. Nog niet zo lang geleden was dat onmogelijk. De capaciteiten gaan razendsnel vooruit.’

Lees verder

Advertentie
Advertentie

Gesponsorde inhoud