Europese regels moeten wantrouwen tegen slimme computers wegnemen

De Europese Commissarissen Margrethe Vestager (digitale toekomst) en Thierry Breton (interne markt) stelden dinsdag de nieuwe digitale strategie voor.

Met een ambitieuze strategie rond artificiële intelligentie (AI) en data wil de Europese Commissie vertrouwen wekken in nieuwe digitale technieken, en meer kansen bieden aan Europese bedrijven.

Commissievoorzitter Ursula von der Leyen pakte woensdag uit met de langverwachte plannen over een Europese strategie rond AI-systemen en digitale data, die ze bestempelde als de ‘belangrijkste brandstoffen van de digitale economie’. De inzet is bijzonder groot. AI is een koepelbegrip voor nieuwe vormen van software waarmee machines zelfstandiger en sneller beslissingen kunnen nemen en voorspellingen kunnen doen.

De opmars van AI heeft alles te maken met de overvloed aan data in onze gedigitaliseerde, genetwerkte maatschappij. Dankzij al die digitale data kunnen AI-algoritmes steeds meer statistische verbanden leggen en in sneltempo leren hoe de wereld in elkaar zit.

Geen enkel onderdeel van de economie en maatschappij blijft van die digitale revolutie gevrijwaard. Lerende computers kunnen betere en snellere medische diagnoses maken, repetitieve taken overnemen van kantoorwerkers, auto’s en treinen besturen, misdaden helpen op te lossen, en nog veel meer.

Discriminatie

Maar de datarevolutie brengt ook risico’s met zich mee. De data waarmee een AI-systeem gevoed wordt, kan bestaande vooroordelen en discriminaties versterken. Denk aan een bankalgoritme dat sociaal achtergestelde minderheidsgroepen uitsluit van een lening, of een systeem dat een levensverzekering weigert aan mensen met kans op een erfelijke afwijking. Uit onderzoek is al gebleken dat zogenaamd slimme camerabewakingssystemen vaker alarm slaan bij mensen met een niet-blanke huidskleur.

Een ander type risico draait rond veiligheid en aansprakelijkheid. Het klassieke voorbeeld is de zelfrijdende wagen: hoe weten we zeker dat die elke verkeerssituatie perfect kan inschatten? En wie is verantwoordelijk als toch een ongeval gebeurt? De autofabrikant, de leverancier van de software of de persoon in de cockpit?

Om voldoende vertrouwen te scheppen in de nieuwe technologie gaat de Commissie uit van een paar grote principes, zoals de eis dat mensen een oogje in het zeil moeten houden en dat computerbeslissingen transparant en uitlegbaar moeten zijn.

Hoog risico

Er komt ook een strenger regime voor activiteiten met een ‘hoog risico’. Die lijst moet nog worden vastgelegd, maar we mogen ervan uitgaan dat het gaat om kritische activiteiten in onder andere de medische, de transport- en de energiesector en bewakings- en politiediensten. Voor die risicosectoren gaat de Commissie specifieke standaarden en verplichtingen opleggen die de overheid zal controleren. Vergelijk het met het conformiteitsattest voor auto’s, of het CE-label dat allerlei gebruikstoestellen moeten behalen om in Europa op de markt te mogen komen.

Het andere belangrijke luik van de Europese digitale strategie is de ‘eenheidsmarkt voor data’. Er moeten duidelijker regels komen over wie welke data mag gebruiken en voor welke toepassingen. Europa hoopt een industriële strategie rond data uit te bouwen, waarbij in Europa gegenereerde data meer ten goede komen van Europese bedrijven. Daartoe wil de Commissie ‘data spaces’ in het leven roepen, grote verzamelingen data die alle bedrijven in een bepaalde sector kunnen gebruiken. 

Een open vraag blijft hoe de Commissie zal omgaan met het gebruik van persoonlijke data door grote techbedrijven zoals Google en Facebook. Critici roepen al langer op om ook de concurrentiewetgeving uit te breiden naar data, zodat de Commissie voorwaarden kan opleggen aan bedrijven die een al te dominante positie hebben in de datamarkt.

Voorbeelden van artificiële intelligentie
Bij artificiële intelligentie denken we vaak aan de autonoom rijdende auto die ons in de toekomst vlot en veilig op onze bestemming brengt. Maar ook vandaag speelt AI een rol in ons leven.

De chatbot raakt almaar meer ingeburgerd. Bij Bol.com voert de zelf ontwikkelde Billie in de drukste maand (december) 15.000 gesprekken per dag. De chatbot kent het antwoord op 500 vragen en heeft zelf geleerd dat 'validatiecode' hetzelfde betekent als 'verificatiecode'.

KBC gebruikt al bijna twee jaar de chatbot Kobe in het contact met zijn klanten. In een op de vier gevallen lost Kobe de vraag volledig autonoom op. 'Als een medewerker de klant alsnog moet voorthelpen, verwijst die laatste vaak naar het gesprek met 'collega Kobe'. Het gesprek wordt dus als authentiek ervaren, zegt een woordvoerder. In de KBC Mobile-app kan een deel van de klanten gebruikmaken van de livechatbot. 

Ook televisiezenders maken gebruik van AI. Ze gebruiken software van Mediagenix om automatisch te programmeren tijdens de daluren. De planners van zenders kunnen zich zo volledig toeleggen op de programmatie voor de piekuren.

De geneeskunde is een van de domeinen die AI het snelst omarmt, vooral bij het stellen van een diagnose. De voorbeelden zijn legio. Zo helpt de slimme huidscanner Demetra van Barco dermatologen huidvlekjes op te volgen. In Nederland is een zelflerende computer ontwikkeld die live tijdens een onderzoek voorstadia van slokdarmkanker beter herkent dan de dokter.

 

Lees verder

Advertentie
Advertentie

Gesponsorde inhoud