Digitalisering maakt privacy belangrijker

Stellen dat de coronacrisis versnelde digitale transities in bedrijven en organisaties veroorzaakte, is een open deur intrappen. Telewerken is de norm en dankzij digitalisering kunnen we in lockdowntijden videobellen en e-peritieven. Tegelijkertijd zijn er pertinente vragen over privacy. Vergaderplatformen als Zoom kampten met serieuze beveiligingsproblemen. En er waren de vele discussies over de corona-app (CoronAlert). Voor de ontwikkeling ervan werkte een interdisciplinair team van cryptografen, softwareontwikkelaars, juristen en ethici samen om afwegingen te maken tussen privacy, gezondheid en veiligheid. Het resultaat is een privacybeschermende app die via Bluetooth versleutelde gegevens uitwisselt. De broncode is beschikbaar (open source) en het gebruik van de app is niet verplicht.

In Nederland ging men nog een stap verder. Bedrijven konden hun ideeën voor een corona-app in april publiek voorstellen. Burgers konden de presentaties via livestreaming volgen en vragen stellen. Ethici begeleidden de ontwikkeling van de Nederlandse corona-app (CoronaMelder) vanaf het begin. Afgelopen zomer werd de ethische analyse van de app, opgesteld door hoogleraren, publiek beschikbaar. Een burgerpanel nam deel aan ethische sessies over de app. Het panel gaf feedback, waar ethici, politici en ontwikkelaars vervolgens mee aan de slag gingen. In de maatschappelijke discussies over de corona-app zitten veel kansen en lessen voor de toekomst. Het publieke debat en de nauwe, interdisciplinaire samenwerking zorgden voor betere technologie op ethisch vlak.

Artificiële intelligentie

De strijd tegen het coronavirus gebeurt op verschillende fronten. Daarvoor is de inzet van artificiële intelligentie (AI) essentieel. Algoritmen scannen longfoto’s om te zien of ze besmet zijn met Covid-19. Het Nederlandse CAD4COVID (Computer Aided Detection for COVID-19) werd internationaal gratis ter beschikking gesteld als hulpmiddel bij het detecteren van het virus op röntgenfoto’s. Onderzoekers aan het Massachusetts Institute of Technology (MIT) ontwikkelden een hoestdetector voor Covid-19. Algoritmen leerden verschillende types hoest herkennen. De hoestdetector zal beschikbaar worden als app. De voordelen van een snelle screening zijn duidelijk, zolang de gebruiker ook inzage krijgt in wat er gebeurt met de gegevens, die gevoelige medische informatie kunnen bevatten.

In rioolwater wordt via ‘afvalwatersurveillance’ onderzocht hoe de ziekte zich verspreidt. In Nederland zijn de regionale resultaten publiek beschikbaar en ze worden wekelijks geüpdatet. Als we in de toekomst ‘slimme toiletten’ in huis halen, kan sneller gespeurd worden naar ziektes in de ontlasting. Om data te kunnen herleiden tot individuen, identificeert het slimme toilet personen via vingerafdrukken bij het doorspoelen. De ontwikkeling staat nog in de kinderschoenen. De slimme wc krijgt pas meerwaarde als die wetenschappelijk gevalideerd is. Bovendien lijkt een slim toilet aanlokkelijk in tijden van een mondiale pandemie, maar het kan ook tot onnodig veel extra zorgen en testen leiden, die op hun beurt hoge kosten met zich meebrengen. En ook hier speelt de privacyvraag: wat gebeurt er met die data? Die vragen lijken nu een ver-van-ons-bedshow, maar het is niet onrealistisch dat het slimme toilet ooit een onderdeel wordt van een standaard badkameruitrusting.

Onderhuids

AI-toepassingen zullen in toenemende mate deel uitmaken van onze leefomgeving en zullen letterlijk onder de huid kruipen. Die evoluties gaan gepaard met veel uitdagingen: niet alleen technische, maar ook ethische, sociale, politieke en juridische. De discussies over de corona-app tonen dat we in staat zijn interdisciplinaire uitdagingen aan te gaan. We gaan dat met vereende krachten moeten doen en manieren vinden om er, naast experten, ook burgers bij te betrekken. Technologie wordt niet in een vacuüm ontwikkeld, maar midden in een maatschappij.

Om de risico’s van innovatie in te schatten en ongewenste gevolgen af te wenden ontstonden in de jaren 1960 Technology Assessments (TA) die de impact van innovatie tegen het licht houden. In Nederland gebeuren de analyses door het Rathenau Instituut, een onafhankelijk orgaan in Den Haag. Het instituut adviseert beleidsmakers bij het nemen van beslissingen en betrekt eindgebruikers (burgers), politici, wetenschappers en de ontwerpers in zijn analyses. Helaas heeft Vlaanderen geen onafhankelijk TA-instituut. Het Instituut Samenleving & Technologie werd begin 2013 opgeheven.

Nochtans dienen zich grote maatschappelijke vraagstukken aan op het vlak van innovatie. AI-systemen zetten de privacy verder onder druk. Een dataset kan geanonimiseerd zijn, maar als je meerdere datasets aan elkaar koppelt, kan die anonimiteit misschien verdwijnen. Hoog tijd om samen na te denken over de impact van deze innovaties, onder andere op onze privacy. Laat het debat rond de corona-app daar het startschot van zijn.

Katleen Gabriels, techniekfilosoof (Universiteit van Maastricht) en auteur van Regels voor robots.