column

Opstand der academici

Roland Legrand

Grote technologen en innovatoren zijn bewonderenswaardig. Wat ze creëren, verandert de wereld. Dat mensen blij maakt. Maar voor mij doet er ook toe dat ze oog hebben voor het algemeen belang. Dat ethiek een grotere rol speelt dan winstbejag.

Neem Sir Tim Berners-Lee. Hij vond het World Wide Web uit, maar deed niets om zijn intellectuele eigendom te beschermen. In 2012 werd hij tijdens de openingsceremonie van de Olympische Spelen in Londen geëerd, waarop hij in een tweet zijn basisfilosofie weergaf: ‘This is for everyone.’ In de strijd tegen bedrijven en overheden die het internet bedreigen met censuur, fake news, privacyinbreuken en manipulatie werkt hij volop aan Solid, een technologie die de gebruiker moet toelaten de controle over zijn data zelf te beheren.

In Montreal werkt een andere eigenzinnige professor, Yoshua Bengio, een kei in artificiële intelligentie (AI). Samen met Geoffrey Hinton en Yann LeCun ligt hij aan de basis van de vooruitgang van deep learning in de voorbije decennia. Hinton en LeCun gingen voor Google en Facebook werken, Bengio verkoos de Universiteit van Montreal.

Computerwetenschappers trekken aan de alarmbel over het internet en artificiële intelligentie.

Deep learning is vaag geïnspireerd door biologische breinen en leidde tot grote vooruitgang in uiteenlopende sectoren zoals beeld- en spraakherkenning, filters op sociale netwerken, computervertaling en games. Op de World Summit AI in Amsterdam zag ik Bengio met passie over die vooruitgang spreken, terwijl hij met enige spijt toegaf hoe ver we nog verwijderd zijn van een kunstmatige intelligentie die natuurlijke taal echt ‘begrijpt’.

Om onze taal te begrijpen en oorzakelijke verbanden te vatten, moeten computers iets begrijpen van de wereld. Dat kan door een AI-programma op te leiden in een virtuele omgeving, een soort vereenvoudigde simulatie van de wereld. Maar is het verstandig AI steeds verder te laten doordringen in onze werkelijkheid?

‘AI-onderzoek tendeert uit zichzelf naar concentraties van macht, geld en onderzoekers. De beste studenten willen naar de beste bedrijven gaan. Zij hebben veel meer geld en veel meer data’, legt Bengio uit in een gesprek met MIT Technology Review. ‘Zelfs in een democratie is het gevaarlijk teveel macht te concentreren.’

In Financial Times zei professor John Shawe-Taylor, hoofd computerwetenschappen aan het University College London, dat AI-technologie aan de basis ligt van fake news, privacyinbreuken en onveilige data. Hij voelt zich mee verantwoordelijk. Mensen worden zonder het te beseffen gestuurd door algoritmes in wat ze zien en denken te begrijpen. Burgers moeten die duistere mechanismen op een of andere manier kunnen zien en begrijpen. Shawe-Taylor richtte samen met collega’s Scentrics op, dat een technologie aanbiedt die je in staat moet stellen je data te versleutelen en te beheren.

De Oxford-professor Luciano Floridi, een andere spreker op de World Summit AI, is gespecialiseerd in de ethiek van de AI. In een nieuwe paper heeft hij het samen met collega’s over een ethisch kader voor een ‘goede AI-samenleving’. Hij pleit voor ‘uitlegbaarheid’ (‘explicability’), zowel in de betekenis van ‘uitleggen hoe de technologie werkt’ als in die van ‘wie is er verantwoordelijk voor’.

Berners-Lee, Bengio, Shawe-Taylor en Floridi zijn maar enkele van de academici die ik de voorbije dagen bezig zag over informatietechnologie. Universiteiten schonken ons het internet. Nu schenken ze ons de kritische zin en in toenemende mate ook nieuwe technologie om onze basisrechten te verdedigen. De beste dankbaarheid bestaat erin hun kritiek ernstig te nemen en hun technologie proberen toe te passen.

Lees verder

Advertentie
Advertentie
Advertentie
Advertentie

Gesponsorde inhoud

Partner content