analyse

‘Waarom zou het stoppen bij Bach of Shakespeare?'

©rv

Topwetenschapper Stephen Hawking dropte deze week een bommetje. ‘Het kan dat computers zo slim worden dat ze de menselijke soort bedreigen’, zei hij. Een verhaal over briljant schakende machines, domme huishoudrobots en machines met een onbedaarlijke voortplantingsdrang.

In ‘The Terminator’, de film uit 1984 van James Cameron, reist een robot - vertolkt door Arnold Schwarzenegger - uit de toekomst naar het verleden om een jonge vrouw te doden. Want, zo gaat het verhaal, die vrouw zal vele jaren later een zoon krijgen. En die zal nog veel later het verzet leiden tegen een leger van robots die de mensheid naar de verdoemenis proberen te helpen. Door terug te reizen in de tijd en de vrouw te doden nog voor ze een zoon heeft gekregen, wil ‘The Terminator’ de loop van de geschiedenis veranderen. En zo het robotleger vrije baan geven.

Terminator 5 trailer

De angst dat robots ooit zo slim worden dat ze hun menselijke bedenkers opzijschuiven of vernietigen, is zo oud als de robot zelf. Ze vond een populaire uitlaatklep in films als ‘The Terminator’. Recenter gaan almaar meer stemmen op dat zo’n Terminator-scenario niet per se onrealistisch is. ‘Artificiële intelligentie is nu nog primitief, maar zelfs die vorm heeft ons al een eind vooruitgeholpen’, zei de Britse wetenschapper Stephen Hawking deze week. ‘Maar ik ben bang dat de ontwikkeling van een complete vorm van artificiële intelligentie het einde van de menselijke soort kan inluiden.’

De bijna compleet verlamde Hawking zei dat toen hij een vraag kreeg over de software waarmee hij communiceert. Die kreeg onlangs een upgrade waardoor hij zich sneller en makkelijker verstaanbaar kan maken. Was Hawking geweldig onder de indruk van zijn nieuwe speeltje? Misschien. Feit is dat ook Silicon Valley-ondernemer Elon Musk, de man achter de Tesla, onlangs waarschuwde: ‘Met artificiële intelligentie roepen we de duivel op.’ En deze zomer kreeg ‘Superintelligence’, een boek van de Zweedse filosoof Nick Bostrom, veel weerklank. ‘De mens creëert met artificiële intelligentie zelf existentiële risico’s’, zei hij kort na publicatie in De Tijd. ‘Risico’s waarvoor we geen trackrecord qua overlevingskansen hebben.’

Bekijk deze Ted-talk van Nick Bostrom over het eind van de mensheid, en lees zijn paper over de existentiële risico's: 

Nick Bostrom over het eind van de mensheid


Zelflerende schaker

Worden computers op een dag zo intelligent dat ze op eigen houtje beslissen ons uit te roeien? En zijn de kiemen van die dreiging al zichtbaar? Het is maar hoe je het bekijkt, zegt Maarten Boudry, wetenschapsfilosoof aan de Universiteit Gent. ‘Computers worden intelligenter. Hoe intelligent is onduidelijk, en dus voer voor speculatie. Die factor onzekerheid is een ideale voedingsbodem voor onheilsprofetieën. Hoe slim ze vandaag al zijn, hangt af van welk domein je bekijkt. Jij kan huishoudrobots nog niet bijster intelligent vinden, maar de schaakcomputer Deep Blue van IBM, die jaren geleden het schaakgenie Garri Kasparov versloeg, was al in staat zelf te leren. Dus ja, het kan, computers die deels aan onze controle ontsnappen. Ze bestaan al.’

Als een robot eind deze eeuw even slim is als een kind van twee, zal het een prestatie zijn.
Luc Steels, hoogleraar informatica

Dat erkent ook Luc Steels. Hij studeerde computerwetenschappen aan het gezaghebbende MIT en is vandaag hoogleraar informatica aan de Vrije Universiteit Brussel. ‘Computers gaan snel vooruit. Maar de afstand tussen de intelligentie van een mens en die van een machine is nog heel groot. En zal groot blijven. Als een robot aan het einde van de eeuw even slim is als een kind van twee jaar, zal dat een prestatie zijn.’ Steels zit met zijn neus boven op artificiële intelligentie. ‘Hawking niet’, zegt hij. ‘Ik denk dat hij evenveel weet over artificiële intelligentie als een gewone mens over zijn domein, de kosmologie.’ En Elon Musk dan? ‘Denkt u dat dat een expert artificiële intelligentie is?’

‘Kijk naar wat er gebeurt op het vlak van onderzoek. In Europa staat dat op een laag pitje. Er wordt veel meer geïnvesteerd in fysica en biologie dan in artificiële intelligentie. Het Verenigd Koninkrijk liep in de jaren zeventig voorop. Maar het heeft die rol gelost. Vandaag gebeurt er heel veel in de VS. Door bedrijven als Google en Facebook. Maar dat onderzoek spitst zich vooral toe op data-analyse. Er is weinig onderzoek naar grote vraagstukken, zoals hoe menselijke intelligentie tot stand komt, hoe leerprocessen precies verlopen.’

‘Vandaag zien we vooral de rekenkracht van computers snel toenemen. Brengt dat artificiële intelligentie in sneltempo dichter bij die van de mens? Nee. Menselijke intelligentie heeft ook te maken met sociale aspecten, met creativiteit, met kennis over de wereld praktisch toepassen. Vergelijk hoe mensen echt communiceren - met taal die levendig is en vol metaforen zit - en wat je krijgt als je een stuk tekst door Google Translate haalt. Dat zegt veel.’

Er kan een moment komen dat computers zelfbedruipend worden. En dat ze zich in stand willen houden door zich te repliceren.
Maarten Boudry, wetenschapsfilosoof

‘En als computers slimmer worden dan de mens, waarom zouden ze ons dan willen doden?’, vraagt wetenschapsfilosoof Boudry zich af. ‘Deep Blue kon zelf nieuwe strategieën uitdenken, maar dan op zijn eigen domein: hij kon verfijnen wat er was ingestopt. Een andere optie is dat computers zelfbedruipend worden en een evolutionair mechanisme in gang wordt gezet. Dat robots of hun algoritmes zich in stand willen houden door zich te repliceren. Maar ook daarmee zijn we vertrouwd. Alle levende organismen functioneren zo. Maar geen enkele heeft de bedoeling ons te doden. Genen ‘willen’ voortbestaan, en dus kopieën maken van zichzelf via organismen. Niet andere soorten uitroeien.’

‘Het zou wel kunnen dat robots, in hun poging om te overleven, beslag leggen op grondstoffen. Maar dan zouden ze elektriciteit, metalen en siliconen inpikken. Dat is niet wat wij als mens onmiddellijk nodig hebben om als soort te blijven voortbestaan.’ Het succes van doemscenario’s over artificiële intelligentie schrijft Boudry toe aan de menselijke psychologie. ‘We zijn groepsdenkers: onze groep versus buitenstaanders. Mens versus robot, dat is die psychologie tot het uiterste gekneed. Daarom zie je dat thema zo vaak opduiken in sciencefictionfilms. Ook bij erg optimistische scenario’s, zoals de kolonisatie van de kosmos, speelt dat. Technologie die ons zal redden, op een bepaalde manier is het een gedachte die de eindigheid van onze soort bestrijdt.’

‘Het hoeft helemaal niet op extremen uit te draaien’, zegt Boudry. ‘Waarschijnlijker is dat de mens geleidelijk wordt vervangen door een intelligentere soort. Dáár zal technologie mogelijk wel een rol in spelen. Bijvoorbeeld in een evolutie naar een hybride levensvorm. Als wij denken dat we het eindpunt zijn van evolutie, dat onze soort eeuwig zal bestaan - het zou de eerste zijn - dan denken we heel parochiaal. Waarom dan wel? Omdat Bach en Shakespeare hebben bestaan? Misschien is het zelfs wenselijk dat we op termijn als soort worden vervangen. Misschien wordt die nieuwe levensvorm gelukkiger, intelligenter, is die beter in staat om samen te leven.’

Ethiek

Ook Bram Vanderborcht, professor Robotica aan Vrije Universiteit Brussel, vindt dat we ons niet moeten blindstaren op ‘langetermijnscenario’s die moeilijk in te schatten zijn’. ‘Belangrijker is dat we de stappen die vandaag worden gezet, goed uitvoeren. Dat we de mogelijkheden zien die robots bieden. Helpen zorgen voor een snel verouderende bevolking, bijvoorbeeld. Of dokters helpen bij de analyse van een enorme hoeveelheid data. Of een deel van de industrie, en dus ook innovatie, in eigen land houden.’

Hier ziet u Bram Vanderborcht aan het woord over het potentieel van robotica in de zorg:

Het potentieel van zorgrobotica

‘Ondertussen moeten we de ethische aspecten in de gaten houden. We hebben een project met robots die autismepatiënten helpen. Wat we daar doen, wordt constant afgetoetst met filosofen, sociologen, kinesisten, psychologen. Zullen al die stapjes vooruit uitmonden in robots die slimmer zijn dan mensen? Er zijn dwingender vragen. Hoe zullen we creativiteit, dé manier om ons als mens te blijven onderscheiden, zwaarder laten wegen in ons onderwijs? Hoe doen we goede onderzoeksprojecten uitmonden in bedrijfjes? Ondernemen was vroeger een woord met een wat vieze bijklank aan de universiteit, dat verandert gelukkig. Maar Azië en de VS zitten niet stil. Europa moet maken dat het de boot niet mist, zoals het met de ICT-sector deed. De petrochemie, de farma en de auto-industrie heeft Vlaanderen welvarend gemaakt. Als we dat willen blijven, moeten we we mee zijn met de nieuwe golf.’

Bekijk ook de trailer van The Theory of Everything, een film over Stephen Hawking. 

Lees verder

Advertentie
Advertentie

Tijd Connect