Hoe groot acht u de kans dat AI ons naar de verdommenis helpt?

Ik hoorde het in Keulen donderen, de allereerste keer dat naar mijn ‘pidoem’ werd gevraagd, op een conferentie over de toekomst van AI. Het concept raakt breed ingeburgerd. Ernaar informeren is vergelijkbaar met vragen hoe het met de gezondheid is en of alles oké is met de kinderen.

Het wordt als ‘pidoem’ uitgesproken, maar geschreven als P(Doom): de waarschijnlijkheid - P voor 'probability' - dat artificiële intelligentie een existentieel risico vormt voor de menselijkheid. Je schat ermee in wat de kans is dat AI de mensheid naar de verdommenis helpt. Op die conferentie heb ik van alles gehoord: van een paar procent, tot een stuk over de helft.

Een paar jaar geleden had ik het privilege Nick Bostrom te ontmoeten. Nick is niet bepaald een vrolijke Frans. Hij heeft een P(Doom) van 100 procent en schreef daar met veel verve het boekje ‘Superintelligence’ over. Aan het Future of Humanity Institute in Oxford heeft hij met een groep wiskundigen modellen opgesteld om te berekenen wat onze overlevingskans is als computers slimmer worden dan wij. Nul, dus. Boek Bostrom nooit als motivational speaker, want het publiek strompelt gegarandeerd gedeprimeerd de zaal uit.

Volksmanipulatie

Wie ook heel hard zijn best doet om de AI-bedreiging van de daken te schreeuwen is Sam Altman, de oprichter en CEO van OpenAI. Hij is goed op weg de posterboy van de AI-revolutie te worden. Altman is aan een internationale tournee bezig om alle wereldleiders ervan te overtuigen dat ‘AI toch wel heel gevaarlijk is’.

Het beste optreden van Altman was ongetwijfeld zijn getuigenis in de Amerikaanse Senaat. Zelden heb ik zo'n briljant staaltje van massabeïnvloeding gezien, een masterclass in volksmanipulatie, waar zelfs Guy Verhofstadt nog iets van kan leren. Als u het nog niet gezien hebt: popcorn maken, pinot noir bij de hand en twee uur genieten.

Altman doet zijn uiterste best om de senatoren doodsbang te maken voor de risico’s van AI. En dan zegt hij: ‘Kijk naar medicatie. Gelukkig hebben we de FDA (de Amerikaanse geneesmiddelenwaakhond, red.), anders zouden nogal wat ongelukken gebeuren.’ Briljant opgebouwd. Schijnbaar vanzelf komen de senatoren op het idee dat een federaal agentschap AI moet reguleren.

Het toppunt volgt als een senator zegt: ‘Meneer Altman, superbedankt om ons te komen waarschuwen. Als we zo'n agentschap opzetten, zou het iets voor u zijn om dat te leiden?’ Waarop de lepe vos subliem antwoordt ‘Goh, ik ben enorm geflatteerd. Maar ik heb echt een toffe job.’

Regelgeving

Altman is een van de ondertekenaars van het beruchte manifest van het ‘Center for AI Safety’, samen met de notabelen Bill Gates en Ray Kurzweil. Dat manifest betreft maar één zin: 'Het verminderen van het risico op uitsterven als gevolg van AI zou een wereldwijde prioriteit moeten zijn, naast andere grote maatschappelijke risico's zoals pandemieën en nucleaire oorlog.' Het moet van het CD&V-Kerstmanifest van Joachim Coens geleden zijn dat ik nog zoiets flets heb gelezen.

Altman dreigde ermee Europa links te laten liggen als we onze idiote AI-wetgeving zouden doorduwen. Het is duidelijk dat hij veel noten op zijn zang heeft en het op een sublieme manier speelt. Wie herinnert zich de martelgang van Meta-CEO Mark Zuckerberg en zijn pijnlijke confrontatie met politici? Terwijl Altman duidelijk een next-generation public affairs master is en de politici briljant manipuleert.

Er is regelgeving nodig. Maar of we klakkeloos de oplossingen van de nieuwe keizer moeten aanvaarden is een andere zaak. Timeo Danaos et dona ferentes (Ik ben bang van de Grieken, ook als zij geschenken aanbieden), is een Latijns citaat uit Vergilius' Aeneis. We zijn gebaat bij een stuk minder doemdenken, angst zaaien en stemmingmakerij over AI. Mijn pidoem is minder dan 1 procent.