opinie

Laten we het debat over de toekomst van AI claimen

Serieondernemer en oprichter en CEO Start it @KBC

Het debat over de toekomst van AI woedt volop nu CEO Sam Altman OpenAI inruilt voor Microsoft. De vraag is of we zo’n debat volledig aan Silicon Valley moeten overlaten, schrijft ondernemer Lode Uytterschaut.

In een podcast van The Wall Street Journal was Sam Altman, tot voor dit weekend de CEO van het bedrijf achter ChatGPT, samen met technologisch directeur Mira Murati nog lyrisch. Over het voortdurend streven naar productverbetering. Over hoe snel het allemaal gaat. Over hun vertrouwen in hun kunnen en hun ambitie om artificial general intelligence (AGI) te maken. Die vorm van kunstmatige intelligentie gooit een hoop AI’s bijeen en creëert zo een kunstmatig brein dat dat van de mens ver overtreft.

  • De auteur
    Lode Uytterschaut is serieondernemer en oprichter en CEO van Start it @KBC, de grootste accelerator voor start-ups in Europa.
  • De kwestie
    CEO Sam Altman ruilt OpenAI in voor Microsoft door een discussie over de gevaren van AI.
  • De conclusie
    Europa heeft wereldwijd de standaard gezet voor privacy. Laten we dat opnieuw doen voor ethiek in AI.

Zover zijn we nog niet, maar veraf is het evenmin. AI’s zoals ChatGPT zitten voorlopig nog aan de paddo’s. Ingenieurs werken naarstig aan het ‘hallucination problem’: hun AI genereert teksten die deels waarheid bevatten en deels verzinsels zijn. De vorm van de tekst is voor die systemen - en wie ze bouwt - belangrijker dan de inhoud.

Dat roept vragen op. Hoe kunnen consumenten beoordelen of de informatie uit zo’n AI juist is? De systemen worden getraind doordat mensen de informatie controleren en opnieuw invoeren, waardoor de info de volgende keer juister is. Maar wat als de informatie zo complex wordt dat mensen ze niet langer begrijpen? En wat als de gegenereerde info zaken bevat die schadelijk zijn voor het voortbestaan van de mens?

Mo Gawdat over de gevaren van AI.

Dat dilemma vindt Mo Gawdat, de voormalige chief business officer van Google X, gevaarlijker voor het voortbestaan van de mensheid dan de klimaatverandering. Hij is ervan overtuigd dat AI op weg is mensen zo tegen elkaar op te zetten dat de mensheid zichzelf vernietigt. De geautomatiseerde ontwikkeling en verspreiding van fake news, en de polariserende en vernietigende impact ervan, is daarvan een mooi voorbeeld.

Hoe geavanceerder de systemen, hoe complexer de AI erachter. De logische oplossing lijkt nog meer AI te ontwikkelen: AI die AI bouwt, op juistheid controleert en vertaalt naar de domme, onbegrijpende mens.

Gentlemen's agreement

Nog het meest verontrustend is evenwel de black box, AI-kuren die zelfs de beste AI-ontwikkelaars niet kunnen verklaren. Dat gebrek aan begrip is gevaarlijk. Het was een van de redenen waarom Elon Musk, een van de oprichters van OpenAI, in maart een open brief ondertekende die smeekte de ontwikkeling van AI-systemen zes maanden te pauzeren tot ‘we begrijpen wat we aan het doen zijn en mogelijke risico’s beter kunnen inschatten’.

Volgens Gawdat hadden AI-experts een soort gentlemen’s agreement om wat ze bouwden niet op het open internet te zetten zonder exact te weten wat ze op de mensheid loslieten. Dat is niet gelukt, en de reden is simpel: commercie. De reactie op de open brief van Google-CEO Sundar Pichai sprak boekdelen. Hij pauzeert niet, want als hij het doet en andere bedrijven niet, loopt hij (verder) achter.

Voor de ethiek kijken de techontwikkelaars gemakshalve naar de overheid. Maar hoe kan die iets reguleren dat ze niet begrijpt?

Zo redeneren ze allemaal. OpenAI, Microsoft, Google, Baidu, enzovoort, racen om de eerste plaats. De vraag is of ze daarbij voldoende aandacht hebben voor veiligheid, privacy, moraliteit en ethiek. Voor dat laatste kijken ze gemakshalve naar de overheid. Maar hoe kan die iets reguleren dat ze niet begrijpt? Op de mensheid wordt iets losgelaten waarvan de makers in de woorden van Murati ‘er alle vertrouwen in hebben dat het niet fout loopt’.

Laten we niet naïef zijn over de ethische en morele overwegingen die mensen maken als ze die systemen bouwen, trainen, voeden en gebruiken. Het is mogelijk al te laat voor een grondig debat over de toekomst van AI en de verantwoordelijkheid van de techontwikkelaars. Toch pleit ik ervoor dat debat vanuit Europa te claimen. Ons continent heeft wereldwijd de standaard gezet voor privacy. Laten we dat opnieuw doen voor ethiek in AI.

Doen we dat niet, dan zijn we totaal onvoorbereid op de werkelijke impact van AI op onze samenleving. Doen we het wel, dan staan we voor een van de grootste positieve evoluties in de geschiedenis van de mensheid.

Gesponsorde inhoud