Laten we computers en AI inzetten zoals in de jaren 60
Soms lijkt het alsof ChatGPT alle antwoorden in huis heeft. Maar wat het algoritme berekent, is niet altijd het antwoord op de vraag. Misschien moeten we wat meer aandacht geven aan de beperkingen van computers en AI, schrijft wiskundeprofessor Ann Dooms.
ChatGPT lijkt tegenwoordig het portaal naar alle bestaande kennis en kunde. Van student tot bedrijfsleider, allemaal vertellen ze er enthousiast over. Het idee leeft dat je elke mogelijke vraag kan voorleggen, waarna de servers van OpenAI gaan datacrunchen om vervolgens het antwoord realtime te formuleren. Dat de marketing van de grote techspelers over hun taalmodellen doet uitschijnen dat dat allemaal zomaar - gratis bovendien - mogelijk is, is niet alleen jammer, maar ook gevaarlijk.
Ik kan er niet genoeg op hameren dat het model noch een encyclopedie noch een spitsvondig genie is. ChatGPT kan een nuttig werkpaard zijn om bepaalde zaken snel te automatiseren, maar als gebruiker moet je een expert zijn in wat je de chatbot vraagt. Hoe specifieker de prompts, hoe meer kans op bruikbare output. De enthousiastelingen met grote, maar onrealistische verwachtingen over de technologie raad ik dan ook steevast aan met de bot een gesprek aan te gaan over dingen waarover ze veel weten. De bot met eigen ogen zien falen is de beste les in verantwoord gebruik.
Ik raad altijd aan om een gesprek aan te gaan met ChatGPT over een onderwerp waarover je veel weet. De bot met eigen ogen zien falen is de beste les in verantwoord gebruik.
Zo stel ik de engine geen vragen over wiskunde. Tenzij ik net misconcepties wil ontdekken, want foute antwoorden kunnen een indicatie zijn van hardnekkige misvattingen of courante denkfouten. Ik gebruik hem wel af en toe voor puur taalgerelateerde vragen, zoals het vinden van goed bekkende acroniemen voor projecttitels (een aanrader!) of het samenvatten van verslagen van zittingen van het Vlaams Parlement. Maar ik zet hem hoofdzakelijk in voor het schrijven van stukjes computercode.
Bij dat laatste ben ik zeer gedetailleerd in mijn vraag en beperk ik me tot code voor simpele procedures of algoritmes die het model zeker veelvuldig tijdens training heeft gezien. Ik blijf aan het stuur zitten om alle output te verifiëren, te corrigeren, aan elkaar te lijmen en aan te vullen met nieuwe zelfgeschreven code. Dat levert een enorme tijdwinst op, waardoor ik me kan concentreren op nieuwe, creatieve aspecten van de implementatie van mijn onderzoeksbevindingen.
Rekenmachine
Eigenlijk gebruik ik ChatGPT zoals ik de rekenmachine op mijn smartphone gebruik. Zonder mijn zakrekenmachine zou ik hulpeloos zitten cijferen op blaadjes papier en onderweg allicht slordige rekenfouten maken. Om nog maar te zwijgen over hoelang het zou duren om exponenten of een sinus met de hand aan te pakken. In tegenstelling tot wat velen denken is een wiskundige niet altijd een rekenwonder, wel een meester in het bedenken van de benodigde berekeningen. Die voer ik in de rekenmachine in, die het saaie procedurele cijferen voor haar rekening neemt. Op dezelfde manier gebruik ik ChatGPT vooral voor het schrijven van stukken code waarmee ik zelf wel even zoet zou zijn, maar waarover ik in se niet moet nadenken, secuur zijn volstaat.
We zin een wildgroei aan vragen aan ChatGPT, die het model met plezier beleefd beantwoordt. Maar wat het algoritme berekent, is in de meeste gevallen niet het antwoord op de vraag.
Als je aan een rekenmachine evenwel foute berekeningen vraagt, zal ze die ook gezwind uitvoeren, zonder te melden dat die niet de oplossing zijn voor je probleem. Zo zien we nu ook een wildgroei aan vragen aan ChatGPT, die het model met plezier beleefd beantwoordt. Maar wat het algoritme berekent, is in de meeste gevallen niet het antwoord op de vraag. Dat beseffen we veel te weinig.
Alan Turing
Ik hoop dan ook dat de huidige AI-golf zal verlopen zoals de computergolf in de jaren 60. Die maakte onder andere berekeningen voor de ruimtevaart mogelijk die handmatig veel te veel tijd in beslag hadden genomen.
Dat is trouwens de reden van het bestaan van de digitale computer. De wiskundige Alan Turing pakte in de jaren 30 namelijk een fundamenteel probleem in de logica aan: is het mogelijk een algoritme te ontwerpen dat in eindige tijd - en dat mag lang duren - kan nagaan of de waarheid van een wiskundige uitspraak te bewijzen valt? Turing toonde aan dat er altijd uitspraken zullen zijn waarvoor we dat niet kunnen, wat een schokgolf in de wiskunde teweegbracht.
Voor zijn bewijs ontwierp hij een model voor een machine die elk algoritme dat eindige tijd in beslag neemt kan uitvoeren. Vervolgens begon de wedloop om die machine te maken en nadien om ze correct te gebruiken. De eerste programmeurs waren wiskundigen, omdat de berekeningen nodig voor de ruimtevaart net oneindige sommen en limieten gebruiken waarmee een computer niet overweg kan. Zij moesten dus slimme benaderende berekeningen programmeren die de computer wel kon uitvoeren.
Laten we computers uitgerust met AI opnieuw inzetten waarvoor ze dienen: als een krachtige rekenslaaf waarvan de gebruiker meester is.
In die 60 jaar is dat DNA van de computer niet gewijzigd, wat ook de mogelijkheden van de AI die we erop draaien beperkt. Het is dus tijd om naast het optimisme over de mogelijkheden opnieuw aandacht te geven aan de fundamentele beperkingen van computers en AI. We hebben opnieuw veel wiskundigen nodig om AI-algoritmes te ontwerpen die een realistische en betrouwbare benadering geven van oplossingen. Van de meeste problemen weten we zelfs niet of dat lukt, maar - net zoals men denkt dat ChatGPT alle antwoorden in huis heeft - men doet wel alsof. En laten we computers uitgerust met AI opnieuw inzetten waarvoor ze dienen: als een krachtige rekenslaaf waarvan de gebruiker meester is.
Meest gelezen
- 1 Urenlang ondervraagd en huizen doorzocht: Didier Reynders verdacht van witwassen via loterijspelen
- 2 Chaos in Zuid-Korea: president heft staat van beleg op na clash met parlement
- 3 Voedingsreus Cargill schrapt duizenden jobs, in België verdwijnen 164 banen
- 4 Belasting op fossiele bedrijfswagens dreigt met 10 procent te stijgen
- 5 CEO Le Sanglier des Ardennes in Durbuy na brand: 'We waren op weg naar een recordmaand'