column

AI en zwarte magie

Steven Stroeykens

Als zelfkritiek het begin van de wijsheid is, dan staat artificiële intelligentie (AI) als wetenschappelijke discipline een gouden toekomst te wachten.

Ali Rahimi, een AI-onderzoeker bij Google, oogstte vorig jaar al langdurig applaus van zijn collega’s op een conferentie, toen hij stelde dat een deel van het onderzoek naar kunstmatige intelligentie aan het verworden is tot ‘alchemie’.

In een recent artikel verduidelijkte hij wat hij daarmee bedoelt. AI-programmeurs gebruiken allerlei algoritmes voor ‘machine learning’ - waarmee computers zelf kunnen bijleren - zonder goed te begrijpen waarom die werken of waarom het ene beter is dan het andere. Veel werk is in essentie gebaseerd op trial-and-error, zonder achterliggend begrip.

Rahimi en de collega’s die hem bijvallen, schuwen de grote woorden niet. ‘Er waart angst door de discipline’, zei Rahimi in het Amerikaanse vakblad Science. ‘Velen van ons voelen ons alsof we met een buitenaardse technologie aan het werk zijn.’

François Chollet, ook van Google, stelt: ‘Mensen troepen samen rond namaakwetenschappelijke praktijken. Het is alsof ze geloven in folklore en magische bezweringen.’

De verwijzingen naar magie of alchemie zijn natuurlijk boutades. Maar misschien hoeven ze ook niet al te zeer te verbazen. Tenslotte heeft het creëren van een kunstmatige mens, een golem, altijd al tot het domein van de alchemie en de magie behoord. En er is het bekende citaat van de sciencefictionschrijver Arthur C. Clarke: ‘Elke voldoende geavanceerde technologie is niet te onderscheiden van magie’.

Rahimi heeft ook concretere kritiek. Hij haalt het voorbeeld aan van een ingewikkeld vertaalalgoritme waaruit onderzoekers bij wijze van experiment de meeste complicaties weghaalden. Het resultaat was dat het vereenvoudigde algoritme betere vertalingen van het Engels naar het Frans of het Duits produceerde. Het toonde aan dat de makers van het oorspronkelijke algoritme zelf niet wisten waar al die complicaties goed voor waren.

In andere gevallen bleken het alleen de toevoegingen, de ‘bells and whistles’ te zijn die een AI-systeem goed deden werken, terwijl de kern van het algoritme niet deugde.

De critici hopen dat een veel rigoureuzere aanpak, met meer systematische experimenten, zoals in andere wetenschapstakken, de problemen kan helpen oplossen.

Maar misschien gaat die hoop wel voorbij aan de realiteit dat artificiële intelligentie niet alleen een wetenschapstak is, maar vooral ook een praktische discipline. Bedrijven verwachten van hun ontwikkelaars snelle resultaten. Liever volgende maand een algoritme dat min of meer werkt dan over twee jaar een doorwrocht en ‘peer reviewed’ wetenschappelijk artikel met een algoritme dat door en door begrepen is.

Trouwens, zo geavanceerd dat ze wel magie lijkt, à la Arthur C. Clarke, is artificiële intelligentie nog lang niet. Of zoals de AI van Google Translate het formuleert in een poging de vorige zin in het Engels te vertalen: ‘So advanced that it seems like magic, artificial intelligence is far from’.

Lees verder

Advertentie
Advertentie
Advertentie
Advertentie

Gesponsorde inhoud

Partner content