column

Ethische breuk bij Google

Digitaal nieuwsmanager

Ethiek in Artificiële Intelligentie (AI). Wie kan daar tegen zijn? Maar de concrete uitvoering is moeilijker dan gedacht.

AI bepaalt wat je nieuwsfeed op Facebook toont, welke video’s YouTube of Netflix je aanbevelen, vergemakkelijkt het sorteren van je foto’s op je smartphone, helpt artsen bij het stellen van een diagnose en de politie bij het voorspellen van misdaden, en het schrijft autonoom rijdende wagens ethisch gedrag voor. Al die dingen zijn interessant én in uiteenlopende mate controversieel.

Ethisch advies leveren wordt straks nog een lucratief knelpuntberoep. Neem Google, dat eind maart een adviesraad oprichtte: de Advanced Technology External Advisory Council (ATEAC). Daarin zitten technologen, beleidsexperts en ethici. Of beter gezegd ‘zaten’, want de raad is opgedoekt. Google had nog zo zijn best gedaan, mogelijk te veel zelfs. Logisch, want diversiteit en inclusie zijn belangrijk, en ongevoeligheid op dat vlak wordt ongenadig afgestraft in het publieke debat.

Heritage Foundation

Sinds enige tijd klagen rechtse opiniemakers dat hun meningen door toedoen van de internetgiganten in Silicon Valley minder aan bod komen. Ik denk dat Google daar bij de samenstelling van zijn adviesraad rekening wou mee houden. In de achtkoppige raad zetelde immers Kay Coles James, de voorzitster van de conservatieve denktank Heritage Foundation. Ze steunde president Donald Trump toen die via het afkondigen van de noodtoestand zijn grensmuur wou financieren, en zou ook tegen transgenderrechten zijn.

In de discussies over ethiek en AI blijkt al snel hoe verdeeld de samenleving is.

Personeelsleden van Google organiseerden prompt een petitie waarin ze zeiden dat voor hun werkgever dicht bij de macht staan belangrijker is dan het welzijn van LGTBQ-mensen. Ter info: de lettersoep LGTBQ staat voor lesbisch, homo, transgender, biseksueel en ‘queer’ (dat laatste woord verwijst naar een brede seksuele diversiteit). Staat dit ver van AI en ethiek? Nee, want er is discussie over algoritmes die worstelen met huidskleuren en genders. Voor je het weet, slepen algoritmes maatschappelijke vooroordelen met zich mee.

Ook bij de raad zelf was er onvrede. Een lid, professor Alessandro Acquisti, stapte op. Hij legt zich toe op rechtvaardigheid, rechten en inclusie in AI, maar vond dat de raad toch niet het juiste forum voor hem was. De wereldvermaarde filosoof en ethicus Luciano Floridi van Oxford University stapte niet op, maar trok in een post op Facebook scherp van leer tegen de benoeming van Kay Coles James. Floridi is gekant tegen de opvattingen van de Heritage Foundation en haar voorzitster over klimaatverandering, gendergelijkheid, immigratie en LGTBQIA-rechten (de extra letters ‘IA’ staan voor ‘interseks’ of niet beantwoordend aan de conventionele definities van mannelijke en vrouwelijke lichamen en voor ‘aseksueel’ dan wel ‘ally’ voor ‘bondgenoten’).

Inclusief

Inclusiviteit is toe te juichen, maar heeft een andere cultureel-politieke strekking dan geen rechten op vertegenwoordiging in de raad? In dit geval niet, volgens Floridi. ‘Google heeft verkeerd beoordeeld wat het betekent representatieve opinies in een bredere context te hebben’, stelt de academicus. De standpunten van de Heritage Foundation druisen volgens hem in tegen de AI-principes die Google-CEO Sundar Pichai publiek maakte in een blogpost.

De hele discussie werd een pr-nachtmerrie voor de internetgigant. Google besloot dat ‘in die omgeving’ de raad niet kon werken. ‘Terug naar de tekentafel’, klonk het schaapachtig. Of hoe het denken over AI ons een spiegel voorhoudt, waarin de maatschappelijke breuklijnen pijnlijk duidelijk te zien zijn.

Lees verder