Ethisch besturingssysteem

De topman van Facebook, Mark Zuckerberg, zit verstrikt in niet-aflatende ethische discussies over zijn levenswerk. ©AFP

Stel dat je aan een nieuwe technologie of online dienst werkt, waarvan je hoopt dat die de wereld verandert. Of toch het leven van velen beïnvloedt. What could possibly go wrong?

Wel, dat je innovatie wordt gebruikt op een manier die de wereld slechter maakt. Denk aan Mark Zuckerberg, die mensen wereldwijd wil verbinden - en daarmee heel erg rijk is geworden - maar die wordt verguisd als de schepper van een systeem dat verdeeldheid, haat en manipulatie zaait.

Adverteerders met naam en faam laten Facebook tegenwoordig demonstratief links liggen. Personeelsleden stellen Zuckerberg kritische vragen en tonen hun ongenoegen. De vraag is nu of bedrijven niet beter kunnen anticiperen op zo’n situaties.

Ethical OS

Het Omidyar Network vindt van wel. Die organisatie is opgericht door Pierre en Pam Omidyar. Pierre Omidyar is de oprichter van de veilingsite eBay en inmiddels miljardair. Het Omidyar Network wil het kapitalisme heruitvinden en technologie stimuleren die goed is voor de samenleving. Een van zijn projecten heet Ethical OS of Ethisch Besturingssysteem. Het wil technologen helpen geen spijt te krijgen van de dingen die ze bouwen.

Op ethicalos.org kan je de ‘toolkit’ downloaden. Die ziet eruit als een professioneel kaartensysteem dat een structuur biedt om over netelige ethische kwesties te praten.

Er is een collectie van acht risicozones. Die gaan van misbruik van een systeem door gebruikers die haat willen zaaien over het stimuleren van dwangmatig gedrag tot vooroordelen die ongewild in algoritmes worden binnengesmokkeld. 

Het Ethical OS wil ondernemers en technologen helpen geen spijt te krijgen van de dingen die ze bouwen.

Per risicozone worden checklists met concrete vragen voorgesteld. Die gaan ook over het zakenmodel: is dat gebaseerd op het veroorzaken van gedrag dat naar verslaving neigt? Hoe zou extreem gebruik van het product of de dienst eruitzien? Zijn er manieren om aan te zetten tot een gematigd gebruik en wat zijn dan de gevolgen voor het zakenmodel?

Om discussies op gang te brengen worden 14 scenario's voorgesteld die telkens beginnen met 'Ben je klaar voor een wereld waarin...'. Zoals een wereld waarin sociale media worden beheerst door bots die mensen perfect nadoen en die op een persoonlijke en gerichte manier gebruikers opinies aanpraten.

Ethische ontdekkingsreizigers

Het Ethical OS ziet er fraai uit. Maar om in een technologiebedrijf te zeggen 'laat ons eens praten over ethiek' zijn lef en overtuigingskracht nodig.

Daarom lanceert Omidyar Network het Ethical Explorer Pack. Dat is een soort handleiding met tip en tricks die ‘ethical explorers’ kunnen gebruiken om hun organisaties tot ethisch denken aan te zetten.

Het is een steun in de rug voor de vele techwerknemers die met grote vragen zitten over wat ze doen en die op zoek zijn naar een professionele manier om die vragen op de bedrijfsagenda te zetten. Bovendien komt die steun van een netwerk dat zijn strepen in de techbusiness verdiend heeft.

Er worden antwoorden gesuggereerd op klassieke tegenwerpingen als: ‘Ethiek? Dat is veel te filosofisch voor een bedrijf’. Ook dit keer is gekozen voor een professioneel ogende toolkit, te vinden op ethicalexplorer.org.

Had Mark Zuckerberg maar Ethical Explorer en Ethical OS kits gehad toen hij Facebook op de rails zette. Hij zou mogelijk wat minder winst maken, maar hij zou voor de langere termijn wel veiliger zitten.

Lees verder

Advertentie
Advertentie