Wetenschappers hielpen een korte video maken over Killer Robots. Om de wereld wakker te schudden.

De voorbije week riepen 116 Belgische wetenschappers de Belgische regering op een verbod in te stellen op ‘killer robots’. Dat zijn wapensystemen die doelen kunnen selecteren en aanvallen zonder dat ze door mensen worden gecontroleerd. Dat klinkt misschien theoretisch en voorbarig, maar bekijkt u vooral eens de video ‘Slaughterbots’ (‘Slachtbots’) op YouTube.

De video toont een enthousiaste man die op een podium een verkooppraatje houdt over kleine drones die in je handpalm passen, maar die - net zoals smartphones - uitgerust zijn met sensors, een camera en software die aan gelaatsherkenning doet.

Het ding overtreft honderd keer het menselijke reactievermogen. De drone beweegt zo grillig dat de beste schutter haar niet kan neerhalen. Ook aan boord: 3 gram explosieven.

Zodra je de beslissing over het doden van mensen aan machines overlaat, krijg je zoveel dood als je wil.
Stuart Russell
Computerwetenschapper

De zaal houdt hoorbaar de adem in als de presentator de drone in de lucht slingert. Luid zoemend zoekt ze zich een weg naar een etalagepop. Met een knal doorboort ze haar voorhoofd.

‘Ze zeggen dat niet wapens, maar mensen doden. Dat klopt niet. Mensen worden emotioneel, ze negeren orders’, gaat de presentator verder. Wapensystemen die met artificiële intelligentie (AI) uitgerust zijn, kunnen met chirurgische precisie toeslaan, zonder emotionele uitbarstingen en louter in functie van het doel. Als je die kleine drones in grote zwermen organiseert, zullen ze dankzij AI perfect samenwerken om gebouwen, treinen of vliegtuigen onstopbaar te overweldigen.

Op het podiumscherm wordt een groot vliegtuig getoond waaruit duizenden drones komen. ‘Stuur een zwerm van 700.000 drones op een stad af en ze doden de helft van de inwoners - de slechte helft uiteraard - op basis van criteria zoals leeftijd, geslacht, fitheid en etniciteit’, klinkt het enthousiast.

De hyperrealistische video toont nog meer. Schimmige mannen openen een bestelwagen van waaruit een zwerm drones naar een universiteit vliegt. Een aantal van hen landt op deuren en ramen en blaast die op. Andere zoemen de aula binnen en slachten de studenten af.

Als je je tegenstander op basis van data - zelfs op basis van een hashtag - kan selecteren, kunnen drones hem vinden en uitschakelen. De beelden en het angstaanjagende geluid doen denken aan de Hitchcockklassieker ‘The Birds’ uit 1963, waar een school wordt aangevallen door moordlustige kraaien.

Om u gerust te stellen: de presentator en de aanvallen op de universiteit zijn fictie. De video eindigt met een boodschap van Stuart Russell, professor computerwetenschappen van Berkeley. ‘Het is niet louter speculatie’, zegt hij. Als we de bestaande technologie integreren en miniaturiseren wordt de fictie werkelijkheid. Russell en zijn collega's leverden de ideeën aan voor de video die de wereld moet wakker schudden met een campagne tegen autonome wapensystemen

Slaughterbots

Russell onderzoekt al tientallen jaren AI en ziet enorme positieve mogelijkheden, ook voor defensie. ‘Maar als we machines laten kiezen welke mensen moeten sterven, zal dat onze veiligheid en vrijheid een vernietigende klap toebrengen. We kunnen er nog iets aan doen, maar niet lang meer. Zodra je de beslissing over het doden van mensen aan machines overlaat, krijg je zoveel dood als je wil’, zegt Russell in een interview met de Bulletin of the Atomic Scientists.

Niet iedereen is het eens met Russell. Alvin Wilby is een researchtopman bij de Franse defensiegigant Thales. Volgens hem is geen innovatie nodig om zwermen kleine drones te maken die hun doelen kiezen met slechts een beperkte menselijke inbreng. ‘De geest is uit de fles’, zegt hij aan de BBC.

Tegelijk vindt Wilby dat het internationaal recht genoeg bepalingen over oorlogsvoering heeft om misbruik tegen te gaan. Hij maakt zich vooral zorgen dat pariastaten en terreurbewegingen de technologie zullen gebruiken. Zijn bedrijf legt zich toe op technologie die slachtbots moet counteren.

Hoe dan ook, het verhaal illustreert nog maar eens hoe technologie ook een duistere kant heeft. Het antwoord is voor een deel ‘nog meer technologie’, maar veel hangt ook af van de juiste beslissingen van mensen en hun instellingen. Het internationale debat komt hopelijk nog net op tijd.

Lees verder

Tijd Connect