Technologie, een mens wordt er manisch-depressief van.

Aan de ene kant: opwindende technologische vooruitgang: drones, artificiële intelligentie, biotech, nanotech, informatietechnologie. Zoals de futurist en ondernemer Peter Diamandis in de weekendkrant zei: er komt een tijdperk van overvloed aan. Op onze Facebook-pagina klinkt bij nogal wat commentatoren scepsis en cynisme daarover. Wel, lees de man toch maar eens grondig. Vraag je af wat de opportuniteiten zijn en hoe je daar zelf zou kunnen op inspelen, samen met anderen. Maar ik geef toe, er is ook een andere kant: de vernietigende irrationaliteit van de mens.

Bij het Amerikaanse ministerie van Defensie weten ze er alles van. Op de blog RobotEnomics ontdekte ik via Colin Lewis het rapport DTP 106: Policy Challenges of Accelerating Technological Change, van James Kadtke and Linton Wells II. Het rapport gaat onder meer over autonome machines voor actie op het slagveld. Denk aan drones bestuurd door militairen in de VS, die dodelijk toeslaan op slagvelden aan de andere kant van de wereld. De technologische omwentelingen die aan de oorsprong daarvan liggen, maken het ook vredelievende drones mogelijk jouw pakjes te brengen of luchtbeelden te maken.

Het Amerikaanse leger gebruikt nu al duizenden onbemande vliegende tuigen, en ook het inzetten van onbemande vehikels op de grond en te water wordt een steeds gewonere zaak. Het rapport blikt vooruit naar 2030 en ziet die aantallen en de mogelijkheden spectaculair toenemen. De vooruitgang in de dronetechnologie moet worden gezien in samenhang met de vooruitgang in artificiële intelligentie. De auteurs maken zich duidelijk ongerust over KillBots: robotsystemen die autonoom beslissen wanneer ze mensen doden, zonder dat mensen tussenkomen. Die systemen krijgen dan een meer algemene doelstelling mee zoals ‘verover dat gebied’ of ‘vernietig die vijandelijke troepenmacht’. Ze zoeken zelf een optimale oplossing om die vervolgens ook uit te voeren. Autonome zwermen van KillBots zouden opstijgen en hun bloederige werk doen zonder verdere menselijke tussenkomst.

De auteurs stellen vast dat een goed deel van de benodigde technologie buiten de VS kan worden gemaakt. Landen kunnen relatief goedkoop KillBots produceren. Heel wat onderzoek over drones en hoe hen te gebruiken gebeurt in de privésector en zelfs door doe-het-zelfgroepen. De technologie geraakt wijd verspreid en komt binnen de mogelijkheden van autoritaire regimes en terreurgroepen.

In de VS geldt nu de regel dat dodelijke actie door drones niet mag zonder menselijke tussenkomst. Maar wat als de vijand gesofisticeerd genoeg is om eigen zwermen van KillBots te lanceren en daarbij wél het ‘automatisch doden’ toelaat? Wellicht is die dan ook sneller en efficiënter op het slagveld, waardoor ook landen met ethische scrupules hun KillBots alsnog de vrije hand zouden (moeten) laten...

Hetzelfde geldt voor andere vormen van technische vooruitgang. Ik meen mij een soortgelijk rapport te herinneren over het kunstmatig (met implantaten, medicijnen of genetisch) verhogen van het denkvermogen van mensen. We staan huiverig tegenover het creëren van een ‘geaugmenteerde’ klasse, en terecht, maar wat wanneer andere mogendheden daar geen scrupules over hebben? De les die ik trek uit het rapport is: je kan niet nadenken over de toekomst van technologie zonder rekening te houden met de militaire en de veiligheidscontext. Die zal mee bepalen of we met recht en reden opgewekt zijn over disruptieve technologische doorbraken, dan wel of we ons ook moeten voorbereiden op horrorscenario’s. Zoals Jason Dorrier zegt op de site SingularityHub: technologie is de schoonheid en de terreur van de menselijke geest binnenstebuiten gekeerd.

Lees verder

Tijd Connect