Onbemand en dodelijk. Hoe ver gaan we met militaire robots?

Volgens sommigen zijn onbemande, zelfstandig opererende wapens een groot gevaar voor de mensheid en moeten ze onmiddellijk worden verboden. Anderen roemen juist hun precisie, waardoor ze veel minder burgerslachtoffers maken. Deze week spreken delegaties uit een groot aantal landen bij de Verenigde Naties in Genève over de robotisering van oorlogvoering. De standpunten liggen mijlenver uiteen.

Meer dan honderd landen willen een tijdelijke stop op de verdere ontwikkeling van autonome wapens. Die tijd moet worden gebruikt om een verdrag op te stellen, zo schrijft Venezuela namens deze coalitie in aanloop naar de vergadering. Dat verdrag moet wapens verbieden die niet 'te allen tijde onder de directe controle en supervisie van mensen staan'. De landen die zulke afspraken bepleiten liggen vooral in Zuid-Amerika, Afrika en de armere delen van Azië. Zij kunnen zeker in eerste instantie vaak moeilijk meedoen in een wapenwedloop van autonome systemen.

Maar veel wetenschappers en directeuren van technologiebedrijven in rijkere landen trekken ook aan de bel. Zij vrezen een wapenwedloop die te vergelijken is met de bouw van steeds krachtiger kernwapens in de Koude Oorlog. Omdat er voor autonome wapens geen complexe grondstoffen zoals verrijkt uranium nodig zijn, zullen ze uiteindelijk ook in de handen vallen van een groot aantal dictators, krijgsheren en terroristen, zo is de vrees.

Vorige week zetten tientallen wetenschappers op het gebied van kunstmatige intelligentie de discussie nog eens aan. Ze riepen op tot een academische boycot van de Kaist-universiteit in Zuid-Korea, omdat die met wapenfabrikant Hanwha werkt aan de ontwikkeling van autonome wapens. Hanhwa produceert nu al een kanon dat op de grens met Noord-Korea staat. Dat detecteert zelf indringers, en opent vervolgens op eigen initiatief het vuur. Kaist en Hanhwa willen gewapende helikopters en onderzeeboten ontwikkelen die ook zelf op zoek gaan naar tegenstanders.

Te laat

Het lijkt erop dat de protesterende landen en wetenschappers al te laat zijn. De Verenigde Staten, Rusland, China, Groot-Brittannië en Israël lopen voorop in de ontwikkeling van autonome wapens en zien niets in een verbod.

Volgens Rusland proberen sceptici de klok terug te draaien. Wapens die zelf een doelwit uitzoeken en het vuur openen bestaan namelijk al. Maar deze zijn eerder voorbeelden van automatisering dan van autonoom opererende machines, aldus Moskou. Want mensen controleren uiteindelijk het apparaat. Zij besluiten tot inzet van het wapen, en schrijven software met criteria op basis waarvan het systeem eventueel tot de aanval overgaat.

Dat klopt ten dele volgens de Adviesraad Internationale Vraagstukken (AIV). Een autonoom wapen kiest doelen uit die voldoen aan voorgeprogrammeerde kenmerken, schreef de raad in 2015 in een rapport voor de Nederlandse regering. Maar mensen kunnen daarna niet meer ingrijpen om de aanval terug te draaien.

Als voorbeeld noemt de AIV de Israëlische Harpij. Dat is een soort onbemand vliegtuigje met een explosieve lading dat zelfstandig op zoek gaat naar radargolven. Als het op die manier een vijandelijk radarstation lokaliseert, stort het zich daarop te pletter.

De tekst gaat verder onder de afbeelding

Menselijk oog

Drie jaar geleden schatte de AIV in dat het gebruik van dergelijke autonome wapens beperkt zou blijven. Veel oorlogen vinden plaats in bewoond gebied en een militair is beter dan een robot in staat om guerrillastrijders en burgers uit elkaar te houden. Bij militaire missies in zwakke staten gaat het er volgens de AIV vaak om de steun van de bevolking te winnen. Daarvoor heb je mensen nodig, geen robots.

Maar de tijd waarin legers zich vooral bezighouden met opbouwmissies is voorbij. De Amerikaanse regering schreef eind vorig jaar in haar nationale veiligheidsstrategie dat de competitie tussen grootmachten terug is, met Rusland en China als de grote tegenstanders.

Het zijn dan ook deze landen die zich tot kunstmatige intelligentie wenden om een militair voordeel op elkaar te behalen. De Verenigde Staten zijn het meest open over de systemen waar zij aan werken. De Amerikanen vrezen bijvoorbeeld dat zij in de toekomst moeilijk kunnen optreden in de buurt van China en Rusland, omdat die landen beschikken over geavanceerde luchtafweerraketten en apparatuur om radioverbindingen te verstoren.

De Amerikanen werken daarom aan een concept van bemande vliegtuigen die op flinke afstand van de tegenstander blijven. De piloot heeft de leiding over een zwerm van onbemande vliegtuigjes. Die geeft hij een opdracht, zoals het binnendringen van vijandelijk gebied om luchtafweerraketten uit te schakelen. Als zij daar eenmaal zijn, communiceren ze onderling om hun opdracht uit te voeren. Het risico bestaat immers dat communicatie tussen de menselijke bevelhebber en autonome wapens niet meer mogelijk is in de zone waar de tegenstander radiocommunicatie verstoort.

Zelfstandigheid

Hierin zit dan ook het pijnpunt in het debat over robotwapens. Tegenstanders eisen dat mensen de controle houden over het wapen. Maar om effectief te zijn in de oorlog van de toekomst, moeten vele wapens tegelijkertijd en zo zelfstandig mogelijk kunnen werken. De mens houdt hooguit op afstand enig toezicht.

In de jaren dertig wil het Amerikaanse leger zo ver zijn dat gewapende robots standaard als verkenners voor militairen uittrekken. Die mensen moeten dan vooral nadenken over hoe de hele operatie het beste uit te voeren, en hebben geen tijd om op afstand de robot te besturen of te kiezen wanneer er wordt geschoten. Meer geavanceerde robots moeten ook zelfstandig diep achter de vijandelijke linies kunnen doordringen om belangrijke doelen uit te schakelen. Dit werk wordt nu nog vaak gedaan door menselijke commando's.

Autonome schepen zullen al eerder hun opwachting maken. De Amerikaanse marine test momenteel de Sea Hunter (Zeejager). Dit schip moet zelfstandig twee maanden op zee naar vijandelijke onderzeeboten kunnen zoeken. Het is de bedoeling dat het schip zich aan de maritieme verkeersregels houdt, zodat er geen ongelukken met vrachtverkeer gebeuren. Volgens de ontwerpers zal het schip in staat zijn tot 'autonome interactie met een intelligente tegenstander'. De Sea Hunter zal opgespoorde vijandige onderzeeboten dus zelf kunnen aanvallen.

Tekst gaat verder onder de afbeelding

Hoewel de ontwikkeling van autonome wapens vooral draait om het behalen van een militair voordeel, benadrukken de voorstanders dat ze ook andere positieve effecten hebben. De VS en Rusland schrijven voor het debat in Genève allebei dat intelligentere wapens veel preciezer hun doelwit kiezen, waardoor het risico op burgerslachtoffers vermindert. Er zijn nu bijvoorbeeld artilleriegranaten die na te zijn afgeschoten aan een parachute boven het slagveld blijven hangen tot ze een bepaald type gevechtsvoertuig spotten en zich daarop kunnen storten. Zonder zo'n slimme granaat is er een heel salvo nodig om een voertuig uit te schakelen, met alle risico op nevenschade.

Ook verkenningsrobots die voor de troepen uit bewegen, kunnen volgens de Amerikanen oorlog humaner maken. Als een eenheid nu bijvoorbeeld een dorp intrekt en plots onder vuur komt te liggen, moeten de militairen flink om zich heen schieten om zich weer uit de hinderlaag te vechten. Een robotverkenner kun je zo programmeren dat hij in een verlaten bos bij het eerste contact met de vijand meteen terugschiet, maar in een druk dorp alleen eigen militairen waarschuwt voor gevaar.

Verbod

De kans dat de VS, China of Rusland besluiten te stoppen met de ontwikkeling van robotwapens lijkt gering. Als grootmachten al geneigd zijn een verbod te ondertekenen, doen zij dat eerder bij wapens die een beperkt militair nut hebben. Chemische wapens zijn daarvan een goed voorbeeld. Dictators als Saddam Hoessein of Assad kunnen hun bevolking er misschien mee terroriseren, maar ze zijn minder bruikbaar tegen een modern leger. Militairen kunnen een gasmasker en beschermend pak aantrekken, en om gifgas goed te verspreiden moet je vanaf lage hoogte met een vliegtuigje sproeien. Zo'n toestel is erg kwetsbaar voor luchtafweergeschut.

Robotwapens gelden juist als de nieuwe revolutie in oorlogvoering. Als een grootmacht vrijwillig afstand doet van deze wapens, loopt die het risico dat een rivaal ze wel ontwikkelt. Want ook als dat land hetzelfde verbod zou ondertekenen, kan die in het geheim best nog eens doorgaan met een wapenprogramma.

Dat risico is met robotwapens groter dan met andere controversiële systemen. Landmijnen hebben bijvoorbeeld niet direct een grootschalige civiele toepassing. Maar bij autonome wapens kan een land zijn ontwikkeling en productie makkelijk vermommen als commercieel product, of op enig moment ervoor kiezen uit bestaande wapens en civiele toepassingen een nieuw wapen in elkaar te knutselen.

Want waar legers experimenteren met zelfrijdende gevechtsvoertuigen, ontwikkelt Google zelfrijdende auto's. Als de VS autonome auto's voor voetgangers kan laten stoppen, kan het ook een autonoom gevechtsvoertuig op een gewapend mens laten schieten. Maar ook kleinere landen zijn al flink gevorderd met technieken die als basis kunnen dienen voor autonome wapens. Het Noorse bedrijf Kongsberg streeft ernaar in 2020 zelfvarende schepen vracht tussen kuststadjes te vervoeren. Het bedrijf kent ook een militaire tak. Dat produceert ook een raket die zelf het verschil ziet tussen oorlogsschepen en civiele schepen. Wie de techniek van het autonome vrachtschip en de raket samenvoegt, heeft al snel een robotwapen om de eigen kust te verdedigen.

De toekomst samenwerkende robots

Het Amerikaanse leger hoopt dat groepjes autonome vliegtuigen of voertuigen in de toekomst samen vijandelijk gebied binnendringen om aanvallen uit te voeren. Aan de hand van wat ze zien, kunnen ze nieuwe plannen maken, en voorleggen aan een menselijke toezichthouder die op veilige afstand zit. De onbemande Fire Scout helikopter kan al zelfstandig verkenningen uitvoeren, en informatie doorgeven aan slimme raketten die verschillende type schepen uit elkaar kunnen houden.

Lees ook:

Robots kunnen nuttig zijn. Maar als ze gebruikt worden op het slagveld, hoe gevaarlijk worden ze dan? Wetenschappers en mensenrechtenactivisten pleiten voor een ban op deze 'autonome wapens'.

Autonome wapens zijn volgens Nederland geen probleem en dat is ronduit naïef, stelt Miriam Struyk, directeur programma's bij Pax.