In 2017 werd in Carré een beschouwing gewijd aan autonome wapensystemen[i], ook wel lethal autonomous weapons systems (LAWS) genaamd. Deze systemen hebben in kringen rond mensenrechten- en vredesbewegingen veel weerstand opgeroepen, enigszins vergelijkbaar met de protesten destijds tegen de plaatsing van kruisraketten in Europa.
In de Nederlandse politiek beginnen nu stemmen op te gaan om het voortouw te nemen voor een internationaal verdrag, dat de inzet van LAWS zou moeten reguleren door meaningful human control (MHC) en een totaalverbod op volledig autonome wapensystemen. Er bestaat nog veel onwetendheid en onbegrip rond onbemande, automatische en autonome wapensystemen. Deze systemen zijn niet nieuw: denk aan de beruchte Selbstschussanlagen in de voormalige DDR, maar ook aan de Goalkeeper en Patriot met hun automatische modus. Moderne ontwikkelingen, zoals algoritmes, maken het mogelijk om meer taken van de mens over te laten nemen door machines, waardoor de scheidslijn tussen automatisch en autonoom opschuift. Voorgeprogrammeerde regels blijven echter bepalend welk soort doel aan te vallen en wanneer, zodat het menselijk oordeelsvermogen behouden blijft. MHC blijft een cruciaal item binnen de ontwikkeling van LAWS.
Overigens is er internationaal nog geen overeenstemming over de exacte definitie van ‘autonoom’. De NAVO stelt: ‘…weapons systems with autonomy in the critical functions of acquiring, tracking, selecting and attacking targets’[ii]. Volgens Nederland moeten alle wapensystemen en de inzet daarvan voldoen aan de eisen van internationaal oorlogsrecht.[iii] Nederland is vertegenwoordigd in alle internationale fora over autonome wapensystemen, en de regering wordt geadviseerd door de Adviesraad Internationale Vraagstukken (AIV) en de Commissie van Advies over Volkenrechtelijke Vraagstukken (CAVV). Hoewel volledige autonomie niet aan de orde is hebben autonome wapensystemen de kwalijke reputatie verworven van killer robots. Deels ingegeven door vooringenomenheid, gebaseerd op vooroordelen en onwetendheid, maar soms ook gekleurd door politieke overwegingen en de neiging om Nederland te zien als ‘gidsland’ dat de wereld toont wat ‘goed’ is en wat ‘fout’.
Zo kan de initiatiefnota van Tweede Kamerlid Belhaj (D66) worden gelezen[iv]. Een ogenschijnlijk doorwrocht stuk met vele (semi-)wetenschappelijke voetnoten, zoals van het International Committee of the Red Cross (ICRC) en de vredesorganisatie PAX. De nuance ontbreekt echter. Zo is er bijvoorbeeld geen verwijzing gegeven naar de studies van het The Hague Centre for Strategic Studies (HCSS), dit ondanks de aanwezigheid van Belhaj bij de door HCSS en de RAS-eenheid van de 13e Brigade[v] speciaal georganiseerde dag voor de Vaste Commissie voor Defensie (VCD). Tijdens deze dag werd dieper ingegaan op de zorgvuldige omgang van Nederland met onbemande systemen en de bijbehorende dilemma’s en de altijd aanwezige controles.
De initiatiefnota gaat niet in op deze nuanceringen, maar schetst een doemscenario waarin killer robots een derde wereldoorlog kunnen ontketenen. Daarom zou Nederland in de EU en de NAVO er alles aan moeten doen om het ontwikkelen van volledig autonome wapensystemen te beëindigen. Autonome wapensystemen zouden moeten worden voorzien van dataregistratie en -opslag. Gebruik van niet-volledig autonome wapensystemen zou als aandachtspunt in de artikel 100 procedure moeten worden opgenomen.
Vooroordelen rondom onbemande wapensystemen zijn waarschijnlijk de reden om met deze initiatiefnota te komen. Tot wet verheven zou dat echter de effectiviteit van de krijgsmacht en de mogelijkheid om eigen troepen en het Nederlandse (en NAVO en EU) grondgebied en luchtruim te beveiligen, bemoeilijken en mogelijk zelfs te compromitteren. Juist landen die volgens Belhaj er alles aan zouden moeten doen om de ontwikkeling te stoppen, zijn uiterst zorgvuldig inzake autonomie en het concept van MHC. Andere, ons minder vriendelijk gezinde landen, met een afwijkend moreel, ethisch en juridisch afwegingskader, worden niet genoemd. Dataregistratie en -opslag wordt met een beroep op de privacywetgeving aangegrepen om dit soort systemen compleet te verbieden. Door het koppelen aan de artikel 100 procedure krijgt de Kamer de mogelijkheid mee te beslissen over de te gebruiken wapens en tactieken. Los van de wenselijkheid daarvan is het ook de vraag of dit uiteindelijk tot betere besluitvorming gaat leiden.
De initiatiefnota is daarmee een eenzijdig en onvoldoende onderbouwd voorstel waarmee de krijgsmacht noch de politiek is gediend; een aanklacht tegen een onvermijdelijke ontwikkeling. Hooguit geschikt om een, overigens terecht, debat over deze materie te starten.
Patrick Bolder, 17 augustus 2021
[i] Carré 4-2017, pag. 18: De ontwikkeling van autonome wapensystemen.
[ii] Strategic Foresight Analysis (2015).
[iii] Kamerstuk 33750, vergaderjaar 2013 – 2014.
[iv] Kamerstuk 35848, vergaderjaar 2020 – 2021, 28-05-2021, Initiatiefnota van het lid Belhaj over Autonome Wapensystemen.
[v] Bij de 13e Lichte Brigade is een Robotica en Autonome Systemen (RAS) eenheid ondergebracht om onderzoek te doen naar de ontwikkelingen op dit gebied.
Experts
Related Content
