De Verenigde Naties en het Rode Kruis luiden de noodklok over autonome wapens. Die verantwoordelijkheid mag volgens de organisaties niet bij kunstmatige intelligentie of machines komen te liggen. Toch bestaan er wereldwijd nog geen strenge regels of wetten die het gebruik ervan aan banden leggen.
De autonome wapensystemen, die zelfstandig kunnen aanvallen zonder dat daar op dat moment een mens direct opdracht voor geeft, zijn volgens Michel Rademaker van het Haagse Centrum voor Strategische Studies (HCSS) al langer een punt van zorg. Dat er nu extra aandacht voor is, heeft te maken met een grote internationale wapenbijeenkomst die in september in Genève plaatsvindt.
Daar wordt opnieuw geprobeerd stappen te zetten rond wapensystemen die militair door AI worden ondersteund, met name deze autonome wapensystemen. Op een echte wet moet volgens Rademaker echter niet worden gerekend: ‘Ik ga er niet van uit dat er nu een wet op wordt gemaakt. Dat gaat het denk ik niet halen.’
Zelf doelwitten herkennen en aanvallen
Wat een autonoom wapensysteem precies onderscheidt van bestaande wapentechnologie, is de beslissingsprocedure. Zo’n systeem kan met behulp van AI zelfstandig bepalen wat het als doelwit ziet en vervolgens zelf de aanval inzetten. Denk aan een drone die de opdracht krijgt bepaalde militaire doelen te zoeken, die met sensoren en AI objecten herkent, en zelf kan ‘beslissen’ om dat doelwit aan te vallen.
Hoe ver die ontwikkeling nu is, is volgens Rademaker lastig met zekerheid te zeggen. Semi-geautomatiseerde systemen bestaan al langer, maar de techniek gaat razendsnel. Duidelijk is dat de oorlog in Oekraïne de drone van speelgoed tot serieus wapen heeft gemaakt. Wat er in Oekraïne exact wordt ingezet, valt van buitenaf moeilijk te controleren.
De angst: een systeem dat niet meer te stoppen is
De ethische bezwaren tegen autonome wapens liggen volgens Rademaker vooral op het gebied van vertrouwen: in welke mate kun je AI de beslissing over leven en dood laten nemen? Kan een AI-aangestuurd wapen begrijpen dat de omstandigheden zijn veranderd? Herkent het wie een burger is, en wie niet, in een conflictgebied? Ziet het wanneer iemand zich overgeeft? Het zijn vragen waarop nu nog geen sluitend antwoord bestaat.
Ook binnen de krijgsmacht zelf leeft die twijfel, vertelt Rademaker. ‘Vanuit militaire optiek is het ook maar de vraag hoeveel autonomie je eigenlijk echt wilt hebben. Want als commandant wil je uiteindelijk wel de controle houden over wat je wapensystemen bij de inzet doen.’ Militairen zijn er zelf beducht op dat het niet op een gecontroleerde manier verloopt. ‘Althans, in de westerse wereld’, nuanceert Rademaker.
Ethiek en oorlog staan altijd op gespannen voet met elkaar. Op meerdere plekken, en ook in Oekraïne, worden voortdurend grenzen opgezocht. Partijen kiezen er toch vaak voor om te doen wat nodig is om zelf te overleven, zegt Rademakers. ‘Precies daarom pleit de Navo ervoor om dit soort systemen uitlegbaar, betrouwbaar en bestuurbaar te houden.’
Landen met tegengestelde belangen
Internationale wetgeving invoeren is volgens Rademaker uiterst lastig, simpelweg omdat landen tegengestelde belangen hebben. Sommige landen willen gewoonweg niet meewerken. Oekraïne bevindt zich in een overlevingsstand, en datzelfde geldt volgens hem voor de situatie in Israël en Gaza: landen die zich onder vuur voelen liggen, zijn nu eenmaal minder geneigd zichzelf regels op te leggen. Nederland lijkt dat wél, maar dat is volgens Rademaker minder complex zolang je zelf niet in oorlog bent.
Toch ligt er al wel een fundament, volgens Rademaker. Nederland bracht eerder al een rapport uit vanuit de Global Commission on Responsible AI in the Military Domain (GC REAIM). Een van de belangrijkste aanbevelingen was dat verantwoordelijkheid voor een wapensysteem niet stopt bij de eindgebruiker. Die zou moeten gelden voor de hele levenscyclus, van het eerste ontwerp tot de vernietiging van wapensystemen die verouderd zijn.
Daarnaast denkt Nederland na over standaardisatie op het gebied van testen, evaluatie, validatie en verificatie, volgens Rademaker een logische tussenstap voordat er ooit sprake kan zijn van bindende wet- en regelgeving. De basis voor goede afspraken ligt er dus al, concludeert Rademaker: ‘Landen moeten het alleen nog willen.’ Op een doorbraak tijdens de bijeenkomst in Genève in september rekent hij niet. ‘Maar hopelijk weer een stapje in die juiste richting. Want het is denk ik wel verstandig dat het gaat komen.’
Bron: BNR, 26 augustus 2026
