Anne Fleur van Veenstra, Director of Science bij de TNO-unit SA&P, interviewt Rob de Wijk, emeritus hoogleraar internationale betrekkingen in Leiden én de oprichter van het The Hague Centre for Strategic Studies. Daarnaast is hij een veelgevraagde expert bij radio- en televisieprogramma’s. Wat betekent de opkomst van AI in een geopolitieke context en bij gewapende conflicten?
In gesprek met Rob de Wijk
‘Data is gewoon een nieuwe grondstof waardoor je nieuwe producten kunt ontwikkelen. Welke producten dat zijn, weten we in belangrijke mate nog niet.‘
Rob de Wijk
De WRR heeft vorig jaar gezegd dat we AI echt moeten zien als een systeemtechnologie die alle domeinen en sectoren gaat raken. Zou je daar iets over willen vertellen?
‘Kunstmatige intelligentie is een onderdeel van de nieuwe industriële revolutie, de datarevolutie. Wij moeten erkennen dat degenen die zo’n datarevolutie wint, feitelijk de regels van het internationale spel bepaalt. Dus het is fundamenteel voor de toekomst van de wereld. Je kunt het vergelijken met wat er in de negentiende eeuw is gebeurd met de Britten. Het Verenigd Koninkrijk werd toen nummer één in de industriële revolutie. Ze bepaalden vervolgens de regels van het spel. In de twintigste eeuw was Amerika dat. De grote vraag is, wie gaat dat nu worden? Dat zou China kunnen worden. Dat wil Amerika niet toestaan. Dus je ziet dat op het gebied van die datarevolutie, een nieuwe industriële revolutie, de handelsoorlog is losgebarsten. Eerst onder Trump, en nu in een hogere versnelling onder Biden.’
Als je een voorspelling zou moeten doen, hoe is die race op dit moment?
‘Ik denk dat het op dit ogenblik 1 – 1 is. China kan door haar omvang ongehoord veel geld in de ontwikkeling van die datarevolutie stoppen. De strijd om invloed in de wereld, daar spelen de grote techbedrijven een enorme rol in. Dit gaat dus niet alleen over het militaire systeem, maar het gaat over alle sectoren. Het militaire systeem is er maar één van. Het gaat over autonoom rijden. Het gaat over de toekomst van de logistiek. Het gaat over nieuwe producten. Data is gewoon een nieuwe grondstof waardoor je nieuwe producten kunt ontwikkelen. Welke producten dat zijn, weten we in belangrijke mate nog niet.‘
2022 is in zekere zin een keerpunt. Er komen ongelooflijk veel Data Acts AI reguleringen uit, met name uit Europa, die proberen om deze ontwikkeling te reguleren en te beïnvloeden. Hoe kijk je daarnaar?
‘Dat is een groot probleem in verband met de race die op dit ogenblik met China plaatsvindt. In China heb je al die reguleringen niet. Het is heel opmerkelijk wat er in China gebeurt. Techneuten kunnen echt helemaal hun gang gaan en mogen ook fouten maken. Ze hebben de beschikking over enorme budgetten en een bulk aan data, veel groter dan in Europa. Dat heeft uiteindelijk grote economische voordelen en plaatst China in een betere positie.’
Toch zien we dat het Europa in enige mate is gelukt om met haar consumentenmacht via de privacywetgeving grote producenten wereldwijd de Europese standaarden te laten hanteren. Het wordt de softpower van Europa genoemd. Hoe zie jij die AI Act? Zou dat iets vergelijkbaars in gang zetten?
‘Nee, dat denk ik niet. Waar het om gaat is dat je toegang hebt tot data. Het lijkt mij een hele lastige, ook voor Europa, om dat echt helemaal tegen te gaan. Het is inderdaad zo dat landen die toegang willen tot de interne markt, zich moeten houden aan bepaalde regels en standaarden. Die standaarden krijgen een mondiale uitstraling op dit ogenblik. Ook grote techbedrijven in Amerika horen zich te houden aan de standaarden, de privacystandaarden, die Europa oplegt. Maar volgens mij is dat toch iets anders dan de toegang tot datastromen. En China heeft daar gewoon minder problemen mee; probeert het niet via voordeur, maar via de achterdeur te krijgen.‘
‘Ik kijk sterk naar internationale betrekkingen. Hoe acteert de Europese Unie? De Europese Unie als ‘regel supermacht’ is veel machtiger dan veel mensen denken. En ook veel succesvoller. En tegelijkertijd moeten die opboksen tegen een land dat er op een hele andere manier tegenover staat. Omdat het een autocratie is, een staatskapitalistisch land, waar economie politiek is. In alle eerlijkheid, we weten we gewoon niet hoe dit gaat uitwerken. Tot nu toe zie je dat landen de Europese standaarden overnemen. Maar het wil niet zeggen dat dat zo blijft. Zeker niet als China zijn eigen interne markt gaat ontwikkelen en via het ‘Belt and Road’ initiatief landen aan zich weet te binden.‘
Wat zouden we als Nederland nog meer kunnen doen? Als wij dit belangrijk vinden, gezien onze economische positie?
‘Dit moet je echt Europees regelen. Nederland is gewoon een te kleine speler om op dit gebied iets te kunnen doen.’
‘Ook in het conventionele gevecht gaat AI een steeds belangrijkere rol spelen. Maar ook in cyber. Overal.’
Rob de Wijk
In het militaire domein is AI uitermate geavanceerd. Ook TNO doet daar heel veel onderzoek naar. Een heel hot topic is alles rond autonome wapensystemen. Voor veel politici is het een absolute No Go.
‘Wij bepalen niet, maar de tegenstander bepaalt. Ik zou er in principe voor zijn om dat uit te bannen. We proberen zo veel mogelijk uit te bannen, maar het lukt nooit op militair gebied. De hele loop van waarnemen tot en met in actie komen kun je met AI enorm verkorten. Degene die deze verkort, kan enorm voordeel halen op het slagveld. Dan kun je roepen ‘dat moeten we niet doen’. Maar ook dat is weer een functie van de veranderende krachtsverhoudingen. Een land dat een industriële revolutie wint, gaat ook de regels bepalen. China gaat ook deze regels bepalen, oftewel er komen geen regels voor. Dan kun je wel zeggen van, wij doen niet mee, want wij zijn principieel. Dat is allemaal heel erg ethisch. Maar oorlog voeren is niet ethisch. Zie Oekraïne, zie wat Rusland doet. Ik denk dat dat wel een eye-opener is. Ik denk dat wat er in Oekraïne gebeurt, de wijze waarop Rusland daar huishoudt, dat dat een effect gaat hebben op dit soort discussies. Het zijn discussies die fantastisch zijn in vredestijd, wanneer er geen dreiging is. Maar op moment dat het fout gaat en er is een oorlog, dan loop je tegen je eigen grenzen aan.’
‘Denken dat je de regels van het spel kunt bepalen omdat jij nu eenmaal de ethiek en de moraliteit aan je kant hebt staan, dat kun je echt wel vergeten in de nieuwe wereldorde. Ik vind dat ook vreselijk, maar dat is hoe het werkt.’
Maar hoe kunnen we dan die ethische waarden, die wij hier hebben in Europa, nog enigszins meegeven aan wapensystemen?
‘Niet. Ik ben er heel pessimistisch over. Op het moment dat vitale belangen van een land in het geding zijn, of men denkt dat die in het geding zijn, dan speelt die ethiek niet meer. Dan is er van ethiek en moraliteit gewoon geen sprake. Je moet niet naïef zijn over hoe internationale betrekkingen functioneren.’
‘Als de wetenschap in staat is om een manier te bedenken waarin je aan de voorkant gaat zitten van de mens in de loop, dan zou dat een grote doorbraak kunnen zijn.’
Rob de Wijk
En wat betekent dat voor de rol van onderzoekers? Bijvoorbeeld als ze zeggen, wij hebben wel manieren om dat op een ethische en verantwoorde manier te doen.
‘Als onderzoekers daar echt goede oplossingen voor hebben, dan moet je dat vooral doen. Ik pleit niet tegen ethiek en moraliteit. Ik vind dat buitengewoon belangrijk. Eén van de discussies gaat over de ‘OODA-loop’, dat is het systeem van een eerste waarneming tot een besluit, dat je zo snel mogelijk probeert te doorlopen. Daarvan vind je dat er altijd een mens in de loop moet zitten. Maar als iemand de mens eruit haalt, dan kun je van seconden naar nanoseconden gaan in je besluitvorming. En dan sta je op ongehoorde achterstand. Als de wetenschap in staat is om een manier te bedenken waarin je aan de voorkant gaat zitten van de mens in de loop, dan zou dat een grote doorbraak kunnen zijn.’
‘Er is heel lang gedacht dat oorlogvoering vooral cyber-oorlogvoering zou zijn. Maar het is onderdeel van een totaalpakket, een veelheid van onderdelen. En een veelheid van soorten gevechten die worden uitgevoerd. Ook in het conventionele gevecht gaat AI een steeds belangrijkere rol spelen. Ook in cyber. Overal. Maar ik denk dat we er anders tegenaan moeten gaan kijken. En moeten kijken wat tegenstanders gaan doen. En daar zul je een antwoord op moeten zien te vinden. En proberen om die ethiek en die moraliteit aan de voorkant in te bouwen. Maar op het moment dat het losgaat, dan moet je de zaak op orde hebben. ‘
Wat zou je TNO willen meegeven? Waar zouden we ons op moeten richten?
‘Wat echt cruciaal is, is dat je begrijpt wat de tegenstander denkt, doet en kan. En dat je dus niet alleen maar van jezelf uitgaat. Die ethische discussie is een belangrijke discussie, maar cruciaal is wat de tegenstander doet. En hoe de geopolitieke verhoudingen zijn nu.’
Bron: TNO, 27 september 2022
