Autonome wapensystemen of menselijke controle?

Workshop Defensiedrones

Hans gaat in op de noodzaak tot militaire innovatie en wat Defensie allemaal doet op dat gebied. ‘Bij innovatie richten we ons op acht domeinen: het flexibiliseren van de inzet, de bedrijfsvoering, wapeninzet op maat, optreden in steden, informatie als wapen en als doelwit, systeemintegratie, mens-machine-relatie en gebruik van de ruimte. Binnen die innovatiedomeinen speelt robotisering een prominente rol.

‘Robots hebben we nodig om verschillende redenen’, vertelt Martijn. ‘De technologie is momenteel zo geavanceerd dat het werken met robots vele malen effectiever kan zijn. Maar ook mensen met kwade wil beschikken over de nieuwe technologieën. En wanneer je alleen al kijkt naar de demografie in Nederland, weet je dat we steeds minder jonge mannen en vrouwen zullen kunnen werven. Ook daarom hebben we robots nodig. We zijn momenteel via experimenten bezig te leren hoe robotica en kunstmatige intelligentie ons werk kunnen verbeteren. Daarbij is het uitgangspunt dat er altijd sprake moet zijn van betekenisvolle menselijke controle.’

Genuanceerde afwegingen

Bij de inzet van robots en kunstmatige intelligentie worden de nodige dilemma’s zichtbaar. Martijn: ‘Als mens kun je besluiten wanneer een tegenaanval genoeg is geweest. Hoe leer je dat een machine? En als mens kun je snel afleiden of de vijand een oprukkende of terugtrekkende beweging maakt. Maar wat doet een machine, wanneer die alleen oog heeft voor de vernietiging van de vijand? Als mens in conflictgebiedsgebied maak je per dag talloze genuanceerde afwegingen. Wat doe je met een vijftienjarig jochie dat munitie draagt naar volwassen vijandelijke troepen? En hoe kun je de machine dezelfde ethische afwegingen laten maken?

Gevechtsscenario's

Na Martijns introductie is het de beurt aan de deelnemers. Die zijn, zonder dat ze het weten, opgedeeld in twee groepen en degenen die op de rode stoel zitten krijgen de leiding over hun groep. De twee groepen moeten twee gevechtsscenario’s uitwerken, waarbij de ene groep voorstander zal zijn van een hoge mate van zelfstandige taakuitvoering door machines en de andere groep meer menselijke controle over die machines zal bepleiten. Dat levert interessante discussies op. ‘Is het nou handig dat een machine emoties kan uitschakelen of niet?’ ‘snapt een robot de context van deze situatie en kun je hem dus alle verantwoordelijkheid geven?’ ‘is voorspelbaarheid altijd goed of kan het ook een zwakte zijn?’ ‘wat doe je als jij zelf niet meer snapt wat de computer aan het doen is?

‘Ontzettend ingewikkeld’, is dus het algemene gevoel dat bij de deelnemers achterblijft, samen met het inzicht dat er nog ongelofelijk veel werk aan de winkel is in het aanbrengen van waarden in de programmering van defensierobots. Want, techniek geprogrammeerd vanuit goed uitgedachte waarden kan ons verder helpen, maar techniek in verkeerde handen kan tot grote dreigingen leiden. Hoe borgen we onze veiligheid aan de hand van techniek?

Morele dilemma’s

Majoor Martijn Hädicke: ‘Juist door naar buiten te gaan met ons verhaal en onze morele dilemma’s te delen winnen we waardevolle inzichten en adviezen. We doen dit namelijk ook bij onderzoeksinstituten en universiteiten en hogescholen. Positieve bijvangst is dat Defensie na zo’n bijeenkomst vaak stijgt in de waardering van de deelnemers en toehoorders.’

‘Wat ik mooi vind is dat je de gelegenheid krijgt om echt even in een andere wereld te duiken’, zegt deelnemer Ronnie van Diemen. ‘Ik heb geleerd hoe ze bij Defensie bezig zijn met de allernieuwste technologie, zelfs met een speciale robot-eenheid. En dat men daar ook zoekt naar het morele kompas, bijvoorbeeld als het gaat om autonome wapensystemen. Zelf werk ik als inspecteur-generaal Gezondheidszorg en Jeugd. Ik vond het mooi om te ervaren dat bij Defensie het morele kompas ook de basis vormt voor innovatie.’