Op 25 juli heeft het Belgische parlement een resolutie aangenomen voor een preventief verbod op het gebruik van killer robots door het Belgische leger. Daarmee is België het eerste land ter wereld. Dit in tegenstelling tot Nederland dat (nog) geen tegenstander is van autonoom moorden.
Killer robots of autonome wapensystemen
Van killer robots spreken we als computers of kunstmatige intelligentie zonder tussenkomst van de mens kunnen beslissen over leven of dood, dus mensen mogen vermoorden.
Het Belgische preventieve verbod houdt in dat het Belgische leger nooit killer robots zal gebruiken als wapen. Maar ook wapenproducenten mogen ze in België niet produceren. Dit betekent echter geen verbod op het doen van onderzoek naar dergelijke wapensystemen.
België is het eerste land ter wereld dat een dergelijk preventief verbod invoert. Israël, de VS, Groot-Brittannië, Rusland en Zuid-Korea lopen voorop bij de ontwikkeling van de autonome militaire robot en ook de onderzoeksbudgetten van China, Canada en Duitsland op dit terrein zijn gestegen. Autonome robots zijn aantrekkelijk omdat ze het aantal slachtoffers aan eigen zijde verminderen en zonder aansturing ook goedkoper zijn in gebruik.
Wereldwijd bestaan er al langer zorgen over de ontwikkeling van autonome wapensystemen. Zo hebben meer dan honderd ondernemers die zich bezighouden met kunstmatige intelligentie en robotica in augustus vorig jaar een open brief gestuurd aan de Verenigde Naties waarin ze oproepen de productie erven te verbieden. Hun voornaamste tegenargument is dat autonome wapens de drempel om te doden drastisch zullen verlagen of wegnemen. Zij spreken dan ook van ‘de doos van Pandora’.
De Nederlandse overheid is vooralsnog voorstander van de inzet van autonome wapensystemen. Eind 2015 publiceren de commissie Adviesraad Internationale Vraagstukken (AIV) en Commissie van Advies inzake Volkenrechtelijke Vraagstukken (CAVV), op verzoek van de regering een rapport ( lees Kamerbrief). Dit rapport vormt tot en met 2020 het Nederlandse kabinetsstandpunt. De regering acht menselijke controle vooraf, dus voor de inzet van een autonoom wapen, voldoende.
De commissie ziet als voordelen van autonome wapensystemen dat deze vaak sneller en preciezer dan mensen reageren, waardoor risico’s voor eigen eenheden en de burgerbevolking kunnen afnemen. Daarnaast kunnen dergelijke systemen opereren in een omgeving die voor mensen moeilijk bereikbaar en gevaarlijk is.
Wetenschap
“De beslissing om een mens te doden mag nooit genomen worden door een machine”,
dat zeggen 2400 wetenschappers, ingenieurs en CEO’s werkzaam in kunstmatige intelligentie en robotica en 160 tech-bedrijven. Zij beloven om nooit mee te doen aan de ontwikkeling, productie, handel of het gebruik van dodelijke autonome wapens, ofwel killer robots.
Deze belofte is gedaan tijdens de AI-conferentie in Stockholm, ’s werelds grootste wetenschappelijke conferentie over kunstmatige intelligentie. Onder de ondertekenaars zijn Google DeepMind en diens mede-oprichters, Elon Musk (Tesla, Space-X), professor Stuart Russell (UC Berkeley), Europese Vereniging voor Kunstmatige Intelligentie en University College London.
Ook talloze Nederlandse wetenschappers en ingenieurs hebben de petitie tegen killer robots inmiddels ondertekend. In deze petitie verklaren de de wetenschappers:
“..door het verwijderen van het risico, de aansprakelijkheid en de moeilijkheid bij het nemen van een mensenleven, zullen dodelijke autonome wapens krachtige instrumenten worden van geweld en onderdrukking, zeker als ze gekoppeld zijn aan bewakings- en datasystemen.”
Verenigde Naties
Het onderwerp staat sinds 2014 op de agenda van de VN, waar men bespreekt hoe om te gaan met autonome wapens. Omdat diplomatieke processen vaak traag verlopen, is steun uit de branche van groot belang om te voorkomen dat dergelijke killer robots ooit realiteit worden.
Binnen de VN hebben 26 landen nadrukkelijk een verbod onderschreven voor dodelijke autonome wapens: Algerije, Argentinië, Oostenrijk, Bolivia, Brazilië, Chili, China, Colombia, Costa Rica, Cuba, Djibouti, Ecuador, Egypte, Ghana, Guatemala, Heilige Stoel, Irak, Mexico, Nicaragua, Pakistan, Panama, Peru, Palestijnse Staat, Oeganda, Venezuela, Zimbabwe.
Rob Vellekoop, 30 juli 2018
