Column - Roy van Veen

Kunstmatige intelligentie

De Amerikaanse militaire bazen stoppen 18 miljard dollar in de ontwikkeling van robots die zelfstandig kunnen besluiten de trekker over te halen. De killer-robot komt dichterbij.

De nieuwe wapens moeten de besluitvorming op het slagveld versnellen en het Amerikaanse leger minder afhankelijk maken van menselijke krachten. Mensen zijn duur, kwetsbaar en maken fouten.

Het is nadrukkelijk niet de bedoeling dat er een leger van autonome killer-robots wordt gemaakt, maar de Amerikanen zijn bang de boot te missen op het gebied van kunstmatige intelligentie en zodoende achterop te raken bij Rusland en China.

Geknutseld in de avonduren

Om de geschetste dreiging een gezicht te geven presenteerden ze een vliegende drone die voor nog geen zes tientjes bij de lokale elektroboer was gekocht en is uitgerust met in de avonduren in elkaar geknutselde software. De robot vloog zelfstandig over een nagebouwd Arabisch dorpje en wist zeven van de acht bewapende ‘inwoners’ uit een groep van 20 te onderscheiden. Hij constateerde ook dat een knielende man met een fotocamera geen direct gevaar opleverde.

De defensiemedewerker die de duiding verzorgde legde niet uit of de drone had geanalyseerd of de bewapende mannen conform lokale traditie een trouwerij vierden, op weg waren naar een schietclub of gewoon in verwarring waren.

Menselijke stem

De Amerikaanse generale staf noemt kunstmatige intelligentie het hart van het nieuwe en moderne Amerikaanse leger. Toch werden de plannen en het immense budget niet verder toegelicht. Sterker nog, in de stukken werd er slechts één bijzin aan gewijd. Pas na vragen kwam enige additionele toelichting. De robot gaat de mens aanvullen, niet vervangen en kunstmatige intelligentie wordt toegevoegd aan de menselijke besluitvorming. Bij beslissingen over leven en dood, is de menselijke stem doorslaggevend.

Bemoedigende beloftes en dappere uitgangspunten, maar het verleden heeft ons geleerd dat de praktijk anders in elkaar steekt. Zware bommenwerpers zouden immers ook nooit en te nimmer ingezet worden tegen burgerdoelen, maar toen het erom spande, werden complete steden vaak onnodig met de grond gelijk gemaakt. Denk aan Dresden en Nagasaki.

Beloftes en principes

Ook onderzeeboten waren in de plannen slechts een wapen tegen vijandelijke marine en niet uit op onbewapende koopvaardij. In beide wereldoorlogen gingen die beloftes en principes zonder noemenswaardige discussie overboord. Gevalletje ‘nood breekt wet’ zeg maar.

Je hebt geen kunstmatige intelligentie nodig om te voorspellen hoe de slagvelden er over vijf jaar uitzien. Realisme is voldoende, want de geboorte van de killer-robot is onvermijdelijk.

Roy van Veen

Roy van Veen (1970) - columnist bij Duitslandnieuws.nl - bouwde de eerste webshops van Nederland, stond vier jaar op Nederlands/Duitse markten met vis en vernieuwde met zijn telecombedrijf het betaalverkeer bij retailers in Nederland en Duitsland. Laatstgenoemde bedrijf is nu onderdeel van VodafoneZiggo. Met Tothem helpt hij organisaties hun verhaal te vertellen.

Twitter: @royalty
Contact: roy.van.veen@tothem.co
Columns: http://www.duitslandnieuws.nl/blog/author/roy-van-veen/