Förbjud dödliga autonoma vapensystem

En motion för att förbjuda autonoma vapen behandlas i riksdagen den 12:e april. Det är beklagligt att Utrikesutskottet i sitt betänkande avstyrker motionen. Det vore extremt riskabelt att tillåta maskiner att besluta vem som ska leva och dö i krig, utan mänsklig inblandning.

Dessa dödliga autonoma vapensystem kan vara förarlösa drönare som helt självständigt uppsöker, identifierar och attackerar mål. Det som kännetecknar dem är att de använder dödligt våld och styrs av en artificiell intelligens utan mänsklig inblandning. Idag finns defensiva autonoma dödliga vapen, men utveckling av offensiva sådana system pågår i USA, Storbritannien, Ryssland, Israel, Sydkorea och Kina. Detta är en oroväckande utveckling som bör stoppas i sin linda.

Det går att motsätta sig dessa system av principiella skäl. Beslut om liv och död bör inte tas av en maskin. Därutöver riskerar denna sorts vapen försvåra ansvarsutkrävande: om en autonom robot dödar en oskyldig civil, vem står då ansvarig? Vapnen riskerar även att stå i motsättning mot folkrätten.

Dessa vapen kan innebära en revolution för hur krig utförs, med ödesdigra konsekvenser. De skulle kunna göra det mindre kostsamt, enklare och snabbare att föra krig. De kan därmed öka sannolikheten och konsekvenserna för krig mellan nationalstater. De kan även hamna i fel händer. Risken för detta är mycket större än för exempelvis kärnvapen, vilka är avsevärt dyrare och mer komplicerade att framställa. Vi riskerar därmed att terrorister och despoter använder vapnen mot civila mål. Därtill finns risk att dessa system hackas av andra nationalstater eller terrorister. Vi bör inte ta dessa risker.

Frågan har väckt stor uppmärksamhet internationellt. 22 länder har redan skrivit på att de eftersträvar ett förbud. Därutöver uttryckte Emmanuel Macron nyligen i en Wired-intervju att han är “helt emot dem.”

Förhandlingar i frågan förs  9-11 april i FN inom ramen för “Convention on Conventional Weapons”. Sverige bör vara drivande för ett förbud i dessa förhandlingar.

Det finns ett växande motstånd mot dessa vapen i civilsamhället samt bland inflytelserika opinionsbildare. Röda Korset publicerade i förra veckan en rapport som argumenterade för ett förbud mot autonoma dödliga vapen. Just nu bojkottar även över 50 världsledande AI-forskare ett Sydkoreanskt universitet - KAIST - för sin inblandning i teknologins utveckling. I augusti skrev över 116 ledande entreprenörer och experter inom artificiell intelligens - däribland Elon Musk - ett öppet brev till FN, där de varnade att “när denna Pandoras ask öppnats kommer den vara svår att stänga.”

Men än finns det hopp. Det internationella samfundet har tidigare antagit konventioner för att förbjuda exempelvis klusterbomber, truppminor och kemiska vapen. För att nå dit behöver någon visa vägen, och det kan Sveriges riksdagsledamöter göra på torsdag genom att rösta för ett förbud mot dödliga autonoma vapensystem.

Anders Sandberg, senior research fellow, Future of Humanity Institute, Oxford University

Olle Häggström, professor i matematisk statistik, Chalmers Tekniska Högskola

Carin Ism, Executive Director, Global Challenges Foundation samt ordförande Effektiv altruism Sverige

Max Tegmark, professor of Physics at MIT, President of Future of Life Institute

Markus Anderljung, generalsekreterare Effektiv altruism Sverige