10 cose che devi sapere sui “killer robots”

1 – COSA SONO I ROBOT KILLER?

In realtà, sono esattamente ciò che noi immaginiamo. Si tratta di sistemi di armi autonome che potrebbero uccidere esseri umani senza alcun coinvolgimento umano nella selezione degli obiettivi e nell’impiego di una forza letale. Questi sistemi di armi autonome letali potrebbero assumere molte forme e sono in grado di operare su vasta scala e in sistemi complessi. La comparsa di robot assassini costituirebbe uno sviluppo senza precedenti nella storia umana tanto che alcuni la chiamano la terza grande rivoluzione nell’ambito della guerra, dopo la scoperta della polvere da sparo e delle armi nucleari.

2 – SONO SIMILI AI DRONI?

Esistono delle somiglianze, ma con i droni armati c’è ancora un chiaro e significativo coinvolgimento umano. Sul loro uso letale ancora oggi esistono cruciali questioni legali ed etiche che rimangono al momento irrisolte. Nel caso di robot killer, le domande sul ​​rispetto del diritto umanitario internazionale, nonché sulla responsabilità legale ed etica, sono drammaticamente più complesse. Se un robot killer sceglie autonomamente un bersaglio, chi ne sarebbein definitiva responsabile? Il programmatore che ha lavorato sui suoi algoritmi? Il comandante militare che lo ha schierato? Lo sviluppatore del software di riconoscimento facciale.

3 – I ROBOT KILLER SONO GIA’ UNA REALTA’?

Potrebbero diventare in breve tempo una realtà. Diverse forze armate nazionali hanno o avranno presto armi che possiamo definire “precorritrici” di quelle autonome. Più di 130 sistemi militari possono ora tracciare autonomamente i bersagli. La comunità internazionale è in un momento critico in cui deve agire per frenare la loro comparsa. Ma mentre la prospettiva di un mondo in cui questi sistemi vengono utilizzati è reale, tale scenario può essere ancora scongiurato.

4 – COSA PUO ‘ESSERE FATTO PER PREVENIRE LO SVILUPPO DEI ROBOT KILLER?

È necessario creare un quadro giuridico e normativo solido per limitarne lo sviluppo nell’ambito delle tecnologie militari. La società civile, gli stati progressisti e gli esperti di tecnologia di tutto il mondo hanno chiesto un DIVIETO – una proibizione legale ai sensi del diritto internazionale – sulle armi che dovrebbero funzionare senza un controllo umano significativo. Un divieto avrebbe la doppia funzione di rafforzare la legge internazionale e stabilire norme per la guerra contemporanea. Inoltre fornirebbe informazioni sulla dottrina militare e le regole di ingaggio, oltre a stabilire regole sulla prevedibilità. Ciò darebbe vita ad un quadro giuridico di norme internazionali su ciò che è accettabile e ciò che non lo  è  sull’uso dell’intelligenza artificiale nei sistemi militari. Fino a quando non sarà posto in essere un divieto, gli Stati dovrebbero essere incoraggiati a prendere in seria considerazione le implicazioni sulla comparsa e proliferazione di robot killer dichiarando il loro sostegno per una legislazione internazionale che ne vieti lo sviluppo. I singoli stati possono emanare autonomamente una legislazione coerente con questo obiettivo.

5 – E’ UNICAMENTE UN PROBLEMA DEGLI STATI?

I progressi dell’autonomia e dell’intelligenza artificiale non avvengono solo nei laboratori dei “killer robot” o nei centri militari, anche se questi sono effettivamente in via di sviluppo.  Molte ricerche sull’Intelligenza Artificiale (IA) e sulle tecnologie autonome si stanno sviluppando anche nelle istituzioni accademiche e nelle aziende private. Pensiamo, ad esempio, alla macchina a guida autonoma di Google. Ma senza una regolamentazione, i risultati di tali sforzi potrebbero trasformarsi in tecnologie che aiutano lo sviluppo tecnologico dei robot killer. Gruppi e singoli individui dell’industria e del mondo accademico possono impegnarsi a non indirizzare le proprie ricerche allo sviluppo di sistemi di armi autonome creando restrizioni commerciali e legali che ne limitino sia l’uso finale o sia degli utenti finali di determinati sistemi, come hanno già fatto alcune aziende.

6 – ESISTE UN FORUM DIPLOMATICO DEDICATO A QUESTO PROBLEMA?

La Convenzione delle Nazioni Unite su alcune armi convenzionali (CCW) di Ginevra è la sede principale di tali discussioni multilaterali. Dal 2014 tale organismo, formato da 125 membri che ha il mandato di mettere sotto esame le armi “Che sono giudicate eccessivamente ingiurioso o avere effetti indiscriminati”, è impegnato sui sistemi di armi autonome. Nel 2016 è stato istituito un gruppo di esperti governativi delle Nazioni Unite per esaminare i sistemi di armi autonome emergenti. Lo scopo è quello di identificare regole e principi che dovrebbero essere applicate a queste armi.

7 – CHI SOSTIENE TALE DIVIETO?

Un numero crescente di paesi ha sostenuto la richiesta di un divieto di sistemi di armi autonome. Austria, Brasile e Cile hanno chiesto un nuovo mandato al CCW per assicurare la negoziazione di uno strumento legalmente vincolante che proibisca le armi che non hanno un controllo umano significativo. La “Campaign to Stop Killer Robots” è una coalizione di più di 160 organizzazioni non governative in oltre 65 paesi del mondo è stata creata per promuovere iniziative che possano giungere al divieto delle armi autonome. La Campagna ha il supporto di 4.500 esperti di IA, delle Nazioni Unite e del Parlamento Europeo. Secondo un sondaggio Ipsos del gennaio 2019 commissionato dalla Campagna e condotto in 26 Paesi più di tre intervistati su cinque si oppongono allo sviluppo di sistemi d’arma che selezionino e attacchino obiettivi senza l’intervento umano.

8 – PERCHÉ ISTITUIRE UNA  CAMPAGNA QUANDO C’È GIÀ IL CCW?

E’ vero, il CCW esiste, ma ci sono questioni aperte sulla sua efficacia. Dopo oltre cinque anni di discussioni sui sistemi di armi autonome, si è ancora fermi su questioni di procedura e definizioni. La ricerca sull’autonomia e l’intelligenza artificiale (AI) si sta rapidamente sviluppando, lasciando i responsabili politici in un pantano. La partecipazione della società civile sul controllo degli armamenti e sul disarmo è stata strumentale in precedenti processi diplomatici per stimolare gli Stati, fornire competenze e aumentare la necessaria consapevolezza.

9 – QUALI SONO I VANTAGGI DELL’INTELLIGENZA ARTIFICIALE?

Dobbiamo assolutamente mantenerli! Nessuno nega i molteplici benefici sociali ed economici dei progressi nell’IA, sia di quelli già realizzati, sia di quelli potenziali. Ma la duplice natura sull’uso di questi sistemi non preclude lo sviluppo di regolamenti internazionali per controllarne o proibirne usi dannosi. La comunità internazionale è stata in grado di sviluppare quadri normativi sul controllo degli armamenti e sul disarmo differenziando, in modo inequivocabile, tra un uso positivo ed un uso letale di determinate tecnologie. Questo deve accadere anche con l’IA e i robot killer.

10 – UN DIVIETO E’ PREMATURO?

Oggi possiamo cogliere il concetto di sistemi di armi completamente autonome, indipendentemente dal ritmo dei progressi tecnologici o dal processo decisionale multilaterale in atto. Ora è il momento di porre un divieto legale chiaro e multilaterale sul loro sviluppo, possesso e uso. Gli sforzi per il controllo delle armi possono essere estremamente impegnativi anche per quel tipo di armi che sono già sono utilizzate in un conflitto o il cui uso è diventato comune. Con i robot killer, la comunità internazionale ha la rara opportunità di sviluppare in modo proattivo una legislazione sul loro sviluppo e utilizzo prima che sia troppo tardi.