Dai droni alle armi autonome. Lasciare l’Apocalisse alle macchine?

Un volume a cura dell’Istituto di Ricerche Internazionali Archivio Disarmo e di Francesca Farruggia (Franco Angeli, 2023)

“Ogni volta che si compiono grandi progressi è necessaria una profonda riflessione su cosa sia lecito fare e su cosa non si debba fare”. Con queste parole il fisico e premio Nobel Giorgio Parisi apre il libro Dai droni alle armi autonome. Lasciare l’Apocalisse alle macchine? Il libro, curato da Francesca Farruggia, ricercatrice di sociologia alla Sapienza e segretaria generale di Archivio Disarmo, è liberamente leggibile e scaricabile in Open Access sul sito della casa editrice FrancoAngeli a questo link.

La riflessione che Parisi invita a compiere nella sua prefazione è il leitmotiv che scandisce tutta l’opera nella quale sono riunite le competenze di numerosi esperti sul tema delle armi semiautonome (come i droni) e della loro recente evoluzione in sistemi d’arma completamente autonomi guidati dall’Intelligenza Artificiale. Si tratta dei cosiddetti robot-killer (anche conosciuti con l’acronimo LAWS, dall’inglese Lethal Autonomous Weapon System) ossia armi in grado di agire in maniera indipendente sul campo di battaglia.

L’argomento non è di poco conto, poiché significa demandare alle macchine scelte morali che fino a questo momento sono state affidate, nel bene e, più spesso nel male, a individui della specie umana. Si tratta cioè della facoltà per artefatti non pensanti di scegliere circa la vita e la morte di esseri umani all’interno di contesti bellici. La liceità delle macchine di poter sostituire gli esseri umani in decisioni di natura etico-morali costituisce il fulcro intorno al quale si sviluppa il libro. Su di esso, i diversi autori innestano di volta in volta le loro analisi, ciascuno dalla propria prospettiva.

Con un approccio multidisciplinare, alle scienze “dure” si affiancano quelle di tipo umanistico. Attraverso la lettura del testo, il lettore/lettrice può approfondire dati e interpretazioni di tipo storico, sociologico, giuridico, strategico, geopolitico, filosofico, fisico e informatico riguardo all’impiego di queste nuove tecnologie e al ruolo sempre più ingombrante dell’Intelligenza Artificiale. Il tutto è arricchito dalla già citata prefazione di Parisi, che illustra le complicazioni legate al progresso tecnologico e la necessità per la comunità internazionale di adottare adeguate misure per mitigare i danni ad esso collegati.

Il libro si apre con un excursus storico a firma di Fabrizio Battistelli sul mito delle guerre “a perdite zero”, ovvero condotte evitando il sacrificio di vite umane grazie a espedienti magici o tecnologici in grado di sostituire l’uomo sul campo di battaglia. Lo sviluppo dei LAWS può presto trasformare in realtà questo “sogno”, con tutti i rischi che ciò comporterebbe. Su questo punto, Diego Latella, Gian Piero Siroli e Guglielmo Tamburrini esaminano a fondo le implicazioni di sistemi d’arma diventati capaci di apprendere e di agire in maniera autonoma. In particolare, Siroli si concentra sulle vulnerabilità proprie di tutti i sistemi informatici e sottoponendo a un vaglio serrato la narrazione della loro infallibilità.

Fortunatamente, l’elevata pericolosità dei nuovi sistemi d’arma autonomi non è passata del tutto sotto silenzio nel discorso pubblico e ha dato vita a nuovi dibattiti a più livelli. L’argomento viene trattato nei successivi capitoli dal punto di vista sia del diritto internazionale – in particolare quello umanitario (Sofia Bertieri e Adriano Iaria) – sia dei processi in atto all’interno della comunità scientifica (nuovamente Tamburrini). Barbara Gallo e Maurizio Simoncelli si concentrano poi sul ruolo della società civile (nelle sue articolazioni più significative, rappresentate dalle comunità scientifiche, le organizzazioni non governative, le istituzioni religiose) e le stesse imprese industriali, in riferimento all’impegno di molti per tentare di porre un freno allo sviluppo di questo tipo di tecnologia.

Non mancano analisi più tecniche come quelle ad opera di due giovani studiosi, Michael Malinconi e Juan Carlos Rossi sui progetti di finanziamento, sulle tipologie e sul funzionamento di sistemi d’arma futuribili come quelli autonomi (giornalisticamente i robot-killer) e semiautonomi come i droni, rivelatisi decisivi nella seconda fase della guerra in Ucraina.

Si tratta dunque di un libro di grande attualità, che proietta verso il futuro le preoccupazioni e gli auspici avvertiti dalla parte più responsabile degli scienziati e dell’opinione pubblica. L’obiettivo è mantenere alta la guardia nei confronti di strumenti pericolosi e potenzialmente distruttivi come le armi autonome e semiautonome in qualità di persone comuni. L’importanza dell’opinione pubblica emerge con forza dai capitoli a firma di Farruggia, che evidenziano la diffusa e convinta contrarietà da parte dei cittadini italiani ed europei nei confronti dello sviluppo e dell’impiego delle armi autonome.

Il libro ha il pregio di offrire un’abbondanza di informazioni, considerato anche l’attuale scenario internazionale che, dall’invasione russa dell’Ucraina, ha moltiplicato l’interesse nei confronti delle armi di ultima generazione impiegate sul campo di battaglia, a cominciare dagli economici e flessibili velivoli senza pilota. Allo stesso modo, il blocco delle filiere industriali dei semiconduttori ha mostrato tutti i limiti di un sistema basato su pochi, grandi produttori di tecnologie avanzate, con conseguenze politiche e strategiche di fondamentale importanza.

La speranza insita nel messaggio del libro, evidente sin dal sottotitolo, è dunque quella di riuscire a rimanere padroni del nostro destino comune come umanità, attraverso uno sforzo che coinvolga in maniera trasversale tutte le fasce della società. Non soltanto le comunità di scienziati e le associazioni pacifiste ma anche e soprattutto i singoli cittadini, tutti possono dare il proprio contributo per non lasciare l’apocalisse alle macchine.