Dossier: la tecnoguerra è qui
1 – Gli scenari inquietanti delle armi autonome di ANGELO BARACCA (*)
2 – Cyberwar di LEONARDO BOFF (**)
(Foto di elaborazione Pressenza)
Gli scenari inquietanti delle armi autonome di ANGELO BARACCA
Il mondo del futuro sarà senza alcun dubbio radicalmente diverso da quello che conosciamo: così come quello attuale è radicalmente diverso da quello nel quale io sono cresciuto. Con la differenza che il ritmo delle innovazioni è sempre più incalzante e spasmodico, alimentato da meccanismi drogati, che inducono bisogni non necessari e rendono artificiosamente obsoleti i nuovi prodotti, spesso inservibili dopo pochi anni (obsolescenza programmata), e portano alla crescente sostituzione dei valori umani e sociali con il possesso di beni materiali o status symbol.
Il mondo del futuro potrà più o meno piacere, ma sembra indubbio che tra le innovazioni ve ne saranno anche di terrificanti ed estremamente pericolose nel campo della guerra e degli armamenti, nonché del controllo sociale sempre più pervasivo. Sono tanti gli interrogativi e gli aspetti inquietanti che riguardano gli sviluppi dell’intelligenza artificiale e dell’automazione e il loro controllo (se questo non è un’illusione), ma tra questi occorre includere anche la guerra e il modo in cui queste tecnologie potrebbero (o potranno, se non verranno arrestati) inserirsi nei conflitti bellici del futuro, affiancandosi, se non addirittura sostituendosi per molte funzioni, agli esseri umani. L’automazione crescente interesserà infatti anche gli armamenti perché si stanno approntando le cosiddette armi autonome (fully autonomous weapons), chiamate a volte “killer robot“, armamenti che possono selezionare e ingaggiare bersagli senza ulteriore intervento di un operatore umano.
L’immaginario corre agli scenari della fantascienza, come Guerre Stellari, ma per quanto la fantascienza cerchi di immaginare il futuro più impensabile questo non è evidentemente prevedibile e potrà essere completamente diverso.
Il dibattito sull’innovazione tecnologica è sempre stato molto vivo (risalendo per lo meno dal tempo dei luddisti): è sempre stata presente, e alla fine prevalente (in modo attivo o, spesso, passivo) una corrente che ha salutato con favore tutte le innovazioni, affermando che il problema non è fermare il “progresso” ma controllarlo. Il mio personale parere è che questa idea di “controllo della tecnologia e delle innovazioni” si è rivelata una copertura ideologica e raramente ha funzionato per evitare le ricadute negative delle innovazioni: porto spesso un esempio, siamo riusciti a controllare l’innovazione dell’automobile che esiste da più di un secolo, a valorizzarne solo gli (indubbi) aspetti positivi? A me sembra che lo sviluppo incontrollato dell’automobile si sia tramutato nel soffocamento delle città, in frequenti paralisi della circolazione, in una fonte micidiale di inquinamento ambientale terribilmente nocivo [penso che tutti conoscano le autorevoli e spaventose valutazioni di 9 milioni di decessi prematuri all’anno: ma questa notizia ha forse indotto una riduzione dell’uso dell’auto privata? D’altra parte le automobili autonome (self-driving cars) sono ormai una realtà in via di inserimento nel mercato commerciale (una volta superate le barriere normative, culturali ed economiche)].
Tanto più micidiale è il rischio di uno sviluppo incontrollato delle armi autonome, soprattutto di un loro utilizzo incontrollabile e irresponsabile (ma è mai esistito uno sviluppo responsabile degli armamenti?). Storicamente è sempre avvenuto che lo sviluppo di armi innovative non sia mai stato arrestato, sia stato adottato (spesso con l’illusione, o il pretesto, di acquisire un vantaggio per molto tempo incolmabile sugli avversari) ed abbia rivoluzionato in modo duraturo la natura stessa della guerra: è avvenuto per il fucile e il cannone, fino alla bomba atomica e i suoi sviluppi successivi (bomba termonucleare, missili, difese antimissile, ecc.): salvo poi chiudere la stalla successivamente, mettendo affannosamente al bando le armi più spaventose (chimiche, biologiche, mine anti-uomo, bombe a grappolo: per le armi nucleari siamo all’inizio).
Le armi autonome cominciano già ora ad essere una realtà e non solo uno scenario potenziale, ma non ancora regolamentato. Esso pone in ogni caso già da ora dei problemi etici e legali fondamentali.
Per fortuna sembra che stia maturando una sana preoccupazione e reazione, che però non trova corrispondenza in un’adeguata informazione e non provoca quella presa di coscienza e quella razione dell’opinione pubblica che ne determinerebbe il radicale ripudio. Una volta aperto questo vaso di Pandora, che darà origine agli sviluppi e applicazioni più impensabili, come si potrà tornare indietro?
Le maggiori autorità mondiali dell’intelligenza artificiale e della robotica – fra cui spiccano i nomi di Elon Musk e Mustafa Suleyman, di Google DeepMind – si sono rivolte alle Nazioni Unite per promuovere il bando delle armi autonome. Essi sottolineano che grazie alle evoluzioni tecnologie degli ultimi anni lo sviluppo di queste armi potrebbe scatenare una terza rivoluzione nelle scienze belliche, dopo quelle legate all’invenzione della polvere da sparo e a quella delle armi nucleari (ovviamente la classificazione delle rivoluzioni militari si presta ad arbitrarietà, ma quello che conta è il concetto):
“Una volta sviluppate le armi autonome permetteranno conflitti armati di scala ben più ampia rispetto ad oggi, e con velocità più superiore a quelle che l’uomo può comprendere …Possono essere armi di terrore, armi che despoti e terroristi utilizzeranno contro le popolazioni innocenti, e armi che possono essere manipolate per comportarsi in modalità poco desiderabili”.
La lettera è firmata da 116 leader di società che si occupano di Intelligenza Artificiale provenienti da 26 nazioni differenti. Il suo obiettivo è di sensibilizzare l’Onu affinché venga avviato un dialogo per proporre un divieto globale sullo sviluppo delle armi autonome. È forse il caso di esprimere qualche perplessità sul fatto che a muoversi siano esponenti di imprese del settore. Ma la necessità di sensibilizzare e mobilitare l’opinione pubblica è senz’altro urgente. I media e le istituzioni mondiali sembrano muti, e comunque incapaci di affrontare le sfide che sorgono alle nuove frontiere di conoscenza, scienza e tecnologia, di governare e integrare in uno sviluppo equilibrato, compatibile e sostenibile i più delicati avanzamenti conoscitivi e le loro potenziali ricadute. Mentre il mondo è dominato dal paradigma (o il mito) della comunicazione e allo stesso tempo orfano di un ordine nel comunicare.
Le principali potenze militari che stanno sviluppando questo tipo di tecnologie sono USA, Cina, Russia e Israele. Alcuni sistemi sono già stati utilizzati sul campo, come le torrette di confine autonome sviluppate dalla sudcoreana Dodaam Systems, che adottano dei mitragliatori capaci di identificare e sparare su bersagli senza alcun intervento umano (necessitano solo dell’ok per sferrare il colpo letale).
Come sempre accade vi sono anche voci opposte, che sostengono che queste tecnologie siano in grado di ridurre le morti sul campo di battaglia, con la possibilità di individuare soldati e combattenti in maniera più precisa rispetto agli esseri umani: come non ricordare che i bombardamenti nucleari di Hiroshima e Nagasaki furono surrettiziamente “giustificati” per risparmiare vittime fra i soldati americani in una invasione del Giappone?
(*) ripreso da Pressenza
IMMAGINE DI VINCENZO APICELLA
Cyberwar di LEONARDO BOFF
Conosciamo le forme classiche di guerra, un tempo ingaggiate tra eserciti e, dopo Hitler (con la sua “totaler Krieg” = guerra totale) di popoli contro popoli. Sono state inventate bombe nucleari così potenti che potrebbero distruggere tutto ciò che è vita sulla Terra. Si dice che erano armi di dissuasione. Non importa. Chi ha per primo l’iniziativa, vince la guerra che durerebbe pochi minuti. Il problema è che sono talmente letali che possono uccidere tutti, anche quei primi che le hanno lanciate. Sono diventate armi spauracchio. Ma attenzione, la sicurezza non è mai totale e non è impossibile che qualcuna di queste esploda sotto l’azione degli hackers mettendo a rischio gran parte dell’umanità.
Ultimamente è stata inventata un’altra forma di guerra che le grandi maggioranze non ci badano nemmeno: la guerra cibernetica, chiamata anche guerra informatica, guerra digitale e cyberguerra.
Questa poggia su uno sfondo che merita di essere considerato: esiste un eccesso di accumulazione di capitale al punto che le grandi corporazioni non sanno dove investirlo. L’agenzia di politiche dello sviluppo, Oxfam, presente in 94 paesi, e assessorata da scienziati del MIT, ci ha fornito per quest’anno 2017, i seguenti dati: 1% dell’umanità controlla più della metà della ricchezza del mondo. Il 20% più ricco possiede il 94,5 % di questa ricchezza mentre 80% deve rassegnarsi con il 5,5%. Ecco una profonda diseguaglianza che tradotta eticamente significa ingiustizia perversa.
Questa eccessiva concentrazione non ha senso in applicazioni produttive perché il mercato impoverito non ha la possibilità di assorbire i suoi prodotti. O continuano nel girotondo speculativo aggravando il problema o trovano qualche altra soluzione con il sistema rateale. Parecchi analisti, tra gli altri, William Robinson dell’università della California, santa Barbara, che ha pubblicato un brillante studio sul tema, ma anche Nouriel Rubini il quale ha previsto la crisi del 2007-2008. Questi ci suggeriscono due soluzioni per il capitale ultraconcentrato: investire nella militarizzazione alle dipendenze dello Stato, costruzione di nuove armi nucleari oppure investire in guerre locali, guerra contro la droga, per costruzione di muri di frontiera, nell’invenzione di nuovi apparato di polizia civile e militari.
Oppure grandi investimenti in tecnologia, robotizzazione, automazione massiva e digitalizzazione fino a coprire, se possibile, tutti gli ambiti della vita. Se nel 1980 l’investimento era di 65 miliardi adesso è passato a 654 miliardi. In questo investimento sono previsti sevizi di controllo delle popolazioni, vero Stato poliziesco e le guerre cibernetiche.
Conviene analizzare più dettagliatamente gli aspetti di questo problema. Nella guerra cibernetica non si usano armi fisiche, ma il campo cibernetico con l’utilizzazione di virus e hackers sofisticati che entrano nelle reti digitali del nemico per annullare o eventualmente danneggiare sistemi informatici. Gli obiettivi preferiti sono le banche, i sistemi informatici e militari e l’intero sistema di comunicazione. I Combattenti di questa guerra sono specialisti in informatica e telecomunicazioni.
Questo tipo di guerra è stato testato varie volte; già nel 1999 nella guerra del Kossovo, dove gli hachers attaccarono persino la portaaerei nord-americana. Forse il più conosciuto è stato l’attacco alla Estonia il giorno 26 aprile del 2007. Il paese si vantava di possedere quasi tutti i servizi del paese informatizzati e digitalizzati. Un piccolo incidente mentre si abbatteva la statua di un soldato russo, simbolo della conquista russa nell’ultima guerra, ai civili dell’Estonia, servì come occasione alla Russia di scatenare un attacco cibernetico che paralizzò praticamente tutto il paese: i trasporti le comunicazioni il servizio bancario, il servizio di luce e acqua. Nei giorni seguenti scomparvero i siti del parlamento, delle università e dei principali giornali. Gli interventi partirono da diecimila computer, distribuiti in varie parti del mondo. Il capo dello Stato dell’Estonia dichiarò, centrando il problema: “Noi vivevamo nel futuro: banche on line, notizie on line, Test on line, shoppings on line. La digitalizzazione totale aveva reso tutto più rapido e più facile, ma aveva anche dimostrato la possibilità di farci regredire di secoli in una manciata di secondi.
Ben conosciuto è il virus Stuxnet, probabilmente creato da Israele e USA, che è riuscito a penetrare nelle centrali di arricchimento dell’uranio dell’Iran, aumentandone la velocità fino a farlo scoppiare e impedirne il funzionamento.
Il rischio maggiore della guerra cibernetica è che può essere diretta da gruppi terroristici come l’ISIS o da un altro paese, paralizzandone tutta la infrastruttura, degli aereoporti dei trasporti delle comunicazioni, dei servizi di acqua e luce e anche aprirsi un varco nei segreti degli apparati di sicurezza di armi letali e farle scoppiare o inutilizzarle. E tutto questo a partire da centinaia di computer che funzionano a partire da differenti parti del pianeta, senza che sia possibile identificare il loro luogo e così affrontarle.
Siamo pertanto di fronte a rischi innominabili, frutto della ragione impazzita. Soltanto una umanità che ama la vita e si unisce per preservarla si potrà salvare.
(**) traduzione di Romano Baraglia e Lidia Arato
