Tecnologia

Tecnologie di guerra: accelerazione della Kill Chain e regolazione etica

Ecco la sintesi del mio intervento al convegno  “Algoritmi, etica, diritto” tenutosi a Frascati l’11 maggio 2024. Non proprio l’intervento trascritto ma, restando fedele alla struttura narrativa dell’esposizione, qualcosa di molto vicino all’originale con l’aggiunta di qualche citazione e una considerazione finale.

(NLP)

Viviamo in un periodo nel quale l’osservazione diretta dei conflitti sul campo è esperienza quotidiana piuttosto che percezione delle tragedie di un mondo lontano. Guardiamo a questi conflitti come un fenomeno che potrebbe tracimare nel cuore dell’Europa o comunque, oltre a generare tragedie permanenti, definire nuovi gravi squilibri globali. In questo panorama spesso ci si dimentica che la guerra, un fenomeno che ha visto enormi cambiamenti dalla caduta del muro di Berlino, è profondamente mutata.

La guerra sul campo, ormai è qualcosa di consolidato, è sempre meno decisiva per la risoluzione dei conflitti: per questo la tecnologia interviene nella sua doppia natura, quella di strumento che cerca di risolvere l’impasse creatasi sul campo e quella di componente della guerra ibrida, quella parte di conflitto che non si gioca sul campo e che risulta decisiva per le sorti di una campagna militare.

Se vogliamo cercare la natura di questo genere di conduzione della guerra, nella quale la componente “sul campo” è avvolta da una velenosa complessità, non dobbiamo guardare la cartina dei progressi sul terreno dell’esercito che ci pare vincente. Dobbiamo piuttosto guardare alle evoluzioni della scienza detta un tempo postmoderna. Quella che ha permesso il passaggio, sul terreno della guerra sul campo,  from sniper to smartphone, dalla centralità del cecchino a quella dello smartphone, che ridefinisce non solo la microfisica della guerra ma anche il rapporto tra guerra, tecnologia ed effetti del conflitto.

La mutata natura della guerra, come quella di tutte le componenti essenziali del nostro mondo, la si comprende se guardiamo alle evoluzioni, impetuose, della scienza.
Sono presenti due caratteristiche della scienza contemporanea già definita postmoderna da evidenziare:

  • procedere per brainstorming cioè per impetuosa accumulazione di sapere che produce innovazione che, di forza irrompe sul campo e non a caso quando si parla degli effetti delle tecnologie odierne spunta il concetto di disruptive.
  • affermarsi sul campo a prescindere, con violenza, da diritto e legittimazione. In poche parole, sconvolgere gli equilibri sul campo,  creare anomalie che diventano norma distruggendo il terreno preesistente della regolazione normativa e dell’etica. Canguilhem, prima ancora della scienza postmoderna, nel suo Il normale e il patologico aiuta a comprendere un carattere di questo modo violento di affermarsi: il caso eccezionale diventa norma causando trasformazioni, anche brutali, nei paradigmi di sapere e nel legame sociale.

A queste si aggiunge una terza caratteristica, definita concettualmente in tempi più recenti ed è quella codificata come accelerazionista nella quale scienza e tecnologia radicalizzano una tendenza tipica del moderno: la spasmodica ricerca della riduzione della distanza tra sé e l’oggetto desiderato. L’inizio stesso della modernità è fatto di cultura stessa dell’accelerazione. La differenza con l’oggi è che nel XXI secolo le caratteristiche rivoluzionarie della scienza sono sempre più separabili dai processi di emancipazione sociale.

La scienza contemporanea si fa guerra, assumendo pienamente potenza distruttiva in modo maggiormente pervasivo rispetto alla scienza di altre generazioni, nel momento in cui queste tre caratteristiche le troviamo esplicitamente nelle armi. Che si tratti di dispositivi di arma, di sistemi di armi o, sul solo piano digitale, di flussi di armi che colpiscono nel mondo immateriale o emergono in quello materiale.

Queste tre caratteristiche si trovano sia nei conflitti finanziari, meno visibili e potenzialmente persino più devastanti di quelli sul campo, che in quelli sul terreno. Entrambi sono rilevabili come dispositivi tecnologici che fanno rete e corrispondono a esigenze strategiche di controllo del conflitto che, in realtà,  oltre alla distruzione producono non solo effetti collaterali ma anche caos. Così innovazione tramite brainstorming per irrompere nel presente, affermazione a prescindere dal quadro etico e normativo, accelerazione dei processi, in questo caso distruttivi, sono caratteristiche della scienza contemporanea pienamente rilevabili nei processi di comando nelle guerre di oggi.

Come nell’economia, da quando si è sviluppato il capitalismo e nell’intreccio con le sue mutazioni, la scienza è il principale processo produttivo mentre nella guerra la scienza si afferma, aggredendo il mondo in un modo microfisico sconosciuto rispetto al passato, come il principale processo distruttivo. Ma quando la distruzione va nel profondo, dei processi di evoluzione tecnologica e di aggressione della materia, si generano non solo effetti collaterali ma anche caos. In questo modo la scienza contemporanea, nella produzione come nella guerra, oscilla tra la Scilla e la Cariddi della complessità: risponde infatti a tremende esigenze di ordine e genera livelli estesi di caos.

In campo militare queste tre caratteristiche si trovano nella Kill Chain – la catena di comando ed esecuzione dell’intervento materiale sul campo – che innova per brainstorming, per spiazzare continuamente il nemico, distrugge a prescindere dalla dimensione normativa ed etica, alla quale presenta un campo ignoto fatto di innovazioni letali, e procede per accelerazione. E si parla di una accelerazione distruttiva che non è solo affermazione di comando ma anche produzione di effetti fuori controllo, vittime civili, disastri ambientali, speculazione finanziaria, conflitti che invece di risolversi si riproducono altrove e si moltiplicano.

Del resto una regola della guerra sul campo, dagli anni ’90 del grande capolavoro che è Unrestricted Warfare, è che questa non è mai decisiva per la risoluzione di un conflitto generando caos irrisolvibile per tutte le parti in guerra. Per vincere la guerra, come sanno i russi che hanno inventato il concetto di guerra ibrida, bisogna sincronizzare molte componenti che vanno oltre il conflitto sul campo in modo che il caos, alla fine, venga domato a proprio favore. Certo, spesso il caos domato di oggi genera la catastrofe di domani. Sul terreno finanziario, ad esempio, il modo con il quale è stato risolto il caos generato da Lehman Brothers ha posto le basi economico-finanziarie per generare la guerra di secessione russo-ucraina cominciata nel 2014. Ma qui un noto tedesco di passaggio, che parlava di crisi risolte che generano altre crisi, ha scritto pagine utili per capire questo genere di fenomeni.

Una caratteristica della Kill Chain contemporanea è che è composta, nei ruoli decisionali, di umani e non umani, di persone e di AI, i quali si contendono i posti di comando. Si tratta di un fenomeno già rilevato dalle guerre finanziarie dello scorso decennio e regolarmente sfociato in quelle sul campo. In questo modo la guerra sul campo non genera solo estesi livelli di caos, e di impasse sull’esito dello scontro, ma anche la presenza di uno scontro silenzioso, inquietante e inedito tra umani e non umani proprio nella catena di comando della Kill Chain . Catena di comando nella quale  spesso risulta incomprensibile chi, tra umani e AI, comandi davvero nei processi militari di distruzione. Ed è proprio l’estensione della dimensione tecnologica nella catena di comando della Kill Chain che rende più aspra la concorrenza con gli umani e tra gli umani rimasti in un contesto di guerra e maggiormente devastante l'”errore” che genera l’effetto collaterale o il caos.

Se andiamo a vedere un settore recente nella formazione della Kill Chain, pensato come strategico della guerra contemporanea, quello dell’intreccio tra AI e droni ci rendiamo conto come tutto questo sia in atto. Stiamo parlando di un settore che è pensato come strategico perché centra una delle caratteristiche essenziali della guerra contemporanea: accelerare il processo di distruzione, la potenza di devastazione capace di neutralizzare l’avversario, tramite innovazione tecnologica che sostiene la centralità dell’ analisi e circolazione di informazioni piuttosto che quella del massiccio spostamento di truppe.

In realtà, se guardiamo da vicino la Kill Chain che si genera nell’intreccio tra AI e drone, nella quale la circolazione di informazioni genera il principale processo distruttivo, vi sono sicuramente il brainstorming, che si genera nella fragile rete della fornitura fatta di grandi aziende e di start-up, la creazione di dispositivi e comportamenti che il diritto e l’etica fanno grande fatica a normare, mentre l’accelerazione dei processi distruttivi è la regina di quanto sta accadendo. E non vi è solo una continua ridefinizione di ruoli tra AI e umani, e quindi tra umani, ma anche una difettività di tutta la Kill Chain che genera effetti collaterali e caos su una molteplicità di piani anche a distanza di tempo.

La stessa espressione “effetto collaterale” non rende l’idea di cosa accade in questi processi distruttivi perché fa pensare a qualcosa, in ultima istanza, di governabile una volta svanito l’ elemento periferico che questo rappresenta. In realtà la Kill Chain vive, in ogni momento, a stretto contatto tra comando dei processi, impetuosa e anche difettiva evoluzione tecnologica, effetti collaterali e un caos che potrebbe disarcionarla. Gli esempi più chiari di caos da una parte ed estensione, dall’altra, della Kill Chain sono Iraq, Afghanistan e Ucraina. Lo sono per motivi differenti: l’Iraq è stato il primo laboratorio di massa dell’aspirazione dati, controllo e mappatura comportamenti e previsione scenari di guerra fatti analizzando big data. Le Kill Chain, formate da umani e AI, si sono definite in quel contesto. Un effetto collaterale è stato il caso Snowden presto opacizzato e dimenticato. L’Afghanistan ha rappresentato un doppio laboratorio: quello del rapporto tra Kill Chain e guerra di lunga durata e quello rappresentato da errori di serie dimensioni, che hanno fatto scuola, che hanno costretto a ripensare la AI e il suo uso nella catena di comando ed esecuzione militare. L’Ucraina è l’ultimo terreno di complesse Kill Chain su entrambi i fronti, con la significativa variante, che conosciamo meglio sul fronte occidentale, delle numerose startup cresciute a ridosso della linea di combattimento e direttamente immesse nella Kill Chain.

In questo campo  un terreno paradigmatico delle mutazioni della guerra, e della sua fragilità, in quanto proprio la scienza contemporanea è la principale componente distruttiva,  è quello della Kill Chain che si forma dell’uso dei droni tramite intrecciati ad AI. Da lì si possono capire anche le catene più grandi nelle quali ugualmente si producono caos, efficienza controllo, effetti imprevedibili. Il nuovo piano della complessità così esteso e distruttivo che avrebbe fatto impallidire Gregory Bateson.

Il problema della regolazione etica di questi fenomeni sta nella consapevolezza della forza del caos distruttivo in atto e nella fragilità dei tentativi di riduzione a comportamento accettabile di catene di comando nate per essere catastrofiche. In questo senso l’etica deve essere elemento di pressione esterna e interna a questi processi. Esternamente non può che essere uno strumento di comunicazione attivabile anche su larga scala, con tutta la complessità tecnologica che questo processo richiede, mentre internamente devono essere presenti tre piani di regolazione etica:

  1. Consapevolezza deve esserci che ogni reale regolazione etica attraversa pressioni, un processo di difficile adattamento alla realtà mentre la presenza del caos può essere ridotta ma non eliminabile. Qualsiasi regolazione etica che prometta la riduzione vicina allo zero del caos distruttivo, in questi processi, è ideologia o propaganda.
  2. Vanno regolati non solo i protocolli scientifici ma anche i comportamenti umani e i conflitti tra umani e non umani nella Kill Chain che possono avere effetti imprevedibili.
  3. Deve esserci una maggiore regolazione etica al processo interno alla formazione di AI a servizio di questo genere di catene

Questa non è solo la stagione della guerra ma anche delle sue mutazioni alle quali bisogna saper rispondere. Certo, non si vede un filo logico nelle guerre contemporanee che sono pensate come una sorta di Epifania dell’irrazionalità degli umani o, per pigrizia concettuale, come la realizzazione di un labirinto di complotti geopolitici. Il punto è che la guerra risponde ai criteri di impetuosa crescita della produttività della scienza moderna – tramite brainstorming, innovazione e improvvise eruzioni di potenza -, che si sviluppa tramite il criterio della sovrapposizione dei differenti elementi produttivi e della crescita della forza, attorno all’oggetto da domare, per, poi, passare a un nuovo oggetto abbandonando il campo precedente quando ormai colmo di macerie.

 

Per codice rosso, nlp

Autore de La finanza è guerra