ARCAS (la sigla sta per AI-Powered, Computerized Solution for Assault Rifles) riduce le difficoltà di un soldato coinvolto in combattimento nell’analizzare lo scenario e prendere decisioni sull’ingaggio degli avversari. È un sistema costruito attorno al concetto di fucile d’assalto che consente ai soldati di individuare in anticipo le minacce, ottimizzare le traiettorie di tiro, agganciare i bersagli e avere informazioni visuali sul funzionamento dell’arma e sull’interazione con l’ambiente. Inoltre, il sistema consente all’operatore di ricevere informazioni dalla sala controllo e dagli altri membri della squadra equipaggiati con lo stesso strumento.
di Andrea Monti – Originariamente pubblicato su Strategikon – un blog di Italian Tech
L’integrazione di un’intelligenza artificiale per svolgere tutte queste funzioni può rappresentare un fattore di novità ma, a parte questo, ARCAS non è nulla di realmente rivoluzionario. Siamo di fronte alla miniaturizzazione di sistemi che già sono utilizzati in ambito aeronavale.
L’aspetto che invece merita qualche riflessione è ancora una volta quello del rapporto fra realtà e finzione di cui avevo già parlato commentando l’arrivo sul mercato civile del Kalashnikov “online-ready”. Come il calibro 12 russo, anche ARCAS è fortemente influenzato dal mondo dei videogiochi.
Il produttore dichiara esplicitamente che i soldati fanno funzionare il sistema usando un bottone-joystick posizionato sull’impugnatura anteriore del fucile e un’interfaccia grafica ispirata dal mondo del gaming. Guardando il video pubblicitario di questo prodotto non si fa fatica a crederci e, per quanto ci interessa, proprio questo è il problema: l’ulteriore assottigliamento del confine fra la realtà della violenza, fatta di carne e di sangue, e la deumanizzazione del bersaglio resa possibile dall’intermediazione tecnologica raccontata da David Grossman nel libro On Killing e da Gavin Hood in Eye in the Sky (distribuito in Italia con il titolo Il diritto di uccidere).
Il rapporto fra settore militare e industria dei videogiochi è stretto, documentato e risalente nel tempo. Come rilevano Huntemann e Payne in Joystick Soldiers. The Politics of Play in Military Video Games, pubblicato nel 2010, la diffusione di videogiochi a tema militare è aumentata dal 2001, con una porzione significativa di questi giochi che si concentrano sul conflitto terroristico/controterroristico. Per l’esercito degli Stati Uniti, gli eventi dell’11 settembre 2001 e quelli successivi hanno accelerato un cambiamento all’interno delle forze armate su come addestrare ed equipaggiare meglio i propri soldati per le realtà della guerra moderna. Parte di questo cambiamento includeva il rinnovo di relazioni di lunga data e la creazione di ulteriori partnership con il settore dell’intrattenimento, in particolare con i produttori di film e videogiochi. Questo processo di inte(g)razione fra i due ambiti è stato accelerato dall’aumento delle capacità grafiche di computer e console dedicate (oltre che di linguaggi e tecniche di programmazione) che nel giro di poco più di vent’anni hanno consentito il passaggio da Fps come Wolfenstein 3D e Doom ai loro iperrealistici successori dei giorni nostri.
Così, il processo di deumanizzazione dell’avversario, che da essere umano diventa un’icona animata sullo schermo di una smart tv, inizia prima ancora che sul visore installato in un elmetto da combattimento. In attesa di una guerra che sperabilmente non accadrà, è allora abbastanza ragionevole chiedersi in che modo cambia la percezione dell’uccidere nei comportamenti e nelle attitudini individuali quando il gioco crea una realtà nella quale ci si immerge costantemente. Questa ultima considerazione introduce il tema ulteriore della deumanizzazione dell’operatore e non solo del suo avversario.
Sistemi come ARCAS (posto che funzionino sul serio, abbastanza a lungo e senza interferenze) eliminano o riducono fortemente le opzioni sulle quali il soldato deve prendere una decisione (quale bersaglio devo colpire? quanti colpi ho nel caricatore? quale percorso è più sicuro?). Da un lato è ragionevole che ciò accada perché si riduce il margine di errore e si aumenta la protezione del militare. Dall’altro se le indicazioni arrivano dall’interfaccia gestita dall’IA, l’operatore rischia di ridursi a un automa biologico che deve solo eseguire ordini impartiti da una piattaforma tecnologica.
Non è il caso di evocare scenari fantascientifici alla Robocop ed è invece (sempre) il caso di ricordare che in situazioni del genere l’ultima parola spetta a chi è sul campo. Astraendosi dall’ambito militare, tuttavia, il problema posto dall’uso di ARCAS riguarda tutti quei casi analoghi (dalla guida autonoma alle operazioni chirurgiche) nei quali si rischia di confondere un’elevata autonomia operativa di una macchina con l’esistenza di una sua responsabilità autonoma e separata rispetto a chi la utilizza.
In termini ancora più generali dovremmo quindi chiederci cosa accade quando si spezzano entrambi i ganci che ci tengono legati alla realtà (l’autodeterminazione individuale e la percezione dell’umanità dell’altro) e fluttuiamo in uno stato di non-percezione delle conseguenze delle nostre azioni. Qualche elemento per rispondere è già sotto gli occhi di tutti.
Possibly Related Posts:
- Chi ci protegge dal dossieraggio tecnologico?
- Webscraping e Dataset AI: se il fine è di interesse pubblico non c’è violazione di copyright
- Perché Apple ha ritirato la causa contro la società israeliana dietro lo spyware Pegasus?
- Le sanzioni UE ad Apple e Google aprono un altro fronte nella guerra contro Big Tech (e incrinano quello interno)
- La rottura tra Stati e big tech non è mai stata così forte