È successo qualche mese fa, ma si è saputo solo ora: un analista dell’intelligence statunitense, espressione che sembra ormai quasi un ossimoro, esattamente come farebbe un alunno asino di fronte al tema: ha ritenuto saggio usare dati e conclusioni di un modulo di intelligenza artificiale, redigendo un rapporto  che è stato poi ampiamente diffuso attraverso i canali classificati del Pentagono. Che diceva questo rapporto? Che su una nave cinese diretta in Iran c’erano componenti per la fabbricazione di armi nucleari. Naturalmente, ciò ha fatto scattare il massimo allarme a Washington. Così la pianificazione militare è entrata nel vivo, con un’imminente operazione di abbordaggio delle forze speciali. Presumibilmente, unità d’élite erano già in volo, pronte a intervenire sulla nave cinese in questione, Ma poi, “l’operazione è stata interrotta solo dopo che i funzionari hanno esaminato più attentamente il rapporto dell’intelligence e hanno scoperto che era stato prodotto con l’aiuto di un chatbot basato sull’intelligenza artificiale”. Tutto questo è contenuto in un reportage della Cnn in un’esclusiva di venerdì scorso. L’episodio sarebbe accaduto la scorsa primavera. 

Il grave errore è stato scoperto appena in tempo per scongiurare quello che avrebbe potuto essere l’errore geopolitico del secolo e avrebbe potuto dare inizio a un conflitto nucleare: l’IA  aveva identificato in modo errato il materiale trasportato dalla nave “. Insomma gli Usa si sono trovati a basarsi su “informazioni” completamente inventate, “allucinate” come si dice nel gergo dell’intelligenza artificiale, che potenzialmente potevano sfociare in sfociare in un conflitto con la Cina .Non si sa se il modulo di Ia utilizzato fosse di tipo commerciale o un software del governo statunitense comunque derivato da quelli di uso pubblico,  ma in ogni modo ci troviamo di fronte a qualcosa che fa parte delle immaginazioni e delle eventualità che tuttavia è stato scambiato  per realtà. Forse non si sa che esiste un collegamento ferroviario tra Cina e Iran lungo il quale eventuali trasferimenti di tecnologie sarebbero molto più al sicuro che sulle navi. Quindi qui ci troviamo di fronte al matrimonio tra stupidità artificiale e quella naturale.  

Tuttavia questi episodi invece di suscitare prudenza, sembrano ottenere l’effetto contrario: perché in tutto l’esercito e nella comunità dell’intelligence statunitense, i funzionari stanno spingendo per integrare l’intelligenza artificiale in quasi ogni aspetto del loro lavoro , dall’analisi degli enormi volumi di informazioni grezze raccolte dagli Stati Uniti e dalla selezione degli obiettivi per gli attacchi, ad applicazioni più ordinarie come la gestione del bilancio, della logistica e delle catene di approvvigionamento”. Ora una cosa è che uno studente pigro sviluppi  una dipendenza eccessiva dall’IA come sostituto della ricerca approfondita e del pensiero critico, un’altra che anche una generazione di analisti dell’intelligence  stia commettendo errori potenzialmente catastrofici con questa tecnologia. Già l’intelligenza artificiale è stata responsabile dell’assassinio di quasi 200 studentesse iraniane all’inizio della guerra, ma adesso ci troviamo di fronte a una dipendenza patologica dall’intelligenza artificiale che può portare a conseguenze catastrofiche, visto che i moduli IA tendono spesso a sbagliare o a fare inferenze così infantili che non sono poi così diversi dalle conversazioni del bar sport.  E da quel che pare di capire, più sono complessi, più tendono alle allucinazioni. È chi li usa a non essere troppo intelligente.