di TOMMASO SASO-
Alle 2:47 della notte del 14 maggio 2017, un ransomware chiamato WannaCry (vorrei piangere!) iniziò a diffondersi attraverso internet come un virus biologico … in poche ore infettò 300.000 computer in 150 paesi, paralizzando ospedali britannici, ferrovie tedesche, fabbriche giapponesi. Ma in molte aziende protette da sistemi AI di cybersecurity, l’attacco fu bloccato in pochi millisecondi, ancora prima che i tecnici si accorgessero di cosa stava succedendo. Fu la dimostrazione più drammatica di come l’intelligenza artificiale stia diventando l’ultima linea di difesa nell’era digitale, dove gli attacchi informatici viaggiano alla velocità della luce e la sicurezza umana purtroppo non basta più.
La sicurezza nell’era dell’AI è una corsa agli armamenti tra intelligenze artificiali. Da un lato i criminali informatici usano l’AI per creare malware più sofisticati, deepfake convincenti e attacchi personalizzati su scala industriale, dall’altro, sistemi di difesa AI analizzano miliardi di eventi al secondo, predicono minacce prima che si materializzino e rispondono a velocità sovrumane, perché in questa cyber-guerra noi umani siamo troppo lenti per partecipare direttamente.
Il volume delle minacce digitali è sbalorditivo, pensate che oltre 350.000 nuovi campioni malware vengono identificati ogni giorno. Un analista di sicurezza umano può processare forse 100 allerte al giorno, mentre un sistema AI può analizzare milioni di eventi simultaneamente, identificando modelli che nessun umano potrebbe mai riconoscere.
Il rilevamento delle anomalie rappresenta il cuore della cybersecurity AI che, invece di cercare malware noti, impara percorsi comportamentali normali di reti, utenti, applicazioni. Quando qualcosa devia dal comportamento normale, come un dipendente che accede a file inusuali, traffico di rete che fluisce in direzioni inaspettate, allora il sistema va in allerta.
Ma purtroppo anche i criminali usano anche l’AI per i loro attacchi. La tecnologia deepfake permette di creare video falsi di dirigenti che autorizzano bonifici bancari, o email di phishing potenziate dalla AI personalizzate usando dati social media, rendendole molto più convincenti. Anche la clonazione vocale può replicare voci di CEO per attacchi di social engineering.
Nel 2019, dei criminali usarono clonazione vocale AI per impersonare un CEO e convincere un dipendente a trasferire €220.000. La voce falsa era così convincente che il dipendente credeva di parlare davvero con il capo.
Anche il riconoscimento facciale è diventato un argomento controverso della sicurezza moderna. Negli aeroporti usano l’AI per identificare individui sulle liste di controllo tra milioni di viaggiatori, nei Casinò tracciano bari noti e contatori carte e nei negozi al dettaglio identificano presunti taccheggiatori. Certamente è una sorveglianza pervasiva che promette sicurezza ma solleva domande e dubbi fondamentali sulla privacy.
La Cina ha dispiegato riconoscimento facciale a livello nazionale attraverso il loro “Sistema Credito Sociale”, attraverso telecamere equipaggiate con AI che possono identificare individui nelle folle, tracciare i loro movimenti, valutare il loro comportamento. In Cina attraversare illegalmente, spendere troppo tempo giocando, associarsi con dissidenti impatta su dei punteggi sociali che determinano accesso a prestiti, viaggi, lavori ecc.
Le democrazie occidentali lottano invece con equilibrio tra sicurezza e privacy, per esempio San Francisco ha vietato l’uso del riconoscimento facciale dalle agenzie cittadine e il GDPR europeo richiede consenso per processamento biometrico.
I sistemi sicurezza fisica incorporano sempre più AI per rilevamento minacce, attraverso il riconoscimento di comportamenti sospetti, come qualcuno che si aggira in maniera sospetta vicino ad aree sensibili, a pacchi lasciati incustoditi, folle che si formano inusualmente. Tutto questo può attivare delle allerte automatiche.
Una sorta di sistema di polizia predittiva usa l’AI per prevedere dove crimini sono probabili e analizzando dati criminalità storici, schemi meteorologici, eventi sociali, condizioni economiche, gli algoritmi possono predire potenziali atti di criminalità con accuratezza notevole, cosicché i dipartimenti di polizia possono dispiegare risorse preventivamente invece di rispondere reattivamente.
Ma le attività di “policing” (polizia predittiva) ha seri problemi e preoccupazioni sui bias (errori cognitivi) e l’equità. Se i dati storici riflettono, ad esempio, pratiche di policing discriminatorie, i sistemi AI potrebbero perpetuare o amplificare questi errori di valutazione.
L’autenticazione multi-fattore sta evolvendo oltre password e token, usando la biometria comportamentale analizza come digitiamo, come teniamo il telefono, come camminiamo, realizzando una autenticazione basata su firme comportamentali uniche che sono difficili da replicare per attaccanti.
Nel rilevamento frodi nei servizi finanziari l’AI garantisce sicurezza al suo meglio, le compagnie di carte credito analizzano le transazioni in tempo reale, identificando acquisti potenzialmente fraudolenti in pochi millisecondi. PayPal, ad esempio, processa miliardi di transazioni annualmente, bloccando attività sospette con falsi positivi minimi.
Modelli di machine learning considerano centinaia di fattori, come importi delle transazioni, tipi di commercianti, località geografiche, schemi temporali e il comportamento degli utenti. Il sistema deve poter bilanciare sicurezza con l’esperienza utente, perché troppi falsi allarmi potrebbero infastidire i clienti, ma troppo pochi non contrastare frodi reali.
Le armi autonome rappresentano forse l’applicazione più controversa di AI sicurezza, come i droni militari che possono identificare e colpire obiettivi senza il controllo umano, o i sistemi difensivi che possono abbattere missili in arrivo automaticamente e le decisioni vita o morte sono prese da algoritmi.
Il diritto umanitario internazionale richiede controllo umano su decisioni letali, ma quando i sistemi difensivi devono rispondere in millisecondi per proteggere vite, l’intervento umano potrebbe essere impossibile, rappresentando un dilemma etico dove la tecnologia supera elementi legali.
La carenza di forza lavoro nella cybersecurity crea opportunità per l’AI. Globalmente, ci sono oltre 3 milioni di posizioni cybersecurity non riempite e l’AI può moltiplicare l’efficacia dei professionisti di sicurezza esistenti, gestendo compiti routine mentre gli umani si possono concentrare su minacce strategiche e investigazioni complesse.
Tecnologie AI privacy-preserving tentano di bilanciare benefici sicurezza con diritti individuali. La crittografia omomorfica permette computazione su dati criptati senza decriptarli e l’apprendimento federato addestra modelli attraverso dispositivi edge distribuiti senza centralizzare dati sensibili.
La cybersecurity futura coinvolgerà probabilmente sistemi di AI che potranno autonomamente “riparare” vulnerabilità, aggiornare difese, condividere minacce con l’intelligence in tempo reale attraverso organizzazioni, creando un vero e proprio sistema immunitario collettivo per le infrastrutture digitale.
Ma la domanda fondamentale rimane: chi controlla i guardiani? Nel momento che i sistemi di sicurezza AI diventano sempre più potenti, richiedono anche una attenta supervisione per prevenire abusi, e qui la trasparenza, accountability, la supervisione umana sono essenziali per assicurare che questi sistemi servano davvero l’interesse pubblico invece creare un controllo autoritario.
L’AI sicurezza rappresenta una spada a doppio taglio, strumento incredibilmente potente per la protezione, ma anche un’arma ugualmente pericolosa se usata male.
Nel prossimo capitolo, esploreremo come questa intelligenza artificiale stia trasformando l’agricoltura attraverso processi di precisione, monitoraggio delle colture automatizzato, e la produzione alimentare sostenibile, per nutrire la popolazione globale crescente proteggendo però le risorse ambientali.
Professor Tommaso Saso. Professore di Marketing e Organizzazione Aziendale e membro dell’Osservatorio di AI generativa presso l’Università degli Studi G. Marconi. Presidente di Manageritalia Lazio, Abruzzo, Molise, Sardegna ed Umbria.
