Hacker all’attacco dei sistemi di AI

L’adozione dell’Intelligenza Artificiale è in continua ascesa nei comparti più disparati della società moderna, dalla guida autonoma, alla sanità, fino alla redazione di testi, entrando sempre di più nella vita quotidiana di ognuno di noi e di conseguenza nel mirino della cybercriminalità. L’AI si basa su tecnologie di vario tipo, tra le quali machine learning (ML), deep learning (DL) e reti neurali, che aiutano le macchine a svolgere compiti specifici.

L’attacco ad un sistema AI da parte di una organizzazione criminale consiste nella manipolazione intenzionale dei dati che la alimentano, con l’obiettivo di provocarne un funzionamento diverso da quello aspettato o un malfunzionamento. Gli attacchi possono essere di vario tipo, ma quello più pericoloso è senza dubbio il Poisoning attacks che è una corruzione del processo di creazione dei sistemi AI. È noto che questi ultimi hanno bisogno di molti dati, buona parte dei quali provenienti dal web, e questo li rende suscettibili di “avvelenamento” (poisoning) che normalmente avviene quando il criminale è in grado di accedere al data-set di training per l’addestramento. Egli, iniettando dati errati, fa apprendere all’Intelligenza Artificiale qualcosa che non dovrebbe. Questo attacco è il più dannoso perché compromette l’affidabilità del modello includendo informazioni false o fuorvianti e proprio come un veleno, i dati corrotti passano inosservati fino a quando il danno non è compiuto. Una volta che ci si accorge dell’attacco, sarà necessario addestrare nuovamente l’algoritmo AI con dati puliti e affidabili, creando così danni spesso enormi.

Gli attacchi poisoning possono colpire l’accuratezza complessiva del modello, o mirare alla sua integrità. Nel primo caso al criminale è sufficiente inserire dati corrotti nel data-set di addestramento: solo il 3% di informazioni false porta ad un calo dell’accuratezza totale dell’11%. Gli attacchi che mirano all’integrità, invece, sono molto più sofisticati, e prevedono l’inserimento di una backdoor, una stringa nota solo al criminale e che gli permetterà di immettere, nel momento in cui lui vuole, dati malevoli. Sino a quel momento nessun rileverà l’anomalia.

La sfida dei Cyber Security Analyst è quindi sempre più difficile