Prevenire il crimine con l’AI: Dialoghi Copernicani con Elia Lombardo
Il 19 ottobre 2021 sono stato ospite dell’Associazione Copernicani per un incontro online dedicato alla prevenzione del crimine, ai modelli predittivi, all’intelligenza artificiale e alle conseguenze che l’impiego delle tecnologie può produrre sui diritti individuali.
L’incontro, inserito nel ciclo dei Dialoghi Copernicani e moderato da Valentino Spataro, ha affrontato una domanda centrale:
L’intelligenza artificiale deve essere impiegata per costruire una giustizia predittiva oppure come strumento di conoscenza e ausilio alle attività investigative?
Prevedere i fenomeni, non giudicare le persone
La previsione applicata alla sicurezza pubblica viene frequentemente associata a scenari nei quali una macchina attribuisce a una persona la probabilità di commettere un reato.
Questa rappresentazione non corrisponde al principio sul quale è stato costruito XLAW®. Il modello non nasce per prevedere il comportamento criminale di un individuo e non assegna alle persone un indice di pericolosità.
Il suo oggetto di osservazione è il fenomeno criminale: le ricorrenze territoriali, temporali e comportamentali attraverso le quali determinati reati tendono a ripresentarsi nello spazio urbano.
La distinzione è sostanziale. Un conto è utilizzare i dati per comprendere meglio un fenomeno e organizzare in modo più efficace la prevenzione. Altro è utilizzare gli stessi dati per classificare, sorvegliare o governare preventivamente le persone.
La costruzione di XLAW®
Durante il dialogo ho ripercorso il percorso di ricerca che ha condotto alla costruzione di XLAW®, nato dall’osservazione operativa della criminalità predatoria e dalla verifica dell’esistenza di ricorrenze nella commissione dei reati.
Il modello si è sviluppato attraverso tentativi, errori, verifiche e successive correzioni. La previsione non è stata considerata come una capacità astratta della tecnologia, ma come il risultato di una conoscenza progressiva della struttura del fenomeno.
XLAW® ha consentito di spostare l’organizzazione del controllo del territorio da una logica esclusivamente riparatoria, attivata dopo il verificarsi del danno, verso una logica preventiva fondata sulla probabilità del rischio.
Il problema degli errori
Un modello predittivo non è infallibile. Gli errori possono essere tecnici, metodologici, interpretativi ed etici.
Per questa ragione non è sufficiente chiedersi se un algoritmo produca risultati. Occorre anche comprendere come siano stati raccolti i dati, quali variabili vengano osservate, quali fenomeni siano esclusi, come vengano valutati gli errori e quali decisioni possano essere legittimamente affidate al sistema.
L’utilità di uno strumento predittivo dipende dalla trasparenza del metodo, dalla verificabilità delle sue conclusioni e dalla presenza permanente della responsabilità umana.
Giustizia predittiva e indagini digitali
Il confronto ha riguardato anche la giustizia predittiva e l’impiego crescente di grandi quantità di dati nelle indagini.
Le cosiddette indagini “a strascico” e i geofence warrants consentono di individuare dispositivi o persone presenti all’interno di una determinata area in uno specifico intervallo temporale.
Questi strumenti possono ampliare enormemente la capacità investigativa, ma possono anche coinvolgere persone totalmente estranee ai fatti soltanto perché si trovavano nel luogo e nel momento osservati.
Il punto non è quindi stabilire se la tecnologia debba essere utilizzata oppure esclusa. La questione è definire limiti, garanzie, proporzionalità e responsabilità del suo impiego.
Numeri, conoscenza e potere
Uno dei temi centrali dell’incontro è stato il rapporto tra dati e decisione.
Esiste una differenza profonda tra usare i numeri per comprendere e governare i fenomeni e usare i numeri per governare le persone senza comprendere i fenomeni.
I dati non sono neutrali per il solo fatto di essere espressi numericamente. Riflettono le modalità con cui vengono raccolti, selezionati, classificati e interpretati.
Un sistema responsabile deve pertanto conservare il collegamento tra dato, fenomeno reale e contesto operativo. Quando questo collegamento viene meno, la precisione apparente del calcolo può trasformarsi in una fonte di errore o di ingiustizia.
Dal racconto tecnologico alla responsabilità metodologica
Le innovazioni vengono spesso presentate attraverso un racconto lineare: un’intuizione, una tecnologia e infine il successo.
La ricerca reale è differente. È fatta di ipotesi non confermate, errori, limiti dei dati, correzioni e risultati che devono essere sottoposti continuamente a verifica.
Nel volume “Sicurezza 4P” ho raccontato anche i dubbi, gli errori e le difficoltà incontrate durante la costruzione del metodo. Riconoscere questi passaggi non indebolisce il valore della ricerca: ne costituisce una condizione di credibilità.
La registrazione dell’incontro
La registrazione integrale del dialogo è disponibile sul canale YouTube dell’Associazione Copernicani.
Guarda la registrazione su YouTube
Dati dell’evento
- Data: 19 ottobre 2021
- Orario: 21.00
- Formato: incontro online in diretta streaming
- Ciclo: Dialoghi Copernicani
- Organizzazione: Associazione Copernicani
- Ospite: Elia Lombardo
- Moderatore: Valentino Spataro
- Tema: prevenzione del crimine, AI, giustizia predittiva, investigazioni digitali e diritti
Conclusione
Il Dialogo Copernicano del 19 ottobre 2021 ha consentito di affrontare pubblicamente tanto le opportunità quanto i rischi dell’uso dei modelli predittivi nella sicurezza.
La tecnologia può ampliare la capacità di osservazione e prevenzione, ma non può sostituire la comprensione del fenomeno, il controllo metodologico e la responsabilità della decisione.
Prevedere non significa anticipare la colpevolezza di una persona. Significa riconoscere le condizioni ricorrenti di un fenomeno per intervenire prima che il danno si produca.