lunedì 29 giugno 2020
post nella sezione 1 - Studi e Ricerche
La tecnologia di predizione del crimine aggrava la disuguaglianza, rafforza il razzismo e sostiene lo stato carcerale
E' stato pubblicato un articolo (in basso il link) col quale vengono evidenziate le criticità sull'uso di tecnologia per la predizione del crimine un tema sul quale si è tanto discusso in passato sancendo anche il fallimento di avanzati e storici progetti di predictive policing.
In questo caso (da annotare il periodo di pubblicazione che coincide con le recenti vicende che hanno messo in discussione l'operato della Polizia in America) si tratta addirittura di una clamorosa sentenza poiché partorita da un movimento composto da ben 2.435 soggetti stranieri tra i quali professori, ricercatori, professionisti e studenti tutti insieme concordi sull'invitare la comunità scientifica a non affrontare più studi sulla predizione del crimine.
Caspita!
Un verdetto pesante che si basa su 3 punti principali e 38 note di corredo.
Un gran lavoro certo tuttavia, bisogna sottolineare che evidentemente non tutti i progetti di predizione del crimine al mondo siano stati analizzati anche perché gioco forza, la gran parte viene promossa da aziende informatiche riluttanti dal fornire le informazioni necessarie per una serena valutazione e sul tema c'è pochissima letteratura scientifica, poche best practice ma quel poco che c'è, stranamente viene ignorato.
La preoccupazione sembra essere l'uso della A.I. in tema di riconoscimento facciale ma è chiaro che il messaggio coinvolga genericamente anche soluzioni che non contemplano rilevazioni biometriche.
Lascia perplessi l'oggetto della sentenza, in cui viene rimarcata ancora una volta la convinzione che la tecnologia di previsione del crimine aggravi la disuguaglianza, rafforzi il razzismo e sostenga lo stato carcerale.
E' difficile essere d'accordo quando si è lavorato a lungo per diffondere il concetto che l'arma più appropriata contro alcune tipologie di delitti è la prevenzione e queste soluzioni possono solo servire a migliorarla ed è assolutamente temerario sostenere che il loro impiego possa permettere di reprimere il reo sostenendo l'azione penale.
Niente di più falso!
Nel libro "SICUREZZA 4P" (Mazzanti editore 2018) è spiegato dettagliatamente il perché.
Ma andiamo con ordine seguendo i tre punti di questa deliberazione che descrive i modi specifici in cui la tecnologia di previsione del crimine riproduce, naturalizza ed amplifica i risultati discriminatori in quanto i criteri tecnici non sono sufficienti per valutare i rischi.
Il primo punto:
"I dati generati da sistemi tecnologici non possono essere utilizzati per identificare i criminali o prevedere comportamenti criminali. Mai".
Riflessione:
Questo è vero!
Tuttavia, come si potrà leggere nel documento si parla di riconoscimento facciale e si è d'accordo sul fatto che non sia possibile prevedere un crimine sulla base di rilevazioni biometriche e di dati catturati da una telecamera. Un sistema predittivo deve necessariamente essere costruito non per identificare soggetti e permetterne la cattura ma per prevenire la configurazione di modelli criminali costituiti da più elementi, non solo il reo quindi ma anche la vittima, il target il tutto nelle due macro dimensioni del tempo e dello spazio.
Il secondo punto:
"Le misure tecniche di equità distraggono dalle questioni fondamentali relative alla validità di un algoritmo".
Riflessione:
Anche questo è vero. Non solo per quanto già chiarito al punto precedente ma anche perché un buon modello di previsione criminale deve essere fondato necessariamente su un approccio multidisciplinare e l'analista deve possedere adeguate competenze non solo di tipo informatico ma anche nel campo della criminologia e della sociologia. La costruzione di un buon modello quindi non deve essere solo una questione tecnologica, una black box fine a se stessa ma deve nascere per risolvere un problema definito e l'impiego deve essere trasparente per sostenere una strategia operativa cristallina evitando quelle distorsioni che alimentano i dubbi.
Il terzo punto:
"La tecnologia di predizione del crimine riproduce le ingiustizie e provoca danni reali"
Riflessione:
Eccola la vera sentenza sulla quale è difficile essere in accordo.
La tecnologia di predizione del crimine se sviluppata sotto forma di white box per fini di prevenzione ed attraverso un corretto approccio per sostenere una strategia operativa cristallina, non produce e/o riproduce alcuna ingiustizia e non provoca alcun danno ma solo validi risultati per la sicurezza delle città.
Queste soluzioni sono una grande opportunità perché possono permettere di rivoluzionare il paradigma della sicurezza urbana: fare finalmente pura prevenzione.
Bisogna evitare di correre continuamente dietro al reo limitandosi ad affrontare e gestire solo i danni insopportabili che genera.
La possibilità di prevedere il crimine deve permettere al controllore di ricostituire una condizione di vantaggio rispetto al reo per assumere nella disputa quotidiana, il ruolo di leader impiegando l'arma più efficace: le informazioni.
L'uso dei big data e della A.I quindi non deve essere fine a se stesso. Il fine deve essere quello di limitare la protervia criminale arrivando a riconoscere quei modelli che si ripetono nel tempo e nello spazio e che tanto asfissiano le comunità.
Città più sicure quindi, grazie ad un controllo maggiormente efficace nel posto giusto e nel momento giusto evitando la randomizzazione degli interventi che inevitabilmente produce scarsi risultati e sperpero di risorse e di energie.
Nel documento seguono le 38 note di corredo dalle quali sembra di capire che tutto sia circoscritto alla preoccupazione che l'A.I perlopiù finalizzata alla repressione dei crimini, possa generare discriminazioni di soggetti e luoghi.
Come già scritto si può essere d'accordo ma solo se il fine non è appropriato ed approccio ed uso non sono corretti.
Concludendo è giusto ed opportuno analizzare sempre con attenzione l'uso di tecnologia a supporto dell'uomo e non solo nel campo della sicurezza ma il suggerimento è quello di allargare l'analisi evitando di indossare i paraocchi perché al mondo, vi sono progetti di successo che hanno tenuto in considerazione anche questi rischi e li hanno brillantemente superati.
E' venuto il momento di valutare seriamente nuove opportunità perché se è la giustizia che tanto preoccupa e va salvaguardata, la priorità rimane la sicurezza, quella dei cittadini!
Link all'articolo: