C’è una storia dalla provincia americana che racconta plasticamente i rischi e le aberrazioni del predictive policing. Con questa definizione si intende, per farla breve, l’uso di varie tecniche di analisi dei dati per prevenire il crimine, tendenzialmente individuando dei target per la polizia. Ovvero “un metodo per impiegare risorse delle forze dell’ordine sulla base di analisi guidate dai dati che dovrebbero predire colpevoli, vittime o luoghi di futuri crimini”, secondo l’associazione Electronic Frontier Foundation. Queste tecnologie sono entrate nell’uso dei dipartimenti di polizia di varie città americane (e non solo) negli ultimi anni. A produrle aziende come PredPol, HunchLab, CivicScape, Palantir ma anche università, come la Carnegie Mellon University col suo CrimeScan. Nell’estate 2020, strumenti di questo tipo sono usati in dozzine di città statunitensi, da New York a Portland, da Orlando ad Atlanta.

Il concetto è il seguente: si analizzano grandi quantità di informazioni da crimini precedenti incluse indicazioni relative all’ora, stagione, meteo, tipologia di vittime, luogo e così via, al fine di inferire quando e dove del nuovo crimine potrebbe accadere. Esiste poi un predictive policing “person based”, basato sulle persone (e non sui luoghi). Si crea un sistema di rating che assegna agli individui un valore di rischio basato su un certo numero di flussi di dati, dall’età alla sospetta affiliazione a gang ai precedenti, ma anche al fatto se il soggetto sia stato a sua volta vittima di crimini, e altro. Entrambi i sistemi sono evidentemente problematici. Il sistema di rating delle persone crea delle liste nere imperscrutabili in cui chi ci finisce diventa automaticamente un sospettato per future azioni. E anche l’individuazione di aree geografiche a rischio può gettare sulle stesse, e soprattutto su chi le frequenta, un’aura di sospetto e un eccesso di controllo da parte della polizia, specie in contesti sociali dove sono già presenti discriminazioni contro minoranze (questo aumento di controllo significa spesso anche un aumento nella rilevazione di reati minori o infrazioni, che porta a sua volta ad alzare il punteggio negativo dell’area, e a maggiore controllo, in un circolo vizioso.)

Questo per quanto riguarda, come dire, l’astratta analisi sociologica. Ma il bagno di realtà ci arriva dalla contea di Pasco, in Florida. Qui dal 2011, al momento dell’insediamento, lo sceriffo decise di creare un avanzato programma di intelligence per fermare il crimine prima che avvenisse. Il risultato però è stato di mettere in piedi un sistema per monitorare e molestare continuamente vari residenti della contea, racconta un eccezionale reportage del Tampa Bay Times. Infatti l’ufficio dello sceriffo genera liste di persone considerate a rischio di violare la legge, in virtù dei loro “precedenti, di altra non specificata intelligence, e di decisioni arbitrarie prese dagli analisti della polizia”. A quel punto sono mandati degli agenti a cercare e interrogare periodicamente quelli che sono nella lista, senza alcun indizio fondato, mandato o prova che sia stata commessa qualche violazione.

Continua a leggere su Guerre di Rete, la newsletter