L’uso di avatar virtuali, di identità online fittizie da parte di polizia e servizi segreti per fare indagini sotto copertura in Rete è una pratica che, declinata in vario modo, esiste da tempo (ne avevo scritto in uno dei primi articoli del sito). Ma è anche un settore in cui l’uso di AI generativa e altri sviluppi dell’AI in generale sta portando ad applicazioni molto più invasive.

I dipartimenti di polizia americani vicino al confine tra Stati Uniti e Messico hanno infatti comprato i servizi di una società che utilizza identità online generate dall’intelligenza artificiale per interagire e raccogliere informazioni su “manifestanti universitari”, attivisti politici “radicalizzati” e sospetti trafficanti di droga e di esseri umani, scrivono le testate 404Media e Wired sulla base di documenti interni, contratti e comunicazioni ottenuti.

Si tratta di un prodotto chiamato Overwatch e sviluppato dalla società di New York Massive Blue che elenca tra i casi d’uso la “sicurezza delle frontiere”, la “sicurezza delle scuole” e l’arresto del “traffico di esseri umani”. Ed è un esempio di quel tipo di monitoraggio dei social media e di strumenti sotto copertura che le aziende private stanno proponendo alla polizia e agli agenti di frontiera.

In pratica questo strumento crea e distribuisce bot alimentati dall’intelligenza artificiale sui social media e su Internet per parlare con persone sospettate di essere criminali ma anche “manifestanti” vagamente definiti, con l’obiettivo di “generare prove che possano essere usate contro di loro”, scrivono i giornalisti. L’aspetto più inquietante rispetto al passato è che, almeno secondo questo reportage, lo strumento non si limita a creare identità utilizzabili per chattare con persone già individuate dalla polizia, ma scandaglierebbe anche i social media alla ricerca di potenziali sospetti. “I documenti che abbiamo ottenuto – scrivono gli autori – non spiegano come Massive Blue determini chi è un potenziale sospetto in base alla sua attività sui social”.

Continua a leggere su Guerre di Rete, la newsletter