L’uso di avatar virtuali, di identità online fittizie da parte di polizia e servizi segreti per fare indagini sotto copertura in Rete è una pratica che, declinata in vario modo, esiste da tempo (ne avevo scritto in uno dei primi articoli del sito). Ma è anche un settore in cui l’uso di AI generativa e altri sviluppi dell’AI in generale sta portando ad applicazioni molto più invasive.
I dipartimenti di polizia americani vicino al confine tra Stati Uniti e Messico hanno infatti comprato i servizi di una società che utilizza identità online generate dall’intelligenza artificiale per interagire e raccogliere informazioni su “manifestanti universitari”, attivisti politici “radicalizzati” e sospetti trafficanti di droga e di esseri umani, scrivono le testate 404Media e Wired sulla base di documenti interni, contratti e comunicazioni ottenuti.
Si tratta di un prodotto chiamato Overwatch e sviluppato dalla società di New York Massive Blue che elenca tra i casi d’uso la “sicurezza delle frontiere”, la “sicurezza delle scuole” e l’arresto del “traffico di esseri umani”. Ed è un esempio di quel tipo di monitoraggio dei social media e di strumenti sotto copertura che le aziende private stanno proponendo alla polizia e agli agenti di frontiera.
In pratica questo strumento crea e distribuisce bot alimentati dall’intelligenza artificiale sui social media e su Internet per parlare con persone sospettate di essere criminali ma anche “manifestanti” vagamente definiti, con l’obiettivo di “generare prove che possano essere usate contro di loro”, scrivono i giornalisti.
L’aspetto più inquietante rispetto al passato è che, almeno secondo questo reportage, lo strumento non si limita a creare identità utilizzabili per chattare con persone già individuate dalla polizia, ma scandaglierebbe anche i social media alla ricerca di potenziali sospetti. “I documenti che abbiamo ottenuto – scrivono gli autori – non spiegano come Massive Blue determini chi è un potenziale sospetto in base alla sua attività sui social”.
In una presentazione ottenuta dai giornalisti, sono descritti alcuni di questi personaggi AI. Tra questi uno è definito un ‘honeypot’, un’esca diciamo. La sua storia dice che è una 25enne di Dearborn, Michigan, i cui genitori sono emigrati dallo Yemen e che parla il dialetto Sanaani. La presentazione dice anche che usa varie app di social media, che è su Telegram e Signal e che ha capacità di inviare SMS negli Stati Uniti e all’estero.
E poi c’è la donna “radicalizzata”, una “manifestante”, divorziata, di 36 anni, sola, senza figli, che fa il pane in casa, dedita all’attivismo e alla “body positivity” (nota a margine: i profili di questo tipo sono interessanti più che altro perché svelano ‘l’immaginario’ – umano o non umano – di chi li fa. Ad ogni modo, so che d’ora in avanti non guarderete più allo stesso modo i post della vostra amica Facebook che pubblica le sue focaccine).
Letture imprescindibili se vi appassiona (e soprattutto vi inquieta) il tema sotto copertura: Undercover (un libro del 2013, in inglese, sulla polizia britannica e su una sua a dir poco controversa unità di infiltrati tra attivisti).
Fonte
Nessun commento:
Posta un commento