E così il 13 marzo il Parlamento europeo ha approvato l’AI Act, il regolamento comunitario sull’intelligenza artificiale. In estrema sintesi e lasciando a margine
vari dettagli, ecco quello che c’è da sapere.
Concluse quelle che sono ormai delle formalità, l’AI Act diventerà
ufficialmente legge entro maggio o giugno e le sue disposizioni inizieranno a
entrare in vigore per gradi:
– 6 mesi dopo: i Paesi saranno tenuti a
proibire i sistemi di IA vietati;
– 1 anno dopo: inizieranno ad
applicarsi le regole per i sistemi di intelligenza artificiale di uso generale;
– 2 anni dopo: il resto della legge sull’IA sarà applicabile;
– 36 mesi dopo: gli obblighi per i sistemi ad alto rischio;
Le sanzioni in caso di non conformità possono arrivare fino a 35
milioni di euro o al 7% del fatturato annuo mondiale.
Vietate/i:
– sfruttamento delle vulnerabilità di persone o gruppi in base
all’età, alla disabilità o allo status socio-economico;
– le pratiche
manipolatorie e ingannevoli, sistemi che usino tecniche subliminali per
distorcere materialmente la capacità decisionale di una persona;
– categorizzazione biometrica, ovvero la classificazione di individui sulla base
di dati biometrici per dedurre informazioni sensibili come razza, opinioni
politiche o orientamento sessuale (eccezioni per le attività di contrasto);
– punteggio sociale (valutazione di individui o gruppi nel tempo in
base al loro comportamento sociale o a caratteristiche personali);
– creazione di database di riconoscimento facciale attraverso lo scraping non
mirato di immagini da internet o da filmati di telecamere a circuito chiuso;
– inferenza delle emozioni nei luoghi di lavoro e nelle istituzioni
educative (eccezioni per motivi medici o di sicurezza);
– le pratiche
di valutazione del rischio di commettere un reato basate esclusivamente sulla
profilazione o sulla valutazione delle caratteristiche di una persona.
Non è del tutto vietata, bensì limitata, l’identificazione
biometrica in tempo reale in spazi accessibili al pubblico – sulla base di
circostanze definite (gli usi ammessi includono, ad esempio, la ricerca di una
persona scomparsa o la prevenzione di un attacco terroristico) che richiedono
un’approvazione giudiziaria o di un’autorità indipendente.
L’identificazione biometrica a posteriori è considerata ad alto
rischio. Per questo, per potervi fare ricorso, l’autorizzazione giudiziaria
dovrà essere collegata a un reato.
Seguono gli ambiti che non sono
vietati ma sono considerati “ad alto rischio” e che dunque saranno valutati
prima di essere immessi sul mercato e anche durante il loro ciclo di vita e su
cui i cittadini potranno presentare reclami alle autorità nazionali.
Includono non solo le infrastrutture critiche o le componenti di
sicurezza ma anche la formazione scolastica (per determinare l’accesso o
l’ammissione, per assegnare persone agli istituti o ai programmi di istruzione e
formazione professionale a tutti i livelli, per valutare i risultati
dell’apprendimento delle persone, per valutare il livello di istruzione adeguato
per una persona e influenzare il livello di istruzione a cui potrà avere
accesso, per monitorare e rilevare comportamenti vietati degli studenti durante
le prove);
- la gestione dei lavoratori (per l’assunzione e la
selezione delle persone, per l’adozione di decisioni riguardanti le condizioni
del rapporto di lavoro, la promozione e la cessazione dei rapporti contrattuali,
per l’assegnazione dei compiti sulla base dei comportamenti individuali, dei
tratti o delle caratteristiche personali e per il monitoraggio o la valutazione
delle persone);
- servizi essenziali inclusi i servizi sanitari, le
prestazioni di sicurezza sociale, servizi sociali, ma anche l’affidabilità
creditizia;
- l’amministrazione della giustizia (inclusi gli organismi di
risoluzione alternativa delle controversie);
- la gestione della
migrazione e delle frontiere (come l’esame delle domande di asilo, di visto e di
permesso di soggiorno e dei relativi reclami).
I sistemi di IA per
finalità generali e i modelli su cui si basano (inclusi i grandi modelli di IA
generativa) dovranno rispettare una serie di requisiti di trasparenza come:
- divulgare che il contenuto è stato generato dall’IA;
- fare in modo che i modelli non generino contenuti illegali;
- pubblicare le sintesi dei dati protetti da copyright utilizzati per
l’addestramento.
I modelli più potenti, che potrebbero comportare rischi
sistemici, dovranno rispettare anche altri obblighi, ad esempio quello di
effettuare valutazioni dei modelli, di valutare e mitigare i rischi sistemici e
di riferire in merito agli incidenti.
I Paesi dell’UE dovranno
istituire e rendere accessibili a livello nazionale spazi di sperimentazione
normativa e meccanismi di prova in condizioni reali (in inglese sandbox), in
modo che PMI e start-up possano sviluppare sistemi di IA prima di immetterli sul
mercato.
(Sintesi via il
testo, il
documento
del Parlamento europeo, e i commenti di
Luiza Jarovsky
e
Barry Scannel)
Qui il testo approvato.
C’è un’infinità di reazioni all’AI Act, molte positive e
celebrative, ma per ora riporto solo una paio di comunicati fra chi voleva un AI
Act più fermo nella protezione di alcuni diritti.
“Sebbene la legge sull’IA possa avere aspetti positivi in altri
settori, è debole e consente persino l’uso di sistemi di IA rischiosi quando si
tratta di migrazione”,
scrive
la coalizione #ProtectNotSurveill.
“Non riesce a vietare completamente alcuni degli usi più pericolosi
dell’IA, tra cui i sistemi che consentono la sorveglianza biometrica di massa”,
ribadisce
l’ong Access Now.
P. S. Per altri dettagli sull’AI Act, ad esempio
il tema open source, leggete
questa mia precedente newsletter.
Fonte
Visualizzazione post con etichetta Riconoscimento biometrico. Mostra tutti i post
Visualizzazione post con etichetta Riconoscimento biometrico. Mostra tutti i post
18/03/2024
10/09/2023
Perché opporsi all’introduzione del riconoscimento biometrico negli stadi?
La notizia, uscita qualche giorno fa, in merito alla proposta della Lega Calcio di inserire il riconoscimento facciale ai tornelli di ingresso negli stadi, non dovrebbe stupire. Da decenni l’ambiente dello stadio è utilizzato come banco di prova per l’introduzione e la sperimentazione di misure repressive trasferibili in altri contesti sociali.
Stiamo parlando dell’ipotesi che all’acquisto di un biglietto per una partita venga allegata una liberatoria da firmare per consentire la scannerizzazione del volto al momento dell’accesso all’impianto sportivo.
La schedatura del tifoso che si reca allo stadio viene giustificata dalle autorità con il fine di poter riconoscere senza dubbio alcuno un soggetto nel caso manifesti atteggiamenti razzisti sugli spalti.
Se si analizza questa proposta e la si scompone salta però subito all’occhio la forzatura con cui si vuole porre un nesso posticcio tra l’ulteriore schedatura dei tifosi e la finalità “antirazzista”.
È utile innanzitutto ricordare che il biglietto è già nominale dal 2003 e che dal 2009 è in vigore la “Tessera del tifoso”.
Inoltre, all’interno degli stadi esiste già un sistema di videosorveglianza, elemento che rende praticamente impossibile non ricondurre un qualsiasi comportamento sugli spalti a uno specifico soggetto o gruppo.
Pertanto, a che scopo spendere risorse finanziarie per un complesso sistema video, che appesantirebbe ulteriormente le già complesse procedure di accesso, quando invece – per esempio – si potrebbero migliorare i sempre più fatiscenti impianti sportivi?
Che siano in realtà la “volontà di repressione” di uno degli ultimi spazi aggregativi di questa società iper-individualizzata e il continuo asservimento alle grandi multinazionali “Big Tech” a muovere l’azione delle autorità?
Oltre a questo, e andando al nocciolo etico della questione, qui, ancora una volta, cade la maschera della Lega Calcio (e dello Stato) che esibisce la maschera dell’inclusività per legittimare un procedimento esclusivamente forcaiolo. Il decreto Caivano sulla violenza minorile va nella stessa direzione.
Per arginare il razzismo invece bisognerebbe lavorare sul miglioramento delle condizioni di reddito e di vita, oltre che sulla sensibilizzazione e sull’educazione nel tessuto sociale, quindi a monte del problema e non solo dentro gli stadi.
Bisognerebbe partere dai quartieri, dalle scuole e sui posti di lavoro, consci che non si tratta affatto di un problema legato al solo “popolino” (come vorrebbe la narrazione mainstream), ma riguarda innanzitutto l’atteggiamento classista e reazionario dell’intera società (padroni, Stato, burocrazia, ecc.), che ormai si riverbera in tutto il corpo sociale.
È così che, tolto via il velo di trucco alla proposta, rimane la solo volontà di far passare un metodo di riconoscimento e controllo estremamente invasivo (che ha già trovato lo sbarramento della legge sulla privacy, ma alla lunga potrebbe non essere sufficiente), in modo tale da poterlo poi riprodurre per manifestazioni, presidi, concerti o qualsivoglia momento aggregativo.
A monito di tutti, è bene ricordare che dal 2017 il Daspo – acronimo di “divieto di accedere alle manifestazioni sportive” – è stato allargato al contesto cittadino (cosiddetto ‘Daspo urbano’), ossia il potenziamento del vecchio “foglio di via” d’epoca fascista, che ha conosciuto un grande utilizzo contro senzatetto e attivisti sociali, sindacali e politici.
Per analizzare queste proposte bisogna considerare l’ampio spettro di utilizzo all’interno nella società, ossia considerarle (parafrasando le tecnologie che vengono usate a scopo sia civile che militare) come mirati a una sorta di dual use stadio-quartieri.
In definitiva, le finalità vanno ben oltre quelle che accompagnano la loro presentazione e puntano a reprimere il dissenso organizzato, limitando (a vari livelli) la libertà personale.
Come recitava uno striscione esposto negli stadi, a metà anni ‘80, “Leggi speciali, oggi per gli ultras, domani in tutta la città”.
Fonte
Stiamo parlando dell’ipotesi che all’acquisto di un biglietto per una partita venga allegata una liberatoria da firmare per consentire la scannerizzazione del volto al momento dell’accesso all’impianto sportivo.
La schedatura del tifoso che si reca allo stadio viene giustificata dalle autorità con il fine di poter riconoscere senza dubbio alcuno un soggetto nel caso manifesti atteggiamenti razzisti sugli spalti.
Se si analizza questa proposta e la si scompone salta però subito all’occhio la forzatura con cui si vuole porre un nesso posticcio tra l’ulteriore schedatura dei tifosi e la finalità “antirazzista”.
È utile innanzitutto ricordare che il biglietto è già nominale dal 2003 e che dal 2009 è in vigore la “Tessera del tifoso”.
Inoltre, all’interno degli stadi esiste già un sistema di videosorveglianza, elemento che rende praticamente impossibile non ricondurre un qualsiasi comportamento sugli spalti a uno specifico soggetto o gruppo.
Pertanto, a che scopo spendere risorse finanziarie per un complesso sistema video, che appesantirebbe ulteriormente le già complesse procedure di accesso, quando invece – per esempio – si potrebbero migliorare i sempre più fatiscenti impianti sportivi?
Che siano in realtà la “volontà di repressione” di uno degli ultimi spazi aggregativi di questa società iper-individualizzata e il continuo asservimento alle grandi multinazionali “Big Tech” a muovere l’azione delle autorità?
Oltre a questo, e andando al nocciolo etico della questione, qui, ancora una volta, cade la maschera della Lega Calcio (e dello Stato) che esibisce la maschera dell’inclusività per legittimare un procedimento esclusivamente forcaiolo. Il decreto Caivano sulla violenza minorile va nella stessa direzione.
Per arginare il razzismo invece bisognerebbe lavorare sul miglioramento delle condizioni di reddito e di vita, oltre che sulla sensibilizzazione e sull’educazione nel tessuto sociale, quindi a monte del problema e non solo dentro gli stadi.
Bisognerebbe partere dai quartieri, dalle scuole e sui posti di lavoro, consci che non si tratta affatto di un problema legato al solo “popolino” (come vorrebbe la narrazione mainstream), ma riguarda innanzitutto l’atteggiamento classista e reazionario dell’intera società (padroni, Stato, burocrazia, ecc.), che ormai si riverbera in tutto il corpo sociale.
È così che, tolto via il velo di trucco alla proposta, rimane la solo volontà di far passare un metodo di riconoscimento e controllo estremamente invasivo (che ha già trovato lo sbarramento della legge sulla privacy, ma alla lunga potrebbe non essere sufficiente), in modo tale da poterlo poi riprodurre per manifestazioni, presidi, concerti o qualsivoglia momento aggregativo.
A monito di tutti, è bene ricordare che dal 2017 il Daspo – acronimo di “divieto di accedere alle manifestazioni sportive” – è stato allargato al contesto cittadino (cosiddetto ‘Daspo urbano’), ossia il potenziamento del vecchio “foglio di via” d’epoca fascista, che ha conosciuto un grande utilizzo contro senzatetto e attivisti sociali, sindacali e politici.
Per analizzare queste proposte bisogna considerare l’ampio spettro di utilizzo all’interno nella società, ossia considerarle (parafrasando le tecnologie che vengono usate a scopo sia civile che militare) come mirati a una sorta di dual use stadio-quartieri.
In definitiva, le finalità vanno ben oltre quelle che accompagnano la loro presentazione e puntano a reprimere il dissenso organizzato, limitando (a vari livelli) la libertà personale.
Come recitava uno striscione esposto negli stadi, a metà anni ‘80, “Leggi speciali, oggi per gli ultras, domani in tutta la città”.
Fonte
01/11/2020
USA - Tecniche di riconoscimento facciale per identificare i poliziotti
“Ora ci stiamo avvicinando alla soglia tecnologica dove gli individui possono ricambiare lo Stato con la stessa moneta”. Ora gli attivisti di tutto il mondo stanno ribaltando il processo e stanno sviluppando strumenti che possono smascherare le forze dell’ordine in caso di cattiva condotta.
All’inizio di Settembre, il Consiglio Comunale di Portland, Oregon, si è riunito online per prendere in considerazione una legislazione globale che vietasse l’utilizzo della tecnologia di riconoscimento facciale.
I disegni di legge non solo vieterebbero alla polizia di utilizzarli per smascherare manifestanti e individui fotografati nelle immagini di sorveglianza, ma impedirebbero anche alle aziende e a una serie di altre organizzazioni di utilizzare il software per identificare una persona sconosciuta.
Al momento dei commenti pubblici, un uomo del luogo, Christopher Howell, ha detto di essere preoccupato per un divieto generalizzato. Ha dato una motivazione sorprendente.
“Sono coinvolto nello sviluppo del riconoscimento facciale, infatti lo utilizzo sugli agenti di polizia di Portland, poiché non si identificano con il pubblico”, ha affermato Howell.
Durante l’estate, con la città presa d’assalto da manifestazioni contro la violenza della polizia, i leader del dipartimento dissero agli agenti in divisa se potevano registrare il proprio nome. Il signor Howell voleva dunque sapere: il suo uso della tecnologia di riconoscimento facciale sarebbe diventato illegale?
Il sindaco di Portland, Ted Wheeler, disse al signor Howell che il suo progetto era “un tantino inquietante”, ma un avvocato della città chiarì che i disegni di legge non si applicherebbero ai singoli. Il Consiglio ha poi approvato la legislazione all’unanimità.
Il signor Howell ci rimase male per la descrizione data dal signor Wheeler al suo progetto, ma fu risollevato dal fatto che poteva continuare a lavorarci. “C’è troppa violenza qui a Portland” ha rivelato in un’intervista telefonica. “Sapere chi sono gli ufficiali, sembra una base di partenza”.
Howell, 42 anni, è un eterno manifestante e un programmatore informatico autodidatta; in una scuola di specializzazione ha iniziato a lavorare con la tecnologia della rete neurale, un’intelligenza artificiale che impara a prendere decisioni dai dati che riceve, come le immagini.
Egli ha dichiarato che, durante una protesta di mezzogiorno a giugno, la polizia gli ha gettato addosso dei lacrimogeni e così ha iniziato a cercare un modo per costruire uno strumento di riconoscimento facciale che potesse ostacolare i tentativi degli ufficiali di proteggere la propria identità.
“Questa è stata una sorta di ‘doccia fredda’ per me, una sorta di punto d’incontro tra quello che so fare e quelli che sono i miei interessi attuali”, ha dichiarato. “La responsabilità è importante. Dobbiamo sapere chi sta facendo cosa, così possiamo affrontarlo”.
Howell non è solo nella sua ricerca. Le forze dell’ordine hanno utilizzato il riconoscimento facciale per identificare criminali, usando fotografie dai database del governo o attraverso una società chiamata Clearview AI, reperibile in rete.
Ora gli attivisti di tutto il mondo stanno ribaltando il processo e stanno sviluppando strumenti che possono smascherare le forze dell’ordine in caso di cattiva condotta.
“Non mi sorprende affatto”, ha dichiarato Clare Garvie, avvocato presso il Center on Privacy and Technology della Georgetown University. “Penso che molti diranno: ‘tutto è lecito in amore e in guerra’, ma questo evidenzia il rischio che comporterebbe lo sviluppo di questa tecnologia senza pensare al suo uso nelle mani di tutti i possibili attori”.
Le autorità coinvolte finora non sono rimaste soddisfatte. Nel Luglio 2019, il New York Times ha riportato che Colin Cheung, un manifestante a Hong Kong, ha creato uno strumento per identificare gli agenti di polizia usando le loro fotografie disponibili online. Dopo aver pubblicato un video di questo progetto su Facebook, fu arrestato. Alla fine il signor Cheung abbandonò il lavoro.
Questo mese, l’artista Paolo Cirio ha pubblicato online fotografie di 4.000 volti di agenti di polizia francese per una mostra chiamata “Capture”, che ha descritto come il primo passo nello sviluppo di un’app di riconoscimento facciale.
I volti li ha raccolti da 1000 fotografie prese da internet e da fotografi che hanno partecipato alle proteste in Francia. Cirio, 41 anni, ha eliminato le foto dopo che il ministro degli Interni francese ha minacciato un’azione legale, ma spera di ripubblicarle.
“Riguarda la privacy di tutti”, ha detto Cirio, il quale pensava che il riconoscimento facciale dovrebbe essere vietato. “È infantile cercare di fermarmi, come un artista che sta cercando di sollevare un problema, invece di affrontarlo”.
Molti ufficiali di polizia di tutto il mondo coprono, in tutto o in parte, il proprio volto, come si può notare da recenti video di violenza della polizia in Bielorussia. Il mese scorso, Andrew Maximov, un informatico del luogo, ora residente a Los Angeles, ha caricato un video su YouTube per dimostrare come la tecnologia del riconoscimento facciale poteva essere usata per rimuovere digitalmente le maschere.
Non è chiaro se il processo sia stato eseguito in modo corretto. Il video, che è stato riportato in precedenza da un sito di notizie sulla Russia chiamato Meduza, ha registrato oltre un milione di visualizzazioni.
“Per un po’ di tempo tutti erano consapevoli che lo Stato poteva utilizzare questo strumento per identificare e gravare sugli individui, ma ora ci stiamo avvicinando alla soglia tecnologica dove gli individui possono farlo sullo Stato”, ha affermato Maximov, 30 anni. “Non è solo la perdita dell’anonimato. È la minaccia dell’infamia”.
Gli attivisti affermano che sta diventando relativamente semplice costruire strumenti di riconoscimento facciale grazie ad algoritmi di riconoscimento delle immagini pronti all’uso, che sono stati rilasciati negli ultimi anni.
Howell, a Portland utilizzava una piattaforma rilasciata da Google, TensorFlow, la quale aiuta le persone a costruire modelli di apprendimento automatico.
“È il processo tecnologico, non sto inventando nulla di nuovo”, ha detto. “Qui il vero problema è ottenere immagini di qualità”.
Howell ha raccolto migliaia di fotografie delle forze dell’ordine di Portland da articoli di giornale e social media dopo aver trovato i loro nominativi sui siti web della città. Ha fatto anche una richiesta di documentazione pubblica per un elenco di ufficiali di polizia con i loro nominativi e numero di matricola, ma gli è stata negata.
Facebook è stata una fonte preziosissima per la ricerca delle immagini. “Qui sono tutti a un barbecue o quel che è, qualche volta in divisa”, ha detto Howell. “Sono poche le persone che possono farlo ragionevolmente come un individuo”.
Howell ha dichiarato che il suo strumento rimase un work in progress ed era in grado di riconoscere solo circa il 20% delle forze di polizia di Portland. Non lo ha rilasciato pubblicamente, ma ha detto che aveva già aiutato un amico a verificare l’identità di un ufficiale. Ha rifiutato di fornire maggiori dettagli.
Derek Carmon, un addetto stampa della polizia di Portland, ha dichiarato che “durante le proteste i badge sono stati cambiati con un diverso identificativo per contrastare il doxing [1] degli ufficiali”, ma gli stessi ufficiali sono tenuti a indossare i badge per “ragioni che non hanno a che vedere con le proteste”.
Carmon disse che le persone potrebbero presentare denuncia utilizzando il numero identificativo di un ufficiale. Rifiutò inoltre di commentare il software di Howell.
I vecchi tentativi di identificare gli ufficiali di polizia hanno fatto affidamento al crowdsourcing. Il notiziario ProPublica chiese ai lettori di identificare gli ufficiali in una serie di video di violenza della polizia.
Nel 2016, a Chicago, un gruppo antisorveglianza, il Lucy Parsons Lab, ha avviato OpenOversight, “un database degli agenti di polizia consultabile pubblicamente”. Si chiese alle persone di caricare foto di ufficiali in divisa e abbinarle ai nominativi o ai numeri di badge.
“Facciamo attenzione alle informazioni che sollecitiamo. Non vogliamo incoraggiare le persone a seguire gli ufficiali nei parco giochi con i loro figli”, ha dichiarato Jennifer Helsby, sviluppatore e leader della OpenOversight. “Questo ha portato all’identificazione degli agenti”.
Per esempio, secondo il direttore della strategia pubblica dell’istituto, Maira Khwaja, il database ha aiutato i giornalisti dell’Invisible Institute, una nuova organizzazione di notizie locale, ad identificare gli ufficiali di Chicago che, quest’estate, hanno colpito i manifestanti con i manganelli.
Foto di più di 1.000 ufficiali sono state caricate sul sito, ha detto Helsby, aggiungendo che altre versioni di database aperti sono state avviate in altre città, compresa Portland. Questa versione prende il nome di Cops.Photo ed è una dalle quali Howell ha ottenuto foto identificate degli ufficiali di polizia.
Inizialmente Howell voleva rendere pubblico il suo lavoro, ma ora a preoccuparlo è che la distribuzione del suo strumento ad altri potrebbe essere illegale secondo le nuove leggi di riconoscimento facciale della città, ha detto.
“Ho richiesto una consulenza legale e richiederò di più”, ha dichiarato Howell. Lo ritenne imprudente realizzare un’app illegale di riconoscimento facciale perché la polizia “tanto per cominciare non lo apprezzerà”.
Poi ha aggiunto “sarei un ingenuo a non preoccuparmene”. “Ma penso valga la pena farlo”.
Note: [1] Doxing: “atto di ricercare e di rivelare delle informazioni personali di qualcuno senza il suo consenso, rendendo noti dati sensibili”.
Traduzione dal New York Times a cura di Martina Di Carlo, revisione di Giacomo Alessandroni per PeaceLink. Il testo è liberamente utilizzabile a scopi non commerciali citando la fonte (PeaceLink) e l’autore della traduzione.
Fonte
All’inizio di Settembre, il Consiglio Comunale di Portland, Oregon, si è riunito online per prendere in considerazione una legislazione globale che vietasse l’utilizzo della tecnologia di riconoscimento facciale.
I disegni di legge non solo vieterebbero alla polizia di utilizzarli per smascherare manifestanti e individui fotografati nelle immagini di sorveglianza, ma impedirebbero anche alle aziende e a una serie di altre organizzazioni di utilizzare il software per identificare una persona sconosciuta.
Al momento dei commenti pubblici, un uomo del luogo, Christopher Howell, ha detto di essere preoccupato per un divieto generalizzato. Ha dato una motivazione sorprendente.
“Sono coinvolto nello sviluppo del riconoscimento facciale, infatti lo utilizzo sugli agenti di polizia di Portland, poiché non si identificano con il pubblico”, ha affermato Howell.
Durante l’estate, con la città presa d’assalto da manifestazioni contro la violenza della polizia, i leader del dipartimento dissero agli agenti in divisa se potevano registrare il proprio nome. Il signor Howell voleva dunque sapere: il suo uso della tecnologia di riconoscimento facciale sarebbe diventato illegale?
Il sindaco di Portland, Ted Wheeler, disse al signor Howell che il suo progetto era “un tantino inquietante”, ma un avvocato della città chiarì che i disegni di legge non si applicherebbero ai singoli. Il Consiglio ha poi approvato la legislazione all’unanimità.
Il signor Howell ci rimase male per la descrizione data dal signor Wheeler al suo progetto, ma fu risollevato dal fatto che poteva continuare a lavorarci. “C’è troppa violenza qui a Portland” ha rivelato in un’intervista telefonica. “Sapere chi sono gli ufficiali, sembra una base di partenza”.
Howell, 42 anni, è un eterno manifestante e un programmatore informatico autodidatta; in una scuola di specializzazione ha iniziato a lavorare con la tecnologia della rete neurale, un’intelligenza artificiale che impara a prendere decisioni dai dati che riceve, come le immagini.
Egli ha dichiarato che, durante una protesta di mezzogiorno a giugno, la polizia gli ha gettato addosso dei lacrimogeni e così ha iniziato a cercare un modo per costruire uno strumento di riconoscimento facciale che potesse ostacolare i tentativi degli ufficiali di proteggere la propria identità.
“Questa è stata una sorta di ‘doccia fredda’ per me, una sorta di punto d’incontro tra quello che so fare e quelli che sono i miei interessi attuali”, ha dichiarato. “La responsabilità è importante. Dobbiamo sapere chi sta facendo cosa, così possiamo affrontarlo”.
Howell non è solo nella sua ricerca. Le forze dell’ordine hanno utilizzato il riconoscimento facciale per identificare criminali, usando fotografie dai database del governo o attraverso una società chiamata Clearview AI, reperibile in rete.
Ora gli attivisti di tutto il mondo stanno ribaltando il processo e stanno sviluppando strumenti che possono smascherare le forze dell’ordine in caso di cattiva condotta.
“Non mi sorprende affatto”, ha dichiarato Clare Garvie, avvocato presso il Center on Privacy and Technology della Georgetown University. “Penso che molti diranno: ‘tutto è lecito in amore e in guerra’, ma questo evidenzia il rischio che comporterebbe lo sviluppo di questa tecnologia senza pensare al suo uso nelle mani di tutti i possibili attori”.
Le autorità coinvolte finora non sono rimaste soddisfatte. Nel Luglio 2019, il New York Times ha riportato che Colin Cheung, un manifestante a Hong Kong, ha creato uno strumento per identificare gli agenti di polizia usando le loro fotografie disponibili online. Dopo aver pubblicato un video di questo progetto su Facebook, fu arrestato. Alla fine il signor Cheung abbandonò il lavoro.
Questo mese, l’artista Paolo Cirio ha pubblicato online fotografie di 4.000 volti di agenti di polizia francese per una mostra chiamata “Capture”, che ha descritto come il primo passo nello sviluppo di un’app di riconoscimento facciale.
I volti li ha raccolti da 1000 fotografie prese da internet e da fotografi che hanno partecipato alle proteste in Francia. Cirio, 41 anni, ha eliminato le foto dopo che il ministro degli Interni francese ha minacciato un’azione legale, ma spera di ripubblicarle.
“Riguarda la privacy di tutti”, ha detto Cirio, il quale pensava che il riconoscimento facciale dovrebbe essere vietato. “È infantile cercare di fermarmi, come un artista che sta cercando di sollevare un problema, invece di affrontarlo”.
Molti ufficiali di polizia di tutto il mondo coprono, in tutto o in parte, il proprio volto, come si può notare da recenti video di violenza della polizia in Bielorussia. Il mese scorso, Andrew Maximov, un informatico del luogo, ora residente a Los Angeles, ha caricato un video su YouTube per dimostrare come la tecnologia del riconoscimento facciale poteva essere usata per rimuovere digitalmente le maschere.
Non è chiaro se il processo sia stato eseguito in modo corretto. Il video, che è stato riportato in precedenza da un sito di notizie sulla Russia chiamato Meduza, ha registrato oltre un milione di visualizzazioni.
“Per un po’ di tempo tutti erano consapevoli che lo Stato poteva utilizzare questo strumento per identificare e gravare sugli individui, ma ora ci stiamo avvicinando alla soglia tecnologica dove gli individui possono farlo sullo Stato”, ha affermato Maximov, 30 anni. “Non è solo la perdita dell’anonimato. È la minaccia dell’infamia”.
Gli attivisti affermano che sta diventando relativamente semplice costruire strumenti di riconoscimento facciale grazie ad algoritmi di riconoscimento delle immagini pronti all’uso, che sono stati rilasciati negli ultimi anni.
Howell, a Portland utilizzava una piattaforma rilasciata da Google, TensorFlow, la quale aiuta le persone a costruire modelli di apprendimento automatico.
“È il processo tecnologico, non sto inventando nulla di nuovo”, ha detto. “Qui il vero problema è ottenere immagini di qualità”.
Howell ha raccolto migliaia di fotografie delle forze dell’ordine di Portland da articoli di giornale e social media dopo aver trovato i loro nominativi sui siti web della città. Ha fatto anche una richiesta di documentazione pubblica per un elenco di ufficiali di polizia con i loro nominativi e numero di matricola, ma gli è stata negata.
Facebook è stata una fonte preziosissima per la ricerca delle immagini. “Qui sono tutti a un barbecue o quel che è, qualche volta in divisa”, ha detto Howell. “Sono poche le persone che possono farlo ragionevolmente come un individuo”.
Howell ha dichiarato che il suo strumento rimase un work in progress ed era in grado di riconoscere solo circa il 20% delle forze di polizia di Portland. Non lo ha rilasciato pubblicamente, ma ha detto che aveva già aiutato un amico a verificare l’identità di un ufficiale. Ha rifiutato di fornire maggiori dettagli.
Derek Carmon, un addetto stampa della polizia di Portland, ha dichiarato che “durante le proteste i badge sono stati cambiati con un diverso identificativo per contrastare il doxing [1] degli ufficiali”, ma gli stessi ufficiali sono tenuti a indossare i badge per “ragioni che non hanno a che vedere con le proteste”.
Carmon disse che le persone potrebbero presentare denuncia utilizzando il numero identificativo di un ufficiale. Rifiutò inoltre di commentare il software di Howell.
I vecchi tentativi di identificare gli ufficiali di polizia hanno fatto affidamento al crowdsourcing. Il notiziario ProPublica chiese ai lettori di identificare gli ufficiali in una serie di video di violenza della polizia.
Nel 2016, a Chicago, un gruppo antisorveglianza, il Lucy Parsons Lab, ha avviato OpenOversight, “un database degli agenti di polizia consultabile pubblicamente”. Si chiese alle persone di caricare foto di ufficiali in divisa e abbinarle ai nominativi o ai numeri di badge.
“Facciamo attenzione alle informazioni che sollecitiamo. Non vogliamo incoraggiare le persone a seguire gli ufficiali nei parco giochi con i loro figli”, ha dichiarato Jennifer Helsby, sviluppatore e leader della OpenOversight. “Questo ha portato all’identificazione degli agenti”.
Per esempio, secondo il direttore della strategia pubblica dell’istituto, Maira Khwaja, il database ha aiutato i giornalisti dell’Invisible Institute, una nuova organizzazione di notizie locale, ad identificare gli ufficiali di Chicago che, quest’estate, hanno colpito i manifestanti con i manganelli.
Foto di più di 1.000 ufficiali sono state caricate sul sito, ha detto Helsby, aggiungendo che altre versioni di database aperti sono state avviate in altre città, compresa Portland. Questa versione prende il nome di Cops.Photo ed è una dalle quali Howell ha ottenuto foto identificate degli ufficiali di polizia.
Inizialmente Howell voleva rendere pubblico il suo lavoro, ma ora a preoccuparlo è che la distribuzione del suo strumento ad altri potrebbe essere illegale secondo le nuove leggi di riconoscimento facciale della città, ha detto.
“Ho richiesto una consulenza legale e richiederò di più”, ha dichiarato Howell. Lo ritenne imprudente realizzare un’app illegale di riconoscimento facciale perché la polizia “tanto per cominciare non lo apprezzerà”.
Poi ha aggiunto “sarei un ingenuo a non preoccuparmene”. “Ma penso valga la pena farlo”.
Note: [1] Doxing: “atto di ricercare e di rivelare delle informazioni personali di qualcuno senza il suo consenso, rendendo noti dati sensibili”.
Traduzione dal New York Times a cura di Martina Di Carlo, revisione di Giacomo Alessandroni per PeaceLink. Il testo è liberamente utilizzabile a scopi non commerciali citando la fonte (PeaceLink) e l’autore della traduzione.
Fonte
Iscriviti a:
Post (Atom)