I senatori chiedono risposte sui pericoli della vigilanza predittiva

La polizia predittiva è pericolosa e tuttavia il suo utilizzo tra le forze dell'ordine è in crescita . I sostenitori della polizia predittiva e le aziende che fanno milioni vendendo tecnologia ai dipartimenti di polizia, piace dire che la tecnologia è basata su "dati" e quindi non può essere di parte razziale . Ma questa tecnologia danneggerà in modo sproporzionato i neri e altre comunità sovraffollate , perché i dati sono stati creati da un sistema di punizione criminale che è di parte razziale. Ad esempio, un insieme di dati sugli arresti, anche se sono nominalmente privi di qualsiasi informazione razziale, può comunque essere pericoloso in virtù del fatto che la polizia effettua un numero spropositato di arresti nei quartieri neri.

La tecnologia non può mai prevedere il crimine. Piuttosto, può invitare la polizia a considerare con sospetto le persone che sono state vittime di reati o che vivono e lavorano in luoghi in cui sono stati commessi reati in passato.

Per tutte queste ragioni e altre ancora, EFF ha affermato che la tecnologia dovrebbe essere vietata dalle forze dell'ordine, e alcune città negli Stati Uniti hanno già iniziato a farlo.

Ora, un gruppo dei nostri funzionari eletti federali sta sollevando preoccupazioni sui pericoli della polizia predittiva. Il senatore Ron Wyden ha scritto una lettera investigativa al procuratore generale Garland chiedendo come viene utilizzata la tecnologia. È affiancato da Rep. Yvette Clarke, Sen. Ed Markey, Sen. Elizabeth Warren, Sen. Jeffery Merkley, Sen. Alex Padilla, Sen. Raphael Warnock e Rep. Sheila Jackson Lee ..

Chiedono, tra le altre cose, se il Dipartimento di Giustizia degli Stati Uniti (DOJ) abbia effettuato analisi legali per vedere se l'uso di Predictive Policing è conforme al Civil Rights Act del 1964. È chiaro che Senatori e Rappresentanti sono preoccupati degli effetti dannosi di legittimazione che i "dati" possono avere sulla polizia di parte razziale: "Questi algoritmi, che automatizzano le decisioni della polizia, non solo soffrono di una mancanza di controllo significativo sul miglioramento della sicurezza pubblica, ma è anche probabile che amplifichi i pregiudizi contro i gruppi storicamente emarginati ".

I funzionari eletti sono anche preoccupati per quante giurisdizioni il DOJ ha contribuito a finanziare la polizia predittiva e la raccolta dati necessaria per eseguire tali programmi, nonché se questi programmi sono misurati in modo reale per efficacia, affidabilità e validità. Ciò è importante se si considera che molti degli algoritmi utilizzati sono negati al controllo pubblico in base all'affermazione che sono proprietari e gestiti da società private. Recentemente, un audit dello stato dello Utah ha rilevato che lo stato aveva stipulato un contratto con una società per la sorveglianza, l'analisi dei dati e l'intelligenza artificiale predittiva, ma la società in realtà non aveva un'IA funzionante ed era in grado di nascondere questo fatto all'interno della scatola nera del proprietario segreti.

Puoi leggere altre domande che i funzionari eletti hanno posto al procuratore generale nella lettera completa , che puoi trovare di seguito.