Un laboratorio nazionale sta promuovendo una fantasia di “ufficiale di polizia digitale” per le forze dell’ordine e il controllo delle frontiere

I ricercatori di un laboratorio nazionale prevedono un futuro in cui la polizia e gli agenti di frontiera saranno assistiti dall'intelligenza artificiale, non come uno strumento software ma come un partner autonomo in grado di prendere il volante durante gli inseguimenti e perlustrare i social media per prendere di mira le persone per indagini più approfondite. Il "Digital Police Officer" o "D-PO" è presentato come un concetto visionario, ma la proposta sembra una presentazione per il film più distopico di sempre.

Il team di ricerca ha sede presso il Pacific Northwest National Laboratory (PNNL), una struttura gestita dalla società Battelle per conto del Dipartimento dell'energia degli Stati Uniti. Hanno commissionato concept art e pubblicato articoli su riviste rivolte ai leader delle forze dell'ordine, ha appreso EFF attraverso una revisione dei materiali, compresi i record ottenuti tramite una richiesta del Freedom of Information Act .

"Per sfruttare tutta la potenza dell'intelligenza artificiale, dobbiamo sapere come le persone possono interagire al meglio con essa", scrivono in una presentazione che inizia con una mano robotica e una mano umana che si disegnano a vicenda nello stile del famoso MC Escher opera d'arte . "Dobbiamo progettare sistemi informatici che non siano semplicemente strumenti che utilizziamo, ma compagni di squadra con cui lavoriamo".

Per anni, i gruppi per le libertà civili hanno messo in guardia sulle minacce che emergono dalla maggiore dipendenza delle forze dell'ordine dalle tecnologie automatizzate, come il riconoscimento facciale e i sistemi di " polizia predittiva ". Negli ultimi anni, abbiamo anche richiamato l'attenzione sui problemi inerenti ai robot di polizia autonomi, come i robot di pattuglia di sicurezza Knightscope a forma di sottaceto e i robot quadrupedi "cane" che il Dipartimento per la sicurezza interna degli Stati Uniti vuole schierare lungo gli Stati Uniti-Messico confine

La visione del team PNNL per il "teaming uomo-macchina" va molto oltre.

"Al svolge un ruolo attivo nella missione imparando dall'uomo e dal suo ambiente", scrivono i ricercatori in una diapositiva che definisce il termine. "Usa questa conoscenza per aiutare a guidare la squadra senza richiedere una direzione specifica da parte dell'umano".

L'ufficiale di polizia digitale

In articoli pubblicati su Police Chief , la rivista ufficiale dell'Associazione internazionale dei capi di polizia e sul Domestic Preparedness Journal , i ricercatori introducono un duo immaginario chiamato l'agente Miller e il suo aiutante elettronico, D-PO (un'apparente commedia su C-3PO) , che pattugliano le strade insieme da cinque anni.

Ecco come sarebbero, secondo il concept art commissionato da PNNL:

(Miller è tecnicamente un paramedico in questa immagine, ma questo è stato usato per illustrare la narrativa dell'ufficiale di polizia in entrambe le pubblicazioni.)

Ed ecco un altro pezzo d'arte PNNL da una presentazione che EFF ha ricevuto in risposta a una richiesta FOIA:

La narrativa immaginaria di PNNL inizia con il D-PO che tiene d'occhio i vari quartieri sul loro ritmo e fornisce riepiloghi delle attività all'agente Miller, come fanno tutti i giorni. Quindi ricevono un avviso di una rapina in corso. I ricercatori del PNNL immaginano una risposta tecnologica del lavello della cucina, toccando droni, riconoscimento facciale, tecnologia dei veicoli a guida autonoma e previsione algoritmica:

Mentre l'agente Miller si reca sul luogo della rapina, il D-PO monitora le riprese della telecamera di un drone della polizia autonomo che gira intorno alla scena del crimine. Successivamente, D-PO utilizza il suo riconoscimento delle immagini di apprendimento profondo per rilevare un individuo che corrisponde alla descrizione del sospetto. Il D-PO riferisce all'agente Miller di avere una corrispondenza ad alta confidenza e richiede di assumere il comando della guida in modo che l'ufficiale possa studiare il filmato. L'ufficiale accetta la richiesta e il D-PO condivide il filmato del possibile sospetto sul display dell'auto di pattuglia. D-PO ha evidenziato le caratteristiche del video e spiega le caratteristiche che hanno portato alla sua valutazione di alta affidabilità.

"Vuoi tentare di catturare questa persona?" chiede D-PO.

Ovviamente l'agente Miller sì.

Mentre guidano verso la scena, l'ufficiale parla con il D-PO come farebbe con un partner umano: "Quali sono le mie migliori opzioni per arrestare questo ragazzo?" chiede l'agente Miller.

D-PO elabora la domanda insieme al contesto della situazione. Sa che con "questo ragazzo" l'ufficiale si riferisce al possibile sospetto. Il D-PO informa rapidamente l'agente Miller di tre opzioni per arrestare il sospetto, inclusa una valutazione del rischio per ciascuno…

La breve descrizione uditiva del D-PO non è sufficiente per consentire all'ufficiale di prendere una decisione. Nonostante la solita preferenza dell'agente Miller per la guida, ha bisogno che il suo partner digitale prenda il volante mentre studia le varie opzioni.

"Prendi il controllo", dice a D-PO.

Tutta questa sequenza d'azione manca è l'agente Miller che dice a D-PO di far esplodere " Kickstart my Heart " dei Mötley Crüe.

Gli autori lasciano al lettore la conclusione di ciò che accade dopo. Se accetti la fantasia, potresti immaginare che questa narrazione finisca con una perfetta apprensione, dove nessuno viene ferito e tutti ricevono una medaglia, anche il compagno di squadra digitale. Ma per coloro che esaminano l'intersezione tra polizia e tecnologia, ci sono un gran numero di finali tragici, dall'identità sbagliata che porta una persona innocente nel sistema di giustizia penale a una sparatoria prevenibile da parte della polizia, che termina con zero responsabilità, perché l'agente Miller è in grado di incolpare un algoritmo non punibile per aver formulato una raccomandazione errata.

L'EFF ha presentato questa primavera una richiesta di Freedom of Information Act al PNNL per saperne di più su questo programma, a che punto è e se le forze dell'ordine locali hanno espresso interesse per esso.

La buona notizia è che nelle e-mail che abbiamo ricevuto, uno degli autori riconosce nelle e-mail interne che elementi come un D-PO che subentra alla guida sono "molto lontani" e il monitoraggio dei feed live dei droni "non è una capacità a breve termine. " Solo un'agenzia ha scritto all'indirizzo e-mail del PNNL incluso alla fine dell'articolo della rivista del capo della polizia : il dipartimento di polizia dell'Alleanza in Nebraska (8.150 abitanti).

"Stiamo implementando un programma di intelligenza artificiale per includere telecamere in giro per la città, ALPR e droni", ha scritto il capo Philip Lunkens. "In qualsiasi modo possiamo lavorare insieme o provare cose a cui sono molto aperto [sic]. Per favore, fammi sapere i tuoi pensieri e come posso aiutarti. Grazie per quello che stai facendo".

La cattiva notizia è che i documenti FOIA includono anche un concetto su come questa tecnologia potrebbe essere combinata con la realtà aumentata per controllare i confini degli Stati Uniti, e questo potrebbe essere molto più vicino alla realizzazione.

Il sistema del compagno di squadra delle ispezioni di frontiera

Le diapositive dei ricercatori del PNNL includono una sezione progettata specificamente per invogliare la dogana e la protezione delle frontiere a integrare tecnologie simili nel processo di screening dei veicoli nei porti di ingresso.

Il CBP è famoso per aver investito in tecnologie sperimentali in nome della sicurezza delle frontiere, dai dirigibili di sorveglianza alle torri di sorveglianza autonome . Nello scenario PNNL, il Border Inspections Teammate System (BITS) sarebbe un'intelligenza artificiale autodiretta che comunica con gli ispettori del checkpoint tramite un visore di realtà aumentata (AR).

(PNNL non ha risposto alla nostra richiesta di una scansione più leggibile della diapositiva.)

Questo concetto è prodotto anche come narrativa di un thriller tecnologico. Un paio di agenti del CBP hanno fermato un camion al confine. Mentre gli agenti ispezionano il veicolo e infornano l'autista, BITS setaccia alacremente una serie di database "mantenuti da diverse agenzie coinvolte nel commercio interstatale, nella sicurezza nazionale, nell'applicazione dei camion commerciali federali e statali e altri". BITS sta anche scansionando i video registrati nelle stazioni di pesatura e analizza i dati sul traffico e meteorologici lungo il percorso del camion. BITS conclude che l'autista potrebbe mentire sul suo percorso e raccomanda un livello di controllo più approfondito.

Naturalmente, gli agenti di frontiera accettano la raccomandazione. Sfruttano scanner manuali avanzati per sondare il veicolo, mentre BITS confronta le scansioni in tempo reale con i dati raccolti da migliaia di altre scansioni precedenti. BITS dice agli ufficiali che l'autista sta trasportando casse che sembrano simili ad altre casse contenenti blister di narcotici.

Infine, BITS scansiona la presenza online del conducente e determina che "l'attività sui social media del conducente mostra un collegamento ad altri sospetti di attività simili".

Lo scenario si conclude con gli agenti del CBP che trattengono l'autista. I ricercatori lasciano ancora una volta la conclusione aperta. Forse trovano stupefacenti illegali nella parte posteriore del camion, o forse è stato tutto un errore del computer e l'autista perde il lavoro, perché il suo carico deperibile non è arrivato in tempo.

I registri ricevuti dall'EFF non indicano alcun interesse ufficiale da parte del CBP o del Dipartimento per la sicurezza interna. Tuttavia, BITS potrebbe non essere così lontano in futuro come il D-PO. CBP sperimenta l'AR almeno dal 2018 utilizzando le cuffie HoloLens per ispezionare le merci per violazioni della proprietà intellettuale.

Nel frattempo, un " esperto di intelligenza artificiale " della San Diego State University sta sviluppando una tecnologia che suona simile (se non più allarmante di) BITS. Il progetto prevede di " aiutare il DHS a "vedere" i terroristi al confine " con le cuffie HoloLens che "aggiungerebbero algoritmi personalizzati per mettere tutto ciò che un agente di frontiera ha bisogno di sapere in una linea di vista per operazioni più rapide e complete".

Questo sistema si basa sul precedente progetto finanziato dal DHS dell'esperto SDSU : un sistema basato su chioschi chiamato "Agente virtuale automatizzato per le valutazioni della verità in tempo reale" (AVATAR) che è stato testato intorno al 2011 ai valichi di frontiera. Secondo un articolo promozionale dell'SDSU , AVATAR è stato "progettato inizialmente per la sicurezza delle frontiere e degli aeroporti" e i ricercatori hanno affermato che potrebbe "dire se la persona intervistata potrebbe fornire risposte ingannevoli sulla base delle informazioni trasmesse tramite sensori comportamentali nel chiosco", come il viso espressioni e inflessioni vocali. Tutte queste tecnologie hanno il potenziale per gravi errori e pregiudizi razziali .

Per quanto abbagliante possa essere questa tecnologia per i funzionari che lavorano nel regno altamente politicizzato della sicurezza delle frontiere, fa scattare un allarme rosso lampeggiante per i sostenitori delle libertà civili che hanno seguito a lungo gli abusi e le violazioni dei diritti dei viaggiatori nei porti di ingresso.

Niente più fantasie tecnologiche

Uno dei problemi con la polizia moderna è l'adozione di tecnologie non provate, spesso basate su narrazioni miracolose ma non plausibili promosse da sviluppatori tecnologici e marketer, senza contemplare i danni che potrebbero causare.

I ricercatori del PNNL presentano D-PO come una soluzione che riconoscono con orgoglio suona come se fosse stato estratto da "un romanzo di fantascienza". Ma quello che non riescono a ricordare è che la fantascienza è un genere cautelativo, progettato per aiutare i lettori – e il mondo – a immaginare gli scenari peggiori. Hal ha ucciso l'equipaggio in 2001: Odissea nello spazio . I precog di Minority Report hanno commesso degli errori. La Skynet di Terminator ha quasi spazzato via la razza umana.

La società sarebbe meglio servita se il team PNNL usasse la propria immaginazione collettiva per esplorare i pericoli delle nuove tecnologie di polizia in modo da poter evitare le insidie, non fare jetpack direttamente in esse.