Perché EFF non supporta i divieti sull’uso privato del riconoscimento facciale

L'uso da parte del governo e dei privati ​​della tecnologia di riconoscimento facciale presenta ciascuno una serie di preoccupazioni. La privacy, la sicurezza e l'amplificazione del pregiudizio carcerario sono solo alcuni dei motivi per cui dobbiamo vietarne l'uso da parte del governo.

Ma per quanto riguarda l'uso privato? Può anche esacerbare l'ingiustizia, compreso il suo uso da parte di appaltatori di polizia, negozi al dettaglio , distretti per il miglioramento degli affari e proprietari di case .

Tuttavia, EFF non supporta il divieto dell'uso privato della tecnologia. Alcuni utenti possono scegliere di implementarlo per bloccare i propri dispositivi mobili o per dimostrare i rischi della tecnologia nelle mani del governo. Quindi, invece di un divieto di uso privato, sosteniamo leggi severe per garantire che ognuno di noi abbia il potere di scegliere se e da chi le nostre impronte possono essere raccolte. Ciò richiede l'obbligo di consenso informato opt-in e la minimizzazione dei dati, applicabile attraverso un solido diritto privato di azione.

L'Illinois ha una legge del genere da più di un decennio. Questo approccio bilancia adeguatamente il diritto umano di controllare la tecnologia, sia di usarla e svilupparla, sia di essere liberi dall'uso che ne fa gli altri.

La minaccia di tutte le tecnologie di riconoscimento facciale

La tecnologia di riconoscimento facciale ci impone di affrontare questioni complicate nel contesto del razzismo e dell'oppressione secolari all'interno e all'esterno del sistema criminale.

Le “ leggi sulle lanterne ” del diciottesimo secolo che richiedono ai neri e agli indigeni di portare lanterne per illuminarsi di notte sono uno dei primi esempi di una tecnologia utile intrecciata in un moltiplicatore di forza dell'oppressione. Oggi, la tecnologia di riconoscimento facciale ha il potere di una raccolta di massa nascosta di dati biometrici che era inconcepibile meno di una generazione fa.

A differenza delle nostre patenti di guida, dei numeri di carta di credito o persino dei nostri nomi, non possiamo cambiare facilmente i nostri volti. Quindi, una volta che i nostri dati biometrici vengono acquisiti e archiviati come modello di viso, sono in gran parte indelebili. Inoltre, come ha scoperto un fornitore di CBP quando sono state rubate le immagini dei volti di circa 184.000 viaggiatori, i database di informazioni biometriche sono obiettivi maturi per i ladri di dati.

La tecnologia di riconoscimento facciale raffredda le libertà fondamentali. Già nel 2015, la polizia di Baltimora lo ha utilizzato per prendere di mira i manifestanti contro la violenza della polizia . La sua minaccia alle libertà essenziali si estende ben oltre le manifestazioni politiche. Le immagini catturate al di fuori dei luoghi di culto, delle strutture mediche, dei centri sociali o delle nostre case possono essere utilizzate per dedurre le nostre relazioni familiari, politiche, religiose e sessuali.

La polizia ha una discrezionalità senza precedenti nell'usare la violenza e intromettersi nelle libertà. Fin dall'inizio della nostra nazione, le libertà essenziali non sono state ugualmente disponibili per tutti e la discrezione conferita alle forze dell'ordine non fa che accentuare queste disparità. Non c'è bisogno di guardare oltre l' Edward Pettus Bridge o il Comitato della Chiesa . Nel 2020, come alcune persone sono scese in piazza per la violenza della polizia protesta contro le persone di colore, e altri sono venuti a protestare COVID-19 mandati maschera, la polizia ha imposto la loro autorità in crudamente diverse maniere.

Il riconoscimento facciale amplifica questi poteri di polizia e aggrava queste disparità razziali.

In ogni fase del percorso, il settore privato ha contribuito. Microsoft, Amazon e IBM sono tra i tanti fornitori che hanno creato il riconoscimento facciale per la polizia (sebbene in risposta alla pressione popolare abbiano temporaneamente cessato di farlo). Clearview AI continua a elaborare le impronte del viso di miliardi di persone senza il loro consenso per aiutare la polizia a identificare i sospetti. Tali aziende ignorano il diritto umano di compiere scelte informate sulla raccolta e sull'uso dei dati biometrici e si uniscono alle forze dell'ordine per esacerbare le disuguaglianze consolidate.

La lotta per porre fine all'uso da parte del governo della tecnologia di riconoscimento facciale

Nelle mani del governo, la tecnologia di riconoscimento facciale è semplicemente troppo minacciosa. La soluzione legislativa è chiara: vietare l'uso governativo di questa tecnologia.

L'EFF ha lottato per farlo, insieme ai nostri membri, alleati di Electronic Frontier Alliance , altri gruppi nazionali come l'ACLU e un'ampia gamma di gruppi di comunità interessati. Abbiamo sostenuto lo sforzo per approvare la storica ordinanza di San Francisco del 2018 . Abbiamo anche sostenuto i consigli comunali in California ( Berkeley e Oakland ), Massachusetts ( Boston , Brookline e Somerville ) e Oregon ( Portland ).

Allo stesso modo, abbiamo contribuito a superare l' AB 1215 della California. Stabilisce una moratoria di tre anni sull'uso della tecnologia di riconoscimento facciale con telecamere della polizia indossate dal corpo. AB 1215 è il primo divieto di riconoscimento facciale a livello statale della nazione. Ci siamo anche uniti all'ACLU e ad altri chiedendo ai produttori di smettere di vendere la tecnologia alle forze dell'ordine .

Nel 2019 abbiamo lanciato la nostra campagna About Face . La campagna fornisce un linguaggio modello per un effettivo divieto dell'uso da parte del governo del riconoscimento facciale, strumenti per prepararsi agli incontri con i funzionari locali e una biblioteca di ordinanze esistenti. I membri del team organizzativo di EFF lavorano anche con i membri della comunità di Electronic Frontier Alliance per costruire coalizioni locali, fornire commenti pubblici alle udienze del consiglio comunale e sensibilizzare le rispettive comunità.

La promessa delle tecnologie emergenti

EFF lavora per garantire che la tecnologia supporti la libertà, la giustizia e l'innovazione per tutte le persone del mondo. Nella nostra esperienza, quando il governo cerca di togliere la tecnologia dalle mani del pubblico, spesso serve gli interessi dei forti contro i deboli. Pertanto, sebbene sia chiaro che dobbiamo vietare l'uso da parte del governo della tecnologia di riconoscimento facciale, sosteniamo un approccio diverso all'uso privato.

Come ha scritto Malkia Cyril in un pezzo del 2019 per The End of Trust di McSweeney intitolato " Watching the Black Body ": "Il nostro ambiente digitale del ventunesimo secolo offre alle comunità nere un costante pendolo oscillante tra promessa e pericolo". Profilazione, polizia e punizione ad alta tecnologia esacerbano la violenza del sistema di caste basato sulla razza americana. Tuttavia, altre tecnologie hanno facilitato lo sviluppo di movimenti intersezionali e guidati dai neri per il cambiamento, inclusa la comunicazione crittografata, un maggiore accesso alla registrazione video e la capacità di aggirare i guardiani dei media tradizionali.

La crittografia e Tor proteggono le nostre comunicazioni private dallo spionaggio da parte di stalker e nazioni straniere. I nostri cellulari con fotocamera ci aiutano a documentare la cattiva condotta della polizia nei confronti dei nostri vicini. Internet consente a tutti di (nelle parole della Corte Suprema degli Stati Uniti) "diventare un banditore con una voce che risuona più lontano di quanto potrebbe da qualsiasi soapbox". La valuta digitale promette una maggiore privacy finanziaria e indipendenza dalla censura finanziaria.

L'EFF ha resistito a lungo agli sforzi del governo per vietare o ostacolare lo sviluppo di tali nuove tecnologie. Siamo con gli osservatori della polizia contro gli arresti illeciti per aver registrato agenti in servizio, con le prostitute contro le leggi che impediscono loro di utilizzare Internet per condividere informazioni sulla sicurezza con i colleghi e con i crittografi contro i tentativi dell'FBI di indebolire la crittografia. Le tecnologie emergenti sono per tutti.

Usi del settore privato del riconoscimento facciale

Esistono molti modi minacciosi per gli enti privati ​​di utilizzare il riconoscimento facciale. Clearview AI , ad esempio, lo utilizza per aiutare i dipartimenti di polizia a identificare e arrestare i manifestanti.

Non ne consegue che qualsiasi uso privato della tecnologia di riconoscimento facciale mina i diritti umani. Ad esempio, molte persone usano il riconoscimento facciale per bloccare i propri smartphone. Sebbene le password forniscano una protezione più efficace , senza questa opzione alcuni utenti potrebbero non proteggere affatto i propri dispositivi.

Studiosi di ricerca e anti-sorveglianza hanno fatto buon uso della tecnologia. Il 2018 ha visto un lavoro rivoluzionario dell'allora ricercatrice del MIT Joy Boulamwini e del dott.Timnit Gebru, che ha messo in luce i pregiudizi algoritmici del riconoscimento facciale. Nello stesso anno, l'ACLU ha utilizzato il sistema Rekognition di Amazon per dimostrare la disparata inefficacia di una tecnologia che identificava in modo sproporzionato i rappresentanti di colore del Congresso come individui nelle foto di arresto pubblicamente accessibili. Il senatore degli Stati Uniti Edward Markey (D-MA), uno dei legislatori erroneamente abbinati nonostante faccia parte della fascia demografica che la tecnologia identifica in modo più accurato, ha continuato introducendo il riconoscimento facciale e la legge sulla moratoria della tecnologia biometrica del 2020 .

Questi sforzi salutari sarebbero illegali in uno stato o in una città che vietasse l'uso privato del riconoscimento facciale. Anche un divieto specifico del sito, ad esempio solo nei forum pubblici come i parchi o negli alloggi pubblici come i caffè, limiterebbe l'attivismo anti-sorveglianza in quei siti. Ad esempio, impedirebbe una dimostrazione dal vivo a una manifestazione o una conferenza su come funziona il riconoscimento facciale su un volontario.

Rigorosi limiti all'uso privato del riconoscimento facciale

Sebbene EFF non supporti il ​​divieto dell'uso privato del riconoscimento facciale, sosteniamo limiti rigorosi. In particolare, le leggi dovrebbero assoggettare i privati ​​alle seguenti regole:

1. Non raccogliere un'impronta facciale da una persona senza il suo previo consenso scritto di partecipazione.
2. Allo stesso modo, non rivelare l'impronta del viso di una persona senza il suo consenso.
3. Non conservare un'impronta del viso dopo che lo scopo della raccolta è stato soddisfatto o dopo un determinato periodo di tempo, a seconda di quale si verifica per prima.
4. Non vendere impronte, punto.
5. Conserva in modo sicuro le impronte del viso per prevenirne il furto o l'uso improprio.

Tutte le leggi sulla privacy richiedono un'applicazione efficace. Ancora più importante, una persona che scopre che i propri diritti alla privacy sono stati violati deve avere un " diritto privato di azione " in modo da poter citare in giudizio chi viola le regole.

Nel 2008, l'Illinois ha emanato la prima legge di questo tipo: l'Illinois Biometric Information Privacy Act ( BIPA ). Un nuovo disegno di legge federale sponsorizzato dai senatori statunitensi Jeff Merkley e Bernie Sanders cerca di attuare il BIPA su base nazionale.

Vorremmo che questo tipo di legge contenesse due limiti aggiuntivi. In primo luogo, alle entità private dovrebbe essere vietato raccogliere, utilizzare o divulgare l'impronta del viso di una persona, tranne se necessario per fornire loro qualcosa che hanno chiesto. Questo principio di privacy è spesso chiamato " minimizzazione ". In secondo luogo, se una persona rifiuta di acconsentire al faceprinting, a un soggetto privato dovrebbe essere vietato di ritorsioni contro di loro, ad esempio, addebitando un prezzo più alto o facendole stare in una linea più lunga. L'EFF si oppone a schemi di " pagamento per la privacy " che spingono tutti a rinunciare ai propri diritti alla privacy e contribuiscono a una società basata sul reddito di privacy "abbienti" e "non abbienti". Tali leggi dovrebbero anche prevedere un'esenzione per le informazioni degne di nota .

L'EFF ha lavorato a lungo per emanare più leggi di tipo BIPA, anche al Congresso e nel Montana . Noi sosteniamo regolarmente in Illinois per proteggere i BIPA da legislativa ricaduta . Abbiamo presentato istanze di amicus a una corte d'appello federale e alla Corte suprema dell'Illinois per garantire una forte applicazione del BIPA, e in un tribunale dell'Illinois contro una sfida mal concepita alla costituzionalità della legge.

Il BIPA dell'Illinois gode di una solida applicazione. Ad esempio, Facebook ha accettato di pagare ai suoi utenti 650 milioni di dollari per risolvere un caso che sfidava il faceprinting non consensuale con la funzione di "suggerimenti di tag" dell'azienda. Inoltre, l'ACLU ha recentemente citato in giudizio Clearview AI per il suo faceprinting non consensuale di miliardi di persone. Gli abitanti dell'Illinois hanno presentato dozzine di altre cause BIPA.

Impegno del governo nell'uso privato del riconoscimento facciale

L'EFF supporta una regola per l'uso governativo della sorveglianza facciale (vietarla) e un'altra per uso privato (limitarla rigorosamente). Cosa succede quando l'uso del governo e l'uso privato si sovrappongono?

Alcune agenzie governative acquistano faceprint o servizi di faceprinting da soggetti privati. Il governo dovrebbe essere bandito dal farlo. In effetti, la maggior parte dei divieti di uso governativo di riconoscimento facciale correttamente includono un divieto sul governo ottenimento o utilizzando informazioni provenienti da un sistema di sorveglianza volto.

Alcune agenzie governative possiedono forum pubblici, come parchi e marciapiedi, che gli enti privati ​​utilizzano per le proprie attività espressive, come proteste e festival. Se i membri della comunità desiderano incorporare dimostrazioni consensuali di riconoscimento facciale nella loro attività espressiva, soggetti agli stretti limiti di cui sopra, non dovrebbero essere privati ​​del diritto di farlo sulla pubblica piazza. Pertanto, quando una bozza del divieto recentemente emanato da Boston sull'uso del riconoscimento facciale da parte del governo ha proibito anche il rilascio di permessi a terzi per utilizzare la tecnologia, EFF ha richiesto e ricevuto un linguaggio limitando ciò a quando terzi agiscono per conto della città.

Alcune agenzie governative possiedono ampi spazi limitati, come gli aeroporti, e concedono ad altre entità il permesso a lungo termine di operare lì. L'EFF si oppone all'uso da parte del governo del riconoscimento facciale negli aeroporti . Ciò include la stessa autorità aeroportuale; da altre agenzie governative che operano all'interno dell'aeroporto, comprese le forze dell'ordine federali, statali e locali; e da appaltatori di sicurezza privata. Ciò include anche il divieto di accesso del governo alle informazioni derivate dall'uso privato del riconoscimento facciale. D'altro canto, EFF non sostiene il divieto per i soggetti privati ​​di utilizzare il proprio riconoscimento facciale all'interno degli aeroporti, soggetti ai rigorosi limiti di cui sopra. Ciò include l'utilizzo da parte di viaggiatori e rivenditori aeroportuali. Alcuni sostenitori dell'anti-sorveglianza hanno cercato divieti più ampi sull'uso privato.

Uso privato del riconoscimento facciale in luoghi di alloggi pubblici

Un numero crescente di negozi al dettaglio e altri luoghi di alloggi pubblici sta implementando il riconoscimento facciale per identificare tutte le persone che entrano nello stabilimento. L'EFF si oppone fermamente a questa pratica. Quando viene utilizzato per la prevenzione dei furti, ha un impatto razzialmente disparato: le raccolte fotografiche di persone apparentemente "sospette" sono spesso basate su incontri sleali tra persone di colore e forze dell'ordine o sicurezza aziendale. Quando viene utilizzata per micro-targetizzare le vendite ai clienti, questa pratica si intromette nella privacy: le raccolte fotografiche dei consumatori, correlate alle loro presunte preferenze, si basano sulla sorveglianza aziendale delle attività online e offline.

Il modo migliore per risolvere questo problema è con i limiti rigorosi di cui sopra. Ad esempio, il requisito del consenso esplicito scritto impedirebbe a un negozio di eseguire il riconoscimento facciale su tutti coloro che entrano.

D'altra parte, EFF non supporta i divieti sull'uso privato del riconoscimento facciale negli alloggi pubblici. L'affittuario anti-sorveglianza di una sala riunioni, o il proprietario anti-sorveglianza di un bar, potrebbe voler condurre una dimostrazione pubblica di come funziona il riconoscimento facciale, per persuadere un pubblico a sostenere la legislazione che vieta l'uso del riconoscimento facciale da parte del governo. Pertanto, mentre EFF ha sostenuto il divieto recentemente emanato sull'uso del riconoscimento facciale da parte del governo a Portland, Oregon, non abbiamo sostenuto che la città ha contemporaneamente promulgato il divieto dell'uso privato del riconoscimento facciale all'interno di alloggi pubblici.

Le aziende statunitensi che vendono il riconoscimento facciale a regimi autoritari

Le società con sede negli Stati Uniti hanno una lunga storia di vendita di tecnologie di sorveglianza chiave, utilizzate per aiutare nell'oppressione, a governi autoritari. Ciò ha danneggiato giornalisti, difensori dei diritti umani, cittadini comuni e sostenitori della democrazia. Secondo quanto riferito, la società tecnologica cinese Huawei sta costruendo un software di riconoscimento facciale per informare le autorità governative quando una telecamera identifica una persona uigura . C'è il rischio che, senza misure di responsabilità efficaci, le società statunitensi vendano la tecnologia di riconoscimento facciale a governi autoritari.

In collaborazione con le principali organizzazioni che monitorano la vendita di tecnologia di sorveglianza, abbiamo recentemente presentato una memoria chiedendo alla Corte Suprema degli Stati Uniti di sostenere la capacità dei residenti non statunitensi di citare in giudizio le società statunitensi che aiutano e favoriscono le violazioni dei diritti umani all'estero. Il caso riguarda lo Statuto sugli Alien Torts , che consente ai cittadini stranieri di ritenere le società con sede negli Stati Uniti responsabili della loro complicità nelle violazioni dei diritti umani.

Per evitare tali danni prima che si verifichino, le imprese che vendono tecnologie di sorveglianza per i governi dovrebbero implementare un “ Know Your Customer quadro” di un'indagine ffirmative prima di ogni vendita viene eseguito o servizio fornito. Parti significative di questo quadro sono già richieste dal Foreign Corrupt Practices Act e dalle normative sull'esportazione . Dati i rischi intrinseci associati al riconoscimento facciale, le aziende statunitensi dovrebbero essere particolarmente caute nel vendere questa tecnologia a stati stranieri.

Contrattaccare

L'EFF continuerà a sostenere il divieto dell'uso governativo del riconoscimento facciale e l'adozione di una legislazione che protegga ciascuno di noi dalla raccolta non consensuale delle nostre informazioni biometriche da parte di soggetti privati. Puoi unirti a noi in questa battaglia collaborando con altri nella tua zona per sostenere una protezione più forte e firmando la nostra petizione About Face per porre fine all'uso della tecnologia di riconoscimento facciale da parte del governo.