I candidati al bar meritano di meglio di una “barpocalisse” controllata a distanza

Questa settimana è stato il California Bar Exam, un estenuante test di due giorni che determina se una persona può esercitare o meno la professione legale in California. Nonostante i rischi per la privacy e la sicurezza delle app di monitoraggio remoto presenti agli utenti, il California Bar, così come molti altri ordini di stato in tutto il paese, richiedono che gli studenti utilizzino l'app di sorveglianza e sorveglianza ExamSoft per proteggere "l'integrità" del test. I risultati sono stati a dir poco disastrosi e i partecipanti al test hanno iniziato a chiamare questi esami controllati a distanza " Barpocalypse ".

Tutto questo era evitabile.

Gli studenti segnalano problemi tecnici significativi , tra cui difficoltà di installazione o download del software , errori nel caricamento dei file degli esami , arresti anomali , problemi di accesso al sito , aggiornamenti dell'ultimo minuto alle istruzioni e lunghi tempi di attesa del supporto tecnico che portano gli studenti a sostenere le ore d'esame tardi (se non del tutto). Inoltre, abbiamo sentito numerosi esaminandi preoccupati che i loro dati siano stati violati, aggiungendosi alle numerose segnalazioni di furto di identità, carta di credito e password segnalate dagli utenti precedenti.

Tutto questo era evitabile.

Il mese scorso EFF ha inviato una lettera alla Corte Suprema della California , che sovrintende al California Bar, chiedendo loro di non richiedere ExamSoft per l'esame di avvocato. Le nostre preoccupazioni erano triplici: i partecipanti al test non dovrebbero essere costretti a fornire i propri dati biometrici all'azienda, che può utilizzarli per scopi di marketing, condividerli con terze parti o consegnarli alle forze dell'ordine, senza la possibilità di rinunciare ed eliminare questa informazione. Senza una chiara procedura di opt-out, questa raccolta di dati viola il California Consumer Privacy Act. Inoltre, questa raccolta di dati crea ovvi rischi per la sicurezza, come hanno dimostrato le recenti violazioni dei dati delle app di proctoring. Infine, i problemi tecnici, così come i requisiti che potrebbero svantaggiare gli utenti che non possono soddisfarli, potrebbero devastare gli utenti, costringendoli a ritirarsi dall'esame. È un peccato che molte delle nostre preoccupazioni siano state convalidate.

Per fortuna, la Corte Suprema della California ha ascoltato almeno alcune di queste preoccupazioni. Poco dopo aver ricevuto la nostra lettera, il cancelliere e l'ufficiale esecutivo della Corte suprema della California hanno chiesto all'Ordine degli Avvocati [pdf] di proporre un calendario entro 60 giorni per la cancellazione di tutte le informazioni di identificazione personale raccolte tramite ExamSoft di tutti i richiedenti al bar 2020:

L'Informativa sulla privacy di ExamSoft sembra consentire all'azienda di utilizzare e divulgare i dati dei candidati per molti scopi, alcuni dei quali sembrano non essere correlati all'amministrazione dell'esame. Pertanto, il tribunale condivide la preoccupazione dei richiedenti che qualsiasi conservazione non necessaria dei loro dati PII sensibili possa aumentare il rischio di divulgazione non intenzionale.

Questo è un buon passo avanti nella protezione dei dati dei candidati e siamo lieti di vederlo. Tuttavia, non è abbastanza. Dopo aver ricevuto una lettera preoccupata dai presidi di diverse scuole di diritto della California, la Corte ha risposto [pdf] , affermando che lo strumento di controllo di ExamSoft non avrebbe preso alcuna decisione sull'idoneità di uno studente, né sarebbe stato utilizzato per impedire a qualsiasi candidato di completare l'esame:

… il software di supervisione non determinerà l'identità, l'integrità, l'idoneità o il superamento del voto di alcun candidato, né verrà utilizzato per impedire a qualsiasi candidato di completare l'esame. Invece, più livelli di revisione umana dei video degli esami consentiranno ai supervisori umani di effettuare tali determinazioni.

Purtroppo non è stato così . Come minimo, i problemi tecnici del software hanno impedito a molti studenti di sostenere l'esame . Ulteriori problemi con il monitoraggio remoto, dalla paura di non sapere cosa potrebbe invalidare un esame al tempo perso , hanno creato esperienze stressanti per molti, molti partecipanti al test. Alcuni riferiscono persino di essere stati * invitati * a ritirarsi a causa di problemi di supporto tecnico . Inoltre, la Corte dovrebbe considerare l'impatto sproporzionato che questi esami controllati a distanza hanno sugli esaminandi di colore e su quelli con disabilità, come delineato dal Consortium for Citizens with Disabilities (CCD) Rights Task Force e dal Lawyers 'Committee for Civil Rights Under Law . La Corte e il foro di stato devono anche riconoscere che il fallimento delle funzioni di riconoscimento facciale del software di sorveglianza ha creato un ambiente molto più difficile per alcuni esaminati, come quelli con la pelle più scura, che sono stati costretti a modificare il loro ambiente facendo brillare le luci sui loro volti, ad esempio, durante la totalità del test:

Indipendentemente dal fatto che i revisori umani siano gli ultimi responsabili della determinazione dell'integrità dei risultati dei test dei candidati, è chiaro che questa esperienza di proctoring a distanza non è stata un successo. Mentre plaudiamo alla Corte Suprema della California e all'Ordine degli avvocati per aver richiesto la cancellazione dei dati biometrici, ci sono molte domande senza risposta: non sappiamo ancora per quanto tempo quei dati saranno conservati da ExamSoft, il che crea ancora problemi di privacy e sicurezza; non sappiamo se si siano già verificate violazioni; e non sappiamo come il California Bar assisterà i candidati che hanno riscontrato problemi con l'esame a causa del software di supervisione.

La semplice verità è che il California Bar e la Corte Suprema non dovrebbero approvare questi esami controllati a distanza e non dovrebbero approvare questa pericolosa raccolta di dati di massa, anche se i dati verranno cancellati, alla fine. La Corte Suprema della California e il foro di stato vogliono avere entrambe le cose, ammettendo che "la politica sulla privacy di ExamSoft sembra consentire [pdf] alla società di utilizzare e divulgare i dati dei richiedenti per molti scopi, alcuni dei quali sembrano non essere correlati all'amministrazione dell'esame "e contemporaneamente scrivendo che" la raccolta di questi dati è di fondamentale importanza per garantire l'integrità e la sicurezza del processo di esame ".

L'unico vero modo per quadrare questo cerchio è offrire a tutti i candidati un'alternativa al test supervisionato ExamSoft in futuro. Ci auguriamo che la Corte Suprema della California insista su questo per il test di febbraio e speriamo che altri stati prenderanno atto di questa #Barpocalisse , in modo che i futuri candidati non saranno costretti a sperimentare questi livelli inaccettabili di privacy, sicurezza e problemi tecnici.