Episodio podcast: le persone con disabilità sono gli hacker originali

Le persone con disabilità erano gli hacker originali. Il mondo può sentirsi chiuso per loro, quindi spesso hanno dovuto essere autosufficienti nel modo in cui interagiscono con la società. E quella creatività e ingegnosità sono una risorsa non apprezzata.

Informazioni sulla privacy. Questo incorporamento servirà il contenuto da simplecast.com

Puoi anche trovare questo episodio su Internet Archive .

Henry Claypool è stato un osservatore e un sostenitore di quella risorsa per decenni, sia nel governo che nel settore no profit. È un esperto di politica nazionale e consulente specializzato sia in politica sulla disabilità che in politica tecnologica, in particolare dove si intersecano. Sa che il vero danno può derivare dall'uso improprio della tecnologia, intenzionalmente o meno, e le persone con disabilità spesso finiscono in fondo alla lista per quanto riguarda l'inclusione. 

Claypool si unisce a Cindy Cohn e Jason Kelley di EFF per parlare di come motivare gli sviluppatori tecnologici a coinvolgere le persone disabili nella creazione di un mondo in cui le persone che funzionano in modo diverso abbiano una transizione graduale in qualsiasi forum e possano interagire con un'ampia varietà di pubblico, una perfetta inclusione nel pieno esperienza umana. 

In questo episodio scoprirai:

• In che modo l'accessibilità chiede: "Possiamo bussare alla porta?" mentre l'inclusione dice: "Costruiamo una casa che ci contenga già tutti dentro".
• Perché i programmi a banda larga a prezzi accessibili devono includere i costi relativi alla disabilità.
• Perché le discussioni sull'inclusione della disabilità devono coinvolgere voci intersezionali come le persone di colore e la comunità LGBTQI+.
• In che modo gli algoritmi e l'intelligenza artificiale utilizzati in qualsiasi cosa, dagli strumenti di assunzione alle piattaforme di servizi sociali, troppo spesso producono risultati distorti a sfavore delle persone con disabilità. 

Henry Claypool è un consulente per le politiche tecnologiche ed ex vicepresidente esecutivo dell'American Association of People with Disabilities , che promuove pari opportunità, potere economico, vita indipendente e partecipazione politica per le persone con disabilità. È l'ex direttore dell'Ufficio per la salute e i servizi umani degli Stati Uniti sulla disabilità e uno dei principali vice amministratori fondatori dell'Amministrazione per la vita in comunità . È stato nominato dal presidente Barack Obama alla Commissione federale per l'assistenza a lungo termine , consigliando il Congresso su come fornire e finanziare meglio l'assistenza a lungo termine per gli anziani e le persone con disabilità della nazione, ora e in futuro. È visiting scientist presso il Lurie Center for Disability Policy presso la Heller School for Social Policy and Management presso la Brandeis University e preside di Claypool Consulting. 

Trascrizione

HENRY CLAYPOOL
La comunità dei disabili, direi, erano gli hacker originali. Il mondo non è un posto molto accessibile e quindi le persone disabili sono state in gran parte autosufficienti in termini di come arriveranno, andranno e faranno le cose nella nostra società. E quella creatività e ingegnosità sono qualcosa che penso sia una specie di risorsa non apprezzata nella nostra società.

CINDY COHN
Una delle cose più potenti della tecnologia è il ruolo che può svolgere nella società come strumento di inclusività, spesso ben oltre gli obiettivi originali. Ovviamente l'inclusività è importante anche se è utile solo a coloro a cui è rivolta, ma ci sono così tanti esempi dell'impatto più ampio – dagli audiolibri ai sottotitoli per non udenti ai tagli di marciapiede – che uso tutti regolarmente. I cambiamenti tecnologici mirati ad assistere le persone con disabilità hanno così spesso non solo raggiunto i loro obiettivi originali, ma aiutato anche coloro che non ne avevano.

Ma come con tutti gli strumenti, il pensiero e l'intenzione sono fondamentali. I danni reali possono derivare dall'uso improprio della tecnologia, intenzionale o meno. E questo è particolarmente vero per i gruppi emarginati. E le persone con disabilità finiscono troppo spesso in fondo alla lista dell'inclusione. Non è solo un male per loro, penso che sia un male per tutti noi.

Sono Cindy Cohn, direttore esecutivo della Electronic Frontier Foundation.

JASON KELLEY
E io sono Jason Kelley, direttore associato della strategia digitale di EFF. Questa è la nostra serie di podcast: Come riparare Internet.

Il nostro ospite di oggi è Henry Claypool. È un esperto di politica nazionale e consulente specializzato sia in politica sulla disabilità che in politica tecnologica, ed è particolarmente interessato a dove queste due cose si intersecano.

È il coautore di un rapporto pubblicato dal Center for Democracy and Technology chiamato "Centering Disability in Technology Policy" – faremo riferimento un po' al rapporto nella nostra conversazione, e puoi trovare un link ad esso nel nostro mostra le note

CINDY COHN
Henry, grazie mille per esserti unito a noi oggi. In questo spettacolo, proviamo a immaginare come sarebbe il mondo se riuscissimo a fare queste cose per bene. Quindi cominciamo da lì. Che aspetto ha se abbiamo effettivamente creato un mondo digitale accessibile?

HENRY CLAYPOOL
Oh, penso che sia molto più inclusivo. Le persone che funzionano in modo diverso – fondamentalmente, per definizione, la disabilità spesso si riduce a questo fatto – sperimenterebbero una transizione graduale in qualsiasi forum e sarebbero in grado di interagire con un'ampia varietà di pubblico. Non tanto dipendeva dalla loro capacità di arrivare fisicamente da qualche parte o dall'assicurarsi che le informazioni non fossero un formato accessibile. Tutte queste cose sarebbero perfette. E così le interazioni con le persone disabili, penso, sarebbero molto più accoglienti e probabilmente invitanti a uno scambio umano vero e genuino. Invece, in questo momento dobbiamo fare affidamento sulla tecnologia assistita, che può creare le proprie barriere, anche se sta facilitando l'accesso alle cose di base.

Abbiamo barriere sfaccettate che stiamo ancora cercando di affrontare. E la tecnologia può essere sfruttata per lavorare su tutti i fronti. E penso che sia una questione di convincere i creatori e gli sviluppatori del mondo a riflettere seriamente su queste fondamentali sfide di accesso che la popolazione deve affrontare, e quindi iniziare ad affrontarle in modo più sistematico.

In questo momento ci affidiamo in gran parte alle persone sedute in un garage che pensano a quale nuova grande sfida dovranno affrontare, ma non pensano davvero alle persone con disabilità quando stanno sviluppando il loro elenco di obiettivi.

JASON KELLEY
Ti abbiamo sentito dire, o scrivere, è che parlare di accessibilità non è sufficiente, e mi chiedo cosa, cosa dovremmo pensare di espandere l'attenzione oltre la semplice accessibilità? Ad esempio, che aspetto ha e, e quali sarebbero le implicazioni di ciò?

HENRY CLAYPOOL
Bene, penso che ci siano alcune sfide fondamentali che abbiamo con questo. Penso che l'accessibilità abbia fornito una bella finestra per la comunità tecnologica sull'esperienza della disabilità, ma è in gran parte focalizzata sulle persone con disabilità sensoriali. E onestamente, penso che ciò che guida questo siano gli obblighi normativi, giusto?

Ai sensi dell'Americans with Disabilities Act, ci sono standard che devono essere soddisfatti. Devi facilitare una comunicazione efficace per le persone con disabilità e questo tende a guidare molto su ciò su cui lavorano le persone. E quindi, invece di affrontare la questione semplicemente come una questione di conformità, penso che riformulare la questione come l'inclusione delle persone disabili nel lavoro ci dia una migliore opportunità di pensare veramente a quali sono i problemi, dove sono le barriere e come possiamo procedere rivolgendosi a loro.

JASON KELLEY
Mi chiedo se il modo in cui descrivi l'inclusione aiuti ad arrivare a questa sorta di dicotomia a cui ho pensato quando parliamo di tecnologia e di come si interseca con le disabilità. C'è questa idea che, sai, la tecnologia è accessibile, e poi c'è questa seconda idea che è sproporzionatamente dannosa per le persone disabili? E mi chiedo se, tipo, sto immaginando correttamente quella dicotomia e l'idea è con qualcosa come, sai, riformularla come inclusione per in qualche modo racchiudere queste due idee insieme.

HENRY CLAYPOOL
Sì, penso che faccia parte di quello che sta succedendo. Uno dei modi in cui penso nella ristrutturazione è che si allarga l'apertura dell'obiettivo quando si va oltre la semplice accessibilità. Perché allora iniziamo a introdurre l'intero concetto del costrutto sociale della disabilità. Cosa significa? Chi è incluso in quella popolazione?

E così iniziamo a pensarci forse anche in modo diverso da come la tecnologia faciliterà l'accesso? Invece, iniziamo a pensare a come funzionano le persone con disabilità ad ampio raggio quando usano la tecnologia? E non è tanto una questione di accessibilità quanto piuttosto pensare a cosa dobbiamo fare per assicurarci che la tecnologia sia utile?

E ho un esempio davvero concreto. Quando si parla di accessibilità, e questa è una trappola in cui spesso cadiamo. Saltiamo davvero una considerazione primaria, che spesso riguarda l'accessibilità perché la tecnologia è costosa. E la maggior parte delle persone con disabilità significative che potrebbero fare affidamento su un programma come la previdenza sociale, l'assicurazione supplementare, non hanno il reddito discrezionale per uscire e acquistare un nuovo pezzo di tecnologia.

E così, o sai, ora abbiamo sussidi per la banda larga che vengono resi disponibili tramite i fornitori. Bene, va bene, ma in realtà non si sono concentrati sulla disabilità a causa dei costi aggiuntivi legati alla disabilità. Penso che quel programma non riesca a raggiungere davvero la parità di accesso che gli autori del Congresso hanno istituito quando hanno finanziato il programma di connettività a prezzi accessibili.

CINDY COHN
Sì, penso che sia davvero giusto. E adoro quell'inquadratura perché l'accessibilità è come, puoi bussare alla porta? E un'inclusione è, hai costruito una casa che ci ha già dentro. Giusto. E penso che quell'inquadratura sia migliore. E quello che mi piace anche è che è più facile metterlo in una specie di cosa intersezionale, giusto? E quindi inquadrandolo come inclusione, in un certo senso stai spostando la comunità dei disabili fuori da un silo e in qualcosa che riguarda più ciò che stiamo cercando di fare in modo più ampio. Penso. Penso che sia parte di ciò che sta accadendo in quella lingua.

HENRY CLAYPOOL
E forse un'altra dimensione, userò solo me stesso come esempio. Come un maschio bianco che ha una disabilità, ma l'ho acquisita. Quindi la mia identità è stata davvero modellata e formata prima che acquisissi questa disabilità. Quindi la mia lotta per tutta la vita da quando la disabilità l'ha incorporata a quello che sono. Ma questo mi dà davvero un'idea della mia esperienza. E quando penso all'identità e a un approccio intersezionale che è enormemente influente nel modo in cui selezioniamo le questioni da cui vogliamo affrontare. Una prospettiva inclusiva o solo se volessimo essere più pragmatici e dire, quali sono le questioni politiche tecnologiche che devono essere affrontate per prime?

E l'idea che non abbiamo persone provenienti da comunità emarginate al tavolo che ci aiutano a definire quell'elenco di priorità, penso sia una delle sfide fondamentali che dobbiamo affrontare oggi nella politica tecnologica e nel campo che ho, sai, tipicamente emergono dentro e intorno a cos'è la politica sulla disabilità, come verrà definita in futuro?

CINDY COHN
Qual è la filosofia alla base del tuo approccio alla creazione di una politica tecnologica e, e come dovremmo pensare a come inquadrare i problemi di disabilità quando si tratta di politica tecnologica?

HENRY CLAYPOOL
Ottima domanda. E penso che implichi assicurarci di guardarci intorno e con chi stiamo parlando, e fin dall'inizio dobbiamo assicurarci di avere voci che sono state tradizionalmente e storicamente escluse in quella conversazione. Una volta arrivati ​​a quel punto, possiamo iniziare a identificare i tipi di problemi che vogliamo affrontare attraverso il nostro programma di politiche tecnologiche che in questo caso si concentrerà principalmente sulle persone disabili e affronterà le loro preoccupazioni.

Perché senza quel pezzo fondamentale, penso che cadremo davvero vittime di alcuni di ciò che è stato discusso sull'accessibilità e su come affrontiamo i problemi e sui tipi di misure che prendiamo per mitigare o affrontare le barriere. Ci perdiamo, credo, ciò che fa bene la politica basata sulla disabilità e sulla tecnologia. Elenca una serie di aree in cui le comunità emarginate sono effettivamente svantaggiate semplicemente perché vivono con una disabilità e capita che siano persone di colore, abbiano un diverso orientamento sessuale o popolazioni non binarie. Quindi queste sono tutte sfide reali, e se non vengono affrontate fin dall'inizio, penso che finiremo per muoverci in direzioni e perseguire soluzioni ai problemi che perpetueranno alcune delle barriere che la nostra società ha costruito e sappiamo tutti che porta a queste significative disuguaglianze con cui viviamo oggi.

CINDY COHN
Sì. Ci può fare un buon esempio? Penso che questo sia buono per aiutare un po' le persone a terra.

HENRY CLAYPOOL
Ritornerei davvero al tipo di accesso di base alla banda larga. E se vuoi davvero andare online, va bene. E se vivi in ​​una casa della classe media, dove la banda larga non è stata ridotta, è fantastico. E se puoi permetterti i dispositivi che ti permetteranno di andare online ancora meglio. Ma se sei disabile, una persona di colore, cresci in un'area in cui l'unico accesso alla banda larga che hai è a scuola, o ora forse l'area in cui vivi non è stata al centro dell'implementazione del provider da parte del provider infrastruttura a banda larga.

E quindi senza, sai, assicurarci che quelle popolazioni siano incluse in modo ponderato, finiamo con quella che ora viene definita dalla FCC come discriminazione digitale. Ma ancora una volta, questo ha i suoi limiti, anche se penso che stia giustamente dando la priorità a questi problemi di razza e reddito, che toccano molte persone con disabilità. La sfida è che non si approfondisce abbastanza questa esplorazione intersezionale della disabilità per pensare, oh, questo significa che la persona avrà bisogno di un diverso tipo di dispositivo per accedere a Internet. E quindi, il nostro programma di connettività a prezzi accessibili che offre sussidi che limitano i dispositivi a $ 75 non è realmente sufficiente per raggiungere gli obiettivi dello statuto, che garantiscono parità di accesso a tutti con la banda larga.

JASON KELLEY
Penso che sia importante parlare di banda larga, dal momento che è fondamentale per il modo in cui le persone accedono a Internet in generale. Ma mi chiedo se possiamo espanderci un po' e parlare di una tecnologia più recente come esempio di una sorta di problema o preoccupazione che spesso vediamo nel modo in cui la tecnologia influisce sulle persone con disabilità. Quindi negli ultimi mesi abbiamo assistito a questa esplosione di utilizzo degli strumenti di intelligenza artificiale, questi grandi strumenti linguistici, ChatGPT, che penso potrebbero avere un impatto davvero positivo su come le persone usano la tecnologia e su cosa ne ottengono. E questo includerebbe, spero, le persone con disabilità. Ma stamattina sono andato sul sito Web di ChatGPT e ho visto che non erano accessibili a qualcuno con uno screen reader. E questo mi ha sorpreso perché questa non è una piccola azienda nel garage di qualcuno, questa è un'azienda con un'enorme quantità di fondi, e se non possono rendere accessibile la loro tecnologia, come facciamo a sapere che i modelli che stanno usando per addestrare la data e i risultati che ne derivano non saranno potenzialmente dannosi per le persone con disabilità, se sembra che non stiano già prendendo in considerazione quelle persone. E mi chiedo se avete un'idea del perché sia ​​così difficile per queste nuove tecnologie, anche con grandi finanziamenti, costruire qualcosa di accessibile.

HENRY CLAYPOOL
Bene, potrei rispondere in due modi e penso che abbiano entrambi ragione. Uno è che questo è in gran parte guidato da persone che stanno cercando di portare un prodotto o un servizio sul mercato. E quindi, quando consideri la disabilità come un mercato di riferimento, potrebbe non sembrare allettante. Penso che se dai un'altra occhiata e pensi a come la tecnologia ha facilitato l'accesso, la facilità di accesso, dirò non solo l'accesso per le persone disabili, ma penso che il riconoscimento vocale sia un ottimo esempio. Uhm, usando quello che si chiamava dettato del drago o qualcosa del genere.

JASON KELLEY
Ricordo quei giorni.

HENRY CLAYPOOL
Sì. E, sai, pesante, pesantemente allenato, dovevi davvero lavorarci, ma una volta fatto, um, potrebbe scrivere abbastanza efficacemente per te se non fossi in grado di usare una tastiera e ora quella tecnologia è solo parte integrante di così tante cose e penso che porti, ad esempio, all'intelligenza artificiale generativa e questi tipi di cose verranno incorporati. potrebbe essere come, se pensiamo a risolvere un problema per una persona disabile, quali sono le più ampie applicazioni di mercato che ne derivano?

E quindi quelle persone che sono solo orientate al mercato, penso che potrebbero esserci degli incentivi per pensare all'apprendimento dal passato e al modo in cui sono stati sviluppati strumenti specifici per le persone disabili. Ma alla fine, hanno solo facilitato l'accesso in modo più ampio o facilitato l'accesso per la popolazione in generale.

JASON KELLEY
Prendiamoci un attimo per ringraziare il nostro sponsor.

"How to Fix the Internet" è supportato dal programma della Alfred P. Sloan Foundation in Public Understanding of Science and Technology. Arricchendo la vita delle persone attraverso un più acuto apprezzamento del nostro mondo sempre più tecnologico e rappresentando la complessa umanità di scienziati, ingegneri e matematici. Quindi una punta di cappello a loro per la loro assistenza.

Ora torniamo alla nostra conversazione con Henry Claypool.

CINDY COHN
Abbiamo parlato molto dei modi in cui l'inclusione potrebbe essere una buona cosa. Penso che siamo anche in un momento in cui stiamo vedendo molti, diciamo, strumenti di intelligenza artificiale generativa e apprendimento automatico e altri strumenti che misurano gli esseri umani rispetto a qualche norma finiscono per creare risultati discriminatori per le persone con disabilità. E so che hai una certa esperienza e ci hai pensato molto. Mi piacerebbe che parlassi un po' di quel tipo di, sai, l'altro lato di questo, che non è solo che vogliamo una tecnologia che sia inclusiva, ma vogliamo anche una tecnologia che non sovralimenti la discriminazione.

HENRY CLAYPOOL
Sì. E ragazzo, gli algoritmi e l'intelligenza artificiale presentano davvero delle sfide lì. E proprio quello che abbiamo visto, penso che nel rapporto tocchi. E da quando è stato pubblicato il rapporto, abbiamo svolto un lavoro più approfondito sugli strumenti di assunzione automatizzati e ora sono un po 'onnipresenti nel mondo. Quindi, nella misura in cui i datori di lavoro li utilizzano, non sono stati sviluppati pensando a questa popolazione. Ed è davvero interessante da un punto di vista politico, l'Americans with Disabilities Act ha disposizioni sull'occupazione, che in realtà richiedono ai datori di lavoro di offrire quella che potrebbe essere considerata una sistemazione ragionevole in quel processo di assunzione. Bene, se non sai che stai interagendo, un'intelligenza artificiale che verrà utilizzata per selezionare chi va al passaggio successivo, ti sono stati negati i tuoi diritti. Non sei stato in grado di farti avanti e dire: "Ehi, non sono sicuro che questo formato funzionerà per me, e penso di aver bisogno di una sistemazione". Quindi questo è un esempio di come, fondamentalmente, lo sviluppo degli algoritmi e gli altri strumenti decisionali abbiano perso l'occasione.

Ma c'è, penso, una sfida più grande per l'IA. E questo ha a che fare con il pensare davvero a quanto sia difficile catturare l'esperienza della disabilità. Non è qualcosa che è facilmente generalizzato. E l'esperienza è straordinariamente eterogenea. Basti pensare ai diversi tipi di disabilità che esistono nella nostra società. E come ti assicurerai che lo strumento che stai sviluppando sia sensibile e consapevole delle previsioni che deve avanzare, senza svantaggiare tutte quelle diverse popolazioni. Quindi sono davvero, penso, una delle maggiori sfide con cui noi nella comunità dei disabili dobbiamo lottare.

JASON KELLEY
Una delle cose che penso che le persone che lavorano nello spazio tecnologico, che sono interessate e premurose sull'inclusione e determinano in che modo il danno potrebbe essere causato dagli strumenti che stanno realizzando. Uno dei problemi che penso che le persone incontrano è come sapere quando lo strumento che stai costruendo è accessibile a tutte le persone, o come fai a sapere quando lo strumento che stai costruendo non causerà danni?

Mi chiedo se hai qualche consiglio per le persone che ci stanno lavorando su cui pensare, sai, cosa possono fare in modo che non sentano che c'è una sorta di spinta costante e una sorta di spostamento della linea di porta, anche se ci dovrebbe essere un costante ripensamento di come funziona lo strumento. Ma come dovrebbero pensare le persone a quella difficoltà di trovare quell'obiettivo finale?

HENRY CLAYPOOL
Penso che sia un ottimo modo per inquadrare questo perché dove lo strumento automatizzato è deterministico e produrrà un risultato finale, non si saprà se hanno davvero subito discriminazioni sulla disabilità. L'individuo può, come conseguenza dell'interazione con esso, ma le persone che sviluppano lo strumento no.

E c'è questo esempio davvero fantastico che è venuto fuori. Contea di Allegheny a Pittsburgh. I loro servizi umani hanno sviluppato uno strumento per filtrare le chiamate che arrivavano nelle loro linee di assistenza all'infanzia. E così erano premurosi. Hanno assunto un appaltatore che li ha aiutati a pensare a un approccio etico allo sviluppo del loro strumento. Ma quello a cui non hanno pensato è stato il fatto che anche le persone disabili hanno figli, e forse le persone disabili funzionano come genitori in modo diverso da quello che ci si potrebbe aspettare da genitori che non sono disabili. Ed ecco, i risultati di questo algoritmo sono stati trovati, e l'ACLU ha effettivamente esaminato questo, è in circolazione da un po' di tempo. Quindi scopri che anche coloro che sviluppano lo strumento con buone intenzioni devono essere vigili per assicurarsi che venga modificato nel tempo per essere più efficace e più inclusivo. E penso che sia possibile davvero costruire questi passaggi quando gli strumenti utilizzati e stanno ottenendo i tipi di risultati che potrebbero portare, in questo esempio, alla discriminazione della disabilità.

Devi entrare lì e iniziare a pensare. Va bene. Come l'abbiamo costruito? E in questo caso, mi era abbastanza chiaro che le persone. Ciò ha contribuito a sviluppare lo strumento. Davvero non pensavo al fatto che le persone disabili avessero e crescessero figli e che avrebbero potuto farlo diversamente.

E mi chiedo se questo potrebbe essere davvero il modo per affrontare al meglio questo come intenzionale fin dall'inizio.

CINDY COHN
Sì. Penso che ciò che stava accadendo in questa situazione e in molte altre che abbiamo visto, sia che i genitori disabili venivano contrassegnati come potenzialmente negligenti, e penso che in alcuni di questi siano stati persino portati via i loro figli a causa della presunzione dei sistemi automatizzati su cosa era normale non rifletteva il modo alternativo perfettamente ragionevole in cui queste persone erano genitori.

HENRY CLAYPOOL
Sì. E la lettura che ho fatto ha dimostrato che erano molto attenti a proteggere il bambino. E c'è un'equazione più grande lì, giusto, su chi sta facendo i genitori e come lo fanno. Questo è stato probabilmente omesso nel progetto originale, e quindi possiamo, possiamo tornare indietro, possiamo iniziare ad apportare modifiche e, si spera, quei tipi di misure correttive portano a un algoritmo che è che, sai, questo algoritmo è stato scritto da Università di Pittsburgh come, sai, un esempio in termini di design intenzionale. Quindi, ironia della sorte, finisce per essere evidenziato come perpetuazione della discriminazione sulla disabilità nei genitori.

CINDY COHN
Ho sentito un paio di cose qui che sono davvero importanti. Uno è, sai, avere persone disabili e persone che hanno esperienza, coinvolte molto presto. Quindi stai costruendo lo strumento, ma penso anche assicurandoti di monitorare e di aver creato uno strumento che può adattarsi perché inevitabilmente non sarà perfetto.

E troverai altri casi d'uso, in particolare nei sistemi di apprendimento automatico e intelligenza artificiale, in cui è difficile sapere quale sistema sta risolvendo perché deve essere flessibile. Quindi, quando scopri che c'è una comunità che non viene servita o che non si riflette in essa, puoi effettivamente apportare tali modifiche.

Non dovrebbero essere semplicemente imbullonati alla fine. Ti servono entrambi. Devi costruire il tuo meglio, ma anche riconoscere che avrai bisogno di una strategia di responsabilità e dovrai essere in grado di adattarti quando ciò accadrà. Penso che soprattutto nelle assunzioni, abbiamo visto che alcuni di questi strumenti hanno estremamente. Penso che supposizioni ingenue e irragionevoli su ciò che rende un buon impiegato, giusto?

Ad esempio, abbiamo visto le piattaforme di assunzione che cercano di utilizzare il contatto visivo come proxy. Non è una buona scienza – non ci sono prove che i dipendenti che riescono a mantenere il contatto visivo durante un colloquio siano dipendenti migliori – ma discrimina anche. Le persone con problemi di vista e anche molti che sono neurodivergenti non otterranno un punteggio elevato su questi sistemi anche se potrebbero essere ottimi dipendenti.

Quindi penso che la comunità dei disabili spesso presenti un modo molto facile da capire in cui si manifesta questo errore. Vediamo così spesso tecnologie che sostituiscono qualcosa che possiamo tracciare e contare per qualcosa che in realtà vogliamo scoprire. È fondamentale mettere in discussione tale connessione perché così spesso è sia sbagliata che discriminatoria.

HENRY CLAYPOOL
Bene, grazie per aver portato l'esempio perché mi dà l'opportunità di ricollegare la politica sulla disabilità. Quello che abbiamo qui nell'Americans with Disabilities Act e nelle sue disposizioni sull'occupazione. Per determinare se qualcuno ha sperimentato o meno la discriminazione della disabilità, è necessario esaminare le funzioni lavorative essenziali, e quindi questo ci allontana da questo mondo di, caspita, penso che il contatto visivo sia importante per essere una buona persona del servizio clienti per no, nessun datore di lavoro . Pensa a quali sono le funzioni essenziali di questo lavoro e poi poni domande direttamente correlate a questo. E questo influenzerà davvero lo strumento che è stato sviluppato. E quindi penso che ci sia un altro grande esempio di come non solo l'applicazione della politica sulla disabilità funzionerà bene per le persone disabili, ma anche per la popolazione in generale.

Perché pensa solo ora ad altre comunità per i diritti civili che hanno avuto difficoltà con diversi tipi di strumenti di assunzione automatizzati. Questo ora ha il datore di lavoro che si assume l'onere di pensare nella progettazione, quali sono i veri aspetti centrali del lavoro? Quali sono le competenze necessarie per realizzarlo?

E lasciami sviluppare il mio strumento basato su questi problemi invece di entrare nel regno della pseudoscienza e pensare a quali potrebbero essere buoni abbinamenti di personalità, eccetera.

CINDY COHN
Sì. E quello che ti sento dire che è davvero importante è che in realtà abbiamo già la legge, a differenza di molte altre situazioni in cui dobbiamo pensare a come cambiare la legge per aiutare qui, questa è una situazione in cui abbiamo effettivamente una legge abbastanza buona e dobbiamo solo farla rispettare onestamente e applicarla in questo nuovo contesto. E questa per certi versi è una buona notizia perché ci mette molto avanti rispetto ad altri problemi in cui, sai, abbiamo effettivamente bisogno di un quadro giuridico.

HENRY CLAYPOOL
E ci sono state anche prove di questo. Ironia della sorte, o forse non è un'ironia. Ehm, l'EEOC e il DOJ hanno pubblicato linee guida su algoritmi, intelligenza artificiale e strumenti di assunzione automatizzati, generalmente informando i datori di lavoro. Essere consapevoli della discriminazione della disabilità proprio per le ragioni che abbiamo discusso. Poiché la legge è così chiara a questo proposito, è facile per loro affrontare la questione e dire, possiamo sviluppare ora una guida su come sarebbe la discriminazione della disabilità.

Mentre nelle leggi sui diritti civili non c'è un chiaro contrasto con l'aspetto della discriminazione per quelle popolazioni. Ma ancora una volta, mettendo tutto insieme, possiamo usare questa legge anche a beneficio di altre popolazioni.

CINDY COHN
Grazie mille per aver parlato con noi e aver rafforzato, credo, ciò che stiamo vedendo in questa serie di podcast, ovvero quanto sia importante l'inclusione, specialmente delle comunità emarginate, se vogliamo arrivare a un luogo con un Internet migliore , e questa comunità è vitale e importante e apprezzo molto il lavoro che tu e altre persone avete fatto per assicurarci che la conversazione includa le persone con disabilità come parte del pensiero su tutte le comunità che vogliamo, sai, vincere dalla nostra futuro migliore.

HENRY CLAYPOOL
È stato un piacere. Mi sono davvero divertito questa volta e sai, spero che i tuoi ascoltatori possano forse trovare qualcosa qui da poterne ricavare e applicare nel loro lavoro.

JASON KELLEY
Sono così felice che abbiamo avuto la possibilità di parlare con Henry di questo problema. Mi ha davvero colpito quando ha ricordato a noi, o almeno a me, che spesso le persone con disabilità devono hackerare. Penso che sia così vero che, sai, spesso hackeriamo le cose come persone tecnologiche perché non funzionano nel modo in cui vorremmo, o non funzionano per noi e se la tecnologia è costruita con, senza di te in mente, questo significherà che devi hackerare molte più cose. Quindi, ovviamente, questo è un gruppo di persone a cui tutti dovremmo pensare come una sorta di hacker originale. E ho adorato quel punto. Cindy, mi chiedo cos'altro hai portato via da quella conversazione, che è stata così ricca e piena di buone idee.

CINDY COHN
Voglio dire, quello che mi è piaciuto sentire è l'idea che la comunità dei disabili sia questo silo esterno di persone che hanno bisogno di accessibilità. Devono, dobbiamo, sai, stanno bussando alla porta per la tecnologia e dobbiamo aprire loro la porta a uno in cui abbiamo davvero bisogno di pensare all'inclusione e mi piace questa metafora, ovviamente, ma questa idea che dobbiamo costruire una casa che li includa per cominciare piuttosto che assicurarci che la porta possa essere aperta se bussano, e come questo cambia il modo in cui la pensi. E apprezzo molto anche questo, sai, il modo in cui è intersezionale, giusto?

Si tratta davvero di pensare, prima di tutto, all'intera persona, non solo alla disabilità. Quindi il fatto che le persone provengano in modo sproporzionato da altre comunità emarginate, specialmente intorno alla povertà. Sappiamo che la comunità dei disabili negli Stati Uniti è spesso molto più povera delle altre.
Hanno meno accesso alla banda larga e ad altri tipi di cose fondamentali. E penso che il cambiamento nel modo di pensare aiuti a garantire che stiamo parlando dell'intera esperienza delle persone con disabilità e non concentrandoci solo sul tipo di disabilità individuale di un gruppo di persone diverse.

JASON KELLEY
Assolutamente.

CINDY COHN
Penso anche che, in termini di pensare alla comunità dei disabili come hacker, inizi davvero a far luce sulle esigenze di interoperabilità, la necessità di standard aperti, la necessità di creare tecnologie aperte all'uso in modi diversi diversi dai modi in cui intendeva il creatore.

E come pensiamo di costruire tecnologie che lo facciano? E penso che uno degli strumenti a cui EFF pensa molto in questo senso siano gli standard e l'interoperabilità e cose del genere, che presentano, sai, barriere reali per le persone che dicono, vogliono essere in grado di collegare un lettore alla chat GPT o qualsiasi altra tecnologia che usano, che, sai, questo è un luogo in cui dobbiamo liberare spazio affinché avvenga l'hacking.

E questo, sai, ci riporta al tipo di legge e al lato politico di ciò che fa l'EFF. The other thing that I really appreciated as we think about how do we build about a better world, that, that the Americans with Disabilities Act is really already there and already has good principles and doesn't need to really be amended or changed as we just need to apply it, and how helpful it is when you've got the law already aligned. It doesn't mean that we're done, but it is one of the pieces of building a better world that, at least in this instance, is already in place and we don't have to start from scratch on the legal side. You know, that doesn't mean it's easy or it's done, but it does set us up in a better place to try to get to a better internet.

JASON KELLEY
At least there's guidance.

Well that's it for this episode of How to Fix the Internet.

Thank you so much for listening. If you want to get in touch about the show, you can write to us at [email protected] or check out the EFF website to become a member, donate, or see what's happening digital rights-wise this week and every week.

This podcast is licensed Creative Commons Attribution 4.0 International, and includes music licensed Creative Commons Attribution 3.0 Unported by their creators. You can find their names and links to their music in our episode notes, or on our website at eff.org/podcast.

Our theme music is by Nat Keefe of BeatMower with Reed Mathis

How to Fix the Internet is supported by the Alfred P. Sloan Foundation's program in public understanding of science and technology.

See you next time.

I'm Jason Kelley…

CINDY COHN
And I'm Cindy Cohn.

Music credits

This podcast is licensed Creative Commons Attribution 4.0 International, and includes the following music licensed Creative Commons Attribution 3.0 Unported by its creators:

Come Inside by Zep Hurme
Drops of H2O the filtered water treatment by J Lang