Parlando liberamente: Ethan Zuckerman

Ethan Zuckerman è professore all'Università del Massachusetts ad Amherst , dove insegna Politica pubblica, comunicazione e informazione. Sta avviando un nuovo centro di ricerca chiamato Institute for Digital Public Infrastructure. Nel corso degli anni, è stato un startupper tecnologico (con Tripod.com), un fondatore di organizzazioni no-profit (Geekcorps.org) e co-fondatore (Globalvoices.org) e, in tutto questo, un blogger.

Questa intervista è stata modificata per motivi di lunghezza e chiarezza.*

York: Cosa significa per te la libertà di parola o di espressione?

È una domanda così complicata. Sembra davvero facile, ma poi diventa davvero complicato molto rapidamente. Penso che la libertà di espressione sia l'idea che vogliamo sentire ciò che le persone pensano, sentono e credono, e vogliamo che dicano quelle cose il più liberamente possibile. Ma allo stesso tempo riconosciamo anche che ciò che dice una persona ha un effetto reale su ciò che gli altri sono in grado di dire o si sentono a proprio agio nel dire. Esiste quindi una versione ingenua della libertà di espressione che in un certo senso dice: "Dirò sempre quello che voglio". E non fa un buon lavoro riconoscere che siamo in comunità. E che il modo in cui dico le cose può rendere possibile o meno che altre persone dicano cose.

Quindi direi che la libertà di espressione è una di quelle cose che, in superficie, sembra semplicissima. Vuoi creare spazi in cui le persone possano dire quello che vogliono dire e dire la loro verità, non importa quanto si sentano a disagio. Ma poi vai oltre e inizi a realizzare, oh, okay, quello che farò è creare spazi in cui sia possibile che alcune persone possano parlare e non altre persone possano parlare. E poi inizi a pensare a come creare una molteplicità di spazi e a come questi spazi interagiscono tra loro. Quindi è una di queste domande frattalmente complicate. Il primo taglio è semplicissimo. E poi, una volta che ci si entra un po', diventa incredibilmente complicato.

York: Analizziamo un po' questa complessità. Tu ed io ci conosciamo dal 2008 circa e l'atmosfera online è cambiata radicalmente da allora. Quando eravamo entrambi, direi, piuttosto entusiasti di come Internet fosse in grado di unire le persone oltre i confini, attraverso le affinità, ecc. Quali sono alcuni dei cambiamenti che hai visto e come pensi che possiamo preservare un senso di libera espressione online contrastando al tempo stesso alcuni di questi svantaggi o danni?

Cominciamo dal contesto in cui ci siamo incontrati. Entrambi siamo stati molto coinvolti nei primi anni con Global Voices. Sono uno dei co-fondatori insieme a Rebecca MacKinnon e a un intero gruppo di persone straordinarie che hanno avviato questa comunità online per cercare di amplificare le voci che non sentiamo molto spesso. Gran parte della mia carriera su Internet è consistita nel cercare di capire se possiamo usare la tecnologia per aiutare ad amplificare la voce delle persone in parti del mondo in cui la maggior parte di noi non ha viaggiato, luoghi di cui raramente sentiamo parlare, luoghi che non ci sono. non sempre attiri l'attenzione nelle notizie e cose del genere. Quindi Rebecca e io, all'inizio degli anni 2000, ci siamo davvero interessati al modo in cui le persone utilizzavano i blog e le nuove forme di tecnologia per riferire su ciò che stava accadendo. E per me sono stati posti come l’Africa sub-sahariana. Rebecca era interessata a posti come la Corea del Nord e in un certo senso voleva farsi un'idea di cosa stava succedendo in alcuni di quei posti, attraverso l'obiettivo, spesso, di uomini d'affari cinesi che viaggiavano in quei posti.

E abbiamo iniziato a incontrare blogger che scrivevano dall'Iraq, che a quel tempo era sotto attacco da parte degli Stati Uniti. Che scrivevano da paesi come il Madagascar, che aveva molto da fare politicamente, ma quasi nessuno lo sapeva o ne aveva sentito parlare. Quindi tu ed io abbiamo iniziato a lavorare in questo contesto: possiamo amplificare queste voci? Possiamo aiutare le persone a parlare liberamente e ad avere un pubblico? Perché questo è uno di questi problemi interessanti: puoi parlare liberamente se sei anonimo e su un sito Onion, ecc., ma nessuno ti ascolterà. Quindi possiamo aiutare le persone non solo a parlare liberamente, ma possiamo anche aiutare a trovare un pubblico ad esso associato? E parte del lavoro che stavo facendo quando ci siamo incontrati per la prima volta riguardava cose come il blogging anonimo con WordPress e Tor. E letteralmente creare guide per aiutare le persone che denunciano nelle società chiuse a parlare online.

Tu ed io lavoravamo anche con il Berkman Center di Harvard e lavoravamo entrambi su questioni di censura. Una delle cose che mi interessa di più—per tornare indietro nella storia—è pensare a come è cambiata la censura online. Chi sono questi oppositori alla parola. Siamo partiti dal presupposto che sarebbe stato il governo dell’Arabia Saudita, o il governo della Tunisia, o il governo della Cina, a bloccare certi tipi di discorso a livello nazionale. Sapete: “Non puoi dirlo. Verrai arrestato o, nel peggiore dei casi, arrestato per aver detto questo. Ci siamo poi concentrati, in una certa misura, sulle preoccupazioni relative alla censura da parte delle aziende, delle piattaforme. E hai fatto un enorme lavoro su questo! Eri in guerra con Facebook, ora Meta, per il loro lavoro sul capezzolo femminile. Ora esaminiamo i diversi modi in cui le aziende potrebbero decidere se qualcosa fosse un discorso consentito o un discorso non consentito sulla base di standard che non avevano nulla a che fare con ciò che pensavano gli utenti, ma in realtà con quali erano le decisioni delle piattaforme.

Da qualche parte verso la fine degli anni '20, penso che il campo di battaglia sia cambiato un po'. E penso che ci siano ancora paesi che censurano Internet, ci sono ancora piattaforme che censurano Internet, ma siamo diventati molto più bravi a censurarci a vicenda. E, per me, tutto questo inizia in modo serio con Gamergate . Dove ci sono persone – donne, critici dell'industria dei giochi – che parlano di contro-narrazioni femministe nei videogiochi. E la reazione di alcuni membri di una comunità online è così ostile e offensiva, c'è così tanta misoginia violenta nei confronti di persone come Anita Sarkeesian e una sorta di altri leader in questo campo, che è un'altra forma di silenzio sul discorso. Fondamentalmente le conseguenze per alcune persone che parlano ora sono così alte, come la quantità di abusi che subirai, che si tratti di schiacciare , che si tratti di persone che rilasciano un videogioco per picchiarti – ed è quello che è successo ad Anita – non è così. metterti a tacere nello stesso modo in cui, ad esempio, il Grande Firewall o la rimozione del tuo blog potrebbero metterti a tacere. Ma le conseguenze per la parola diventano così gravi che cambiano davvero l’ambiente del discorso. E parte di ciò che è così complicato è che alcune delle persone che usano la parola per mettere a tacere la parola parlano del loro diritto alla libertà di parola e di come la libertà di parola protegga la loro capacità di farlo. E in un certo senso hanno ragione. In un altro senso, si sbagliano di grosso. Stanno usando la parola per aumentare le conseguenze del discorso di altre persone e rendere incredibilmente difficile che certi tipi di discorso abbiano luogo.

Quindi ho la sensazione che ci siamo allontanati da questi nemici molto facili: è molto facile incazzarsi con i sauditi o i cinesi, è davvero soddisfacente essere incazzati con Facebook o qualsiasi altra piattaforma. Ma una volta che arriviamo al punto in cui diciamo, ehi, la tua comprensione della libertà di parola sta creando un ambiente in cui è molto difficile o molto pericoloso per gli altri parlare, è lì che diventa super complicato. E quindi direi che sono passato da un convinto sostenitore della libertà di parola online, a questa sorta di complicato multistrato, "Wow, c'è molto a cui pensare in questo" che ti ho dato in un certo senso in base alla tua domanda di apertura.

York: Analizziamo un po' la questione, perché è complicato anche per me. Voglio dire, nel corso degli anni anche le mie opinioni sono cambiate. Ma in questo momento stiamo assistendo a un aumento dei tentativi di censurare i discorsi legittimi attraverso le varie leggi che stiamo vedendo in tutto il continente africano contro i discorsi LGBTQ+, l’Arabia Saudita è sempre un esempio sempreverde, il Sudan ha appena chiuso di nuovo Internet, Israele ha chiuso di nuovo Internet in Palestina, in Iran è ancora in corso una sorta di chiusura, ecc. Ecc. Voglio dire, nomina un paese e probabilmente c'è qualcosa in corso. E, naturalmente, includendo gli Stati Uniti con il Kids Online Safety Act (KOSA), che avrà un impatto assolutamente negativo sulla libertà di espressione per molte persone. E ovviamente stiamo anche assistendo a un raffreddamento dei discorsi legati all’aborto negli Stati Uniti. Quindi, con tutti questi esempi, come separiamo le domande su come affrontiamo l'idea di affollare o censurare il discorso degli altri dalle minacce reali e persistenti al discorso che stiamo vedendo?

Penso che valga assolutamente la pena ricordare che gli attori in questa situazione hanno diversi livelli di potere. Quindi, quando si guarda a qualcosa come il Kids Online Safety Act ( KOSA ), che presenta il pericolo reale di lasciare essenzialmente ciò che è proibito parlare ai singoli procuratori generali dello stato. E stiamo vedendo diversi procuratori generali degli stati americani dire essenzialmente che lo useremo per combattere il "transgenderismo", lo useremo per combattere quello che vedono come "l'agenda LGBTQ", ma gran parte del resto di noi vedono come umanità e persone che hanno la capacità di esprimere il proprio sé autentico. Quando uno stato essenzialmente dice: "Censureremo i contenuti accessibili ai minori di 18 anni", prima di tutto, non penso che supererà l'esame della Corte Suprema. Penso che anche sotto la folle Corte Suprema degli Stati Uniti in questo momento, ciò verrà effettivamente contestato con successo.

Quando parlo di questa progressione dalla censura statale alla censura della piattaforma alla censura individuale, c’è una diminuzione della quantità di potere. Gli stati hanno armi, possono arrestarti. Ci sono molte cose che Facebook può farti, ma a questo punto non possono arrestarti. Hanno un potere enorme in termini di ampie fasce dell’ambiente online, e dobbiamo ritenere responsabile anche quel tipo di potere. Ma queste cose devono essere un “e”, non un “o”.

E, allo stesso tempo, poiché siamo profondamente preoccupati per il potere statale e siamo profondamente preoccupati per il potere delle piattaforme, dobbiamo anche riconoscere che i cambiamenti nell'ambiente vocale possono rendere incredibilmente difficile per le persone partecipare o meno. Quindi uno degli esempi di ciò, in molti modi, sono i cambiamenti a Twitter sotto Elon Musk. Dove i cambiamenti tecnici e i cambiamenti di moderazione hanno reso questo spazio meno sicuro per molte persone. E sotto il titolo di libertà di parola, ora hai un ambiente in cui è molto più facile essere molestato e intimidito al punto in cui potrebbe non essere più facile essere sulla piattaforma. Soprattutto se, ad esempio, sei una donna musulmana proveniente dall'India. Questo è un argomento su cui sto dedicando molto tempo con la mia amica e studentessa Ifat Gazia , come l'Hindutva stia usando Twitter per allearsi contro le donne del Kashmir e creare circostanze in cui è incredibilmente pericoloso e spiacevole per loro parlare dove tutto ciò che dicono si trasformerà in trolling misogino e in tentativi di farli espellere dalla piattaforma. E così, quello che è diventato un ambiente di libertà di parola per il nazionalismo indù si rivela un ambiente molto meno sicuro per la posizione secondo cui il Kashmir dovrebbe essere indipendente o che i musulmani dovrebbero essere cittadini indiani con pari diritti. E quindi, questo ci porta al punto di dire che vogliamo che lo Stato o la piattaforma ci aiutino a creare condizioni di parità, ci aiutino a creare uno spazio in cui le persone possano parlare. Ma poi all’improvviso sia lo Stato che la piattaforma entrano e dicono: “puoi dire questo e non dire questo”. Ed è per questo che diventa così complicato così in fretta.

York: Ci sono molte sfide al discorso anonimo che accadono in tutto il mondo. Un esempio che mi viene in mente è l' Online Safety Act del Regno Unito , che approfondisce un po' l'argomento. Entrambi abbiamo anche scritto sull’importanza dell’anonimato per proteggere le comunità vulnerabili online. La tua opinione sull’anonimato o sullo pseudonimo è cambiata nel corso degli anni?

Una delle cose più interessanti dei primi blog è che abbiamo iniziato a vedere degli informatori. Abbiamo iniziato a vedere persone che avevano informazioni all’interno dei governi trovare modi per esprimere ciò che stava accadendo, nei loro stati e nei loro paesi. E penso che in una certa misura, prima della nascita di WikiLeaks , ci fosse questa sorta di idea secondo cui l'anonimato era quasi un segno di autenticità. Se dovevi restare anonimo forse era perché eri davvero vicino alla verità. Molti di noi hanno preso molto sul serio le fughe di notizie. Abbiamo pensato che si trattasse di una fuga di notizie, che questa fosse la narrazione non ufficiale, dovremmo prestarvi molta attenzione. Penso che, come la maggior parte delle cose in un ambiente mediatico in continua evoluzione, il concetto di fuga di notizie e il concetto di anonimato protetto siano diventati in una certa misura un'arma. Penso che Wikileaks abbia una sua narrazione complicata in cui cose che erano documenti privilegiati all'interno, ad esempio, del Kenya, all'inizio della storia di WikiLeak, si sono trasformate in giganteschi depositi di documenti con l'idea che ci deve essere qualcosa qui da qualche parte che sta andando rivelarsi importante. E, spesso, c'era qualcosa lì dentro, e c'era anche molta pula. Penso che le persone abbiano imparato a usare le perdite come strategia. E ora, ogni volta che vuoi che le persone prestino attenzione a una serie di documenti, dici che andrò avanti e li "divulgherò".

Allo stesso tempo, abbiamo anche visto persone sfruttare l’anonimato come un’arma. E una storia che tu ed io conosciamo profondamente è Gay Girl in Damascus . Dove c'era qualcuno che usava l'anonimato per affermare di essere una lesbica che viveva in una comunità conservatrice e parlare delle sue esperienze lì. Ma ovviamente si è scoperto che si trattava di uno scozzese di mezza età che aveva assunto questa identità nella speranza di essere preso più sul serio. Poiché, ovviamente, tutti sanno che gli uomini bianchi di mezza età non hanno mai voce in capitolo nei dialoghi online, lui ha dovuto trasformarsi in una donna siriana queer per avere voce in quel dialogo. Naturalmente, la parte più divertente della cosa, e quello che abbiamo scoperto risolvendo quella situazione, era che aveva una relazione con un'altra finta lesbica che era un altro ragazzo che fingeva di essere lesbica per avere voce online. Quindi c'è questo modo in cui siamo passati da una sorta di ingenuità, "è anonimo, quindi è probabilmente una fonte molto potente", a "è anonimo, probabilmente è ancora un altro troll".

Penso che la risposta sia che l’anonimato è davvero complicato. Alcune persone hanno davvero bisogno dell'anonimato. Ed è davvero importante costruire modi in cui le persone possano parlare liberamente. Ma chiunque abbia mai lavorato con degli informatori – e io l’ho fatto – ti dirà che trovare un modo per mettere effettivamente il tuo nome su qualcosa gli dà molto più potere. Quindi penso che l'anonimato rimanga importante, dobbiamo trovare modi per difenderlo e proteggerlo. Penso che stiamo iniziando a scoprire che l'idea di Mark Zuckerberg, "elimini l'anonimato e il web sarà meraviglioso", è una totale schifezza. Ci sono molte comunità che finiscono per essere molto sane con pseudonimi persistenti o addirittura anonimato. Ha più a che fare con lo spazio e le norme ad esso associate. Ma l’anonimato non è né la soluzione adatta a tutti per rendere sicura la denuncia delle irregolarità, né è il “oh no, se lasci che l’anonimato nella tua comunità crolli”. Come ogni cosa in questo spazio, risulta essere complicata e ricca di sfumature. E sia più che meno importanti di quanto tendiamo a pensare.

York: Raccontami di una prima esperienza che ha plasmato le tue opinioni sulla libertà di espressione.

La storia di Hao Wu è la storia che voglio raccontare qui. Quando penso alla libertà di espressione online, mi ritrovo a pensare molto alla sua storia. Hao Wu è un regista di documentari. A questo punto, un regista di documentari molto esperto. Ha realizzato alcuni film di grande successo, tra cui uno intitolato La Repubblica popolare del desiderio sul live streaming cinese, che ha ricevuto molte celebrazioni. Ha in uscita un nuovo film intitolato 76 Days sul blocco di Wuhan. Ma ho avuto modo di conoscerlo in modo molto indiretto, e grazie al fatto che stava girando un film in Cina sul fenomeno delle chiese cristiane sotterranee. Ed è stato arrestato e trattenuto per cinque mesi, e noi sapevamo di lui attraverso la comunità di Global Voices perché era stato un blogger attivo. Stavamo prestando attenzione ad alcuni dei lavori che stava svolgendo e all'improvviso era diventato silenzioso.

Alla fine ho lavorato con Rebecca MacKinnon, che parla cinese ed era in contatto con tutte le persone coinvolte, e mi occupavo dei siti web e cose del genere, costruendo un blog Hao Wu gratuito. E usarlo, e in un certo senso fare da piattaforma a sua sorella, come un'opportunità per sostenere il suo rilascio. E la cosa più affascinante di tutto questo è che io e Rebecca abbiamo trascorso mesi a scrivere e parlare di quello che stava succedendo, e a incoraggiare sua sorella a parlare apertamente, ma lei, del tutto comprensibilmente, era terrorizzata dalle conseguenze per la sua vita e la sua carriera. e famiglia. Ad un certo punto era disposta a scrivere online e parlare apertamente, ma quell'esperienza di realizzare che qualcosa che sembra molto semplice e semplice dal tuo punto di vista, miglia e miglia di distanza dalla situazione politica, come, ecco questo giovane che è un regista e un blogger e chiaramente una persona intelligente e interessante, dovrebbe poter parlare liberamente, ovviamente sosterremo il suo rilascio. E poi parlare con la sua famiglia e vedere il terrore genuino che aveva sua sorella, che la sua vita potesse essere completamente trasformata, e trasformata negativamente, sostenendo qualcosa di semplice come il rilascio di suo fratello.

È interessante, penso al nostro comune amico Alaa Abd El-Fattah , che ha trascorso gran parte della sua vita adulta nelle carceri egiziane, venendo detenuto ancora e ancora e ancora. La sua famiglia, il suo ex compagno e molti dei suoi amici hanno trascorso anni, anni e anni a difenderlo. Tutto questo processo di difesa della capacità di qualcuno di parlare, di difesa della capacità di qualcuno di intraprendere un'azione politica, di difesa della capacità di qualcuno di fare arte: più ti avvicini alla situazione, più diventa difficile. Perché più sei vicino alla situazione, più è probabile che l'ingiustizia che stai sostenendo sia stata ribaltata, è quella che stai vivendo anche tu. Ed è davvero interessante. Penso che renda molto facile sostenere a distanza, e spesso molto più difficile farlo quando si è molto più vicini a una situazione. Penso che in ogni situazione in cui ci troviamo a urlare per qualcosa dall'altra parte del mondo, sia un buon momento per verificare e chiedere, se le persone che urlano sono direttamente colpite da questo, non stanno urlando perché il pericolo è altissimo, non stanno urlando perché forse fraintendiamo e stiamo sostenendo qualcosa che sembra giusto e ovvio ma in realtà è molto più complicato di quanto potremmo altrimenti pensare?

York: Il tuo laboratorio sostiene quello che chiami plurale. Quindi riconosci che tutte queste principali piattaforme continueranno ad esistere, le persone continueranno a usarle, ma poiché stiamo vedendo emergere una moltitudine di piattaforme per lo più decentralizzate, come vediamo il futuro della moderazione su quelle piattaforme? ?

È interessante, in questi giorni passo molto del mio tempo uscendo e sostenendo una visione plurale di Internet. E gran parte del mio lavoro consiste nel cercare di creare piccole comunità Internet con focus molto specifici ad esse associati, e di pensare a un'architettura che consenta una gamma molto ampia di esperienze. Una cosa che ho scoperto in tutto questo è che le piccole piattaforme spesso hanno regole molto più restrittive di quanto ci si aspetterebbe, e spesso in meglio. E farò un esempio molto tangibile.

Sono una persona grande. Sono, per la prima volta da molto tempo, a meno di 300 sterline. Ma per molto tempo sono stato tra i 290 e i 310 per gran parte della mia vita adulta. E ho iniziato a correre circa sei mesi fa. Sono stato ispirato da un ragazzo di nome Martinus Evans , che ha corso la sua prima maratona a 380 sterline, e ha fondato un club di corsa chiamato Slow AF Running Club , che ha una comunità online molto attiva e sostiene il fitness e la corsa a qualsiasi dimensione. E quindi ora accedo a questo gruppo probabilmente tre o quattro volte a settimana per registrare le mie corse, ricevere incoraggiamento, ecc. Ho dovuto scrivere un saggio per unirmi a questa comunità. Ho dovuto sottoscrivere un'incredibile serie di regole, tra cui niente discorsi sul peso, niente discorsi sulla perdita di peso, niente discorsi sul corpo. Ogni sorta di cose. E potresti dire: ho la libertà di parola! Ho la libertà di espressione! Bene, ho scelto di metterlo da parte in modo da poter essere un membro di questa comunità e ottenere supporto in modi particolari. E al plurale, se voglio parlare di dimagrimento o di corpo o qualcosa del genere posso farlo da qualche altra parte! Ma per far parte di questa comunità online estremamente sana che mi sta davvero aiutando molto, devo essere d'accordo e mettere certe cose in una scatola.

E questo è ciò che finisco per definire “piccole stanze”. Le stanze piccole hanno uno scopo. Hanno una comunità. Potrebbero avere una serie di regole linguistiche molto rigide. E sono fantastici, per quella conversazione specifica. Non vanno bene per conversazioni più ampie. Se voglio sostenere la positività del corpo. Se voglio difendere la salute a qualsiasi peso, e qualsiasi altra cosa, dovrò entrare in una stanza più grande. Dovrò andare su Twitter o Facebook o qualcosa del genere. E lì le regole saranno molto diverse. Saranno molto più ampi. Incoraggeranno le persone a tornare e dire: "Stai zitto, ciccione". E questo è infatti ciò che accade quando incontri alcune di queste cose su uno spazio come Reddit. Quindi questo mondo di stanze piccole e grandi è un mondo in cui potresti ritrovarti a sostenere restrizioni di parola molto rigide se la comunità le sceglie su piattaforme specifiche. E potresti sostenere regole molto ampie e aperte nelle grandi stanze con l'idea che ci sarà sempre conflitto e che c'è bisogno di moderazione.

Ecco uno dei problemi che sempre si presenta in questi spazi. Cosa succede se la comunità vuole avere regole davvero terribili? E se la comunità fosse KiwiFarms e le regole fossero: troveremo persone trans e le molesteremo, preferibilmente a morte? E se quella piccola stanza fosse Stormfront e noi festeggiassimo come se fosse il 1939? Torneremo a perseguire il nazionalismo bianco, il nazionalismo cristiano, l'antiebraismo e l'antimusulmano? E le cose si fanno davvero complicate quando il gruppo vuole commerciare materiale pedopornografico (CSAM), perché certamente lo fa. Oppure vogliono creare immagini sessuali non consensuali e non autorizzate? E se si trattasse di un gruppo che volesse realizzare immagini di Taylor Swift mentre fa molte cose che non ha mai fatto o di cui sicuramente non ha fatto circolare le foto?

Quindi ho provato a pensare a questo dal punto di vista architettonico. Quindi penso che il modo in cui voglio gestire la situazione dal punto di vista architettonico sia quello di avere un negozio di algoritmi di quartiere amichevole. E l'amichevole negozio di algoritmi di quartiere ti consente di fare due cose. Ti consente di visualizzare i social media su un client che controlli attraverso una serie di algoritmi che ti interessano. Quindi, se vuoi entrare e dire: "Non voglio politica oggi", o "Voglio politica, ma solo notizie altamente verificate", o "francamente, oggi non darmi altro che cuccioli". Penso che dovresti avere la possibilità di scegliere gli algoritmi che filtreranno i tuoi media e scegliere di usarli in questo modo. Ma penso anche che il negozio di algoritmi di quartiere amichevole debba servire le piattaforme. E penso che alcune piattaforme potrebbero dire: "Ehi, avremo questo insieme di regole e le applicheremo algoritmicamente, ed ecco quelle che applicheremo manualmente". E penso che alcuni algoritmi probabilmente diventeranno di rigore.

Penso che avere un assegno per materiale pedopornografico noto sia probabilmente il minimo indispensabile per gestire una piattaforma responsabile al giorno d'oggi. E avere questo tipo di strumenti che Facebook e simili hanno creato per scansionare grandi serie di immagini per i noti contenuti pedofilia, rendere questi strumenti disponibili anche agli operatori di piattaforme di piccole dimensioni è probabilmente una cosa molto utile da fare. Non penso che avrai bisogno di qualcuno che lo faccia per un nodo Mastodon, ma penso che sarà sempre più difficile gestire un nodo Mastodon se non disponi di alcune di quelle protezioni di base. Ora questo diventa davvero difficile, molto rapidamente. Diventa davvero difficile perché sappiamo che alcuni altri database disponibili, inclusi quelli con contenuti estremisti e terroristici, non sono revisionabili. Siamo preoccupati che questi database possano bloccare contenuti che rappresentano un'espressione politica legittima e dobbiamo trovare modi per poterli controllare e garantire che vengano utilizzati correttamente. Inoltre, soprattutto attorno al CSAM, stiamo iniziando a sperimentare un'ondata di persone che generano nuovi CSAM che potrebbero non coinvolgere effettivamente un bambino reale, ma sono ricombinazioni di immagini per creare nuovi scenari. Devo essere onesto con te, non so cosa faremo lì. Non so come possiamo anticiparlo e bloccarlo, non conosco nemmeno lo status legale del blocco di alcune di quelle immagini in cui non viene danneggiato un bambino reale.

Quindi queste non sono soluzioni complete. Ma penso che arrivando al punto in cui gestiamo molte comunità diverse, abbiamo un kit di strumenti algoritmici disponibile per provare a fare un po' di quella moderazione che vogliamo nella comunità, e c'è l'aspettativa che tu stia facendo quel lavoro. E se non lo sei, potrebbe essere sempre più difficile mantenere quella comunità attiva e funzionante e fare in modo che le persone interagiscano e interagiscano con te. Penso che sia lì che mi ritrovo a riflettere molto e a fare molta difesa in questi giorni.

Qualche mese fa abbiamo realizzato un pezzo intitolato “ The Three Legged Stool ”, che è il nostro manifesto su come realizzare un Internet plurale e avere anche moderazione e governabilità. È questo il tipo di idea che vuoi avere un bel po' di controllo attraverso quello che chiamiamo il cliente fedele, ma vuoi anche che le piattaforme abbiano la capacità di usare questo genere di cose. Quindi ci sono persone là fuori che sostanzialmente dicono: "Oh no, Mastodon diventerà una fogna di CSAM". E, sai, ci sono alcune prove di ciò. Stiamo iniziando a vederne alcune sacche. La verità è che non penso che Mastodon sia il luogo in cui accade maggiormente. Penso che sia principalmente su canali molto più chiusi. Ma qualcosa che abbiamo visto fin dal primo giorno è che quando hai la possibilità di creare contenuti generati dagli utenti, otterrai pornografia e parte di quella pornografia andrà oltre i limiti della cambusa. E ti ritroverai con quella linea tra la pornografia e altre forme di immagini legalmente proibite. Quindi deve esserci qualche soluzione architetturale, e penso che a un certo punto, gestire un nodo senza aver pensato a quelle soluzioni tecniche e architetturali inizierà a sembrare profondamente irresponsabile. E penso che potrebbero esserci dei modi in cui non solo finisce per essere irresponsabile, ma le persone potrebbero finire per rifiutarti i servizi se non metti in atto quelle protezioni di base.

York: Hai un eroe della libertà di parola o di espressione?

Oh, è interessante. Voglio dire, penso che questo sia probabilmente quello che molte persone diranno, ma è Maria Ressa . Penso che il luogo in cui la libertà di espressione, per me, è assolutamente la più importante da difendere sia nel chiedere conto al potere. E quello che Maria stava facendo con Rappler nelle Filippine era cercare di ritenere responsabile delle proprie azioni un governo sempre più autocratico. E nel processo si è trovata ad affrontare conseguenze molto gravi – reclusione, perdita del lavoro, cose del genere – ed è riuscita a trovare un modo per trasformare quella lotta in qualcosa che ha attirato un’enorme quantità di attenzione sul governo Duterte e ha aperto conversazioni globali sulla questione quanto sia importante tutelare la libertà di espressione dei giornalisti. Quindi non sto dicendo che la libertà di espressione giornalistica sia l'unica libertà di espressione importante, penso che enormi fasce di libertà di espressione siano importanti, ma penso che sia particolarmente importante. E penso che la libertà di espressione di fronte al potere reale e alle conseguenze reali sia particolarmente meritevole di lode e lode. E penso che Maria abbia fatto qualcosa di molto interessante, cioè ha coinvolto tutta una serie di altri attori, non solo il governo delle Filippine, ma anche Facebook e anche una sorta di modello economico del capitalismo di sorveglianza. E ha incoraggiato le persone a pensare a come tutto ciò influisce sulle conversazioni sulla libertà di espressione. Quindi penso che la capacità di affrontare una lotta in cui le conseguenze per te sono molto personali e molto individuali e trasformarla in una conversazione globale sia incredibilmente potente.