Moderazione Made in Europe
La legge sui servizi digitali (DSA) dell'UE è pienamente applicabile da poco più di un mese. Esistono quindi le condizioni per l'emergere dell'ecosistema di risoluzione extragiudiziale delle controversie (ODS) previsto dall'articolo 21 DSA, probabilmente il contributo più originale della DSA alla garanzia dei diritti degli utenti delle piattaforme digitali. In questo post proviamo a immaginare la forma che un simile ecosistema potrebbe assumere nei prossimi anni nel settore chiave della moderazione dei contenuti dei social media (SMCM).
Sosteniamo che le peculiarità del contenzioso SMCM, il modo in cui lo inquadra la DSA, gli interessi delle piattaforme di social media e il loro considerevole potere – che include il diritto di non far rispettare le decisioni emesse dagli organismi ODS istituiti in conformità con la DSA – potrebbero portare all’emergere di un sistema aggiudicativo dominato da pochi fornitori di ODS sostenuti da partenariati pubblico-privato e pronti a lavorare di concerto con i meccanismi di gestione dei reclami istituiti dalle piattaforme stesse. La nostra analisi individua il più sofisticato di questi meccanismi, quello di Meta, il più grande fornitore di social media in Europa.
Colmare il gap riparativo
Ciò che innesca il contenzioso SMCM è, in genere, la decisione di una piattaforma di rimuovere o lasciare un post o un commento. Gli algoritmi che gestiscono le piattaforme prendono ogni giorno milioni di decisioni di questo tipo , molte delle quali risultano controverse. In risposta, le società di social media hanno istituito meccanismi di gestione dei reclami che dispensano giustizia sotto forma di sentenze rapide, emesse da macchine o emesse da moderatori umani oberati di lavoro.
Sebbene l'enorme volume del contenzioso SMCM e la posta in gioco generalmente bassa lo rendano difficilmente suscettibile ai rituali giudiziari, richiede tuttavia rimedi adatti alla sensibilità della sua materia, spesso implicando la presunta violazione dei diritti umani e costituzionali. Da questa consapevolezza è nata la decisione di Zuckerberg di consentire la creazione dell'Osservatorio , un ente con giurisdizione di ultima istanza sui casi presentati dagli utenti di Facebook, Instagram e Threads, e le cui sentenze vincolano Meta. Il Consiglio verifica la condotta di Meta rispetto ai diritti umani riconosciuti a livello internazionale e giudica secondo lo stile di un tribunale per i diritti umani. Tuttavia, può permettersi di trattare solo una manciata di casi che ritiene critici: nel secondo semestre del 2023 , dei 158.786 reclami ricevuti, il Consiglio ne ha selezionati 15, ovvero meno di uno su 10.000. I rimedi offerti dalle piattaforme sono quindi superficiali o inaccessibili alla maggior parte degli utenti. È per colmare questo divario correttivo che l’UE ha cercato di favorire l’emergere di un ecosistema ODS indipendente dalle piattaforme e che rappresenti un’alternativa economicamente vantaggiosa ai rimedi giurisdizionali ordinari.
Secondo la DSA, tutti gli utenti dei social media nell'UE hanno il diritto di contestare la decisione di una piattaforma attraverso procedure ODS che funzionano entro tempi confortevoli e producono sentenze motivate "gratuitamente o a un costo simbolico" (tutte le citazioni in questo post sono tratte dall'articolo 21 DSA). In che modo la DSA garantisce che tale servizio sia fornito praticamente gratuitamente?
Le piattaforme pagano ma potrebbero rifiutarsi di conformarsi
Gli Stati membri possono istituire e gestire organismi ODS o sostenerne le attività, ma non hanno l’obbligo di farlo. La DSA richiede loro semplicemente di designare un coordinatore dei servizi digitali (DSC) responsabile dell’accreditamento a livello UE degli organismi ODS sulla base di criteri comuni, tra cui il possesso di adeguate competenze legali e tecniche e garanzie di indipendenza e imparzialità. In questo contesto, la DSA rende possibile l’accesso (quasi) gratuito alle ODS trasferendo i costi procedurali sulle piattaforme, indipendentemente dall’esito del caso. Se la piattaforma vince, paga comunque, a meno che l’organismo ODS non ritenga che il querelante “abbia manifestamente agito in malafede” – una soglia quasi proibitiva. Se il querelante vince, la piattaforma dovrà inoltre rimborsare l'eventuale compenso nominale addebitato dall'organismo ODS e "qualsiasi altra spesa ragionevole" sostenuta dal querelante "in relazione alla risoluzione della controversia" (presumibilmente le spese legali commisurate al valore complessità del caso e non superiore alle tariffe standard locali). Per garantire che gli organismi ODS non abusino del sistema – possibilmente in combutta con ricorrenti in malafede – la DSA limita le commissioni addebitate alla piattaforma ai “costi sostenuti” e ne richiede la divulgazione prima dell’inizio del procedimento.
La non conformità è l’unica arma che le piattaforme hanno contro un organismo ODS che ritengono troppo costoso o che giudica le controversie in un modo che a loro non piace. Questa opzione rientra, in una certa misura, nei diritti di una piattaforma: come afferma enfaticamente la DSA, “[l]'organismo certificato di risoluzione extragiudiziale delle controversie non ha il potere di imporre alle parti una risoluzione vincolante della controversia”. “. Tuttavia, le piattaforme non sono libere di ignorare sistematicamente le procedure e i risultati delle ODS: la DSA impone loro di impegnarsi in buona fede con qualsiasi organismo ODS accreditato che un utente scelga da un registro online gestito dalla Commissione europea.
È prevedibile che le piattaforme utilizzeranno strategicamente il loro diritto di inadempimento. Il ripetuto mancato rispetto delle decisioni emesse da uno specifico organismo ODS può mettere quest'ultimo in seri problemi, poiché gli utenti non si rivolgeranno a un operatore le cui decisioni una piattaforma tende a ignorare. Tuttavia, l'inosservanza generalizzata sarebbe in contrasto con l'obbligo di impegno di buona fede enunciato nella DSA, facendo scattare potenzialmente la responsabilità della piattaforma ai sensi dell'articolo 54 DSA. Nel complesso, dovrebbe essere nell'interesse delle piattaforme contribuire al funzionamento regolare ed economicamente vantaggioso di un sistema ODS di cui devono comunque pagare i costi operativi. A questo proposito, la linea d’azione più saggia per le piattaforme potrebbe rivelarsi quella del rispetto automatico delle decisioni emesse da alcuni organismi ODS, identificati dalle piattaforme stesse come affidabili.
Doppio accreditamento e adempimento automatico condizionato
Le piattaforme investono enormi quantità di denaro nella moderazione interna dei contenuti. Per inciso, il costo di un organo di controllo esterno come l’Osservatorio – interamente sostenuto da Meta – è paragonabile a quello della Corte internazionale di giustizia. Il sistema ODS previsto dalla DSA aggiunge a tali costi quelli di screening delle decisioni degli organismi ODS per distinguere quelle da rispettare da quelle da respingere. Questo processo sarà tanto più macchinoso e costoso quanto meno standardizzati saranno i risultati degli organismi ODS in termini di leggi applicate, stile di interpretazione e modalità di ragionamento, nonché formato delle loro decisioni. È interessante notare che l'ex direttore dell'amministrazione del Consiglio di sorveglianza ha espresso una preoccupazione simile.
Per ridurre drasticamente tali costi, le piattaforme potrebbero stabilire i propri schemi di accreditamento, paralleli a quello disciplinato dalla DSA. Il fulcro di tali sistemi sarebbe l'applicazione automatica delle decisioni emesse dagli organismi ODS titolari di doppio accreditamento, ovvero entrambi certificati ai sensi dell'articolo 21 DSA e considerati a priori affidabili dalla piattaforma pertinente. Le restanti sentenze dovrebbero comunque passare attraverso un processo di screening, poiché il loro rifiuto automatico non sarebbe coerente con la regola dell’impegno in buona fede dell’articolo 21. Le piattaforme, in altre parole, concederebbero l’accreditamento agli organismi ODS che si impegnano a rispettare elevati standard di qualità del processo decisionale e di efficienza dei costi. Ad esempio, per le controversie riguardanti gli standard della community di Facebook o Instagram, Meta potrebbe richiedere l’inclusione della giurisprudenza dell’Oversight Board – che a sua volta incorpora i diritti umani riconosciuti a livello internazionale – negli standard decisionali degli organismi ODS in cerca di accreditamento. Potrebbe addirittura affidare al Consiglio il compito di esaminare le domande di accreditamento. Meta si impegnerebbe poi contrattualmente ad attuare automaticamente le sentenze degli organismi ODS accreditati. In casi di eccezionale gravità, Meta, o il Collegio stesso in via di autodeferimento, potrebbe sospendere l'esecuzione e deferire il caso al Collegio, la cui decisione prevarrebbe su quelle rese dall'organismo ODS.
Il risultato di tali accordi sarebbe la formazione di un sistema di aggiudicazione integrato basato sulla DSA e una rete di contratti internazionali che collegano le piattaforme e gli organismi ODS con sede nell’UE. Questo conglomerato di diritto pubblico e privato raggiungerebbe qualcosa – la natura obbligatoria delle sentenze ODS – che sfuggiva al legislatore dell’UE. Un sistema del genere diventerebbe probabilmente più complesso nel tempo. Inizialmente, l'entità del carico di lavoro che gli organismi ODS accreditati dovranno probabilmente gestire renderebbe imprudente consentire loro di richiedere pronunce pregiudiziali al comitato di sorveglianza (sulla falsariga della procedura di rinvio pregiudiziale della CGUE). Tuttavia, potrebbero crearsi condizioni favorevoli a tali sviluppi se l’ecosistema ODS raggiungesse un elevato grado di concentrazione e organizzazione.
Moderazione fatta in Europa
Il mercato dei contenziosi SMCM evocato dai DSA attirerà probabilmente, in un primo momento, una serie di aziende con esperienza nella risoluzione delle controversie online. Questa frammentazione non faciliterebbe la cooperazione con le piattaforme, dalle quali però dipende in ultima analisi l'efficacia del sistema. Il ricorso da parte delle piattaforme a propri sistemi di accreditamento, abbinato alla conformità automatica condizionata, contribuirebbe a razionalizzare il mercato, poiché gli utenti graviteranno verso organismi ODS che possono promettere che le loro decisioni saranno rispettate, mettendo da parte il resto.
Poiché le piattaforme probabilmente adotteranno una strategia di attesa mentre guardano prendere forma un sistema ODS a livello europeo, spetterà alla società civile europea fare la prima mossa. Un’apertura interessante potrebbe consistere nella fondazione di un Centro europeo per la risoluzione delle controversie sulla moderazione dei contenuti dei social media. Si potrebbe anche pensare a una pluralità di centri le cui rispettive giurisdizioni rispecchierebbero le faglie linguistiche intra-UE. Chiamiamo “il Centro” un complesso istituzionale immaginario che potrebbe essere plurale, unificato o collegato in rete. Ad esempio, il Centro potrebbe assumere la forma giuridica di uno spin-off senza scopo di lucro di un’università o di un centro di ricerca finanziato con fondi pubblici, vale a dire un ambiente che riunisce vari tipi di competenze – legali, sociologiche, linguistiche, informatiche e, soprattutto, intelligenza artificiale – e coltiva un cultura interdisciplinare aperta alla sperimentazione.
Per stare al passo con i processi decisionali ultrarapidi delle piattaforme, il Centro dovrebbe essere in grado di gestire un numero molto elevato di casi con l’aiuto di modelli linguistici basati sull’intelligenza artificiale appositamente sviluppati in grado di coprodurre, in dialogo con operatori umani , sentenze paragonabili in termini di qualità a quelle di un tribunale per i diritti umani – e questo, ben entro i tempi stabiliti dalla DSA. Ciò renderebbe il Centro anche un importante banco di prova per l'interazione uomo-macchina nel campo del processo decisionale quasi giudiziario, della sua giustificazione e comunicazione. Gli ingenti investimenti pubblici necessari per istituire il Centro sarebbero compensati da un flusso costante di pagamenti provenienti dalle piattaforme che iniziano ad essere convocate dinanzi ad esso, e dai benefici economici e politici che la presenza di una simile istituzione decisionale in Europa porterebbe Portare.
Idealmente, il Centro dovrebbe fare qualcosa su larga scala che il Consiglio di Sorveglianza può svolgere solo in un numero limitato di casi, vale a dire gestire il contenzioso SMCM con la cura che merita, date le pesanti questioni di principio che spesso solleva. Il Centro sarebbe quindi un candidato ideale per l'accreditamento da parte delle piattaforme. Tale accreditamento, si potrebbe pensare, equivarrebbe a una sorta di vincolo di vassallaggio, soprattutto se – come suggerito sopra – comportasse che la primazia sia attribuita alle decisioni di un organismo come l’Osservatorio. Noi la pensiamo diversamente.
Tanto per cominciare, sarebbe un errore presumere che il Consiglio operi sotto il controllo di Meta. Le garanzie della sua indipendenza sono solide: il sostanziale finanziamento di Meta è irrevocabile e attualmente copre più di un decennio di attività. I membri del Consiglio vengono selezionati (e inizieranno ad autoselezionarsi) tra persone che difficilmente si trasformeranno in burattini aziendali. La pratica lo conferma. Nella seconda metà del 2023, il Consiglio ha annullato l'82% delle decisioni di Meta esaminate. Nello stesso periodo, Meta ha ammesso l'errore in 53 dei 75 casi selezionati e notificati dal Comitato. Un modello simile di tempestivo riconoscimento dei diritti dei ricorrenti potrebbe verificarsi non appena Meta inizierà a ricevere avvisi di ricorso da parte del Centro. Si può anche prevedere che l'ampia giurisprudenza del Centro influenzerà quella del Comitato almeno nella stessa misura in cui il Consiglio contribuirà a plasmare quella del Centro. Il linguaggio condiviso dei diritti umani consentirà una via bidirezionale di comunicazione e influenza reciproca. In questo modo, l’Europa potrebbe parlare con una voce ancora più autorevole nel dibattito globale sugli standard applicabili alla moderazione dei contenuti dei social media .
Questa è la traduzione automatica di un articolo pubblicato su Verfassungsblog all’URL https://verfassungsblog.de/moderation-made-in-europe/ in data Tue, 02 Apr 2024 14:22:45 +0000.