Parole ambigue: l’accordo tra OpenAI e il Pentagono non fermerà la sorveglianza basata sull’intelligenza artificiale

OpenAI, il produttore di ChaptGPT, sta giustamente affrontando ampie critiche per la sua decisione di colmare il vuoto creato dal Dipartimento della Difesa degli Stati Uniti (DoD) quando il rivale Anthropic si è rifiutato di abbandonare le restrizioni sull'utilizzo della sua IA per la sorveglianza e i sistemi d'arma autonomi. Dopo le proteste di utenti e dipendenti che non hanno aderito al programma di sorveglianza di massa del governo – i primi report mostrano che le disinstallazioni di ChaptGPT sono aumentate di quasi il 300% dopo l'annuncio dell'accordo da parte dell'azienda – Sam Altman, CEO di OpenAI, ha ammesso che l'accordo iniziale era " opportunistico e approssimativo ". Ha poi ripubblicato una nota interna sui social media affermando che le aggiunte all'accordo chiarivano che "In conformità con le leggi applicabili, tra cui il Quarto Emendamento della Costituzione degli Stati Uniti, il National Security Act del 1947 e il FISA Act del 1978, il sistema di IA non deve essere intenzionalmente utilizzato per la sorveglianza interna di cittadini e persone statunitensi".

Il problema è che il governo degli Stati Uniti non crede che "conforme alle leggi applicabili" significhi "nessuna sorveglianza interna". Al contrario, il governo ha per lo più abbracciato un'interpretazione permissiva della "legge applicabile", che ha benedetto la sorveglianza di massa e le violazioni su larga scala delle nostre libertà civili, per poi lottare con le unghie e con i denti per impedire ai tribunali di intervenire.

" Dopotutto, molte delle più note atrocità contro i diritti umani nel mondo erano storicamente "legali" in base alle leggi vigenti all'epoca."

Anche "intenzionalmente" è un termine che ha un significato molto profondo in questa frase. Per anni il governo ha insistito sul fatto che la sorveglianza di massa di cittadini statunitensi avvenga solo incidentalmente (leggi: non intenzionalmente) perché le loro comunicazioni con persone sia all'interno degli Stati Uniti che all'estero vengono intercettate da programmi di sorveglianza presumibilmente progettati per raccogliere solo comunicazioni al di fuori degli Stati Uniti.

L' emendamento al contratto proposto dall'azienda prosegue in modo simile: "Per evitare dubbi, il Dipartimento ritiene che questa limitazione proibisca il tracciamento, la sorveglianza o il monitoraggio deliberati di persone o cittadini statunitensi, anche tramite l'acquisizione o l'uso di informazioni personali o identificabili acquisite commercialmente". In questo caso, "deliberato" è il campanello d'allarme, data la frequenza con cui le agenzie di intelligence e di polizia si affidano a dati incidentali o acquistati commercialmente per eludere maggiori tutele della privacy.

Eccone un altro: "Il sistema di intelligenza artificiale non deve essere utilizzato per il monitoraggio illimitato delle informazioni private di cittadini statunitensi, in conformità con le disposizioni di queste autorità. Il sistema non deve inoltre essere utilizzato per attività di polizia nazionale, salvo quanto consentito dal Posse Comitatus Act e da altre leggi applicabili". Cosa significa esattamente "illimitato", ci si chiede, e secondo chi?

Gli avvocati a volte li chiamano "parole ambigue" perché creano ambiguità che proteggono una parte o l'altra da una reale responsabilità per violazioni contrattuali. Come nel caso dei negoziati di Anthropic , in cui il Pentagono avrebbe accettato di aderire alle linee rosse di Anthropic solo "ove appropriato", è probabile che il governo stia cercando di impegnarsi pubblicamente a rispettare limiti di principio, pur mantenendo un'ampia flessibilità nella pratica.

OpenAI sottolinea inoltre che il Pentagono ha promesso che alla NSA non sarebbe stato consentito utilizzare gli strumenti di OpenAI in assenza di un nuovo accordo, e che la sua architettura di distribuzione lo aiuterà a verificare che non vengano superati limiti. Tuttavia, accordi segreti e garanzie tecniche non sono mai stati sufficienti a tenere a freno le agenzie di sorveglianza e non possono sostituire limiti legali rigorosi e applicabili e la trasparenza.

I dirigenti di OpenAI potrebbero effettivamente tentare, come affermato, di sfruttare il rapporto contrattuale dell'azienda con il Pentagono per garantire che il governo utilizzi gli strumenti di intelligenza artificiale solo in modo coerente con i processi democratici. Ma, in base a quanto sappiamo finora, questa speranza sembra molto ingenua.

Inoltre, questa ingenuità è pericolosa. In un'epoca in cui i governi sono disposti ad abbracciare interpretazioni estreme e infondate delle "leggi applicabili", le aziende devono impegnarsi concretamente per rispettare i propri impegni. Dopotutto, molte delle più note atrocità contro i diritti umani al mondo sono state storicamente "legali" in base alle leggi vigenti all'epoca. OpenAI promette al pubblico che "eviterà di consentire usi dell'IA o dell'AGI che danneggino l'umanità o concentrino indebitamente il potere", ma sappiamo che consentire la sorveglianza di massa produce entrambe le cose.  

OpenAI non è l'unica azienda rivolta al consumatore che, da un lato, cerca di rassicurare il pubblico sul fatto che non sta partecipando ad azioni che violano i diritti umani e, dall'altro, cerca di trarre profitto dagli sforzi di sorveglianza di massa del governo. Nonostante questo doppio linguaggio di marketing, è chiaro che le aziende non possono fare entrambe le cose. È anche chiaro che alle aziende non dovrebbe essere concesso così tanto potere sui limiti della nostra privacy, tanto per cominciare. Il pubblico non dovrebbe dover fare affidamento su un un piccolo gruppo di persone , siano essi amministratori delegati o funzionari del Pentagono , per proteggere le nostre libertà civili .