Papa Leone mette in guardia dall’intelligenza artificiale mentre un ricercatore del MIT ritiene che il 90% di probabilità di “minaccia esistenziale”

Nella sua prima udienza formale come neoeletto pontefice, Papa Leone XIV ha identificato l’intelligenza artificiale (AI) come una delle questioni più critiche che l’umanità deve affrontare .

Papa Leone XIV celebra venerdì la messa con il Collegio cardinalizio nella Cappella Sistina in Vaticano, il giorno dopo la sua elezione a 267° pontefice della Chiesa cattolica romana. (Vatican Media/Associated Press)

“Ai nostri giorni – ha affermato Papa Leone – la Chiesa offre a tutti il ​​tesoro del suo insegnamento sociale in risposta all’ennesima rivoluzione industriale e agli sviluppi nel campo dell’intelligenza artificiale che pongono nuove sfide per la difesa della dignità umana, della giustizia e del lavoro ”. Collegò questa affermazione all'eredità dell'enciclica Rerum Novarum del 1891 del suo omonimo Leone XIII , che affrontava i diritti dei lavoratori e le dimensioni morali del capitalismo.

Le sue osservazioni hanno continuato la direzione tracciata dal defunto Papa Francesco, che nel suo messaggio di pace annuale del 2024 ha avvertito che l’intelligenza artificiale – priva dei valori umani di compassione, misericordia, moralità e perdono – è troppo pericolosa per svilupparsi senza controllo . Francis, morto il 21 aprile, aveva chiesto un trattato internazionale per regolamentare l’intelligenza artificiale e aveva insistito sul fatto che la tecnologia doveva rimanere “incentrata sull’uomo”, in particolare nelle applicazioni che coinvolgono sistemi d’arma o strumenti di governance.

"Minaccia esistenziale"

Mentre la preoccupazione si approfondisce nelle sfere religiose ed etiche, un’urgenza simile risuona anche nella comunità scientifica.

Max Tegmark, fisico e ricercatore di intelligenza artificiale al MIT, ha tracciato un parallelo che fa riflettere tra l’alba dell’era atomica e la corsa odierna allo sviluppo della superintelligenza artificiale (ASI). In un nuovo articolo scritto in collaborazione con tre studenti del MIT, Tegmark ha introdotto il concetto di “costante Compton” – una stima probabilistica della possibilità che l’ASI possa sfuggire al controllo umano. Prende il nome dal fisico Arthur Compton, che calcolò il rischio di incendio dell'atmosfera terrestre a causa dei test nucleari negli anni '40.

Max Tegmark, professore di fisica e ricercatore sull’intelligenza artificiale al MIT, ha affermato che è necessario concordare regimi globali di sicurezza dell’intelligenza artificiale. Fotografia: Horacio Villalobos/Corbis/Getty Images

"Le aziende che costruiscono super-intelligence devono anche calcolare la costante Compton, la probabilità che ne perderemo il controllo ", ha detto Tegmark al Guardian . "Non basta dire 'ci sentiamo bene'. Devono calcolare la percentuale."

Tegmark ha calcolato una probabilità del 90% che un’intelligenza artificiale altamente avanzata rappresenterebbe una minaccia esistenziale.

Il documento esorta le società di intelligenza artificiale a intraprendere una valutazione del rischio altrettanto rigorosa di quella che ha preceduto il primo test della bomba atomica, in cui Compton avrebbe stimato le probabilità di una reazione a catena catastrofica a “poco meno” di una su tre milioni.

Tegmark, co-fondatore del Future of Life Institute e sostenitore della sicurezza dell’intelligenza artificiale, sostiene che il calcolo di tali probabilità può aiutare a costruire la “volontà politica” per i regimi di sicurezza globale . È stato anche coautore del Singapore Consensus on Global AI Safety Research Priorities , insieme a Yoshua Bengio e rappresentanti di Google DeepMind e OpenAI. Il rapporto delinea tre punti focali per la ricerca: misurare l’impatto dell’IA nel mondo reale, specificare il comportamento previsto dell’IA e garantire un controllo coerente sui sistemi.

Questo rinnovato impegno per la mitigazione del rischio legato all’intelligenza artificiale fa seguito a ciò che Tegmark ha descritto come una battuta d’arresto al recente vertice sulla sicurezza dell’intelligenza artificiale tenutosi a Parigi , dove il vicepresidente americano JD Vance ha respinto le preoccupazioni affermando che il futuro dell’intelligenza artificiale “non sarà conquistato stringendosi le mani sulla sicurezza”. Tuttavia, Tegmark ha notato una ripresa della cooperazione: “ Sembra davvero che la tristezza di Parigi sia passata e che la collaborazione internazionale sia tornata a ruggire ”.