Creare un’AGI “buona” che non ci ucciderà tutti: l’alleanza per la superintelligenza artificiale di Crypto

Scritto da Andrew Fenton tramite CoinTelegraph.com,

SingularityNET e l'Artificial Superintelligence Alliance mirano a strappare il controllo di AGI alle Big Tech…

Dopo un anno di avvertimenti sempre più terribili sull’imminente fine dell’umanità per mano dell’intelligenza artificiale superintelligente (AI), Magazine è a Panama alla Beneficial AGI Conference per ascoltare l’altro lato della storia.

Tra i partecipanti figura un mix eclettico di transumanisti, cripto-folk, autori di fantascienza tra cui David Brin, futuristi e accademici.

Siamo alla conferenza organizzata da SingularityNET, un membro chiave della proposta nuova Artificial Superintelligence Alliance, per scoprire cosa succede se tutto va bene con la creazione di intelligenza generale artificiale (AGI): intelligenza generale artificiale a livello umano.

Ma come possiamo realizzare quel futuro, invece dello scenario in cui Skynet si ribella e ci uccide tutti?

Una delle migliori intuizioni sul perché queste domande sono così importanti viene dal futurista Jose Luis Cordeiro, autore di The Death of Death , che crede che l’umanità curerà tutte le malattie e l’invecchiamento grazie all’AGI.

Racconta a Magazine di una certa saggezza saggia che Arthur C. Clarke, l'autore di 2001: Odissea nello spazio , una volta gli disse.

Ha detto: 'Dobbiamo essere positivi riguardo al futuro perché le immagini del futuro – di ciò che è possibile – iniziano con le nostre menti. Se pensiamo che ci autodistruggeremo, molto probabilmente lo faremo. Ma se pensiamo che sopravvivremo, [che] andremo verso un mondo migliore [allora] lavoreremo per questo e lo realizzeremo.' Quindi inizia nella nostra mente”.

Janet Adams, CEO di SingularityNET, riscalda la conferenza con un po' di yoga. (Fentone)

AGI benefica: la ricerca dell’intelligenza generale artificiale

Gli esseri umani sono programmati per concentrarsi più sulle minacce esistenziali derivanti dall’AGI che sui benefici.

In termini evolutivi, è meglio che la nostra specie si preoccupi nove volte di troppo che il vento che fruscia tra i cespugli possa essere una tigre piuttosto che essere allegramente indifferente al fruscio e farsi mangiare da una tigre al decimo evento.

Persino i catastrofisti non prevedono un’alta percentuale di possibilità che l’AGI ci uccida tutti, con un sondaggio condotto su quasi 3000 ricercatori di intelligenza artificiale che suggerisce che la possibilità di un risultato estremamente negativo varia dal 5% al ​​10% circa . Quindi, anche se il dato è preoccupantemente alto, le probabilità sono ancora a nostro favore.

Aprendo la conferenza, il fondatore di SingularityNET e "padre dell'AGI", il dottor Ben Goertzel, ha reso omaggio al concetto di accelerazionismo difensivo del fondatore di Ethereum, Vitalik Buterin. Questo è il punto di mezzo tra i tecno-ottimisti dell’accelerazionismo efficace e la loro etica del “muoversi velocemente e rompere le cose”, e i decelerazionisti, che vogliono rallentare o arrestare il ritmo galoppante dello sviluppo dell’IA.

Goertzel ritiene che la decelerazione sia impossibile, ma ammette che esiste una piccola possibilità che le cose possano andare terribilmente storte con l'AGI. Quindi è favorevole a perseguire l’AGI pur essendo consapevole dei potenziali pericoli. Come molti nel campo dell’intelligenza artificiale/criptovaluta , ritiene che la soluzione sia l’open source della tecnologia e la decentralizzazione dell’hardware e della governance.

Il dottor Ben Goertzel alle tastiere con la sua sorprendentemente brava band con la fronte robotica. (Fentone)

Cos’è l’Alleanza per la Superintelligenza Artificiale?

Questa settimana SingularityNET ha annunciato di aver collaborato con la piattaforma multi-agente decentralizzata FetchAI – fondata dal veterano di DeepMind Humayun Sheikh – e la piattaforma di scambio dati Ocean Protocol per formare l' Artificial Superintelligence Alliance (ASI).

Sarà il più grande attore indipendente open source nella ricerca e nello sviluppo dell'intelligenza artificiale e ha proposto di unire i token esistenti di SingularityNET, FetchAI e Ocean Protocol in uno nuovo chiamato ASI. Avrebbe una capitalizzazione di mercato completamente diluita di circa 7,5 miliardi di dollari, soggetta ai voti di approvazione nelle prossime due settimane. Le tre piattaforme continuerebbero a operare come entità separate sotto la guida di Goertzel, con Sheikh come presidente.

Secondo l’Alleanza, l’obiettivo è “creare una potente alternativa convincente al controllo delle Big Tech sullo sviluppo, l’uso e la monetizzazione dell’intelligenza artificiale” creando un’infrastruttura AI decentralizzata su larga scala e accelerando gli investimenti nell’AGI basata su blockchain.

Quali sono i vantaggi dell’AGI?

Probabilmente l'impatto benefico più evidente è il potenziale dell'AGI di analizzare enormi quantità di dati per aiutare a risolvere molti dei nostri problemi scientifici, ambientali, sociali e medici più difficili.

Abbiamo già assistito ad alcune sorprendenti scoperte mediche, con i ricercatori del MIT che utilizzano modelli di intelligenza artificiale per valutare decine di migliaia di potenziali composti chimici e hanno scoperto la prima nuova classe di antibiotici in 60 anni , efficace contro i batteri MRSA finora resistenti ai farmaci. È il tipo di ampliamento della ricerca che è quasi impossibile da raggiungere per gli esseri umani.

E questo è tutto prima di arrivare all'immortalità e alle cose che caricano la mente di cui i transumanisti sono molto entusiasti ma che rendono stravagante la maggior parte delle persone.

Questa capacità di analizzare grandi quantità di dati suggerisce anche che la tecnologia sarà in grado di fornire avvisi tempestivi su pandemie, disastri naturali e problemi ambientali. L’intelligenza artificiale e l’AGI hanno anche il potenziale per liberare gli esseri umani dal lavoro faticoso e ripetitivo, dalla programmazione agli help desk del servizio clienti.

Anche se ciò causerà un enorme sconvolgimento alla forza lavoro, l’invenzione delle lavatrici e delle attività online di Amazon ha avuto grandi impatti su particolari occupazioni. La speranza è che vengano invece creati un sacco di nuovi posti di lavoro.

Il professore di economia Robin Hanson afferma che ciò è accaduto negli ultimi due decenni, anche se all’inizio del secolo le persone erano molto preoccupate che l’automazione potesse sostituire i lavoratori.

Lo studio di Hanson sui dati sull’impatto dell’automazione sui salari e sull’occupazione in vari settori tra il 1999 e il 2019 ha rilevato che, nonostante i grandi cambiamenti, la maggior parte delle persone aveva ancora un lavoro ed era pagata più o meno allo stesso modo.

“In media, non c’è stato un effetto netto sui salari o sui posti di lavoro nell’automazione dei posti di lavoro statunitensi dal 1999 al 2018”, afferma.

Janet Adams, CEO di SingularityNET , e Sergey Shalyapin, chief technology officer della piattaforma. (Fentone)

L'AGI potrebbe prendere decisioni migliori di noi : Janet Adams, CEO di SingularityNET

Janet Adams, l’ottimista CEO di SingularityNET, spiega che l’AGI ha il potenziale per essere “straordinariamente positivo per tutta l’umanità”.

“Vedo un futuro in cui le nostre future AGI prenderanno decisioni più etiche delle decisioni prese dagli esseri umani. E possono farlo perché non hanno emozioni, gelosia, avidità o programmi nascosti", afferma.

Adams sottolinea che ogni giorno muoiono di fame 25.000 persone, anche se nei paesi ricchi le persone buttano via montagne di cibo. È un problema che potrebbe essere risolto “attraverso un'allocazione intelligente delle risorse in tutto il pianeta”, afferma.

Ma Adams avverte che l’AGI deve essere addestrata su set di dati che riflettano l’intera popolazione mondiale e non solo l’1% più ricco, in modo che quando prenderanno decisioni, “non le prenderanno solo a beneficio di pochi potenti, le faranno”. a beneficio della civiltà più ampia, dell’umanità più ampia”.

Sicurezza ed etica dell’IA: affrontare le preoccupazioni

Chiunque abbia visto i primi sogni utopici di un’internet decentralizzata sgretolarsi in un panorama aziendale pieno di pubblicità di design avvincente e di engagement farming può avere dubbi che questo futuro roseo sia possibile.

Costruire un’intelligenza artificiale di fascia alta richiede una montagna di risorse informatiche e altre risorse che attualmente sono fuori dalla portata di tutti tranne che di una manciata dei soliti sospetti: Nvidia, Google, Meta e Microsoft. Quindi l’ipotesi predefinita è che uno di questi giganti della tecnologia finirà per controllare l’AGI.

Goertzel, un hippy dai capelli lunghi che suona in una band sorprendentemente brava guidata da un robot, vuole sfidare questa convinzione.

Goertzel sottolinea che il presupposto predefinito era che aziende come IBM avrebbero vinto nel settore informatico e Yahoo avrebbe vinto la ricerca.

Una copia sbrindellata del Progetto Prometheus. (Fonte: archivio Internet)

"Il motivo per cui queste cose cambiano è perché le persone lottano concretamente per cambiare le cose in ogni caso", dice. “Invece sono arrivati ​​Bill Gates, Steve Jobs e i ragazzi di Google”.

Il fondatore di SingularityNET, ha pensato alla Singolarità (un momento teorico in cui lo sviluppo tecnologico aumenta in modo esponenziale) dall'inizio degli anni '70, quando ha letto uno dei primi libri sull'argomento chiamato The Prometheus Project .

Da allora ha lavorato su AGI per gran parte del tempo, rendendo popolare il termine AGI e lanciando il framework AI OpenCog nel 2008.

Adams afferma che Goertzel è una delle ragioni principali per cui SingularityNET ha una possibilità credibile.

"Siamo il più grande team di ricerca e scienza sull'intelligenza artificiale senza fini di lucro e finanziato dalle criptovalute del pianeta", afferma Adams, sottolineando che i loro concorrenti si sono concentrati su "IA ristrette" come ChatGPT e solo ora stanno spostando la loro strategia sull'AGI.

"Sono anni dietro di noi", dice. "Abbiamo tre decenni di ricerca con il dottor Ben Goertzel sui metodi simbolici neurali."

Ma aggiunge che aprire la piattaforma a tutti gli sviluppatori di tutto il mondo e premiarli per il loro contributo le darà un vantaggio anche rispetto alle mega-corporazioni che attualmente dominano lo spazio.

"Poiché abbiamo una visione potente e un forte impegno nel costruire l'AGI più avanzata e più intelligente in modo democratico, è difficile immaginare che Big Tech o qualsiasi altro attore possa entrare e competere, in particolare quando si affrontano sfide aperte fonte."

“[Vedremo] un afflusso potenzialmente enorme di persone che si sviluppano sul mercato SingularityNET e la continua escalation del ritmo verso l’AGI. Ci sono buone probabilità che saremo noi”.

Toufi Saliba (Fenton), CEO di HyperCycle

IA decentralizzata: aprire le porte allo sviluppo open source

Il progetto Prometheus proponeva che l’intelligenza artificiale rappresentasse uno sviluppo così sconvolgente che tutti nel mondo dovessero ottenere un voto democratico sul suo sviluppo.

Quindi, quando è emersa la blockchain, sembrava che l’implementazione di un’infrastruttura decentralizzata e una governance basata su token per l’intelligenza artificiale fosse la successiva alternativa più pratica.

Il CEO di HyperCycle, Toufi Saliba, dice a Magazine che questo mitiga la minaccia di una società centralizzata o di un paese autoritario che acquisisce un potere immenso sviluppando prima l'AGI, che sarebbe "la cosa peggiore che sia mai accaduta all'umanità".

Non è l’unica potenziale soluzione al problema. Yan Le Cun, capo scienziato dell'intelligenza artificiale di Meta, è un grande sostenitore dei modelli di intelligenza artificiale open source e della possibilità di far sbocciare mille fiori, mentre il proprietario di X, Elon Musk, ha recentemente reso open source il modello per Grok.

Ma la blockchain è senza dubbio un grande passo avanti. SingularityNET mira a mettere in rete la tecnologia in tutto il mondo, con diversi componenti controllati da diverse comunità, diffondendo così il rischio che ogni singola azienda, gruppo o governo controlli l'AGI.

“Quindi potresti usare queste infrastrutture per implementare reti neurali profonde decentralizzate, potresti usarle per implementare un enorme motore logico, puoi usarle per implementare un approccio alla vita artificiale in cui hai un ecosistema simulato e un gruppo di piccoli animali artificiali che interagiscono e cercando di evolversi verso l’intelligenza”, spiega Goertzel.

Voglio promuovere contributi creativi da tutto il mondo, e potrebbe essere che qualche genio dodicenne del Tagikistan inventi una nuova innovazione di vita artificiale che fornisca una svolta all'AGI.

È possibile che il destino del mondo sia nelle mani di quest'uomo. (Fentone)

Cos'è HyperCycle? Cos'è OpenCog Hyperon?

HyperCycle è una blockchain ledgerless sufficientemente veloce da consentire ai componenti dell'intelligenza artificiale di comunicare, coordinarsi ed effettuare transazioni in meno di 300 millisecondi. L’idea è quella di dare alle IA un modo per fare appello alle risorse di altre IA, pagate tramite microtransazioni.

Per ora, la neonata rete viene utilizzata per applicazioni su piccola scala, come un’app di intelligenza artificiale che fa appello a un altro servizio di intelligenza artificiale per aiutare a completare un’attività. Ma col tempo, man mano che la rete si espande, è teoricamente possibile che l’AGI possa essere una proprietà emergente dei vari componenti dell’IA che lavorano insieme in una sorta di cervello distribuito.

“Quindi, con questo approccio, il mondo intero ha maggiori possibilità di arrivare all’AGI come una singola entità”, afferma Saliba.

Goertzel non ha sviluppato HyperCycle per questo motivo: aveva solo bisogno di qualcosa di molto più veloce delle blockchain esistenti per consentire alle IA di lavorare insieme.

Il progetto di cui è più entusiasta è OpenCog Hyperon, che verrà lanciato in versione alpha questo mese. “Combina insieme reti neurali profonde, motori logici, apprendimento evolutivo e altri paradigmi di intelligenza artificiale nello stesso framework software, per aggiornare lo stesso Knowledge Graph estremamente decentralizzato”.

L'idea è quella di aprire le porte a chiunque voglia lavorarci nella speranza che possa migliorare il linguaggio di programmazione METTA AGI in modo che possa espandersi massicciamente. "Avremo il set di strumenti completo per costruire la piccola AGI", afferma. "Per ottenere qualcosa che vorrei chiamare baby AGI avremo bisogno di un milione di volte di accelerazione dell'interprete METTA", afferma.

"La mia ipotesi migliore è che Opencog Hyperon potrebbe essere il sistema per fare la svolta [AGI]."

Governance dell’intelligenza artificiale: il ruolo dei sistemi di voto

Naturalmente, il decentramento non garantisce che le cose andranno bene con l’AGI. Come sottolinea Goertzel, negli anni ’90 il governo della Somalia era ampiamente decentralizzato sotto un gruppo di signori della guerra e milizie, ma all’epoca sarebbe stato preferibile vivere sotto il governo centralizzato della Finlandia.

Inoltre, la governance basata sui token è ben lontana dall’essere adatta per il debutto. In progetti come Uniswap e Maker, i grandi possessori come a16z e il core team hanno così tanti token che quasi non vale la pena votare qualcun altro. Molte altre organizzazioni autonome decentralizzate sono devastate dalla politica e dalle lotte intestine.

L’aumento del prezzo dei progetti cripto/AI ha attirato un gruppo di speculatori di token. Sono davvero queste le persone che vogliamo dare al controllo dell’AGI?

Goertzel sostiene che, sebbene i progetti blockchain siano attualmente attraenti principalmente per le persone interessate a fare soldi, ciò cambierà con l'evoluzione del caso d'uso.

“Se lanciamo l’intelligenza artificiale più intelligente del mondo su reti decentralizzate, coinvolgeremo molte altre persone che non sono principalmente orientate alla speculazione finanziaria. E poi sarà una cultura diversa”.

Ma se l’Artificial Superintelligence Alliance realizzasse l’AGI, i suoi token non sarebbero ridicolmente costosi e fuori dalla portata di coloro che sono principalmente interessati all’AGI benefica?

Come Goertzel ha detto in precedenza a Magazine, le nostre possibilità di controllare AGI dopo un certo punto sono scarse. (Fentone)

Goetzel suggerisce che forse potrebbe essere necessario un sistema di voto ponderato che dia la priorità a coloro che hanno contribuito al progetto:

"Penso che per guidare la mente dell'AGI, vogliamo implementare un sistema di reputazione abbastanza sofisticato e decentralizzato e avere qualcosa di più vicino a una persona, un voto, ma in cui le persone che hanno una certa esperienza nel contribuire alla rete di intelligenza artificiale e nel creare in un certo senso, ottenere un peso più elevato.