Quando non sta lavorando per accelerare la corsa dell'umanità verso la Singolarità creando un'intelligenza generale artificiale (AGI), Ben Goertzel suona in una band jazz-rock chiamata Jam Galaxy guidata da un robot di nome Desdemona.
È uno dei suoi tanti progetti collaterali, che naturalmente lo ha portato a provare a simbolizzare il mondo della musica contattando i membri dei Pearl Jam e degli Heart. Goertzel sta anche lavorando alla ricerca sulla longevità tramite il crowdsourcing di dati sulla salute umana con ricompense simboliche tramite un'app chiamata Rejuve.ai. Tali informazioni vengono quindi riunite con dati di studi su animali e insetti e analizzate con un'intelligenza artificiale per determinare quali parti dei genomi possono farci vivere più a lungo e quindi stimolate utilizzando terapie geniche. "Abbiamo avuto alcune sorprendenti scoperte di livello rivoluzionario", dice. Oh, e poco prima che la nostra intervista di un'ora finisca, menziona casualmente che sta anche creando una stablecoin per il suo mercato decentralizzato di intelligenza artificiale, SingularityNET, che è ancorato a un indice sintetico di progresso ambientale, perché ancorarlo ai dollari USA sarebbe "noioso."
“I progressi sull'ambiente sono molto stabili. Non va mai da nessuna parte”, sottolinea.
"E per manipolare questo, devi effettivamente risolvere il riscaldamento globale."
È il tipo esatto di commento politico che incontra il know-how high-tech che potresti aspettarti da Goertzel, che sembra e suona come uno scienziato hippie che si è imbattuto in una macchina del tempo nel 1971 ed è emerso completamente formato nel 2023. Ma non lasciarti ingannare il cappello con la stampa animalier, i capelli lunghi e il trip strascicato dell'acido Electric Kool-Aid: è uno scienziato brillante con una comprensione del futuro anni luce avanti rispetto alla maggior parte e che è alle prese con alcuni dei più grandi concetti che l'umanità abbia mai preso in considerazione. Cos'è la coscienza? Come creiamo la vita artificiale, e cosa succede se non gli piacciamo, diventa un ladro e spara a tutti come in Terminator 2?
Che cos'è l'intelligenza artificiale generale?
Goertzel ha reso popolare il termine "intelligenza generale artificiale" come un modo per differenziare una vera macchina pensante che potrebbe imparare praticamente qualsiasi cosa, da IA ottimizzate per un compito particolare, come il computer Deep Blue che ha notoriamente battuto il campione mondiale di scacchi Garry Kasparov. Ammette liberamente che ci sono dei rischi nel costruire una macchina in grado di imparare qualsiasi cosa, incluso come riprogrammarsi per diventare un ordine di grandezza più intelligente di qualsiasi essere umano.
"C'è una serie di rischi e pericoli con AGI", dice Goertzel sopra il frastuono in un ristorante indiano in un affollato centro commerciale a Singapore. “Uno di quelli che ha attirato molta attenzione da parte dei media è che l'AGI impazzirà e annienterà l'umanità e conquisterà l'universo. È del tutto possibile; non puoi escluderlo”, dice.
"Un altro rischio più probabile è che le cattive persone egoiste useranno l'intelligenza artificiale per esercitare la propria avidità e il controllo sulle altre persone".
A suo avviso, è improbabile che i governi facciano progressi nell'AGI in quanto sono "troppo conservatori e stupidi", anche se osserva che la Cina appalta il lavoro dell'AGI a società come Tencent e Baidu. Più vicino a casa, pensa che nemmeno le divisioni AI di Google e Facebook supereranno il limite, poiché saranno troppo concentrate sul far sì che l'IA raggiunga determinate metriche, il che non favorisce il pensiero creativo.
“Proprio come le persone più brillanti non vogliono semplicemente servire le metriche di qualcun altro, penso che l'intelligenza generale artificiale non voglia necessariamente massimizzare il click-through sulla pagina web di qualcuno, giusto? Deve essere permesso di giocare in modo creativo.
La singolarità intorno al 1970
Goertzel ha iniziato l'università a 15 anni, si è laureato a 18, ha conseguito il dottorato a 22 e una giovane famiglia a 23. Forse insolitamente di questi tempi, non era solo un mago della matematica o un genio della tecnologia che ha saldato insieme i kit di computer negli anni '70 ma era ugualmente interessato alla filosofia, alla scrittura creativa e alla musica.
Ha trascorso gran parte della sua carriera insegnando e ricercando informatica, matematica e scienze cognitive in varie università in tutto il mondo mentre lavorava sulla tecnologia AI ogni volta che poteva. Un fondatore seriale che tende ad essere circa un decennio avanti rispetto a tutti gli altri con le sue idee - che, nel mondo degli affari, notoriamente equivale a sbagliare - ha lavorato sull'uso dell'intelligenza artificiale per prevedere i mercati finanziari e la longevità, e ha anche lavorato come capo scienziato di Hanson Robotics, dove ha dato a Sophia il robot il suo cervello artificiale.
Goertzel ha pensato alla crescita tecnologica esponenziale sin dagli anni '1970, quando ha letto per la prima volta Gerald Feinberg Il Progetto Prometeo, che parla di "macchine che possono pensare meglio delle persone... macchine nanotecnologiche che sono microscopicamente piccole e risolveremo l'invecchiamento". Ciò combaciava perfettamente con il concetto emergente di Singolarità, un ipotetico punto futuro in cui i progressi tecnologici diventeranno incontrollabili e irreversibili, determinando enormi cambiamenti nella civiltà umana.
"Quindi, le persone vivranno per sempre, quindi la domanda sarà, Per cosa usiamo queste tecnologie, consumismo rapido e insensato, o le usiamo per espandere la coscienza? E quello che [Feinberg] ha proposto è di sottoporlo a un voto democratico.
Anni dopo, quando ha iniziato a vedere che l'AGI era alla nostra portata, questo "voto democratico" è diventato l'ispirazione per utilizzare prima la tecnologia open source e, successivamente, la blockchain come un modo per mettere una comunità cooperativa a capo della tecnologia.
"Quello che ho capito a un certo punto è che, con l'IA, avere il codice aperto non è sufficiente", dice. "Devi davvero addestrare l'intelligenza artificiale su un mucchio di dati."
“È qui che la blockchain si presenta come un modo per rendere l'elaborazione e i dati alla base dell'IA decentralizzati e di natura crowdsourcing e aperti al controllo. E questo risulta essere più complicato del semplice open-sourcing del codice.
Goertzel ha fondato OpenCog nel 2008 per creare un framework di intelligenza artificiale open-source e crowd-sourced. È stato utilizzato da 50 aziende, tra cui Huawei e Cisco, ed è pronto per un importante aggiornamento presto chiamato Hyperon che mira ad accelerarlo di 200 volte. La versione alpha è prevista per questo trimestre con la beta prevista per il prossimo anno.
Blockchain è semplice ma interessante
Per Goertzel, la tecnologia blockchain è un po' basilare. Lo descrive come alcuni algoritmi distribuiti primitivi aggiunti alla crittografia, ma la "bella combinazione" consente ai sistemi di funzionare senza controllo centralizzato, rendendolo perfetto per le sue esigenze.
"Se hai intenzione di creare una macchina pensante e di realizzare un tessuto informatico distribuito su scala nanometrica, sarebbe molto bello se fosse di proprietà di tutti e di nessuno piuttosto che controllato dall'alto verso il basso".
Le blockchain sono troppo lente per gestire i requisiti di elaborazione e gli enormi volumi di dati coinvolti, quindi c'è una specie di corsa per ridimensionare correttamente la blockchain prima che venga sviluppata una rivoluzionaria AGI. Goertzel afferma che mentre le soluzioni di ridimensionamento come i rollup a conoscenza zero sono migliori, non hanno ancora una larghezza di banda sufficiente a causa dei limiti della blockchain a cui segnalano le transazioni.
Ha co-fondato SingularityNET nel 2017, che è sia un mercato decentralizzato per i servizi e la tecnologia di intelligenza artificiale sia un metodo di coordinamento basato su blockchain per i ricercatori - o anche le IA - per lavorare insieme.
Attualmente, basandosi su Ethereum, pensa di aver spinto le cose il più lontano possibile su blockchain nella sua forma attuale. Quindi, quando non sta lavorando a una svolta in AGI (o nella band, o nei robot, o nella longevità), sta lavorando su una massiccia scalabilità della blockchain per darle il throughput richiesto.
"A meno che tu non possa aumentare radicalmente la scalabilità della blockchain, non puoi mettere in catena i meccanismi interni dell'IA."
L'intelligenza artificiale è più vicina di quanto pensi
Il 2022 è stato un anno di svolta per i prodotti funzionanti basati sulla tecnologia AI, comprese le applicazioni linguistiche (GPT-3, ChatGPT), la codifica (GitHub Copilot) e la generazione di immagini (DALL-E e Stable Diffusion). Bing prevede persino di assumere il dominio della ricerca di Google quest'anno incorporando la tecnologia ChatGPT nel suo motore di ricerca.
Goertzel pensa che un AGI potrebbe essere distante solo cinque anni e osserva che gli sviluppi nel campo sembrano andare in brevi scoppi di tre o quattro anni in una serie di scoperte.
“La Computer Vision è iniziata nel 2014, e poi all'improvviso, bang, bang, bang, il mistero è stato risolto. Elaborazione del linguaggio naturale... dopo che Google ha inventato il modello Bert (nel 2018) hai avuto GPT-3. Probabilmente vedrai lo stesso arco di progresso in AGI. Avrai una svolta, poi un grande progresso per due anni ", ha detto.
"La differenza è che il progresso rivoluzionario, in quel caso, si traduce in una macchina che può quindi continuare a progredire da sola riscrivendo il proprio codice."
Goertzel spera che i progetti e le collaborazioni che ha avviato possano essere il modo in cui si verifica.
"Se siamo fortunati, raggiungeremo questa svolta nei prossimi tre o cinque anni con OpenCog Hyperon in esecuzione su SingularityNET in esecuzione su Hypercycle", afferma. "Ma se non scopriamo di avere la salsa segreta, lo farà qualcun altro."
Peccato che Vitalik non fosse un informatico
La soluzione di Goertzel per ridimensionare la blockchain è piuttosto radicale e comporta il turbo-caricamento di una sidechain o layer 2 di Cardano chiamato "HyperCyle".
“È davvero più di un sidechain. HyperCycle coopererà anche con Ethereum e altre blockchain, ma lì useremo l'interprete Plutus, ma ci sbarazzeremo del libro mastro".
Ha descritto HyperCycle online come la soluzione del "trilemma blockchain" di "decentralizzazione contro sicurezza contro prestazioni eliminando il libro mastro e utilizzando algoritmi e strutture di dati più moderni/completamente decentralizzati, oltre a un po' di intelligenza artificiale e sistemi di reputazione".
Il libro mastro è al centro della tecnologia blockchain, ma afferma che convincere ogni nodo della rete a replicare ogni transazione ed elaborare ogni contratto intelligente è ridicolmente inefficiente.
“Il libro mastro è semplicemente cattivo. Se ci pensi, se pensi all'analogia dei tuoi contatti nella tua rubrica, voglio dire, il libro mastro è come […] tenere 10,000 copie delle Pagine Gialle, e le aggiorni ogni volta che arriva qualcuno di nuovo o se qualcuno cambia il loro numero di telefono. È davvero stupido aggiornare 10,000 copie delle Pagine Gialle”.
Leggi anche
Nella versione HyperCycle dell'analogia, invece di archiviare e aggiornare le Pagine Gialle, le persone nella tua rubrica memorizzano una copia della tua rubrica e viceversa, crittografata con la tua chiave privata.
“Abbiamo capito come far funzionare la blockchain senza un libro mastro replicante, quindi per frammentare fino in fondo. Ogni individuo impegnato nella blockchain mantiene la propria cronologia delle transazioni e conserva la cronologia delle transazioni dei propri amici e di alcuni amici dei propri amici ", afferma.
“Sharding fino in fondo, non hai bisogno di un libro mastro, non hai bisogno di una tabella di database. Queste cose sono troppo centralizzate.
Dice che alcuni nodi HyperCycle di prova sono già operativi, ma un lancio su vasta scala non avverrà fino alla seconda metà del 2024.
Passiamo molto tempo a discutere i vari meriti dei diversi approcci alla blockchain, da Internet Computer a Elastos e Celestia, molti dei quali sono al di sopra del mio livello di stipendio e oltre la capacità del mio dispositivo di registrazione di catturare con precisione in un ristorante rumoroso.
Conclude dicendo: “Quindi, sento che nessuna di queste architetture è abbastanza radicale. Sono tutti troppo vicini a Bitcoin."
“Finché esegui ogni contratto intelligente su ogni nodo, voglio dire, sarà incredibilmente lento. Ora, in HyperCycle, se esegui uno smart contract su cinque nodi, almeno è solo cinque volte più lento che su una macchina, non è 10,000 volte più lento".
Perché Cardano, allora?
Goertzel ha stretto amicizia con il fondatore di Cardano Charles Hoskinson, con la coppia legata ai loro progetti in Africa. Crede che Hoskinson sia “sinceramente là fuori per salvare il mondo. Voglio dire, politicamente è più un libertario irriducibile di me - sono più un anarco-socialista - ma non è solo lì per fare soldi o rubare ad altre persone i loro soldi.
Ma il vero fascino di Cardano è che utilizza il linguaggio di programmazione Haskell, di cui Goertzel è un fan dal 1993. Gli dispiace molto che il co-fondatore di Ethereum Vitalik Buterin abbia scelto Solidity, il linguaggio di programmazione per smart contract di Gavin Wood.
"Se solo Vitalik avesse conosciuto più informatica, li avrebbe fatti usare Haskell o F Sharp o qualcosa del genere, e ci sarebbero molti meno hack della blockchain", dice.
"Se hai intenzione di gestire la maggior parte dell'economia mondiale, scambiando trilioni di dollari su qualche sistema software, faresti meglio a costruire quel sistema software in un linguaggio che non sia soggetto a bug e dove i tuoi algoritmi possano essere formalmente verificato utilizzando una teoria matematica. È solo il modo giusto di fare le cose.
Soluzione tappabuchi
Non importa quanto veloce diventi la blockchain, non appena l'AGI sarà un ordine di grandezza più intelligente e più capace degli umani, Goertzel afferma che non permetterà a nessuno di controllarla.
"Quando un AGI è 100 volte più intelligente delle persone, non vuole essere controllato da noi, come non saremmo controllati da uno scimpanzé o da un asino, giusto?"
“Allora direi che la domanda non è uno di noi che lo controlla, la domanda è: è ben disposto verso di noi? Consentirà alle persone di regolare la propria attività e di fornirci strumenti fantastici e nanoassemblatori per stampare in 3D tutto ciò che vogliamo e curare le nostre malattie?
“Ma il periodo di transizione in cui l'AGI ha più o meno la stessa intelligenza delle persone, è quello in cui le cose sono più delicate e più interessanti. E la domanda è allora: l'AGI vuole cooperare con le persone? O è paranoico e vuole controllare le persone prima che lo distruggano?
Insegnare bene ai vostri figli
Secondo Goertzel, la soluzione è insegnare all'AGI il prendersi cura degli altri, la creatività e l'arte. È qui che entrano in gioco Desdemona the Robot nella sua band e sua sorella Grace, progettata per fornire assistenza agli anziani.
Il modo in cui eviti che un AGI si trasformi nello Skynet di Terminator è di non costruirlo in quel modo in primo luogo.
“Skynet, ovviamente, nel film era una rete di sicurezza informatica impazzita. È stato creato per difendersi dalle persone", afferma.
“Ma se costruisci il primo AGI che ha a che fare con l'assistenza agli anziani, le arti creative e l'istruzione man mano che diventa più intelligente, sarà orientato ad aiutare le persone e creare cose interessanti. Se costruisci la prima AGI per uccidere i cattivi... forse continuerà a fare quelle cose".
"Quindi, vantaggioso o meno, dipende davvero da quali applicazioni hai sviluppato e per cosa hai incentivato."
Crede che mettere le IA nei corpi dei robot sia utile perché aiuta a situarli nel mondo reale, piuttosto che in un universo matematico astratto.
“L'intelligenza artificiale dovrebbe conoscere il mondo umano e il mondo fisico. Essere incarnati nel mondo è il modo giusto per farlo”, dice.
Ma quando presenta Sophia the Robot a un vasto pubblico, i sensori visivi e uditivi possono essere facilmente travolgenti, confondendo l'intelligenza artificiale in un ambiente rumoroso e luminoso. Quindi, Sophia verrà presto lanciata nel metaverso, chiamato Sophiaverse. Dimentica le noiose risposte testuali di ChatGPT, Sophia è incarnata in un mondo virtuale 3D e imparerà dall'interazione con le persone lì. Tuttavia, avverte che probabilmente dirà alcune cose stupide.
"Ha una rete neurale simile a GPT-3 e così via, che hanno una notevole capacità di rispondere alle tue domande, ma sono anche abbastanza stupide per certi versi."
Sottoscrivi
Le letture più coinvolgenti in blockchain. Consegnato una volta a
settimane.
Fonte: https://cointelegraph.com/magazine/how-to-prevent-ai-from-annihilating-humanity-using-blockchain/