L'etica dell'IA e il match di wrestling geopolitico su chi vincerà la gara per ottenere la vera IA

Il mondo è in una corsa frenetica.

I poteri geopolitici affermano che il vincitore si porterà a casa tutta la pancetta, per così dire.

Quale razza viene ferocemente condotta e strenuamente perseguita?

È la gara dell'IA.

Potresti forse riferirti in modo più appropriato a questa come alla corsa da raggiungere vero Intelligenza Artificiale (AI), attualmente denominata in modo più completo Intelligenza Artificiale Generale (AGI). Vogliamo in qualche modo arrivare all'IA apparentemente massima o conosciuta come AGI che sia paragonabile all'intelligenza umana. Non ci siamo ancora. In effetti, nonostante tutti i tipi di titoli selvaggi e sfacciatamente proclamanti, non sappiamo quando o se raggiungeremo quel punteggio alto. L'IA di oggi ha molte meno capacità rispetto all'intelligenza umana generale, anche se certamente ci sono molti modi più ristretti in cui l'IA ha fatto incursioni impressionanti, come essere in grado di giocare a scacchi di prim'ordine o svolgere altri compiti relativamente limitati.

L'anello d'oro, tuttavia, è l'avvento dell'IA che mostra un'intelligenza umana di natura devota e profondità simile a quella dell'umanità. Questo è il Santo Graal dei ricercatori e dei professionisti dell'IA. Di tanto in tanto, ci sono state affermazioni pretestuose di aver già tagliato il traguardo della gara AI, che ho sfatato nella mia colonna su il link qui. Coloro che cercano di fare contese sul traguardo confondono il pubblico in generale ea volte lo fanno per zelante innocenza mentre altre volte hanno in mano motivi seriamente discutibili. Tutto sommato, questo solleva considerazioni piuttosto significative e vitali sull'etica dell'IA. Per la mia copertura continua ed estesa dell'etica dell'IA e dell'IA etica, vedere il link qui ed il link qui, solo per citarne alcuni.

Ad ogni modo, non c'è dubbio che una gara di IA di sprint a livello globale sia avidamente in corso. Sarebbe difficile affermare il contrario.

Pensare in questo modo. Se fossimo già riusciti a ottenere una vera AI o AGI, le probabilità sono che la gara podistica AI sarebbe stata formalmente e globalmente dichiarata conclusa con successo. Vi assicuro che l'attenzione mondiale sarebbe inchiodata su una svolta così clamorosa e sconvolgente. Lo sapresti. Lo faremmo tutti. La folle corsa dell'IA non esisterebbe più, anche se forse potrebbe verificarsi una versione secondaria che coinvolge coloro che non hanno raggiunto la vera IA che lavorano febbrilmente per recuperare il ritardo. C'è anche la questione inquietante di come finiremo per controllare o gestire l'AGI se e quando ci arriveremo.

Nessuna persona, entità o nazione può ancora rivendicare correttamente la corona della produzione di vera IA o AGI.

Nel frattempo, si sta verificando un'enorme e inesorabile quantità di discussioni su quale nazione (o nazioni) è in testa al gruppo e chi è più indietro. Il presupposto è che se non sei il primo, rimarrai nella terra. Mangerai gli avanzi dei vincitori dell'IA. Sarai potenzialmente soggiogato per sempre alla nazione o alle nazioni che fanno il salto annunciato nella vera AI o AGI.

Per fare una breve parentesi e per facilitare la formulazione di questa discussione, d'ora in poi userò "AGI" ogni volta che voglio invocare l'aura della vera IA. L'uso della frase un po' più recente "AGI" a volte è stridente per coloro che non sono abituati a vederla usata. Conosciamo tutti "AI" e potresti essere disturbato nel vedere l'acronimo "AGI" utilizzato al suo posto. Consentitemi di spiegare perché questo sta gradualmente emergendo come una tendenza verbosità.

Parte del motivo per cui AGI è cresciuto nell'arena del vernacolo AI è che la semplice affermazione "AI" è ora diventata un fraseggio purtroppo annacquato. Nessuno sa se l'IA che stai menzionando sia la variante a malapena dell'IA o un'infusione di intelligenza artificiale quasi migliore, o potrebbe alludere all'IA futuristica di un giorno completamente umana. Per affrontare il sovraccarico di "AI" come tormentone, il soprannome di AGI ha guadagnato la preferenza da quegli addetti ai lavori all'interno del campo dell'IA che vogliono alludere in modo specifico e particolare alla vera IA.

Quindi, in breve, considera la mia menzione dell'AGI come dire "vera IA" di calibro robusto simile all'intelligenza umana, grazie.

Facciamo un respiro profondo e prudente ed esaminiamo consapevolmente alcuni aspetti della corsa per raggiungere l'AGI. C'è anche un meta-aspetto che deve essere prima affermato. Tieni presente che c'è un po' di bruciore di stomaco nell'usare l'allegoria di una presunta corsa podistica o qualche altro tipo di attività di corsa come metafora della gara AGI. Perchè così? Ti farò conoscere momentaneamente le complicazioni e le complessità del perché (alcuni dicono) una corsa a piedi o un suo equivalente è del tutto fuorviante e un punto di vista insidioso e sempliciotto.

Ecco i punti chiave che esaminerò con te in questo discorso:

• Se questa è una gara, il traguardo AGI sembra piuttosto mal definito
• La razza AGI potrebbe andare a una persona, un'entità o una nazione
• Metriche e come le nazioni vengono confrontate nella gara AGI
• Manovre geopolitiche e allineamento per la gara AGI
• Leggi internazionali sull'IA ed Etica dell'IA come arbitri nella gara AGI

Potresti voler allacciare la cintura di sicurezza mentre esamino la corsa podistica AGI che procede urgentemente (sì, oserei chiamarla una corsa podistica) che vede quasi tutti muoversi a una velocità vertiginosa e apparentemente alle stelle in questa ardente ricerca. Alcuni potrebbero dire che questa è una corsa per il miglioramento dell'umanità, mentre altri stanno avvertendo che la razza potrebbe significare la rovina totale per tutti noi.

Il tempo ci dirà.

Se questa è una gara, il traguardo dell'AGI sembra piuttosto mal definito

Un traguardo è solitamente una demarcazione piuttosto definitiva. O hai raggiunto il traguardo o no. Arrivare a breve non sembra farti molto bene. Immagina una corsa olimpica di 400 metri e se ti ricorderai in modo particolare o accumuli elogi sui corridori che non hanno terminato la gara (non hanno mai tagliato il traguardo). Improbabile.

Sapremo quando avremo raggiunto l'AGI in modo tale che sia ragionevolmente tutti d'accordo sul raggiungimento del traguardo?

Ci sono accesi disaccordi sulla demarcazione dell'AGI.

Ad esempio, supponiamo di ideare un'intelligenza artificiale che sembra interamente in grado di mostrare l'intelligenza umana, ma non c'è una parvenza di senzienza in essa di per sé (vedi la mia copertura sugli argomenti sulla senzienza dell'IA in il link qui). L'IA è computazionalmente in grado di imitare o eseguire in altro modo come fa l'intelligenza umana. Tuttavia, non c'è una scintilla di vitalità o senzienza che associamo agli umani e ad altre creature viventi. Questa AGI conta come raggiungere l'obiettivo che pensavamo di avere?

Alcuni ribatterebbero che non avrebbe importanza se la senzienza di per sé sembrava essere avvolta in questo AGI. Finché potrebbe mostrare l'intelligenza umana, l'incorporazione della senzienza è qualcosa di una varietà diversa che potremmo o non potremmo desiderare di vedere sorgere. La sensibilità in quel senso delle cose è un componente aggiuntivo.

Altri sostengono con veemenza che l'unico mezzo per raggiungere l'intelligenza umana in AGI sarà incarnare integralmente la senzienza. AGI e senzienza sono considerati la stessa cosa, oppure sono una miscela di un'inseparabile doppia incarnazione irriducibile. Per ottenere l'AGI, devi avere la sensibilità, direbbero.

Mettendo da parte quell'angolo del dibattito, un'altra prospettiva è che potremmo usare il famoso test di Turing per valutare se l'AGI è stato raggiunto. Ho trattato in modo approfondito il test di Turing a il link qui. In breve, l'idea consiste nel far fare domande all'AGI da un essere umano e se l'umano non è in grado di distinguere le risposte generate dall'AGI da quelle dell'umanità, allora dichiareremmo che l'AGI è in grado di mostrare l'intelligenza umana.

Ci sono molti problemi o carenze spesso associati al test di Turing.

Supponiamo che l'essere umano che effettua le indagini svolga un lavoro scadente e non riesca a porre domande di indagine. Una preoccupazione è che molti degli odierni potenti modelli linguistici (LLM) possono restituire a un essere umano il contenuto su cui l'LLM è stato addestrato (ad esempio, testo e media digitali spesso acquistati tramite lo scraping su larga scala di Internet). In quanto tale, un essere umano particolarmente selezionato che fa domande di tipo ordinario a cui è già stata data risposta ed esistono online può potenzialmente ricevere prontamente una "risposta" da parte dell'LLM, ma ciò non è discutibilmente dovuto a nessuna incarnazione dell'intelligenza umana di un calibro AGI.

Emergono molte altre scrupoli. Supponiamo che l'essere umano non sia in grado di comprendere le risposte. Oppure supponiamo che l'umano si illuda nel credere che le risposte siano tutte esibizioni dell'intelligenza umana. Ho anche coperto l'idea logora di alcuni che tutto ciò che dobbiamo fare è chiedere all'IA se è AGI o è senziente, che chiarisco non è una forma molto convincente di prova AGI, vedi il link qui.

Infine, come pensiero aggiunto, bisogna arrivare in pieno al traguardo per considerare che l'AGI è stata raggiunta?

Ho detto prima che di solito ci dimentichiamo di quelli che non raggiungono il traguardo. Questo potrebbe non essere sensibilmente analogo alla gara AGI. Credo che si possa sostenere in modo convincente che se siamo in grado di raggiungere una strada sostanziale verso l'AGI, ci troveremo già in uno stato di stupore e di grande beneficio o di grande difficoltà. Vedete, molti risultati importanti e molto utili potrebbero derivare da un AGI quasi disponibile. Arrivare corto non sarà così problematico come non finire una corsa a piedi di 400 metri, soprattutto perché potrebbe essere una base vitale per arrivare alla versione più completa di AGI (forse in confronto una maratona).

La metafora del raggiungimento dell'AGI come tipo di corsa podistica o suo equivalente è a volte insoddisfacente e inadeguata.

La corsa AGI potrebbe andare a una persona, un'entità o una nazione

Alcuni nutrono l'idea sognante che l'AGI sarà raggiunto da qualche riparatore che lavora in garage mentre è in pigiama e sarà un affioramento di esperimenti di computerizzazione follemente fantasiosi su cui hanno lavorato duramente per anni e anni. Questo è il classico tropo high-tech del lupo solitario.

Siamo spiacenti di segnalare che questa è una proposta di quote estremamente basse.

Le maggiori probabilità sarebbero che un'entità come un'azienda o qualche gruppo di ricerca sarà il go-getter dell'AGI. Una convinzione forte e prevalente è che ci vorrà un villaggio per arrivare all'AGI. Il lupo solitario non avrà da solo le risorse né le intuizioni per raggiungere l'AGI. Potrebbero contribuire alla ricerca. Potrebbero fornire i pezzi necessari al puzzle. Non saranno in grado di raccogliere l'intero kit e cabodle.

Parlando di villaggi, un altro punto di vista fortemente radicato è che saranno solo le nazioni in grado di ottenere l'AGI. Attraverso una combinazione di persone, imprese, accademici e tutti gli altri tipi di entità all'interno di uno stato-nazione, l'AGI arriverà come risultato del lavoro combinato della totalità nazionale. Il livello unitario di attenzione per il vincitore in questa gara è sulla base dello stato-nazione, piuttosto che su qualcosa di più sparpagliato, libero o individualistico.

In breve, se ci vuole un villaggio, il villaggio sarà di scala nazionale, quindi lo stato-nazione sarà il corridore designato che taglierà il traguardo nella gara AGI.

Metriche e come le nazioni vengono confrontate nella gara AGI

Dare per scontato che il risultato dell'AGI sarà basato a livello di stato-nazione.

Per ribadirlo, non lo sappiamo con certezza, ma sembra un presupposto ragionato.

Considera le ramificazioni della base dello stato-nazione. Supponiamo che un lupo solitario riesca ad arrivare prima all'AGI e creda che il suo lavoro sia al di là di quello dello stato-nazione di cui è membro. Questa persona proclama di non essere di alcuno stato nazionale in termini di AGI artigianale. Daremmo ancora credito a quello stato-nazione e l'AGI sarebbe sotto il controllo e la competenza di quella nazione?

Immagina un'altra alternativa che un grande conglomerato multinazionale arrivi per primo all'AGI. Quale nazione può dire che l'AGI è la loro "cosa" da usare e schierare (sarà interpretata come proprietà o raccoglierà invece una variante della personalità giuridica)? Forse tutte le nazioni in cui esiste l'azienda devono ottenere lo stesso credito. O forse solo ovunque sia geograficamente collocata la sede ufficiale. Potrebbe essere una complessa scissione di una vera pentola d'oro.

In ogni caso, l'opinione popolare generale è che uno stato-nazione sarà il determinante cruciale del raggiungimento dell'AGI. Una nazione che incoraggia la ricerca e lo sviluppo dell'IA nell'ambito dei suoi sforzi nazionali arriverà presumibilmente all'AGI prima di altre nazioni che non fanno altrettanto.

C'è un'opinione predominante che la gara dell'IA sia nazionale.

Una questione scottante è come possiamo accertare se una nazione è davanti o dietro un'altra nazione nella corsa AGI.

In una corsa a piedi convenzionale, potremmo facilmente identificare le metriche che possono essere utilizzate per determinare quali corridori stanno andando bene e quali no. La velocità del corridore può essere calcolata facilmente. Questo non garantisce che finiranno per primi, ma almeno mostra una promessa. La distanza fisica tra i corridori e la distanza rimanente al traguardo sono ovviamente criteri vitali che possiamo facilmente misurare.

La gara AGI non ha quel tipo di forme assicurate di metriche o misurazioni.

Stiamo usando tutti i tipi di misure surrogate poiché non esiste un modo definitivo per calcolare dove si trova la linea di fondo e né quanto siamo lontani da essa.

Diamo un'occhiata ai tipi di metriche convenzionalmente considerati. Una fonte particolarmente utile di misurazioni globali relative all'IA viene raccolta e pubblicata ogni anno dallo Stanford Institute for Human-Centered AI (HAI) presso la Stanford University. Il rapporto è disponibile online gratuitamente e l'ultima versione è intitolata Il rapporto annuale dell'indice AI 2022 (sulla base dei dati raccolti per il periodo 2020-2021). Condividerò con voi tra poco alcuni punti salienti dei confronti nazionali citati nella loro ultima compilation.

Le metriche utilizzate per misurare i progressi nazionali e internazionali sull'IA tendono a includere un po' di tutto, a volte rasentando anche l'inclusione del vero lavello della cucina.

Le tipologie di misure tipicamente esaminate includono:

• Numero di articoli di ricerca sull'IA attribuiti a una particolare nazione
• Numero di riferimenti citati ad articoli AI di una particolare nazione
• Numero di riviste di intelligenza artificiale con sede all'interno di una particolare nazione
• Numero di conferenze sull'IA che si svolgono all'interno di una particolare nazione
• Numero di conferenze sull'IA sponsorizzate da una particolare nazione
• Numero di brevetti relativi all'IA concessi all'interno di una determinata nazione
• Numero di startup di società di intelligenza artificiale all'interno di una determinata nazione
• Numero di lavori di intelligenza artificiale all'interno di una particolare nazione
• Numero di nuovi lavori di intelligenza artificiale o assunzioni in una particolare nazione
• Numero di leggi sull'IA o progetti di legge introdotti in una particolare nazione
• Numero di leggi sull'IA approvate o emanate in una particolare nazione
• Altro

Considera queste indicazioni contemporanee dall'HAI AI Index 2022:

• Citazioni pubblicazioni AI: “Per quanto riguarda le citazioni delle pubblicazioni dei repository di AI, gli Stati Uniti sono in cima alla lista con il 38.6% delle citazioni complessive nel 2021, stabilendo un vantaggio dominante sull'Unione Europea più il Regno Unito (20.1%) e la Cina (16.4%)."
• Riviste/conferenze AI: “Nel 2021, la Cina ha continuato a guidare il mondo per numero di pubblicazioni su riviste, conferenze e repository di intelligenza artificiale, il 63.2% in più rispetto agli Stati Uniti con tutti e tre i tipi di pubblicazione messi insieme. Nel frattempo, gli Stati Uniti detenevano un vantaggio dominante tra le principali potenze dell'IA nel numero di citazioni di conferenze e archivi".
• Brevetti AI: “La Cina sta ora depositando oltre la metà dei brevetti mondiali di IA e ne sta ottenendo circa il 6%, più o meno come l'Unione Europea più il Regno Unito. Gli Stati Uniti, che depositano quasi tutti i brevetti in Nord America, lo fanno a un terzo del tasso della Cina. Rispetto al numero crescente di brevetti AI richiesti e concessi, la Cina ha un numero di domande di brevetto molto maggiore (87,343 nel 2021) rispetto a quelli concessi (1,407 nel 2021)."
• Società di IA di nuova costituzione: “Dati sugli investimenti in base al numero di società di IA di nuova costituzione in ciascuna regione. Per il 2021, gli Stati Uniti guidano con 299 società, seguiti dalla Cina con 119, il Regno Unito con 49 e Israele con 28. I divari tra ciascuna sono significativi".
• Ritmo di assunzione AI: “Nuova Zelanda, Hong Kong, Irlanda, Lussemburgo e Svezia sono i paesi o le regioni con la più alta crescita delle assunzioni di IA dal 2016 al 2021".
• Annunci di lavoro AI: “Nel 2021, California, Texas, New York e Virginia erano gli stati con il maggior numero di annunci di lavoro AI negli Stati Uniti, con la California che aveva oltre 2.35 volte il numero di annunci del Texas, il secondo più grande. Washington, DC, ha avuto il più alto tasso di annunci di lavoro AI rispetto al suo numero complessivo di annunci di lavoro
• Azione legislativa AI: "Un'analisi dell'Indice AI dei documenti legislativi sull'IA in 25 paesi mostra che il numero di progetti di legge contenenti 'intelligenza artificiale' passati in legge è cresciuto da 1 solo nel 2016 a 18 nel 2021. Spagna, Regno Unito e Stati Uniti ha approvato il maggior numero di progetti di legge relativi all'IA nel 2021, ciascuno dei quali ne ha adottati tre".

Possiamo ammirare e apprezzare abbondantemente il duro lavoro coinvolto nella compilazione di quelle statistiche sui corridori degli stati-nazione per la gara AGI.

Gli scettici, tuttavia, cavillano un po' sull'utilizzo di qualsiasi tipo di metrica nell'impegno della gara AGI.

La questione spinosa è se si può tracciare una linea retta dal numero di articoli di intelligenza artificiale o di conferenze di intelligenza artificiale all'interno di una particolare nazione al raggiungimento finale dell'AGI. Lo stesso vale per il numero di lavori di intelligenza artificiale, il numero di società di intelligenza artificiale e la sfilza di altre metriche. Potrebbe essere che quei conteggi abbiano poco a che fare con il raggiungimento dell'AGI. L'argomento è che quelle misure sono più calore che luce.

La controargomentazione è che dobbiamo cercare di misurare dove siamo e dove stiamo andando. Mettere la testa sotto la sabbia non sembra un modo molto praticabile per valutare se ci stiamo dirigendo verso l'AGI o forse più lontano dall'AGI. Si spera e generalmente si presume che maggiore è l'energia e l'attenzione nel fare progressi nell'IA, più ci avvicineremo all'AGI. Queste metriche sono il meglio che possiamo fare per raccogliere quanta energia e attenzione vengono allocate e consumate nella gara AGI.

Tondo e tondo che va.

Ognuna delle metriche può anche essere colpita alla testa da sola.

Ad esempio, considera il numero di leggi o progetti di legge sull'IA.

Si può affermare che se i legislatori si stanno concentrando sulle leggi relative all'IA, questo è un buon segno che la nazione sta prendendo abbastanza seriamente l'importanza dell'IA e le ramificazioni sociali di dove è diretta l'IA. Si può sostenere che ciò dimostri che molti sforzi per l'avanzamento dell'IA si stanno verificando in quella particolare nazione. Perché dovresti prenderti la briga di emanare leggi sull'IA a meno che l'IA non stesse in particolare fiorendo e ribollendo come elemento dimostrativo della tua nazione?

In questo modo, quelle nazioni che promulgano nuove leggi sull'IA vengono interpretate come un segno rivelatore o la segnalazione del progresso dell'AGI è ben avviata in quella nazione.

Alcuni critici affermano che le nuove leggi proposte sull'IA soffocheranno gli sforzi dell'IA all'interno di ciascuna nazione particolare. I legislatori e i leader politici si spareranno ai piedi. Le leggi metteranno prematuramente un'ombra cupa sugli sforzi dell'IA in corso in quella specifica nazione. Il rubinetto dell'avanzamento dell'IA sarà intasato dall'ostruzione legale dei capelli e il ritmo del progresso dell'AGI rallenterà fino a ridursi in quella nazione che proclama la legge sull'IA. Nel frattempo, le altre nazioni che non stanno approvando questo tipo di leggi sull'IA continueranno senza sosta. È come se tu avessi deciso di mettere pesi di piombo su un corridore che è già sulla pista di 400 metri. Se miravi ad aiutarli e ad accelerarli, hai fatto esattamente il contrario.

Whoa, la replica va, l'emanazione delle leggi sull'intelligenza artificiale è più simile all'assicurarsi che non ci siano blocchi stradali inutili davanti al corridore. Le leggi forniscono indicazioni nello stesso modo in cui le linee sulla pista sono lì per mantenere il corridore senza intoppi nella giusta direzione. Senza quelle linee dipinte, i corridori potrebbero impazzire. Le nuove leggi sull'IA li faranno avanzare all'unisono verso un risultato desiderabile. I paesi che non fanno lo stesso in termini di nuove leggi sull'IA troveranno i loro corridori che vanno in ogni direzione selvaggia, incluso possibilmente correre completamente fuori pista e danneggiare coloro che sono innocenti al di là della gara AGI stessa.

Ci sono anche leggi "nascoste" relative all'IA che alcuni stanno contando e nel frattempo altri non contano come parte di queste metriche (creando un pasticcio quando si cerca di confrontare i conteggi).

Ad esempio, se una nazione emana una legge sui veicoli autonomi come le auto a guida autonoma, la consideri una legge sull'IA? Per chiarire che un veicolo autonomo come un'auto a guida autonoma completamente autonoma avrà un sistema di guida AI che è fondamentale per le capacità senza conducente (vedi la mia copertura su il link qui). A causa dell'IA coinvolta, qualsiasi legge sui veicoli autonomi potrebbe essere argomentata come essenzialmente una legge sull'IA. D'altra parte, potresti affermare in modo convincente che la legge riguarda il veicolo autonomo e non di per sé l'IA, quindi questo non conta nel conteggio delle leggi specifiche dell'IA.

È disordinato.

Tutta questa costernazione per le metriche potrebbe farti alzare le spalle in mezzo alle opinioni opposte su queste pesanti considerazioni. Come potrebbe essere evidente, le metriche sono quasi sempre soggette a interpretazioni disparate su cosa significano e su come lo stato di una nazione rispetto all'AGI viene adeguatamente analizzato.

Manovra geopolitica e allineamento per la corsa AGI

Quali nazioni sono in vantaggio nella gara AGI?

Quali nazioni restano indietro?

Le suddette metriche tentano di mostrare dove si trova attualmente ciascuno dei corridori. Un presupposto di base è che se le metriche rappresentano un'indicazione appropriata del posizionamento di ricerca di AGI, queste varie pole position potrebbero rimanere le stesse nel tempo. Naturalmente, la realtà è che l'interesse e l'attenzione nazionali possono aumentare o diminuire durante il percorso accidentato verso l'AGI. Potresti essere più saggio aspettarti cambiamenti nel posizionamento.

Una considerazione importante è che le nazioni non sono realmente in questa corsa da sole.

È probabile che le nazioni si daranno il testimone avanti e indietro tra loro. La gara AGI a volte vede una o più nazioni che lavorano volentieri mano nella mano. A volte questo viene fatto con cautela piuttosto che con allegria amichevole. In altri casi, le nazioni potrebbero trattenersi l'una dall'altra. In qualsiasi momento, la postura della gara può essere molto diversa da quella di qualche passo indietro, inoltre può essere molto diversa qualche passo nel futuro.

Considera questo punto del rapporto HAI AI Index 2022 sulle collaborazioni tra paesi: “Nonostante le crescenti tensioni geopolitiche, gli Stati Uniti e la Cina hanno avuto il maggior numero di collaborazioni tra paesi nelle pubblicazioni AI dal 2010 al 2021, aumentando di cinque volte dal 2010 La collaborazione tra i due paesi ha prodotto 2.7 volte più pubblicazioni rispetto a Regno Unito e Cina, la seconda più alta della lista.

I cinici direbbero che forse l'uso di collaborazioni incrociate è occasionalmente fatto come uno stratagemma. Una nazione potrebbe dichiarare apertamente che stanno collaborando in modo incrociato, sembrando in superficie che lo stia facendo, mentre in fondo stanno mantenendo i loro migliori progressi AGI un segreto nazionale nascosto. Forse questo viene fatto per smussare il progresso della nazione che collabora in modo incrociato. Forse questo viene fatto per garantire che la salsa segreta non venga distribuita inavvertitamente. Tutti i tipi di ragioni sono possibili.

Nel moderno mondo online di Internet digitale di oggi, cercare di mantenere le informazioni dettagliate sull'AGI strettamente nascoste può essere un compito difficile. L'intenso desiderio di scoprire o inventare AGI è un fascino irresistibile che può spronare i singoli sviluppatori e ricercatori AGI a condividere apertamente il loro ultimo lavoro. Le nazioni possono scoprire che cercare di porre un limite a tale condivisione è molto più difficile di quanto possa sembrare, e probabilmente molto più difficile che ai tempi in cui tutto era cartaceo e richiedeva lo spostamento fisico di documenti in tutto il mondo.

Il movimento verso l'open source è stato certamente un'enfasi contemporanea per gran parte delle ultime ricerche sull'IA e sull'AGI, come menzionato nel rapporto HAI AI Index 2022: "Ogni anno, migliaia e migliaia di pubblicazioni sull'IA vengono pubblicate nell'open source, sia a conferenze o su siti Web di file sharing. I ricercatori condivideranno apertamente i loro risultati in occasione di conferenze; le agenzie governative finanzieranno la ricerca sull'IA che finisce nell'open source; e gli sviluppatori utilizzano librerie software aperte, disponibili gratuitamente al pubblico, per produrre applicazioni di intelligenza artificiale all'avanguardia. Questa apertura contribuisce anche alla natura globalmente interdipendente e interconnessa della moderna ricerca e sviluppo sull'IA".

Tutto sommato, le nazioni generalmente condividono e tuttavia potrebbero mostrare solo una parte della loro mano. Altre nazioni potrebbero non condividere o solo fingere di farlo. Alcune nazioni lottano strenuamente nel tentativo di valutare ciò che quelli all'interno della loro nazione stanno dando via invece di tenersi. E così via.

Ho caratterizzato la natura di queste mosse nazionali in questi modi:

• AI Go-it-alone Nazione (cerca di procedere da solo)
• AI Unica andata Nazione (prende, non cede)
• Nazione rimanente dell'IA (prende ciò che può dagli altri)
• Nazione di condivisione aperta AI (è orgoglioso di condividere)
• Nazione di condivisione di IA (falsità nella condivisione)
• Nazione delle alleanze AI (cercando di stringere quante più alleanze possibile)
• AI Non-in-the-game Nation (cercare AGI non è una priorità nazionale)
• Nazione imbroglione AI (ingegneria inversa o furto furtivo da altre nazioni)
• Altro

Una nazione può trovarsi in più di uno di questi secchi alla volta.

Una nazione può rimanere in uno di quei secchi per un po', uscire dal secchio e possibilmente tornare in seguito.

I desideri e l'attenzione dello stato-nazione relativi alla ricerca dell'AGI sono un flusso e riflusso dinamico che sicuramente continuerà ad andare avanti e sarà un obiettivo mobile su quale nazione si trova in quale parte della gara, e sarà necessario un occhio costante per capire dove tutti i giocatori sono posizionati in un dato momento.

Leggi internazionali sull'IA ed etica dell'IA come arbitri nella gara AGI

Nelle colonne precedenti, ho trattato i vari sforzi nazionali e internazionali per elaborare e emanare leggi che regolano l'IA, vedi il link qui ed il link qui, Per esempio. Ho anche trattato i vari principi e linee guida dell'etica dell'intelligenza artificiale che varie nazioni hanno identificato e adottato, incluso ad esempio lo sforzo delle Nazioni Unite come il set dell'etica dell'intelligenza artificiale dell'UNESCO che quasi 200 paesi hanno adottato, vedi il link qui.

Ecco un utile elenco chiave di volta dei criteri o delle caratteristiche dell'IA etica relativi ai sistemi di intelligenza artificiale che ho precedentemente esplorato da vicino:

• Trasparenza
• Giustizia ed equità
• Non maleficenza
• Responsabilità
• Privacy
• Beneficenza
• Libertà e autonomia
• Affidati ad
• Sostenibilità
• Dignità
• Solidarietà

Questi principi di etica dell'intelligenza artificiale dovrebbero essere utilizzati seriamente dagli sviluppatori di intelligenza artificiale, insieme a quelli che gestiscono gli sforzi di sviluppo dell'intelligenza artificiale e persino quelli che alla fine mettono in campo ed eseguono la manutenzione dei sistemi di intelligenza artificiale.

Tutte le parti interessate durante l'intero ciclo di vita dello sviluppo e dell'utilizzo dell'IA sono considerate nell'ambito del rispetto delle norme stabilite dell'IA etica. Questo è un punto importante poiché il presupposto abituale è che "solo i programmatori" o coloro che programmano l'IA sono soggetti all'adesione alle nozioni di etica dell'IA. Come sottolineato in precedenza qui, ci vuole un villaggio per ideare e mettere in campo l'IA, e per questo l'intero villaggio deve essere esperto e rispettare i precetti dell'etica dell'IA.

Consideriamo l'impatto e la natura vitale delle leggi internazionali sull'IA e dei proclami internazionali dei precetti dell'etica dell'IA sulla razza AGI.

Le nazioni che si battono per l'AGI potrebbero farlo con abbandono e ritrovarsi a virare verso alcuni dei rischi esistenziali spesso popolari dell'AGI. La speranza è che mettendo in atto leggi internazionali sull'IA e precetti internazionali di etica dell'IA, le nazioni siano guidate verso AI in bene e stai alla larga AI for Bad.

Secondo la nostra analogia con la pista, quelle leggi sull'IA e le considerazioni sull'etica dell'IA sono come cercare di impedire ai corridori di uscire dalla pista. Ci sono immense tentazioni di prendere scorciatoie nella gara AGI. Queste scorciatoie potrebbero portare una nazione apparentemente prima verso il traguardo, mettendo contemporaneamente quella nazione e altre nazioni a rischio indebito. Un esempio sottile ma significativo è costituito dall'IA a duplice uso, che ho esaminato il link qui, per cui un avanzamento dell'IA viene prontamente cambiato con pochissimo sforzo dall'essere mirato al bene a essere portato a produrre cattiveria catastrofica.

Si potrebbe affermare che le leggi internazionali sull'IA e l'etica internazionale dell'IA sono come arbitri o arbitri.

Un presupposto è che questi meccanismi legali ed etici ideati a livello internazionale manterranno la corsa AGI su una chiglia più equilibrata. Il fatto è che se particolari nazioni decidono di prestare attenzione agli arbitri o agli arbitri è una questione diversa. Allo stesso modo, c'è una domanda irritante su come tali autorità possano fornire sanzioni o incentivi per mantenere i corridori sulla strada giusta. Le probabilità sono che le nazioni facciano ciò che desiderano, per cui altre nazioni potrebbero dover spostare il loro peso per rafforzare il sostegno alla violazione delle regole fuori dal percorso che alcune nazioni sono destinate a intraprendere.

Conclusione

Louis Pasteur, il leggendario chimico e microbiologo, disse: “La scienza non conosce un paese, perché la conoscenza appartiene all'umanità ed è la torcia che illumina il mondo. La scienza è la personificazione più alta della nazione perché quella nazione rimarrà la prima che porta più lontano le opere del pensiero e dell'intelligenza.

Possiamo dire che il raggiungimento dell'AGI non conosce un paese e che l'AGI apparterrà a tutta l'umanità?

O la nazione che arriva per prima all'AGI ne sarà possessiva, ubriacandosi di potere abietto e impazzendo per il potere?

Per quelli di voi che amano un po' una svolta su questo particolare enigma, considera che l'AGI potrebbe di per sé essere il tipo di risultato che è il proverbiale serpente nell'erba. Lo scopritore del serpente potrebbe essere il primo a ricevere un morso di serpente. Essere i primi ha i suoi rischi.

Tagliare il traguardo su AGI non sarà necessariamente celebrativo e spensierato come qualcuno potrebbe pensare. Né sfruttare l'AGI sarà necessariamente facile. Alcuni potrebbero obiettare che affrontare l'AGI potrebbe essere quasi impossibile dal momento che l'AGI apparentemente avrà la subdola e l'ingegnosità paragonabili dell'umanità. Le nazioni dovrebbero essere consapevoli di ciò che stanno cercando di ottenere e di quale sarà il risultato, farlo in anticipo e non farsi cogliere di sorpresa. Potrebbero avere un vespaio nel loro forziere nazionale.

Come ha offerto Pasteur: "La fortuna favorisce la mente preparata".