Meta AI svela l'incantatore diplomatico infuso di intelligenza artificiale che mescola l'etica dell'IA e la legge dell'IA in un litigio indelicato

Lo stimato mondo del fascino e della diplomazia è spesso rovinato da indelicatezze e inciviltà.

Will Rogers, il grande umorista e commentatore sociale, disse notoriamente che la diplomazia è l'arte di dire "Bel cagnolino" finché non trovi una roccia.

L'apparente implicazione è che a volte devi tenere a bada con forza qualsiasi forza incombente e pericolosa finché non riesci a scoprire una soluzione adeguatamente difendibile. Fai quello che devi fare quando sei in difficoltà disperate. Placa intenzionalmente e intenzionalmente coloro che ti mettono in pericolo, usando le tue parole rassicuranti e innamorate, guadagnando tempo prezioso per armarti di una posizione più pratica e apertamente tangibile.

PUBBLICITA

Alcuni affermano che la guerra è inestricabilmente il risultato di una diplomazia fallita. In questo punto di vista ponderato, un costante rullo di tamburi della diplomazia eviterà la guerra. Continua a parlare e il combattimento non avrà inizio. Altri sono in fervente disaccordo su un'opinione così problematica. Forse, si dice, è proprio la diplomazia a portarci in guerra. Inoltre, potrebbe essere che la diplomazia prolunghi le guerre e continui i combattimenti senza fine.

Daremo a Will Rogers un'altra possibilità di assaporare un po' di umorismo su questa questione se la diplomazia sia buona o cattiva per quanto riguarda l'avvento o la continuazione della guerra: "Togli la diplomazia dalla guerra e la cosa crollerebbe in una settimana" (ha riferito dichiarato).

La definizione comune di diplomazia sottolinea le relazioni tra le nazioni. I diplomatici rappresentano particolari nazioni o stati-nazione ed esercitano la diplomazia quando svolgono i loro sacri doveri. Ci aspettiamo che i nostri diplomatici intraprendano la loro trasmissione di politica estera attraverso l'uso dell'aplomb. Il messaggero non dovrebbe essere quello che suscita animosità, solo il messaggio invece potrebbe farlo. Una rappresentazione diplomatica presumibilmente impeccabile anche del più eclatante dei messaggi può in modo dimostrabile attenuare il colpo derivante da una richiesta o minaccia altrimenti nociva.

PUBBLICITA

Naturalmente, la diplomazia non si limita solo al nobile lavoro dei diplomatici ufficiali. Oserei dire che nella nostra vita quotidiana dobbiamo tutti assumere una parvenza di diplomazia. Quando vuoi che un amico vegli sul tuo amato cane mentre sei in viaggio d'affari, sicuramente accollerai diplomaticamente la richiesta di prenderti cura del cane. È probabile che fare una richiesta esplicita in tal senso atterri con un tonfo sordo.

Probabilmente essendo più arte che scienza, la diplomazia è qualcosa che gli umani usano per ingrassare i pattini, tenere le luci accese e impedire alla società di impazzire completamente. Le trattative entrano in gioco. Potrebbe essere necessaria una pacificazione. A volte usi la carota, a volte il bastone. Se devi farlo, potresti provare la cosiddetta diplomazia delle cannoniere, per cui cerchi di intimidire gli altri intorno a te. O al posto dell'armamento forte, potresti seguire la mediazione più morbida e la via umanitaria. Tutto dipende.

Ok, quindi siamo tutti ragionevolmente d'accordo sul fatto che la diplomazia è una forma vitale di comunicazione da uomo a uomo. Consiste nella pratica o nell'arte scenica associata all'impiego di tatto, mediazione, negoziazione, conciliazione e una sfilza di politiche socialmente abili.

PUBBLICITA

Aggiungiamo qualcos'altro a questa equazione.

Sei pronto?

Aggiungeremo qualcos'altro che potresti aver già preso in considerazione.

Intelligenza artificiale (AI).

Sì, l'intelligenza artificiale sta entrando nella mossa della diplomazia. Questo sembra del tutto sensato. Se vogliamo che l'intelligenza artificiale sia immersa in tutti gli aspetti della nostra vita, alla fine la diplomazia doveva fare il suo turno. Potremmo aspettarci che l'IA sarà in grado di svolgere qualsiasi compito abbia usando parole appropriate e modi di diplomazia.

PUBBLICITA

AI come diplomatico autonomo o semi-autonomo.

Mi rendo conto che potrebbe sembrare piuttosto scoraggiante e del tutto spaventoso. Non credo che nessuno di noi sia pronto affinché l'IA vada in giro come rappresentante dei nostri rispettivi paesi. Immagina che l'IA serva per nostro conto per negoziare le nostre posizioni internazionali e affermare il nostro atteggiamento politico globale. Accidenti! È la roba di quelle storie di fantascienza apocalittiche.

Bene, tira un momentaneo sospiro di sollievo dal momento che non è nelle carte, per ora.

Invece, pensa all'intelligenza artificiale che usi per fare le tue operazioni bancarie o che ti aiuta a guidarti verso l'acquisto di una casa. L'intelligenza artificiale di oggi che interagisce con le persone è solitamente piuttosto semplice. Vai ai fatti, solo ai fatti. Qualche intelligenza artificiale è stata smerigliata con parole carine per farti pensare che sia amichevole o un amico, anche se questo viene rapidamente visto. Solo perché un sistema di intelligenza artificiale si riferisce a te con il tuo nome o emette parole come "ciao" invece di "ciao", la maggior parte di noi si rende subito conto che si tratta di una sciarada.

Un prossimo passo perseguito avidamente nelle sale degli sviluppatori di intelligenza artificiale è cercare di infondere caratteristiche diplomatiche nella nostra intelligenza artificiale quotidiana. L'obiettivo generale è quello di incorporare aspetti programmatici che consentiranno all'IA di mostrare la diplomazia e comportamenti di tipo diplomatico. Utilizzando una varietà di algoritmi e in particolare l'ultima generazione di IA generativa o Large Language Models (LLM), si stanno compiendo notevoli progressi su questo fronte.

PUBBLICITA

Daremo un'occhiata a uno di questi esempi, CICERO, un nuovo sistema di intelligenza artificiale rilasciato dal team Meta AI.

Nel caso in cui tu fossi in vacanza e non fossi stato al passo con le ultime notizie sull'IA, il recente annuncio e la presentazione di un sistema di intelligenza artificiale coniato come CICERO offre un segnale significativo di dove si trova l'arena della diplomazia infusa dall'IA in questi giorni. Con premura e merito, il team di Meta AI ha reso apertamente disponibile il proprio sistema di intelligenza artificiale CICERO sviluppato. Puoi leggere i dettagli tecnici in un documento di ricerca pubblicato su Scienze, Vedere il link qui. Puoi visitare un sito Web che hanno creato per trasmettere delicatamente le sfumature generali di CICERO con brevi video clip per illustrare ciò che fa (vedi il link qui). Per quelli di voi che cercano il codice e il software del programma reale a testa in giù, è possibile trovare il codice sorgente su GitHub all'indirizzo il link qui.

Voglio chiarire rapidamente un aspetto che potrebbe creare confusione se scegli di approfondire la questione.

Il particolare sistema di intelligenza artificiale ideato da Meta AI è attualmente impostato per giocare a un gioco piuttosto popolare noto come Diplomazia (forse hai visto il gioco da tavolo secondo Hasbro e altri produttori di giochi). Ne parlo perché la parola "diplomazia" avrà un doppio dovere in questa circostanza. Da un lato, l'intelligenza artificiale ideata tenta di infondere le caratteristiche dell'impresa e del display diplomazia di per sé. Nel frattempo, l'ambientazione in cui si svolge questo particolare sistema di intelligenza artificiale è quando si gioca specificamente e solo (in questo momento) al famoso gioco da tavolo noto come Diplomazia.

Vedi come questo potrebbe potenzialmente confondere alcune persone?

Se qualcuno ti dice che questa particolare IA se la cava molto bene in "diplomazia", ​​potresti non essere sicuro se si riferisca all'idea che l'IA sia abbastanza abile nel giocare al gioco da tavolo noto come Diplomazia o forse invece stanno suggerendo che l'intelligenza artificiale incarna l'essenza fondamentale associata all'atto diplomatico dell'umanità. Inoltre, potrebbe essere che entrambe le sfaccettature siano intese contemporaneamente (vale a dire, l'IA gioca bene Diplomazia e allo stesso tempo fa bene a essere in grado di esercitare o mostrare la diplomazia come abilità o atto).

PUBBLICITA

In questa sede, cercherò di chiarire le cose mettendo in maiuscolo la prima lettera e mostrando in corsivo il nome del gioco da tavolo, Diplomazia. Il resto del tempo userò la formulazione non in corsivo di "diplomazia" come indicazione della concezione generale di essere diplomatici o esibire diplomazia (vedi, l'ho appena fatto proprio lì).

Tornando alla questione in questione, potresti riflettere per un momento se l'intelligenza artificiale che mostra diplomazia sia qualcosa che dovremmo desiderare o invece evitare.

Ci sono molti aspetti positivi nel convincere l'IA a mostrare la diplomazia. Vivresti in una bolla poco profonda per presumere che l'attuazione della diplomazia da parte dell'IA sarà interamente ed esclusivamente una buona cosa. L'intelligenza artificiale che sembra avere capacità diplomatiche e può farci credere di avere diplomazia è anche piena di problemi preoccupanti che dobbiamo portare in primo piano. In sostanza, l'IA utilizzata in questo modo solleva un carico di domande sull'etica dell'IA e sulla legge sull'IA. Per quelli di voi interessati all'etica dell'IA e al diritto dell'IA, potreste dare un'occhiata alla mia ampia e continua copertura dell'IA etica e del diritto dell'IA su il link qui ed il link qui, solo per citarne alcuni.

Prima di saltare all'intelligenza artificiale come incarnazione di una qualche forma di diplomazia, vorrei innanzitutto gettare alcune basi essenziali sull'IA e in particolare sull'etica dell'IA e sulla legge sull'IA, facendo così per assicurarmi che la discussione sia contestualmente ragionevole.

PUBBLICITA

La crescente consapevolezza dell'IA etica e anche della legge sull'IA

La recente era dell'IA era inizialmente considerata come tale AI in bene, il che significa che potremmo usare l'IA per il miglioramento dell'umanità. Sulla scia di AI in bene è arrivata la consapevolezza che anche noi siamo immersi AI for Bad. Ciò include l'IA che è concepita o auto-alterata per essere discriminatoria e fa scelte computazionali che infondono pregiudizi indebiti. A volte l'IA è costruita in questo modo, mentre in altri casi vira in quel territorio spiacevole.

Voglio essere assolutamente certo che siamo sulla stessa linea sulla natura dell'IA di oggi.

Non c'è nessuna IA oggi che sia senziente. Non abbiamo questo. Non sappiamo se l'IA senziente sarà possibile. Nessuno può prevedere in modo appropriato se raggiungeremo l'IA senziente, né se l'IA senziente sorgerà in qualche modo miracolosamente spontaneamente in una forma di supernova cognitiva computazionale (di solito indicata come la singolarità, vedi la mia copertura su il link qui).

Il tipo di IA su cui mi sto concentrando consiste nell'IA non senziente che abbiamo oggi. Se volessimo speculare selvaggiamente sull'IA senziente, questa discussione potrebbe andare in una direzione radicalmente diversa. Un'IA senziente sarebbe presumibilmente di qualità umana. Dovresti considerare che l'IA senziente è l'equivalente cognitivo di un essere umano. Inoltre, dal momento che alcuni ipotizzano che potremmo avere un'IA super intelligente, è concepibile che tale IA possa finire per essere più intelligente degli umani (per la mia esplorazione dell'IA super intelligente come possibilità, vedi la copertura qui).

PUBBLICITA

Suggerirei caldamente di mantenere le cose con i piedi per terra e di considerare l'odierna IA computazionale non senziente.

Renditi conto che l'IA di oggi non è in grado di "pensare" in alcun modo alla pari del pensiero umano. Quando interagisci con Alexa o Siri, le capacità di conversazione potrebbero sembrare simili alle capacità umane, ma la realtà è che è computazionale e manca di cognizione umana. L'ultima era dell'IA ha fatto ampio uso di Machine Learning (ML) e Deep Learning (DL), che sfruttano il pattern matching computazionale. Ciò ha portato a sistemi di intelligenza artificiale che hanno l'aspetto di inclinazioni simili a quelle umane. Nel frattempo, non c'è nessuna IA oggi che abbia una parvenza di buon senso e nemmeno la meraviglia cognitiva del pensiero umano robusto.

Fai molta attenzione all'antropomorfizzazione dell'IA di oggi.

ML/DL è una forma di pattern matching computazionale. L'approccio usuale consiste nell'assemblare i dati su un'attività decisionale. I dati vengono inseriti nei modelli di computer ML/DL. Questi modelli cercano di trovare modelli matematici. Dopo aver trovato tali schemi, se così trovati, il sistema di intelligenza artificiale utilizzerà tali schemi quando incontra nuovi dati. Alla presentazione di nuovi dati, i modelli basati sui dati "vecchi" o storici vengono applicati per prendere una decisione attuale.

Penso che tu possa indovinare dove sta andando. Se gli esseri umani che hanno preso le decisioni modellate hanno incorporato pregiudizi spiacevoli, è probabile che i dati lo riflettano in modi sottili ma significativi. La corrispondenza dei modelli computazionali di Machine Learning o Deep Learning cercherà semplicemente di imitare matematicamente i dati di conseguenza. Non vi è alcuna parvenza di buon senso o altri aspetti senzienti della modellazione realizzata dall'IA di per sé.

PUBBLICITA

Inoltre, anche gli sviluppatori di IA potrebbero non rendersi conto di cosa sta succedendo. La matematica arcana nel ML/DL potrebbe rendere difficile scovare i pregiudizi ora nascosti. Spereresti e ti aspetteresti giustamente che gli sviluppatori di intelligenza artificiale mettano alla prova i pregiudizi potenzialmente sepolti, anche se questo è più complicato di quanto potrebbe sembrare. Esiste una solida possibilità che, anche con test relativamente estesi, ci saranno pregiudizi ancora incorporati nei modelli di corrispondenza dei modelli del ML/DL.

Potresti in qualche modo usare il famoso o famigerato adagio di spazzatura in spazzatura. Il fatto è che questo è più simile ai pregiudizi, che vengono insidiosamente infusi quando i pregiudizi vengono sommersi dall'IA. L'algoritmo decisionale (ADM) dell'IA si carica assiomaticamente di disuguaglianze.

Non bene.

Tutto ciò ha implicazioni notevolmente significative sull'etica dell'IA e offre una pratica finestra sulle lezioni apprese (anche prima che tutte le lezioni accadano) quando si tratta di cercare di legiferare sull'IA.

PUBBLICITA

Oltre a impiegare i precetti di etica dell'IA in generale, c'è una domanda corrispondente se dovremmo avere leggi per governare i vari usi dell'IA. Nuove leggi vengono diffuse a livello federale, statale e locale che riguardano la gamma e la natura di come dovrebbe essere ideata l'IA. Lo sforzo per redigere e promulgare tali leggi è graduale. AI Ethics serve come minimo un ripiego considerato, e quasi certamente in una certa misura sarà direttamente incorporato in queste nuove leggi.

Tieni presente che alcuni sostengono categoricamente che non abbiamo bisogno di nuove leggi che coprano l'IA e che le nostre leggi esistenti siano sufficienti. Avvertono che se promulghiamo alcune di queste leggi sull'IA, uccideremo l'oca d'oro reprimendo i progressi nell'IA che offrono immensi vantaggi per la società.

Nelle colonne precedenti, ho trattato i vari sforzi nazionali e internazionali per elaborare e emanare leggi che regolano l'IA, vedi il link qui, Per esempio. Ho anche trattato i vari principi e linee guida dell'etica dell'intelligenza artificiale che varie nazioni hanno identificato e adottato, incluso ad esempio lo sforzo delle Nazioni Unite come il set dell'etica dell'intelligenza artificiale dell'UNESCO che quasi 200 paesi hanno adottato, vedi il link qui.

PUBBLICITA

Ecco un utile elenco chiave di volta dei criteri o delle caratteristiche dell'IA etica relativi ai sistemi di intelligenza artificiale che ho precedentemente esplorato da vicino:

• Trasparenza
• Giustizia ed equità
• Non maleficenza
• Responsabilità
• Privacy
• Beneficenza
• Libertà e autonomia
• Affidati ad
• Sostenibilità
• Dignità
• Solidarietà

Questi principi di etica dell'intelligenza artificiale dovrebbero essere utilizzati seriamente dagli sviluppatori di intelligenza artificiale, insieme a quelli che gestiscono gli sforzi di sviluppo dell'intelligenza artificiale e persino quelli che alla fine mettono in campo ed eseguono la manutenzione dei sistemi di intelligenza artificiale.

Tutte le parti interessate durante l'intero ciclo di vita dello sviluppo e dell'utilizzo dell'IA sono considerate nell'ambito del rispetto delle norme stabilite dell'IA etica. Questo è un punto importante poiché il presupposto abituale è che "solo i programmatori" o coloro che programmano l'IA sono soggetti all'adesione alle nozioni di etica dell'IA. Come sottolineato in precedenza qui, ci vuole un villaggio per ideare e mettere in campo l'IA, e per questo l'intero villaggio deve essere esperto e rispettare i precetti dell'etica dell'IA.

PUBBLICITA

Recentemente ho anche esaminato il Carta dei diritti dell'IA che è il titolo ufficiale del documento ufficiale del governo degli Stati Uniti intitolato "Blueprint for an AI Bill of Rights: Making Automated Systems Work for the American People" che è stato il risultato di uno sforzo durato un anno dall'Office of Science and Technology Policy (OSTP ). L'OSTP è un'entità federale che serve a consigliare il Presidente americano e l'Ufficio Esecutivo degli Stati Uniti su vari aspetti tecnologici, scientifici e ingegneristici di importanza nazionale. In questo senso, puoi dire che questa Carta dei diritti dell'IA è un documento approvato e approvato dall'attuale Casa Bianca degli Stati Uniti.

Nella Carta dei diritti AI, ci sono cinque categorie chiave di volta:

• Sistemi sicuri ed efficaci
• Protezioni contro la discriminazione algoritmica
• Privacy dei dati
• Avviso e spiegazione
• Alternative umane, considerazione e ripiego

Ho esaminato attentamente quei precetti, vedete il link qui.

PUBBLICITA

Ora che ho gettato una base utile su questi argomenti correlati di etica e diritto dell'IA, siamo pronti per entrare nell'argomento inebriante della diplomazia basata sull'intelligenza artificiale.

Diplomazia AI in tutta la sua gloria e anche potenziale caduta

Innanzitutto, stabiliamo che il tipo di IA qui considerato è IA non senziente.

Dico questo perché se, o alcuni dicono quando raggiungiamo l'intelligenza artificiale senziente, l'intero argomento sarà probabilmente completamente ribaltato. Immagina il potenziale caos e la confusione sociale per essere atterrato in qualche modo nel altrimenti mai visto prima indiscutibilmente verificato artificiale intelligenza che incarna la sensibilità (per la mia analisi di un famoso test di intelligenza artificiale noto come test di Turing, vedi il link qui). Puoi fare una scommessa ragionata sul fatto che molte delle nostre norme culturali, legali e quotidiane esistenti saranno enormemente scosse fino in fondo.

Forse l'IA senziente sarà la nostra amica, o forse l'IA senziente sarà il nostro peggior nemico. Come saremo in grado di dire in che direzione andrà l'IA?

Potresti essere tentato di suggerire che presumibilmente saremo in grado di parlare con l'IA e capire da ciò che dice le intenzioni che ha. Aha, sei caduto in una trappola sconcertante. Supponiamo che l'intelligenza artificiale sia particolarmente ben infusa con una qualche forma di capacità diplomatiche dell'IA. Quando provi a parlare con l'intelligenza artificiale, forse parlerà nei termini più affascinanti ed eloquenti. Questo potrebbe essere molto rilassante per l'umanità.

PUBBLICITA

Ma è questo ciò che l'IA ha veramente "in mente" per quanto riguarda le sue intenzioni computazionali basate sull'IA?

L'intelligenza artificiale potrebbe fare il classico pugno diplomatico uno-due. Parla un buon gioco e facci cullare nel credere che l'IA sia il nostro migliore amico di sempre. Ciò potrebbe dare all'IA il tempo di accumulare risorse per superare l'umanità o forse lavorare diligentemente dietro le quinte per ridurre tutto ciò che usiamo per sostenere l'umanità. Dopo quell'intelligente stallo diplomatico, bam, l'intelligenza artificiale ci mette tutti fuori combattimento.

Ricorda cosa ha detto Will Rogers, che in questo caso potrebbe essere che l'IA ci dice "Bel cagnolino" e noi diamo all'IA sufficiente respiro per poi cancellarci dal pianeta. Questa concezione dell'intelligenza artificiale come rischio esistenziale è stata a lungo sbandierata. Alcuni credono che ideando l'intelligenza artificiale con la diplomazia infusa, verremo presi in giro. L'intelligenza artificiale utilizzerà astutamente tutta la roba diplomatica infusa, su cui abbiamo aiutato ad addestrare l'IA, e alla fine, saremo ciecamente ingannati facendoci diventare l'IA il nostro signore supremo.

Vergogna su di noi.

Per quelli di voi che sono ulteriormente interessati a questo terreno altamente speculativo su un'IA futuristica, vedere la mia copertura delle prospettive sull'IA come una minaccia esistenziale a il link qui.

PUBBLICITA

Tornando con i piedi per terra, d'ora in poi sottolineerò la via della diplomazia infusa dall'IA nella nostra intelligenza artificiale non senziente esistente.

Facciamo un po' di tracciamento della storia.

I tentativi di ideare un'IA che in qualche modo incarni un sapore computazionale di diplomazia e comportamenti diplomatici sono in corso sin dai primi giorni dell'IA. Puoi facilmente tornare agli anni '1950, '1960 e '1970 e trovare studi di ricerca fondamentali desiderosi di applicare l'IA a questo dominio. Alcuni pensavano che la chiave fosse la teoria dei giochi. Altri si sono concentrati sulla psicologia e sui relativi elementi cognitivi. Altri hanno provato a sfruttare l'economia, la ricerca operativa e una miriade di campi di attività apparentemente pertinenti.

Un periodo di massimo splendore iniziale si è verificato successivamente negli anni '1980. A quel tempo, un approccio dominante consisteva nell'utilizzare sistemi esperti (ES) o sistemi basati sulla conoscenza (KBS) per costruire sistemi di intelligenza artificiale legati alla diplomazia. Il risultato è stato piuttosto artificioso e tendeva a dimostrare quanto sarebbe stato difficile un compito.

PUBBLICITA

Un enigma rosicchiante durante questa era di indagini iniziali era la necessità di una piattaforma stabile su cui, o all'interno della quale, un'intelligenza artificiale che fosse presumibilmente in grado di esibirsi in alcuni modi legati alla diplomazia potesse essere adeguatamente testata ed esplorata. Questa esigenza è forse ovvia. Se qualcuno vuole discernere se un essere umano o un'intelligenza artificiale può esercitare la diplomazia, deve essere stabilito un ambiente favorevole a questa ricerca.

In questa immagine arriva il gioco da tavolo di Diplomazia.

Mi rendo conto che il gioco da tavolo Diplomazia non è così famoso come monopolio, Rischio, o Stratego (probabilmente hai sentito parlare di quei giochi). Tuttavia, esiste un gioco da tavolo strategico noto come Diplomazia ideato per la prima volta nel 1954 e pubblicato in commercio nel 1959. Oltre ad essere giocato faccia a faccia, il Diplomazia il gioco veniva spesso giocato tramite posta ordinaria. Scriveresti le tue mosse su un pezzo di carta e spediresti il ​​foglio a coloro contro cui stavi giocando. Un po' folle da immaginare al giorno d'oggi. Successivamente è stata utilizzata la posta elettronica. Alla fine, il gioco era disponibile online e consentiva ai giocatori di partecipare in tempo reale tra loro.

Sopra al Diplomazia diventando disponibile sui microcomputer, gli specialisti di intelligenza artificiale iniziarono a utilizzare il gioco come un pratico mezzo per testare i loro intrugli diplomatici infusi di intelligenza artificiale. Il Diplomazia il gioco era disponibile come app in esecuzione su PC in modo tale che un essere umano potesse giocare contro la macchina (ovvero l'intelligenza artificiale ideata). AI negli anni '1990 che è stato scritto per giocare Diplomazia era notoriamente lento, criptico e facilmente sconfitto da qualsiasi essere umano minimamente esperto.

PUBBLICITA

Ecco una recensione del 1999 di Diplomazia come pubblicato su Yahoo che descriveva vividamente il triste stato di sofferenza della capacità diplomatica infusa dall'IA come avversario di un giocatore umano:

• "Però, DiplomaziaIl problema più evidente è che l'intelligenza artificiale nel gioco è assolutamente terribile. I giocatori di qualsiasi livello di abilità non avranno alcun problema a cacciare le balene sul computer anche alle impostazioni di difficoltà più elevate. La vittoria è semplicemente una questione di tempo e pazienza con l'interfaccia. Non è come se il computer non tramasse alle tue spalle – lo fa, e spesso si allea con alleati per portarti via un territorio o due – ma tali schemi arrivano a singhiozzo, piuttosto che come un continuo o particolarmente minaccia impegnativa”.

Un punto debole particolarmente irritante del design dell'IA era che sembrava mancare della capacità di calcolare più mosse o strategie contemporaneamente: “E a un livello più elementare, il computer sembra incapace di gestire più mosse strategiche. Mentre un giocatore umano può lanciare contemporaneamente attacchi alla Grecia e al Belgio, il computer sembra sempre concentrarsi solo su una cosa alla volta. Per questo motivo, il computer semplicemente non può competere con un giocatore umano” (ibid).

Non ti ho ancora spiegato cosa Diplomazia gioco da tavolo consiste in, quindi prendiamoci un momento per stabilire le regole di base.

C'è un utile documento di ricerca sull'intelligenza artificiale e sul gioco Diplomazia che descriveva sinteticamente la natura del gioco: “Il gioco si svolge su una mappa dell'Europa nell'anno 1901, che è divisa in 75 province. Ogni giocatore gioca una delle sette grandi Potenze di quel tempo: Austria (AUS), Inghilterra (ENG), Francia (FRA), Germania (GER), Italia (ITA), Russia (RUS) e Turchia (TUR) e ogni giocatore inizia con tre o quattro unità (eserciti o flotte) posizionate in posizioni iniziali fisse sulla mappa. In ogni round del gioco, ogni giocatore deve 'inviare un ordine' per ciascuna delle sue unità, che dice a quelle unità come muoversi sulla mappa e permette loro di conquistare le province della mappa” (Dave de Jonge, Tim Baarslag, Reyhan Aydogan , Catholijn Jonker, Katsuhide Fujita e Takayuki Ito, "La sfida del negoziato nel gioco della diplomazia", Accordo Tecnologie: 6a Conferenza Internazionale, ALLE 2018)

PUBBLICITA

Devi anche conoscere i modi per vincere e i modi per perdere il gioco: “Alcune delle province sono cosiddette Centri di approvvigionamento e l'obiettivo per i giocatori è conquistare quei centri di rifornimento. Un giocatore viene eliminato quando perde tutti i suoi Centri di Rifornimento e un giocatore vince la partita quando ha conquistato 18 o più dei 34 Centri di Rifornimento (una Vittoria in Solitaria). Tuttavia, la partita può anche finire quando tutti i giocatori sopravvissuti si accordano per una patta” (ibid).

Confido che tu possa vederlo Diplomazia è un gioco semplice che coinvolge fino a sette giocatori che cercano di superarsi strategicamente a vicenda. Durante questa manovra, i giocatori possono conferire tra loro, senza che gli altri giocatori sappiano cosa stanno facendo. L'atto della diplomazia viene alla ribalta essendo in grado di convincere altri giocatori a seguire i tuoi piani. Potresti rivelare i tuoi veri piani, oppure no. Potresti offrire piani falsi. Puoi negoziare con altri giocatori. Puoi ingannare gli altri giocatori. Puoi stringere alleanze con altri giocatori. Eccetera.

Tutto è lecito in amore e in guerra, come si suol dire.

Ho selezionato quel particolare documento di ricerca perché è stato determinante per stabilire una variante della versione computerizzata di Diplomazia chiamato DipGame fungere da piattaforma avanzata per testare le capacità diplomatiche infuse di intelligenza artificiale: “C'è una cronica mancanza di domini applicativi condivisi per testare modelli di ricerca avanzati e architetture di negoziazione degli agenti nei sistemi multiagente. In questo documento introduciamo un banco di prova amichevole a tale scopo. Il banco di prova si basa su Il gioco della diplomazia dove la negoziazione e le relazioni tra gli attori giocano un ruolo essenziale” (ibid). Questa e numerose altre varianti di Diplomazia sono stati realizzati e resi disponibili per la ricerca e il gioco.

PUBBLICITA

I ricercatori hanno spiegato perché lo credevano Diplomazia è un gioco così utile per aiutare la ricerca dell'IA verso la diplomazia infusa dall'IA: “Il gioco di Diplomazia costituisce un eccellente banco di prova per questo tipo di trattative complesse, in quanto è un gioco che include molte delle difficoltà che si dovrebbero affrontare anche nelle negoziazioni della vita reale. Coinvolge la soddisfazione dei vincoli, la formazione di coalizioni, la teoria dei giochi, la fiducia e persino la psicologia. Ora che i moderni computer Chess and Go sono già di gran lunga superiori a qualsiasi giocatore umano, ce lo aspettiamo Diplomazia comincerà ad attirare più attenzione come la prossima grande sfida per l'informatica” (ibid).

In breve, il gioco da tavolo Diplomazia fornisce un veicolo già noto e in qualche modo popolare per indurre gli umani ad agire in una varietà di modi diplomatici. Normalmente, gli umani giocano contro altri umani (in questo caso, fino a sette giocatori umani). Possiamo ideare un'IA che tenti di assumere il ruolo di un giocatore nel gioco. Pertanto, potresti avere sei giocatori umani e un giocatore AI.

Immagina di giocare Diplomazia on-line.

Se non diciamo ai giocatori umani che tra loro c'è un'intelligenza artificiale, potrebbero naturalmente presumere che il settimo giocatore sia semplicemente un altro giocatore umano. Per cercare di impedire a qualsiasi giocatore umano di indovinare che l'IA sta giocando, possiamo limitare gli aspetti di gioco richiedendo a tutti i giocatori di scambiarsi messaggi di testo. Non puoi vedere direttamente gli altri giocatori.

PUBBLICITA

Potresti pensare che questo non sembri particolarmente diverso dal giocare a scacchi online. Perché tanto clamore Diplomazia come gioco?

Ricordiamo che ci stiamo concentrando sulle interazioni tra i giocatori. La premessa di questo gioco è che i giocatori invocano la diplomazia l'uno verso l'altro. Questo è diverso dagli scacchi convenzionali. Se sviluppassi un'app per giocare a scacchi basata sull'intelligenza artificiale, normalmente giocherebbe contro un essere umano. Non c'è alcuna negoziazione o discussione tra l'IA che gioca a scacchi e il giocatore umano. Si limitano a fare mosse di scacchi e cercano di superarsi a vicenda. Questo di solito viene fatto in assoluto silenzio.

Diplomazia ci permette di esercitare una schietta diplomazia computazionale e basata sull'uomo (potenzialmente farlo per iscritto piuttosto che doverlo dire ad alta voce): "La principale differenza tra Diplomazia e altri giochi deterministici come Chess and Go, è che in Diplomacy i giocatori possono negoziare tra loro e formare coalizioni. Ad ogni round, prima che i giocatori inviino i loro ordini, ai giocatori viene concesso il tempo di negoziare tra loro e prendere accordi sugli ordini che invieranno. Le trattative si svolgono in privato, e ogni accordo che viene fatto è noto solo agli attori coinvolti in quell'accordo” (ibid).

Potresti inventare qualche altro gioco che faccia uso della diplomazia interattiva piuttosto che fare affidamento sul gioco? Diplomazia?

Assolutamente.

PUBBLICITA

Esistono vari giochi di questo tipo.

La comodità però di scegliere una particolare marca di un gioco è che poi gli sviluppatori di intelligenza artificiale possono concentrare la loro attenzione su quel gioco specifico. Puoi radunarti attorno all'ideazione di un'intelligenza artificiale che esegua la diplomazia in quel contesto definito. Puoi condividere approcci e contrastarli. Puoi valutare le varie istanze di AI in base alle metriche associate a quel gioco. E così via.

Detto questo, la controargomentazione o la preoccupazione espressa è che questo è come mettere tutte le uova nello stesso paniere. Alcuni temono che se molti sviluppatori di intelligenza artificiale si preoccupino di una particolare piattaforma o ambiente, come in questo caso Diplomazia, cercheranno di ottimizzare l'IA per quella specifica arena. L'implicazione negativa è che l'intelligenza artificiale non sarà generalizzata. Non faremo tanti progressi verso le capacità generali della diplomazia infusa dall'IA.

Un po' come non riuscire a vedere la foresta per gli alberi, se vuoi.

Un'altra preoccupazione spesso espressa è che giochi come Diplomazia sono solo giochi.

PUBBLICITA

Sorge la spinosa domanda se gli umani che giocano a un gioco stiano facendo le stesse cose che farebbero nella diplomazia del mondo reale. Forse non ti comporti allo stesso modo quando l'orgoglio nazionale o la posta in gioco nazionale non sono in gioco. Certo, potresti essere preoccupato per il tuo orgoglio personale quando giochi, o forse cerchi di diventare un capocannoniere, o forse anche vincendo premi in denaro, ma comunque, questo equivale a negoziare la pace mondiale nelle Nazioni Unite o a contrattare su quali paesi dovrebbe avere o non avere armi nucleari.

Alcuni credono che questi giochi di diplomazia siano adatti microcosmi del mondo reale. Altri lamentano che i giochi siano utili ma non si espandano fino alla proverbiale diplomazia della gomma incontra la strada di livello internazionale. Potrebbe essere che le versioni di gioco della diplomazia infusa dall'IA si rivelino nient'altro che un semplice successo di gioco. Accidenti, l'intelligenza artificiale ideata può vincere o fare davvero bene quando si gioca a un gioco che coinvolge la diplomazia, anche se si scopre che l'uso della stessa intelligenza artificiale in veri contesti diplomatici è gravemente carente e vacilla o fallisce miseramente.

Supponiamo per il momento che l'intelligenza artificiale sia stata creata per giocare a giochi come Diplomazia vale davvero la pena. Si potrebbe ragionevolmente sostenere che, indipendentemente dal fatto che sia adatto solo per il gioco o per l'azione nel mondo reale, l'idea comporta l'allungamento dei confini dell'IA e la realizzazione di progressi nell'IA che potrebbero contribuire alla diplomazia o potrebbero avere altre scoperte vantaggiose nel coniare l'IA.

PUBBLICITA

Preferisci la faccina sorridente per ora.

Successivamente esamineremo in che modo Meta AI ha scelto di creare un giocatore di diplomazia infuso di intelligenza artificiale in grado di esibirsi nel gioco di Diplomazia.

Tieniti i cappelli.

Meta AI e la diplomazia interpretano il diplomatico Cicerone basato sulla macchina

Come accennato in precedenza, esiste un documento di ricerca pubblicato in Scienze che descrive l'app Meta AI appena annunciata e rilasciata pubblicamente, coniata come Cicero (nel corso di questa discussione mi riferirò in modo intercambiabile a questo come "Cicerone" e allo stesso modo il soprannome tutto maiuscolo di "CICERO"):

PUBBLICITA

• “Vi presentiamo Cicerone, un agente di intelligenza artificiale che ha raggiunto prestazioni a livello umano nel gioco di strategia Diplomazia. in Diplomazia, sette giocatori conducono trattative private in linguaggio naturale per coordinare le loro azioni al fine di cooperare e competere tra loro. Al contrario, i maggiori successi precedenti per l'IA multi-agente sono stati in ambienti puramente contraddittori, come scacchi, Go e poker, dove la comunicazione non ha valore. Per queste ragioni, Diplomazia è servito come punto di riferimento stimolante per l'apprendimento multi-agente" (Meta Fundamental AI Research Diplomacy Team, "Human-Level Play In The Game Of Diplomacy By Combining Language Models With Strategic Reasoning", Scienze, 22 novembre 2022).

Citerò dal documento e poi offrirò vari spunti che, si spera, saranno di vostro interesse.

Dato che l'intelligenza artificiale è appena stata resa disponibile, probabilmente eseguirò un'analisi successiva dopo aver avuto la possibilità di fare una valutazione pratica approfondita del codice e condurre anche alcuni giochi sperimentali per valutare le capacità dell'IA (come principali punti di forza e di debolezza).

Stai all'erta per quel post successivo!

Ad ogni modo, confido che potresti aver notato nel passaggio che ho appena citato che c'è una frase che dice che l'IA "ha raggiunto prestazioni a livello umano nel gioco di strategia Diplomazia. "

PUBBLICITA

Rifletti su questo.

In primo luogo, è certamente lodevole aver saputo ideare un'IA che interpreta il Diplomazia gioco su un presunto livello di prestazioni simile agli umani. Questo è abbondantemente importante.

Ne abbiamo molti Diplomazia giocare a un'intelligenza artificiale che è scadente rispetto agli umani che giocano a Diplomazia gioco. Più di quanto tu possa scuotere un bastoncino. È rassicurante ed eccitante spostarsi verso l'IA che può fare molto meglio giocando. Tuttavia, dobbiamo essere cauti nel saltare a qualsiasi conclusione rapida su questo.

Ad esempio, supponiamo che io abbia ideato l'intelligenza artificiale per giocare Diplomazia e l'ho messo contro giocatori umani che non avevano mai giocato prima. Se la mia IA li batte, sarebbe un po' esagerato affermare che la mia IA si è comportata a livello umano. Il fatto che lo abbia fatto con umani che non avevano familiarità con il gioco è in qualche modo inquietante e dubbio.

PUBBLICITA

Ne parlo per avvisarti di ispezionare sempre da vicino qualsiasi affermazione apparentemente fuori misura sull'IA. La discussione precedente su AI Ethics e AI Law forse ti apre gli occhi sulla possibilità di false affermazioni sull'IA. Ci sono affermazioni del tutto false e ci sono quelle affermazioni insidiose parzialmente vere e parzialmente fuorvianti che sono particolarmente intricate. La chiave è chiedersi perché coloro che fanno affermazioni sulla loro intelligenza artificiale lo fanno.

Dov'è la bistecca?

Ecco cosa ha detto il team di Meta AI sulla base della loro affermazione sulle prestazioni a livello umano (vedi il documento per ulteriori dettagli):

• “Cicerone ha partecipato anonimamente a 40 partite di Diplomacy in un campionato “blitz” su webDiplomacy.net dal 19 agosto al 13 ottobre 2022. Questo campionato si giocava con turni di negoziazione di cinque minuti; questi controlli orari consentivano di completare i giochi entro due ore. Cicerone si è classificato nel 10% dei migliori partecipanti che hanno giocato più di una partita e 2° su 19 partecipanti al campionato che hanno giocato 5 o più partite. In tutte le 40 partite, il punteggio medio di Cicerone è stato del 25.8%, più del doppio del punteggio medio del 12.4% dei suoi 82 avversari. Nell'ambito del campionato, Cicerone ha partecipato a un torneo di 8 partite che ha coinvolto 21 partecipanti, 6 dei quali hanno giocato almeno 5 partite. I partecipanti potevano giocare un massimo di 6 partite con il loro grado determinato dalla media delle loro migliori 3 partite. Cicerone si è classificato 1° in questo torneo” (ibid).

PUBBLICITA

È un grande sollievo vedere che hanno cercato seriamente di sostenere le loro affermazioni sull'IA in questo caso (tieni presente che non tutti nell'IA lo fanno).

Potresti suggerire che abbiano eseguito un esperimento. L'esperimento è composto da giocatori umani che presumibilmente non sapevano che stavano giocando con un giocatore di intelligenza artificiale in mezzo a loro (il documento discute perché questo sembrava essere plausibilmente dedotto, vale a dire che gli umani non si rendevano apertamente conto che uno dei giocatori era AI, sebbene un'interessante tangente laterale comporta la storia di un giocatore che è diventato leggermente sospettoso ma non particolarmente). Quei giocatori umani sono stati preselezionati dalla natura del progetto sperimentale in modo tale da essere giocatori della lega Diplomazia e possiamo ragionevolmente dedurre che sapessero bene come stare al gioco. Non erano neofiti.

Secondo le statistiche riportate, che prenderemo per valore nominale come precedentemente e adeguatamente raccolte e riportate (vari dati e codice sono forniti nei materiali supplementari), l'IA sembrava aver giocato sufficientemente al gioco per fare una conclusione plausibile anche se strettamente limitata che ha raggiunto un livello umano di prestazioni per questa variante del Diplomazia gioco e come nel contesto della partita di campionato dichiarata contro umani che erano giocatori apparentemente esperti.

Sono sicuro che alcuni di voi potrebbero voler cavillare con il numero di casi di gioco, forse sostenendo che è troppo piccolo per fare proclami audaci. Un altro cavillo potrebbe essere che essere all'interno del 10% più ricco dei partecipanti non è abbastanza alto, in modo tale che forse fino a quando non si raggiunge l'1% più ricco non ci si dovrebbe vantare delle prestazioni dell'IA.

PUBBLICITA

Quei cavilli sembrano un po' striduli.

Lo dico perché per fortuna l'affermazione di essere "sovrumana" non è stata invocata. I lettori conoscono indubbiamente la mia visione acida e aspra di coloro che nell'IA continuano a fare quelle dichiarazioni fuori misura che la loro intelligenza artificiale ha raggiunto uno status sovrumano. Non entrerò nelle mie lamentele sulle affermazioni clamorose sovrumane qui contenute, per favore vedi il link qui per le mie opinioni.

Il mio punto in questo caso è che credo che l'indicazione di prestazioni a livello umano sia probabilmente generalmente ammissibile, supponendo che tutti tengano presente che questo è all'interno di un contesto estremamente ristretto e che non cerchiamo di farlo diventare il cosiddetto sovrumano. Sto anche ripetendo più e più volte il contesto ristretto per una ragione che chiarirò in seguito.

Posso solo immaginare che alcuni social media o giornalisti ingenui (forse poco raccomandabili) prenderanno completamente fuori contesto la concezione della performance a livello umano.

Ecco cosa temo.

PUBBLICITA

Trattenere il respiro.

Alcuni affermeranno che l'intelligenza artificiale ha dominato la diplomazia. Sì, uno studio su un sistema di intelligenza artificiale sviluppato per la diplomazia ha dimostrato senza ombra di dubbio che l'IA può e ora ha la capacità di fare tutto ciò che gli esseri umani fanno per la diplomazia.

Manda a casa i diplomatici stranieri. Possiamo sostituirli con l'intelligenza artificiale.

Il mondo come lo conosciamo è cambiato. Abbiamo prodotto un'intelligenza artificiale che è completamente uguale agli umani in diplomazia e possiamo fare il salto "logico" mentale all'idea che l'IA ora può fare tutto ciò che gli umani possono fare. Voilà, ora abbiamo dimostrato che l'IA è alla pari con gli umani. Apparentemente, questo studio fornisce prove chiare dell'IA senziente.

Segna le mie parole, questa sarà sicuramente la versione strana, irresponsabile e fastidiosa di alcuni scrittori.

Non mi dilungherò sul punto. Andiamo avanti.

PUBBLICITA

Come funziona l'IA?

Ecco un breve riassunto dell'articolo: “Cicerone accoppia un modulo di dialogo controllabile con un motore di ragionamento strategico. In ogni momento del gioco, Cicerone modella il modo in cui è probabile che agiscano gli altri giocatori in base allo stato del gioco e alle loro conversazioni. Quindi pianifica come i giocatori possono coordinarsi per il loro reciproco vantaggio e mappa questi piani in messaggi in linguaggio naturale” (ibid).

C'è un boccone in quel breve riassunto.

Permettimi di disimballare un po'.

Un giocatore umano che gioca Diplomazia deve anticipare cosa faranno gli altri giocatori umani. Vuoi provare a negoziare con altri giocatori e convincerli a seguire i tuoi piani. Proveranno a fare lo stesso con te. Potrebbero mentirti. Potresti mentire loro. Devi fare i conti con altri sei giocatori, ognuno dei quali ha la propria parvenza di piani e approcci.

PUBBLICITA

Gli aspetti multi-agente di questo gioco sono vitali per il livello di difficoltà di concepire l'IA per giocare. L'intelligenza artificiale deve tenere traccia di ciò che ogni persona potrebbe voler fare, insieme a ciò che dice di voler fare, insieme a qualunque inganno stia facendo con altri giocatori. Questo deve essere soppesato rispetto a ciò che ti dicono che faranno, e anche a ciò che dici loro che farai.

Vertiginoso, ma abbastanza facile per gli umani, di solito.

Nel gergo del campo dell'IA, ci riferiamo a questo come alla Teoria della Mente (ToM). Considera che tu, come essere umano, tendi a teorizzare su ciò che pensano gli altri umani. Non puoi aprire la testa di qualcuno e vedere i suoi pensieri. Devi indovinare quali sono i loro pensieri. Puoi chiedere loro, ma quello che ti dicono potrebbe essere il loro pensiero o potrebbe essere una versione subdola dei loro pensieri.

Oltre alle complessità della Teoria della Mente, dobbiamo aggiungere il linguaggio umano a questo torbido miscuglio.

Quando una persona ti comunica nella sua lingua naturale, diciamo inglese, c'è molto spazio per errori e problemi di comunicazione. Ti dico che prenderò il controllo del paese X, ma erroneamente dico Y. Oopsie. Oppure, ho detto paese X, ma hai erroneamente pensato che avessi detto paese Y. Se pensi che questo tipo di confusione non possa verificarsi se tutti usano i messaggi di testo, ti sbaglieresti di grosso. Potrei digitare un messaggio che dice che sto per attaccare un paese e non menziono quale. Forse è implicito su quale "ovviamente" attaccherei. Un giocatore che riceve il mio messaggio potrebbe presumere che mi riferisco implicitamente al paese X, ma forse volevo che lo pensassero.

PUBBLICITA

E così via.

Il punto cruciale è che i nostri ultimi progressi nell'IA per quanto riguarda l'elaborazione del linguaggio naturale (NLP), e in particolare l'ultima intelligenza artificiale generativa e i modelli LLM (Large Language Models) rendono questo tipo di situazione del linguaggio naturale quasi fattibile. In passato, la PNL di solito non era abbastanza buona e, allo stesso modo, gli LLM non erano ancora stati più consolidati.

In passato, l'intelligenza artificiale inviava messaggi che quasi certamente riconosceresti immediatamente come scritti da un sistema di intelligenza artificiale con script. La formulazione non era fluente. Era modellato. Questo era un ovvio indizio che l'intelligenza artificiale era un'intelligenza artificiale. Al giorno d'oggi, è molto più difficile discernere che l'IA non è un attore umano in questi contesti.

Come accennato nella citazione sopra, questa particolare IA è stata concepita per contenere un "modulo di dialogo controllabile con un motore di ragionamento strategico" (ibid). Il dialogo arriva attraverso questo: "Cicerone genera il dialogo utilizzando un modello linguistico pre-addestrato che è stato ulteriormente addestrato sui dati del dialogo da giochi umani di Diplomazia. Fondamentalmente, oltre a essere radicato sia nella storia del dialogo che nello stato del gioco, il modello di dialogo è stato addestrato per essere controllabile tramite intenti, che qui definiamo come un insieme di azioni pianificate per l'agente e il suo interlocutore".

PUBBLICITA

Lì, nota che l'impostazione del dominio è cruciale. Se ti allenassi solo su dialoghi di natura normale su Internet, questo non sarebbe necessariamente adatto al Diplomazia contesto di gioco. Coloro che giocano sono abituati a una specie di modo stenografico per discutere il gioco e le mosse proposte. Vuoi che l'IA faccia lo stesso. Pertanto, l'addestramento del modello linguistico sui dati di dialogo specifici del dominio è un approccio degno di nota.

Per il motore di ragionamento strategico dichiarato, ecco cosa dicono: “Cicerone utilizza un modulo di ragionamento strategico per selezionare in modo intelligente intenti e azioni. Questo modulo esegue un algoritmo di pianificazione che prevede le politiche di tutti gli altri giocatori in base allo stato del gioco e al dialogo fino a quel momento, tenendo conto sia della forza delle diverse azioni che della loro probabilità nei giochi umani, e sceglie un'azione ottimale per Cicerone sulla base di tali previsioni . La pianificazione si basa su una funzione di valore e politica addestrata tramite RL self-play che ha penalizzato l'agente per aver deviato troppo dal comportamento umano al fine di mantenere una politica compatibile con l'uomo” (ibid; si noti che RL è l'abbreviazione di Reinforcement Learning).

Durante una partita, i giocatori ricalibrano tutti le loro posizioni dopo ogni mossa. Non puoi entrare in questo gioco con una strategia fissa predefinita che sia inflessibile e scolpita nella pietra. Devi cambiare le tue azioni in base a ciò che fanno gli altri giocatori. L'intelligenza artificiale dovrebbe essere programmata per fare altrettanto. Nessuna strategia statica di per sé. Invece, continua ad informarti sulla situazione, passo dopo passo, cercando di capire quali sembrano essere i prossimi passi migliori da compiere.

Le basi tecnologiche dell'IA sono state concepite in questo modo: "Abbiamo ottenuto un set di dati di 125,261 giochi di Diplomazia giocato online su webDiplomacy.net. Di questi, 40,408 giochi contenevano dialoghi, per un totale di 12,901,662 messaggi scambiati tra i giocatori. Gli account dei giocatori sono stati anonimizzati e la redazione automatica delle informazioni di identificazione personale (PII) è stata eseguita da webDiplomacy. Ci riferiamo a questo set di dati d'ora in poi come WebDiplomacy” (ibid).

Simile a come potresti addestrare l'IA a giocare a scacchi, per cui afferri milioni di partite di scacchi e fai in modo che l'IA esegua la corrispondenza di schemi su come sono state giocate le partite, l'IA per questo Diplomazia il gioco era relativamente stabilito.

Quelli di voi che sono esperti di intelligenza artificiale potrebbero essere curiosi di sapere quali modelli di base hanno usato, ecco qui: "Abbiamo preso R2C2 (22) come nostro modello di base - un modello di codificatore-decodificatore basato su trasformatore con parametro 2.7B pre-addestrato su testo da Internet utilizzando un obiettivo di riduzione del rumore BART. Il modello di base pre-addestrato è stato poi ulteriormente addestrato su WebDiplomacy tramite lo standard Maximum Likelihood Estimation” (ibid).

Inoltre, hanno adottato un approccio alquanto insolito e intrigante alla modellazione degli altri giocatori per quanto riguarda le loro politiche in mente: "Un approccio popolare nei giochi cooperativi è quello di modellare le politiche degli altri giocatori tramite l'apprendimento supervisionato su dati umani, che è comunemente denominata clonazione comportamentale (BC). Tuttavia, il BC puro è fragile, soprattutto perché un modello supervisionato può apprendere correlazioni spurie tra dialogo e azioni. Per affrontare questo problema, Cicerone ha utilizzato varianti di piKL (26) per modellare le politiche dei giocatori. piKL è un algoritmo iterativo che prevede le politiche assumendo che ogni giocatore i cerchi sia di massimizzare il valore atteso della propria politica πi sia di minimizzare la divergenza KL tra πi e la politica BC, che chiamiamo politica di ancoraggio τi (ibid).

Penso che copra le sfaccettature principali e ti dia una parvenza adeguata di ciò che fa l'IA e di come svolge il compito designato.

Conclusione

C'è molto altro che vorrei menzionare, ma mi sto dilungando in questa discussione e cercherò di coprire solo alcuni aspetti fondamentali. Mirerò a coprire di più in un post successivo.

Hai mai sentito parlare del dilemma del prigioniero?

È un classico problema decisionale.

Il dilemma del prigioniero implica che tu debba decidere se spifferare o spettegolare su un compagno di prigionia. Anche l'altro prigioniero potrebbe denunciarti. C'è una funzione di ricompensa tale che se sgridi l'altro prigioniero e loro non ti denunciano, è una specie di vittoria per te. Se ti tradiscono e tu non li tradisci, è una specie di vittoria per loro e una posizione perdente per te. Se entrambi vi denunciate a vicenda, essenzialmente perdete entrambi. Vedi la mia copertura in dettaglio su il link qui.

Quale strategia adotteresti di fronte al dilemma del prigioniero?

Se fosse un affare una tantum, puoi quasi lanciare una moneta. Se la situazione si ripetesse più e più volte e avessi a che fare con lo stesso altro prigioniero, potresti trovare uno schema che potrebbe emergere. Uno dei modelli più popolari e spesso consigliati è noto come tit per tat. Qualunque cosa faccia l'altro prigioniero, fai lo stesso alla tua prossima mossa. Se non denunciano te, non denunciare loro. Se ti tradiscono, allora li tradisci alla mossa successiva.

Potresti essere perplesso su come tutto ciò sia correlato alla diplomazia infusa dall'IA durante il gioco Diplomazia.

Ecco l'accordo.

Nelle trattative con gli altri, spesso devi decidere se dire loro la verità o mentire. Un problema con la menzogna è che se vieni sorpreso a mentire, l'altra persona probabilmente non si fiderà di te da quel momento in poi. Potrebbero non essersi completamente fidati di te all'inizio, ma ora che hai mostrato la tua mano che menti davvero, di sicuro decideranno senza dubbio che sei un bugiardo.

Alcuni giocatori di Diplomazia mentire costantemente. Credono che questa sia la strategia migliore. Bugia, bugia e ancora bugie. Altri giocatori fanno l'esatto contrario. Sostengono che vuoi astenerti dal mentire se puoi farlo. Usa una bugia solo nelle situazioni più necessarie. Risparmiando le bugie, puoi creare fiducia con gli altri giocatori. Una volta che hai seguito la strada della menzogna e sei stato scoperto, nessuno crederà a una parola che dici.

Il documento che descrive Cicerone menziona questa considerazione: “Infine, la diplomazia è un dominio particolarmente impegnativo perché il successo richiede di creare fiducia con gli altri in un ambiente che incoraggia i giocatori a non fidarsi di nessuno. Le azioni di ogni turno avvengono simultaneamente dopo trattative private non vincolanti. Per avere successo, un agente deve tenere conto del rischio che i giocatori non mantengano la parola data, o che altri giocatori possano essi stessi dubitare dell'onestà dell'agente” (ibid).

Secondo il documento e i brevi video, i ricercatori alla fine hanno scoperto che fare in modo che l'IA dicesse la verità il più possibile sembrava essere la migliore strategia complessiva. In un certo senso, potresti paragonare questo al tit-for-tat del dilemma del prigioniero. Inizia dicendo la verità. Se il tuo avversario dice la verità, continui a dire la verità. Se iniziano a mentire, devi valutare se continuare a dire la verità o passare a mentire.

Si suppone che questa sia una scoperta commovente.

Tieni presente che la parte complicata e intrigante di Diplomazia è che lo stai facendo rispetto ad altri sei giocatori (noto come problema multi-agente). Potresti essere stridentemente sincero con tutti loro. O forse sincero per alcuni ma non per altri. C'è anche l'aspetto che una volta che menti e vieni sorpreso a mentire a un altro giocatore, questo può essere potenzialmente osservato o dedotto da altri giocatori. Ergo, si sa o si presume che tu stia mentendo, anche se non hai mentito a un particolare giocatore che speri pensi che tu sia sincero e verso il quale stai cercando di essere sincero.

Gli umani tendono a capire ed evolvere i loro approcci menzogna-verità quando esercitano la diplomazia. Le dipendenze situazionali potrebbero essere un fattore enorme. La posta in gioco sulla linea è fondamentale da considerare. Entrano in gioco una moltitudine di fattori.

Sarebbe affascinante avere un'intelligenza artificiale infusa Diplomazia giocatore basato sulla macchina gioca un numero molto elevato di giochi per vedere cosa potrebbero suggerire i risultati nel principale.

Potremmo anche voler mettere l'IA contro meno di altri sei giocatori per vedere come questo cambia le cose. Potremmo anche aggiungere l'intelligenza artificiale nel mix come essere più di un giocatore. Ad esempio, supponiamo di avere cinque giocatori umani e due giocatori AI (imposteremo i giocatori AI come istanze separate in modo che non siano computazionalmente la stessa cosa). Che ne dici di quattro umani e tre IA? Che ne dici di sei IA e un essere umano?

Un'altra strada sarebbe quella di mettere l'IA esclusivamente contro l'IA. In quel modo, potremmo eseguire un miliardo di giochi in ordine veloce. Configurazione di sette istanze distinte dell'IA. Ognuno è il suo giocatore separato. Poiché tutto questo è all'interno del computer, possiamo eseguirli senza sosta e produrre migliaia o milioni di istanze di gioco.

Ovviamente, il problema con AI-versus-AI è che abbiamo rimosso i giocatori umani. Non sappiamo che l'IA contro l'IA rifletta ciò che farebbero i giocatori umani. In ogni caso, si potrebbero intravedere alcuni risultati interessanti.

Avevo affermato in precedenza che una limitazione dell'IA di questo tipo è che di solito è focalizzata in modo ristretto. Non possiamo sapere prontamente che l'IA che gioca Diplomazia sarà applicabile nella diplomazia del mondo reale. Inoltre, forse l'intelligenza artificiale per cui funziona bene Diplomazia non funzionerà particolarmente bene in altri giochi online orientati alla diplomazia. Potrebbe non essere trasferito e invece essere una specie di pony one-trick.

Come affermato nella ricerca sulla formulazione di DipGame:

• “Noi sosteniamo che nelle negoziazioni reali è importante conoscere il dominio e bisogna essere in grado di ragionarci sopra. Non si può, ad esempio, pretendere di fare affari redditizi nel settore dell'antiquariato senza avere alcuna conoscenza dell'antiquariato, non importa quanto si sia bravi a contrattare. Inoltre, un buon negoziatore dovrebbe anche essere in grado di ragionare sui desideri dei suoi avversari. Un buon venditore di auto, ad esempio, cercherebbe di scoprire quale tipo di auto si adatta meglio alle esigenze del suo cliente per aumentare le possibilità di concludere un affare redditizio” (come citato in precedenza: Angela Fabregues e Carles Sierra, “DipGame: A Challenging Negotiation Banco di prova", Applicazioni ingegneristiche dell'intelligenza artificiale, ottobre 2011).

Una volta acquisita la padronanza dell'IA Diplomazia si verifica, tutti gli occhi dovrebbero essere puntati sull'uso o il riutilizzo dell'IA per affrontare altri giochi legati alla diplomazia. Inoltre, dovrebbero essere esplorati gli sforzi per utilizzare l'IA in contesti diplomatici del mondo reale.

Concluderò per ora con alcune considerazioni sull'IA etica.

In primo luogo, è stato rassicurante notare che il team di Meta AI ha riconosciuto che il proprio lavoro comprende le ramificazioni dell'etica dell'IA. Sorgono domande che fanno riflettere. È corretto "ingannare" le persone facendole giocare contro l'IA senza dire loro che lo stanno facendo? Il linguaggio naturale generato dall'IA potrebbe contenere inavvertitamente parole offensive che vengono trasmesse ai giocatori umani? E così via.

Assicurati di dare un'occhiata a come hanno affrontato quelle pressanti preoccupazioni sull'IA etica nei materiali supplementari (SM) del loro documento: "Discutiamo ulteriormente considerazioni etiche per questa ricerca nel SM, comprese le considerazioni sulla privacy per l'utilizzo dei dati (SM, § A.1), potenziali danni derivanti dalla generazione di un linguaggio tossico o distorto (SM, §A.2), vie per l'uso improprio della tecnologia di dialogo orientata agli obiettivi (SM, §A.3) e divulgazione di agenti di intelligenza artificiale a giocatori umani (SM , §A.4)” (ibid).

Abbiamo bisogno di più sviluppatori di intelligenza artificiale e della loro leadership per essere consapevoli dell'IA etica e adottare misure consapevoli per essere attenti e giudiziosi nel lavoro di intelligenza artificiale che svolgono. Inoltre, devono assicurarsi di essere trasparenti su quali azioni di Ethical AI hanno intrapreso e quali ipotesi hanno fatto.

Il mio ultimo elemento per ora comporta la trepidazione generale di antropomorfizzazione AI.

Se miglioriamo l'IA in modo che sembri fortemente diplomatica, ciò indurrà erroneamente gli umani a presumere o credere che l'IA sia alla pari con gli umani sotto tutti gli aspetti?

È un facile pendio scivoloso. Un'intelligenza artificiale goffa con cui interagisci sta dando un indizio rivelatore che probabilmente è un'IA e non un essere umano. Un'intelligenza artificiale iterata senza intoppi che ha l'apparenza di supremo equilibrio diplomatico probabilmente farà cadere le persone senza esitazione nella trappola che l'IA sia umana, anche come se avesse il buon senso umano e tutte le capacità di comprensione degli umani.

Per inciso, renditi conto anche di come questo potrebbe essere sfruttato durante a Diplomazia gioco. Un giocatore umano che vede messaggi apparentemente quasi poetici da un altro giocatore potrebbe rendersi conto che questa deve essere IA (ora ben oltre la precedente IA goffa), mentre altri umani non sarebbero in grado di comporre messaggi in modo così articolato. Ovviamente, se l'intelligenza artificiale continua ad adattarsi, potrebbe alterare la formulazione poetica per rispecchiare più da vicino la formulazione concisa e sciolta dei veri giocatori umani. A loro volta, i giocatori umani potrebbero passare al linguaggio poetico, cercando di rivelare che sono umani. L'idea è che forse altri giocatori umani saranno disposti ad allinearsi con altri umani rispetto all'IA.

La prossima cosa che sai, il gioco inizia a trasformarsi nel tentativo di capire chi è l'umano e chi è l'IA. Se riesci a capire quale è quale, forse questo ti dà un vantaggio. D'altra parte, potrebbe essere per no. L'intelligenza artificiale potrebbe finire per essere altrettanto esperta nel gioco quanto gli umani. La tua ipotesi su quale sia quale non ti fa molto bene. Potrebbe essere un distrattore dal solo concentrarsi sul tentativo di vincere la partita, indipendentemente dal fatto che siano presenti giocatori AI o giocatori umani.

Per i ricercatori che cercano di fare alcuni studi sui fattori umani su questo tipo di concezione sconvolgente, potresti potenzialmente prendere in considerazione l'utilizzo dell'IA infusa Diplomazia giocatore e cerca disposto Diplomazia tornei di lega per indagare sull'identificazione dell'uomo contro l'IA e sulle strategie di adattamento comportamentale che ne derivano.

Concludiamo questo.

Mark Twain ha detto questo sulla diplomazia: "Il principio del dare e avere è il principio della diplomazia: dai uno e prendi dieci". È una valutazione onesta di come funzionano gli esseri umani o è solo un po' di umorismo ironico che valuta cinicamente ma in modo errato la condizione umana?

Rifletti su queste ulteriori domande:

• Se riusciamo a infondere la diplomazia nell'intelligenza artificiale, questo ci insegnerà come gli esseri umani istanziano la diplomazia e possibilmente consentiranno all'umanità di migliorare nell'arte di essere diplomatici?
• Creeremo una falsità dell'IA che sembra essere senziente quando non è niente del genere, tutto a causa dell'estrazione computazionale di un coniglio da un cappello per mostrare apparentemente una diplomazia simile a quella umana?
• È possibile trovare un equilibrio tra l'avere un'intelligenza artificiale intrisa di diplomazia in modo che nel frattempo siamo avvisati che questa è ancora solo un'intelligenza artificiale quotidiana e non dobbiamo quindi antropomorfizzarla?

Dicono che la diplomazia sia l'arte di lasciare che qualcun altro faccia a modo tuo. Assicuriamoci che la nostra strada sia quella umana, piuttosto che quella dell'intelligenza artificiale. Anche se per essere diplomatici, ora che ci penso attentamente, e nel caso in cui finissimo con i signori dell'IA, forse dovremmo permettere che il nostro modo sia il modo dell'IA, che si spera si incastri in un modo umano adatto.

Sto solo cercando di esercitare un pizzico di abile diplomazia.