La scossa dell'intelligenza artificiale in quanto il famoso guru dell'IA propone "computer mortali" strabilianti che ottengono anche l'etica dell'IA e la legge sull'IA scavate

Ecco qualcosa su cui probabilmente non avevi ancora riflettuto: Computer mortali.

Ma forse dovresti esserlo.

L'argomento inebriante è emerso alla recente e complessivamente piuttosto importante conferenza annuale sull'intelligenza artificiale, incentrata in particolare sull'avvento delle reti neurali e dell'apprendimento automatico, vale a dire la Conferenza sui sistemi di elaborazione delle informazioni neurali (nota dagli addetti ai lavori come NeuIPS). L'oratore principale invitato e un considerato guru dell'IA di lunga data Geoffrey Hinton ha fatto l'intrigante e forse controversa tesi secondo cui dovremmo pensare ai computer in un contesto mortale e immortale.

Affronterò l'importante affermazione e lo farò in due modi che all'inizio non sembreranno necessariamente collegati, anche se dopo un po' di ulteriore delucidazione diventeranno più chiaramente correlati l'uno all'altro per quanto riguarda le contese mortali contro immortali.

I due argomenti sono:

1) Legare integralmente sia l'hardware che il software per la meccanizzazione dell'IA piuttosto che averli come alleati distinti e separati

2) Trasferimento o distillazione di formulazioni di apprendimento automatico da un modello di intelligenza artificiale a un altro che lo fa senza richiedere né desiderare necessariamente (o anche altrimenti fattibilmente possibile) una copia pura e semplice

Tutto ciò ha considerazioni importanti per l'IA e la direzione futura dello sviluppo dell'IA.

Inoltre, sorgono anche una serie di spinose preoccupazioni sull'etica dell'IA e sulla legge sull'IA. Questi tipi di progressi tecnologici immaginati dall'intelligenza artificiale sono generalmente diffusi su una base puramente tecnologica molto prima che ci si renda conto che potrebbe anche avere ripercussioni degne di nota sull'intelligenza artificiale e sulla legge sull'intelligenza artificiale. In un certo senso, di solito, il gatto è già fuori dal sacco, o il cavallo è fuori dalla stalla, prima del risveglio che l'etica dell'IA e la legge sull'IA dovrebbero ricevere la dovuta partecipazione alla dovuta diligenza.

Bene, rompiamo quel ciclo di ripensamenti tardivi e entriamo al piano terra su questo.

Per quelli di voi interessati in generale alle ultime intuizioni alla base dell'etica dell'IA e della legge sull'IA, potreste trovare informativo e coinvolgente la mia copertura continua ed estesa su il link qui ed il link qui, solo per citarne alcuni.

In primo luogo tratterò il punto precedente sull'unione di hardware e software. Una discussione e un'analisi dell'argomento avverranno di pari passo. Successivamente, toccherò la questione della copia o qualcuno dice distillazione gli elementi cruciali di un sistema di intelligenza artificiale con apprendimento automatico da un'IA a un'IA di nuova concezione come obiettivo.

Iniziamo.

Associazione di hardware e software per l'intelligenza artificiale

Probabilmente sai che in generale il design dei computer è tale che c'è il lato hardware delle cose e separatamente c'è il lato software delle cose. Quando acquisti un laptop o un computer desktop di tutti i giorni, viene interpretato come un dispositivo informatico generico. Ci sono microprocessori all'interno del computer che vengono utilizzati per eseguire ed eseguire software che potresti acquistare o scrivere da solo.

Senza alcun software per il tuo computer, è un pezzo di metallo e plastica che in pratica non ti farà molto bene, a parte fungere da fermacarte. Alcuni direbbero che il software è re e governa il mondo. Naturalmente, se non si dispone di hardware su cui eseguire il software, il software non farà molto bene. Puoi scrivere tutte le righe di codice che il tuo cuore desidera, ma fino a quando il software non viene utilizzato tramite un computer, il codice sorgente formulato è fragile e incapace di volare come una bella opera di poesia o un romanzo poliziesco da brivido.

Consentitemi di passare momentaneamente a un'altra strada che potrebbe sembrare lontana (non lo sarà).

Spesso cerchiamo di tracciare analogie tra come funzionano i computer e come funziona il cervello umano. Questo tentativo di fare parallelismi concettuali è utile. Detto questo, devi essere cauto nell'esagerare con quelle analogie poiché i confronti tendono a fallire quando ti avvicini ai dettagli carnosi.

Ad ogni modo, per amor di discussione, ecco un'analogia usata spesso.

Il cervello stesso è informalmente a volte indicato come wetware. Questo è un modo accattivante per esprimere le cose. Sappiamo che i computer sono costituiti da hardware e software, quindi è intelligente usare la parte "ware" del conio per descrivere a cosa equivale un cervello. Immerso nelle nostre zucche, il potente e misterioso cervello si trova a fluttuare, calcolando mentalmente tutte le nostre azioni (alcune buone, mentre alcuni dei nostri pensieri non sono decisamente pieni di bontà).

Con un peso medio di circa tre libbre, il cervello è un organo straordinario. In qualche modo, e non sappiamo ancora come, il cervello è in grado di utilizzare circa 100 miliardi di neuroni e forse ovunque da 100 a 1,000 trilioni di interconnessioni o sinapsi per fare tutto il nostro pensiero per noi. In che modo le proprietà biologiche e chimiche del cervello danno origine all'intelligenza? Nessuno può dirlo con certezza. Questa è una ricerca dei secoli.

Ti chiedo questo, il cervello è apparentemente solo hardware o è sia hardware che software combinati?

Noodle su quel rompicapo.

Potresti essere tentato di affermare che il cervello è semplicemente hardware (in senso generale). È un organo del corpo. Allo stesso modo, potresti dire che il cuore è hardware, la vescica è hardware e così via. Sono tutte meccanizzazioni simili a quando parliamo di artefatti che hanno una forma fisica e compiono azioni fisicamente correlate.

Dov'è allora il software che gestisce gli esseri umani?

Oserei suggerire che siamo tutti praticamente d'accordo sul fatto che il "software" dell'umanità risieda in qualche modo nel cervello. I passaggi necessari per cuocere un uovo o riparare una gomma a terra sono istruzioni incorporate nel nostro cervello. Usando quella precedente analogia informatica di hardware e software, il nostro cervello è un pezzo di hardware per così dire, per cui impariamo a conoscere il mondo e le istruzioni su cosa fare sono "in esecuzione" e "memorizzate" nel nostro cervello.

Su un computer, possiamo facilmente indicare l'hardware e dire che si tratta di hardware. Possiamo avere un elenco del codice sorgente e indicare l'elenco come software. Al giorno d'oggi, scarichiamo elettronicamente software online e lo installiamo sui nostri laptop e smartphone. Nei tempi antichi, usavamo floppy disk e schede perforate per archiviare il nostro software da caricare sull'hardware del computer.

Ti sto portando in un enigma importante.

Una volta che hai imparato qualcosa e la conoscenza è presente nel tuo cervello, riesci ancora a distinguere tra l'"hardware" del tuo cervello e il presunto "software" del tuo cervello?

Una posizione argomentata è che la conoscenza nel tuo cervello non è particolarmente separabile dalle concezioni di hardware e software. L'analogia in tal modo con la natura dei computer si interrompe, alcuni sostengono con fervore. La conoscenza nel cervello è intrecciata e inseparabile dall'hardware del tuo cervello. Le proprietà biologiche e chimiche stanno intrecciando la conoscenza che possiedi mentalmente.

Stufati su quello per un po 'di riflessione mentale.

Se speriamo un giorno di ideare computer che siano alla pari con l'intelligenza umana, o addirittura superino l'intelligenza umana, forse possiamo usare le strutture del cervello e il suo funzionamento interno come guida per ciò che dobbiamo fare per raggiungere un obiettivo così elevato. Per alcuni nel campo dell'intelligenza artificiale, c'è la convinzione che più sappiamo su come funziona il cervello, maggiori sono le nostre possibilità di ideare una vera intelligenza artificiale, a volte indicata come Intelligenza Generale Artificiale (AGI).

Altri nell'intelligenza artificiale sono meno entusiasti di dover sapere come funziona il cervello. Sottolineano che possiamo procedere rapidamente alla creazione di IA, indipendentemente dal fatto che siamo in grado di sbloccare i meccanismi interni segreti del cervello. Non lasciare che i misteri del cervello ostacolino i nostri sforzi di intelligenza artificiale. Certo, continua a provare a decodificare e decifrare il cervello umano, ma non possiamo sederci e aspettare che il cervello venga decodificato. Se un giorno ciò sarà fattibile, una notizia meravigliosa, anche se forse è impossibile o accadrà tra eoni.

Sono pronto a condividere ora con voi la contesa computer mortale e immortale. Assicurati di essere seduto e pronto per la grande rivelazione.

Un computer che ha una netta separazione tra hardware e software potrebbe essere definito "immortale" in quanto l'hardware può persistere per sempre (entro certi limiti, ovviamente), mentre il software potrebbe essere scritto e riscritto più e più volte. È possibile mantenere in funzione un computer convenzionale finché è possibile effettuare riparazioni all'hardware e mantenere l'aggeggio in grado di accendersi. È ancora possibile utilizzare oggi i rozzi computer domestici degli anni '1970 che venivano forniti in kit da assemblare, nonostante avessero quasi cinquant'anni o giù di lì (molto tempo in anni informatici).

Supponiamo però di aver scelto di realizzare computer che avessero l'hardware e il software funzionanti in modo inseparabile (dirò di più su questo a breve). Considera questo sulla stessa base che in precedenza ho menzionato che il cervello forse ha una composizione integrale di hardware e software. Se così fosse, si potrebbe suggerire che il computer di questo genere non sarebbe più immortale. Sarebbe invece interpretato come "mortale".

Secondo le osservazioni fatte alla conferenza NeurIPS dal relatore principale invitato e degno di nota guru dell'IA Geoffrey Hinton, e come affermato nel suo documento di ricerca di accompagnamento:

• “I computer digitali per uso generico sono stati progettati per seguire fedelmente le istruzioni perché si presumeva che l'unico modo per far eseguire a un computer per uso generico un'attività specifica fosse scrivere un programma che specificasse esattamente cosa fare in modo estremamente dettagliato. Questo non è più vero, ma la comunità di ricerca è stata lenta nel comprendere le implicazioni a lungo termine del deep learning per il modo in cui sono costruiti i computer. Più specificamente, la comunità si è aggrappata all'idea che il software dovrebbe essere separabile dall'hardware in modo che lo stesso programma o lo stesso insieme di pesi possano essere eseguiti su una diversa copia fisica dell'hardware. Questo rende la conoscenza contenuta nel programma o i pesi immortali: la conoscenza non muore quando l'hardware muore” (come contenuto e citato dal suo articolo di ricerca “The Forward-Forward Algorithm: Some Preliminary Investigations”, preprint disponibile online) .

Si noti che il particolare tipo di calcolo discusso in questo tipo di intelligenza artificiale fa uso di reti neurali artificiali (ANN).

Mettiamo in chiaro le cose su questo.

Ci sono neuroni biologici del mondo reale nel nostro cervello. Li usi sempre. Sono biologicamente e chimicamente interconnessi in una rete nella tua zucca. Pertanto, possiamo riferirci a questo come a rete neurale.

Altrove, ci sono diciamo "neuroni" falsi che rappresentiamo computazionalmente nei computer allo scopo di ideare l'IA. Molte persone nell'IA si riferiscono anche a quelle come reti neurali. Credo che questo sia alquanto confuso. Vedi, preferisco riferirmi a loro come artificiale reti neurali. Questo aiuta a distinguere subito tra un riferimento a nella tua testa reti neurali (la cosa reale, per così dire), e quelli basati su computer (artificiale reti neurali).

Non tutti prendono questa posizione. Molte persone nell'IA presumono semplicemente che tutti gli altri nell'IA "sappiano" che quando si riferiscono alle reti neurali parlano quasi sempre di ANN, a meno che non si verifichi una situazione in cui per qualche motivo vogliono discutere di neuroni reali e reti neurali reali nel cervello.

Confido che capirai cosa intendo. La maggior parte delle volte, le persone di intelligenza artificiale diranno "reti neurali" che è potenzialmente ambigua perché non sai se si riferiscono a quelle reali nelle nostre teste oa quelle computazionali che programmiamo nei computer. Ma dal momento che le persone di intelligenza artificiale si occupano in generale di istanze basate su computer, per impostazione predefinita presumono che ti riferisci a reti neurali artificiali. Mi piace aggiungere la parola "artificiale" all'inizio della formulazione per essere più chiari sulle intenzioni.

Andando avanti, puoi in qualche modo considerare questi neuroni artificiali computazionali come una simulazione matematica o computazionale di ciò che pensiamo facciano i neuroni fisici biochimici reali, come usare valori numerici come fattori di ponderazione che altrimenti accadono biochimicamente nel cervello. Oggi, queste simulazioni non sono così complesse come lo sono i neuroni reali. Le RNA attuali sono una rappresentazione matematica e computazionale estremamente grezza.

In generale, le ANN sono spesso l'elemento centrale per l'apprendimento automatico (ML) e il deep learning (DL): tieni presente che ci sono molti più dettagli in questo e ti esorto a dare un'occhiata alla mia ampia copertura di ML/DL a il link qui ed il link qui, per esempio.

Tornando ai tipi di computer immortali contro mortali, ecco altro su cui riflettere secondo il ricercatore:

• “La separazione del software dall'hardware è uno dei fondamenti dell'informatica e ha molti vantaggi. Permette di studiare le proprietà dei programmi senza preoccuparsi dell'ingegneria elettrica. Rende possibile scrivere un programma una volta e copiarlo su milioni di computer. Se, tuttavia, siamo disposti ad abbandonare l'immortalità, dovrebbe essere possibile ottenere enormi risparmi nell'energia richiesta per eseguire un calcolo e nel costo di fabbricazione dell'hardware che esegue il calcolo. Possiamo consentire variazioni ampie e sconosciute nella connettività e non linearità di diverse istanze di hardware destinate a svolgere la stessa attività e fare affidamento su una procedura di apprendimento per scoprire i valori dei parametri che fanno un uso efficace delle proprietà sconosciute di ogni particolare istanza di l'hardware. Questi valori di parametro sono utili solo per quella specifica istanza hardware, quindi il calcolo che eseguono è mortale: muore con l'hardware” (ibid).

Ora ti è stato presentato come immortale e mortale vengono usati in questo contesto.

Lasciami elaborare.

La proposta è che un computer appositamente costruito basato su ANN potrebbe essere concepito in modo tale che l'hardware e il software siano considerati inseparabili. Una volta che l'hardware un giorno non funzionerà più (il che, ovviamente, stiamo dicendo che irretisce integralmente il software), questo tipo di computer apparentemente non sarà più utile e non funzionerà più. Si dice che sia mortale. Potresti anche seppellire il computer basato su ANN poiché non ti farà molto bene d'ora in poi dopo che l'hardware e il software inseparabili non funzionano più in modo fattibile come una squadra.

Se volessi provare a mettere in relazione questo con l'analogia di un cervello umano, potresti immaginare la triste situazione di un cervello umano che si deteriora completamente o che è in qualche modo danneggiato in modo irreparabile. Accettiamo l'idea che una persona sia mortale e il suo cervello alla fine e inevitabilmente smetterà di funzionare. La conoscenza che contenevano nel loro cervello non è più disponibile. A meno che non abbiano provato a dirlo agli altri o a scrivere ciò che sapevano, la loro conoscenza è andata al mondo in generale.

Hai senza dubbio sentito o visto rapporti di tentativi di preservare i cervelli, come metterli in uno stato di congelamento, secondo la teoria che forse un giorno gli umani potrebbero essere immortali o almeno estendersi oltre le loro vite abituali. Il tuo cervello potrebbe continuare a vivere, anche se non è nel tuo corpo. Molti film e storie di fantascienza hanno speculato su tali idee.

Ora siamo pronti per uno sguardo dettagliato al computer mortale e al computer immortale come concetto e ciò che predice.

Discussione consapevole e analisi premurosa

Prima di addentrarci nelle viscere di questa analisi dell'approccio postulato, vale la pena menzionare alcuni importanti avvertimenti e punti aggiuntivi.

Il ricercatore ha sottolineato che il coniato computer mortali non sostituirebbe o eliminerebbe in modo particolare l'esistenza di computer immortali che oggi chiamiamo computer digitali convenzionali. Ci sarebbe una coesistenza di entrambi i tipi di computer. Dico questo perché la reazione di alcuni è stata che la chiamata all'ordine era un'affermazione generica contro tutti i i computer di necessità sono o si dirigeranno verso il tipo mortale.

Non si trattava di un'affermazione.

Durante il suo discorso, ha detto che questi sono specializzati orientato al neuromorfo i computer eseguirebbero il lavoro computazionale noto come calcoli mortali: "Faremo quello che chiamo calcolo mortale, dove la conoscenza che il sistema ha appreso e l'hardware sono inseparabili" (come citato in un articolo ZDNET di Tiernan Ray il 1° dicembre 2022).

E in particolare: “Non sostituirà i computer digitali” (ibid).

Inoltre, questi nuovi tipi di computer non saranno decisamente presto disponibili presso il tuo negozio di computer locale o disponibili per l'acquisto online subito, come affermato durante la sua presentazione: "Quello che penso è che vedremo un tipo completamente diverso di computer computer, non per alcuni anni, ma ci sono tutte le ragioni per indagare su questo tipo di computer completamente diverso. Anche gli usi sarebbero diversi: "Non sarà il computer che si occupa del tuo conto in banca e sa esattamente quanti soldi hai".

Un'ulteriore svolta è che i computer mortali sarebbero apparentemente cresciuti piuttosto che fabbricati come facciamo oggi per la produzione di processori e chip informatici.

Durante il processo di crescita, il computer mortale aumenterebbe di capacità in uno stile di maturazione computazionale. Pertanto, un dato computer mortale potrebbe iniziare con pochissime capacità e maturare in ciò che era destinato a diventare. Ad esempio, supponiamo di voler creare telefoni cellulari tramite l'uso di computer mortali. Inizieresti con una variante sempliciotta di un computer mortale che è stato inizialmente modellato o seminato per questo scopo. Sarebbe quindi maturato nella versione più avanzata che stavi cercando. In breve: "Lo sostituiresti con ognuno di quei telefoni cellulari che dovrebbe iniziare come un cellulare per bambini e dovrebbe imparare a essere un telefono cellulare".

In una delle sue diapositive fondamentali sul calcolo mortale, i vantaggi sono stati descritti in questo modo: "Se abbandoniamo l'immortalità e accettiamo che la conoscenza è inestricabile dai precisi dettagli fisici di uno specifico componente hardware, otteniamo due grandi vantaggi: (1) Possiamo utilizzare un calcolo analogico a bassissima potenza, (2) possiamo far crescere hardware la cui connettività precisa e il comportamento analogico sono sconosciuti.

Parte dello stesso discorso e anche come contenuto nel suo documento di ricerca prestampato è una tecnica proposta per come le ANN possono essere meglio concepite, a cui si riferisce come l'utilizzo di un avanti-avanti approccio di rete. Alcuni di voi esperti di ANN sono indubbiamente già abbastanza consapevoli dell'uso della backpropagation o back-prop. Potresti voler dare un'occhiata alla sua proposta di tecnica forward-forward. Tratterò questo affascinante approccio in un futuro articolo in rubrica, quindi tieni d'occhio la mia prossima copertura al riguardo.

Cambiando marcia, consideriamo ciò che viene detto nei corridoi e nei vicoli della comunità AI su questo sfacciato computer mortale macchinazione.

Inizieremo con quello che alcuni direbbero essere un non-starter sull'argomento tutto sommato.

Sei pronto?

Smettila di chiamare questa cosa a mortale computer.

Allo stesso modo, smettila di proclamare che i computer convenzionali di oggi lo sono immortale.

Entrambi gli usi sono semplicemente sbagliati e abbondantemente fuorvianti, esortano gli scettici.

Una definizione comune del dizionario di ciò che è immortale consiste in qualcosa che non può morire. Vive per sempre. Per non morire, presumibilmente devi dire che la cosa stessa è viva. Stai percorrendo la strada sbagliata per affermare che i computer di oggi sono vivi. Nessuna persona ragionevole attribuirebbe proprietà "viventi" in buona fede ai computer moderni. Sono macchine. Sono cose. Non sono persone né animali o di una condizione vivente.

Se vuoi estendere la definizione di immortale per consentire che ci riferiamo anche a entità non viventi, in tal caso, l'entità non vivente apparentemente non dovrà mai decadere e non può inevitabilmente disintegrarsi in polvere. Puoi fare una simile affermazione sui computer di oggi? Questo sembra esteso (nota a margine: potremmo ovviamente entrare in una grande discussione filosofica sulla natura della materia e dell'esistenza, ma non andiamoci in questo caso).

Il succo è che l'uso o qualcuno direbbe un uso improprio delle parole "mortale" e "immortale" è stravagante e fuori luogo. Prendere un volgare comunemente usato e riutilizzarlo per altri scopi crea confusione e crea acque torbide. Devi essere disposto a riconcettualizzare apparentemente ciò che significano mortale e immortale in questo contesto specifico. Questo diventa problematico.

Ancora più sconcertante è che queste scelte di parole tendano ad antropomorfizzare gli aspetti informatici.

Ci sono già più che sufficienti problemi associati all'antropomorfizzazione dell'IA, di certo non abbiamo bisogno di inventare altre possibilità del genere. Come ho ampiamente discusso nella mia trattazione di AI Ethics e Ethical AI, ci sono tutti i modi selvaggi in cui le persone attribuiscono capacità senzienti ai computer. A sua volta, questo induce le persone a credere erroneamente che i computer basati sull'intelligenza artificiale possano pensare e agire come fanno gli umani. È un pendio scivoloso di pericolo quando la società si lascia cullare nel credere che l'intelligenza artificiale e l'informatica di oggi siano alla pari con l'intelletto e il buon senso dell'umanità, vedi ad esempio la mia analisi su il link qui ed il link qui.

Ok, possiamo rifiutare o disprezzare le scelte di formulazione imbarazzanti, ma questo suggerisce che dovremmo buttare via il bambino con l'acqua sporca (una vecchia espressione, probabilmente prossima alla pensione)?

Alcuni sostengono che forse possiamo trovare una formulazione migliore per questo approccio o concezione generale. Scarta l'uso di "mortale" e "immortale" in modo che il resto delle idee non sia contaminato da un uso inappropriato o improprio. Nel frattempo, ci sono controargomentazioni secondo cui è perfettamente accettabile usare quelle scelte di parole, o perché sono adatte, o perché non dovremmo essere inflessibili su come scegliere di riutilizzare le parole. Una rosa è una rosa con qualsiasi altro nome, dichiarano.

Per evitare ulteriori discussioni aspre, d'ora in poi eviterò di usare le parole "mortale" e "immortale" e dichiarerò semplicemente che abbiamo due tipi principali di computer in circolazione, uno che è un computer digitale convenzionale di oggi e il altro è una proposta neuromorfico computer.

Non c'è bisogno di trascinare l'enigma della mortalità in questo, sembrerebbe. Mantieni i cieli sereni per vedere cos'altro possiamo fare della questione in questione.

In tal caso, alcuni sosterrebbero che l'idea proposta di un computer neuromorfo non è una novità.

Puoi risalire ai primi giorni dell'IA, specialmente quando le ANN venivano inizialmente esplorate, e vedere che si parlava di ideare computer specializzati per fare il lavoro di reti neurali artificiali. Sono stati proposti tutti i tipi di nuovo hardware. Questo accade ancora oggi. Naturalmente, potresti controbattere che la maggior parte dell'esplorazione odierna di hardware specializzato per ANN e apprendimento automatico è ancora basata sull'approccio convenzionale all'informatica. In tal senso, questa inseparabilità analogica dell'hardware e del software spinge in qualche modo i limiti, e anche la proposta di "far crescere" il computer lo fa, almeno per quanto riguarda l'uscita dal mainstream considerato.

In breve, ci sono alcuni che sono completamente immersi in queste questioni che sono sorpresi che chiunque altro possa essere sorpreso dalle proposte che vengono lanciate. Queste nozioni o sono le stesse di prima o riecheggiano ciò che è già in fase di esame in vari laboratori di ricerca.

Non metterti in agitazione, dicono.

Questo ci porta ad un altro aspetto che è fastidioso per molti.

In una parola: Prevedibilità.

I computer di oggi sono generalmente considerati prevedibili. Puoi dare un'occhiata all'hardware e al software per capire cosa farà il computer. Allo stesso modo, puoi tracciare ciò che un computer ha già fatto per scoprire perché ha fatto quello che ha fatto. Ovviamente ci sono dei limiti per farlo, quindi, non voglio sopravvalutare la prevedibilità, ma penso che tu abbia l'idea nel complesso.

Potresti essere consapevole del fatto che uno dei problemi spinosi che l'IA deve affrontare oggi è che alcune IA sono concepite per autoregolarsi. L'intelligenza artificiale che gli sviluppatori mettono in atto potrebbe cambiare se stessa mentre viene utilizzata. Nel regno dell'etica dell'IA, ci sono numerosi esempi di intelligenza artificiale che sono stati messi in uso che all'inizio non avevano pregiudizi indebiti o tendenze discriminatorie, che poi sono stati gradualmente auto-mutati dal punto di vista computazionale durante il periodo in cui l'IA era in produzione, vedi il mio valutazioni dettagliate a il link qui.

La preoccupazione è che stiamo già entrando in un contesto che comporta l'intelligenza artificiale che non è necessariamente prevedibile.

Supponiamo che l'IA per i sistemi d'arma subisca autoregolazioni e il risultato sia che l'IA armi e lanci armi letali contro bersagli e tempi non previsti. Gli esseri umani potrebbero non essere in grado di fermare l'IA. Gli esseri umani che sono nel giro potrebbero non essere in grado di rispondere abbastanza rapidamente da superare le azioni dell'IA. Per ulteriori esempi agghiaccianti, vedere la mia analisi su il link qui.

Per i computer neuromorfici, la preoccupazione è che stiamo mettendo l'imprevedibilità sugli steroidi. Fin dall'inizio, l'essenza di un computer neuromorfo potrebbe essere che funziona in un modo che sfida le previsioni. Stiamo ostentando imprevedibilità. Diventa un distintivo d'onore.

Esistono due campi.

Un campo afferma che possiamo convivere con le sgradevoli preoccupazioni dell'imprevedibilità, facendo così mettendo i guardrail per impedire all'IA di andare troppo oltre un ponte. L'altro campo sostiene che stai portando il mondo su una strada pericolosa. Verrà il giorno in cui i presunti parapetti falliscono, o non sono abbastanza severi, o che per caso o per cattive intenzioni i parapetti vengono rimossi o manomessi.

Dovremmo scacciare le remore sui computer neuromorfici e sulla prevedibilità?

Secondo le osservazioni del ricercatore: "Tra le persone interessate al calcolo analogico, ce ne sono ancora pochissime che sono disposte a rinunciare all'immortalità". Inoltre: "Se vuoi che il tuo hardware analogico faccia la stessa cosa ogni volta... hai un vero problema con tutte queste cose e cose elettriche vaganti".

Lo arrufferò.

Una prospettiva incombente e alquanto cupa è che la cosiddetta prevedibilità associata ai computer digitali di oggi vada comunque nella direzione dell'imprevedibilità. Come accennato, ciò può accadere in particolare per l'IA che si autoregola su piattaforme informatiche convenzionali. Solo perché i computer neuromorfici potrebbero essere apparentemente imprevedibili non è ergo un segno che i computer digitali convenzionali siano in realtà prevedibili.

Il rullo compressore dell'imprevedibilità sta arrivando a tutto vapore, indipendentemente dalla piattaforma informatica che si desidera scegliere. Per la mia valutazione degli ultimi sforzi per cercare di raggiungere la sicurezza dell'IA in questa luce, vedi il link qui.

Questa svolta sulla prevedibilità dovrebbe farti pensare a qualcosa di una natura dissotterrata, più o meno. Quelli di voi che sono coinvolti in AI Ethics e AI Law potrebbero non hanno considerato le ramificazioni di computer neuromorfici.

Probabilmente hai puntato a computer digitali convenzionali che eseguono l'IA. Bene, indovina un po', hai un segmento completamente aggiuntivo ed emergente dell'intelligenza artificiale di cui ora puoi stare sveglio a preoccuparti di notte. Sì, computer neuromorfici. Mettilo nella tua lista delle cose da fare.

Scusa, altre notti insonni per te.

Consideriamo brevemente ciò che AI ​​Ethics e AI Law hanno fatto riguardo all'informatica digitale convenzionale e all'IA.

Nelle colonne precedenti, ho trattato i vari sforzi nazionali e internazionali per elaborare e emanare leggi che regolano l'IA, vedi il link qui, Per esempio. Ho anche trattato i vari principi e linee guida dell'etica dell'intelligenza artificiale che varie nazioni hanno identificato e adottato, incluso ad esempio lo sforzo delle Nazioni Unite come il set dell'etica dell'intelligenza artificiale dell'UNESCO che quasi 200 paesi hanno adottato, vedi il link qui.

Ecco un utile elenco chiave di volta dei criteri o delle caratteristiche dell'IA etica relativi ai sistemi di intelligenza artificiale che ho precedentemente esplorato da vicino:

• Trasparenza
• Giustizia ed equità
• Non maleficenza
• Responsabilità
• Privacy
• Beneficenza
• Libertà e autonomia
• Affidati ad
• Sostenibilità
• Dignità
• Solidarietà

Questi principi di etica dell'intelligenza artificiale dovrebbero essere utilizzati seriamente dagli sviluppatori di intelligenza artificiale, insieme a quelli che gestiscono gli sforzi di sviluppo dell'intelligenza artificiale e persino quelli che alla fine mettono in campo ed eseguono la manutenzione dei sistemi di intelligenza artificiale.

Tutte le parti interessate durante l'intero ciclo di vita dello sviluppo e dell'utilizzo dell'IA sono considerate nell'ambito del rispetto delle norme stabilite dell'IA etica. Questo è un punto importante poiché il presupposto abituale è che "solo i programmatori" o coloro che programmano l'IA sono soggetti all'adesione alle nozioni di etica dell'IA. Come sottolineato in precedenza qui, ci vuole un villaggio per ideare e mettere in campo l'IA, e per questo l'intero villaggio deve essere esperto e attenersi ai precetti dell'Etica dell'IA.

La parte di questo a cui potresti non aver pensato molto in precedenza è come quegli stessi precetti di etica dell'IA e l'elenco fiorente di nuove leggi sull'IA si applicheranno ai computer neuromorfici. Per chiarire, l'etica dell'IA e la legge sull'IA devono davvero tenerne conto esplicitamente. Sto sottolineando che pochi lo stanno facendo, e tieni presente che c'è una possibilità che l'avvento dei computer neuromorfici getti molti per un giro in termini di una nuova dimensione per cercare di regnare nell'IA.

Dobbiamo considerare l'IA etica e le leggi sull'IA in un modo sufficientemente ampio da comprendere qualsiasi intelligenza artificiale di nuova concezione, compresi i computer neuromorfici.

L'alternativa all'altalena è una classica mossa del gatto e del topo. Ecco come va. Vengono concepiti e costruiti nuovi modi di creare IA. L'etica dell'IA esistente e le leggi sull'IA sono colte alla sprovvista e non comprendono completamente gli ultimi imbrogli dell'IA. Viene fatto uno sforzo affrettato per aggiornare i precetti etici dell'IA e modificare quelle leggi sull'IA appena coniate.

Schiuma, risciacqua, ripeti.

Sarebbe meglio per tutti noi stare davanti al gioco, piuttosto che rimanere intrappolati dietro la palla otto.

Conclusione

Ti ho portato a fare un piccolo viaggio.

All'inizio, ho proposto che ci sarebbero stati due argomenti principali da esaminare:

1) Legare integralmente sia l'hardware che il software per la meccanizzazione dell'IA piuttosto che averli come alleati distinti e separati

2) Trasferimento o distillazione di formulazioni di apprendimento automatico da un modello di intelligenza artificiale a un altro che lo fa senza richiedere né desiderare necessariamente (o anche altrimenti fattibilmente possibile) una copia pura e semplice

Il primo argomento sul legame tra hardware e software è stato il grosso del viaggio qui. Questo ci ha portato nella palude informatica mortale contro immortale. Oltre a ciò, c'erano alcune considerazioni cruciali sull'etica dell'IA e sulla legge sull'IA che altrimenti di solito non sarebbero sollevate poiché questo tipo di argomento relativo al computer è solitamente visto da alcuni come puramente tecnologico piuttosto che comportare preoccupazioni per l'impatto sociale.

Dico che è più saggio essere prima e più al sicuro, piuttosto che dopo e peggio quando si tratta di sollevare l'IA etica e la legge sull'IA.

Il secondo argomento, che non ho ancora articolato in questa sede, si collega materialmente al primo argomento.

Ecco l'accordo.

Supponiamo di avere un "computer mortale" e di voler preservare le capacità in modo da poter avere un backup o apparentemente copie di ciò che contiene l'IA. Potremmo essere preoccupati che un particolare computer mortale si stia avvicinando alla fine. Accidenti, ne dipendiamo. Cosa dobbiamo fare? Una risposta è che dovremmo copiare la dannata cosa.

Ma copiare un computer neuromorfo del tipo che viene abbozzato sarà più difficile di quanto possa sembrare a prima vista. Le cose possono diventare complicate.

Forse dovremmo escogitare uno stratagemma di copia che sia generalizzabile e applicabile a circostanze che coinvolgono l'apprendimento automatico e le reti neurali artificiali. Vogliamo che funzioni su istanze su larga scala ed estremamente su larga scala. Saremmo anche disposti a fare in modo che la copia non sia un duplicato esatto, e invece potrebbe essere essenzialmente equivalente o forse anche meglio concepita come risultato dell'azione di copiatura.

Una tecnica nota come distillazione è stato proposto.

Ho esaurito lo spazio per la colonna di oggi, quindi riprenderò questo secondo argomento in una prossima colonna. Ho pensato che avresti voluto sapere subito della relazione tra quel secondo argomento e il primo argomento che è stato ampiamente trattato qui. Pensa a questo come una nota aggiuntiva che funge da teaser o trailer di ciò che verrà dopo.

Rimani con il fiato sospeso, poiché l'argomento della distillazione è piuttosto interessante.

Come diceva Batman, tieni le ali di pipistrello incrociate e sii pronto per lo stesso tempo di pipistrello e canale di pipistrello per svelare la fastidiosa questione di come copiare una ANN o un modello di apprendimento automatico o un computer neuromorfo su un altro.

Un'ultima osservazione per ora. C'è una battuta famosa nel film Il ritorno del cavaliere oscuro in cui il nostro crociato incappucciato dice questo: "Il mondo ha senso solo se lo costringi a farlo". Cercherò di attenermi a quell'ideale quando tratterò il secondo argomento sulla distillazione correlata all'IA.

Resta sintonizzato per la seconda parte di questo emozionante e avvincente doppio incontro.