I motivi per regolare gli algoritmi di intelligenza artificiale sono più semplici di quanto pensi

Temi che l'intelligenza artificiale conquisterà il mondo? Molti lo fanno. Da Elon Musk preoccupato DeepMind batte gli umani nel gioco avanzato di Go nel 2017, ai membri del Congresso, ai decisori politici europei (cfr Un approccio europeo all'intelligenza artificiale) e accademici, c'è la sensazione che questo sia il decennio per prendere sul serio l'IA e che stia prendendo piede. Tuttavia, non per i motivi che potresti pensare e non per nessuna minaccia presente.

È qui che entrano in gioco gli algoritmi. Che cos'è un algoritmo, potresti chiedere? Il modo più semplice di pensarlo è come un insieme di istruzioni che le macchine possono capire e da cui imparare. Possiamo già istruire una macchina per calcolare, elaborare dati e ragionare in modo strutturato e automatizzato. Tuttavia, il problema è che, una volta fornite tali istruzioni, la macchina le seguirà. Per ora, questo è il punto. A differenza degli esseri umani, le macchine seguono le istruzioni. Non imparano molto bene. Ma una volta che lo fanno, potrebbero causare problemi.

Non voglio fare un argomento sensazionalistico sull'idea che i computer un giorno superino l'intelligenza umana, meglio conosciuta come l'argomento della singolarità (vedi il filosofo della NYU David Chalmers' riflessioni sull'argomento.) Piuttosto, la produzione potrebbe essere il miglior esempio del motivo per cui gli algoritmi di intelligenza artificiale stanno iniziando a essere più importanti per il pubblico in generale. Si teme che le macchine accelereranno enormemente la loro abilità a nostre spese. Non per qualche ragionamento avanzato, necessariamente, ma per l'ottimizzazione entro i limiti di ciò che dice un algoritmo.

La produzione è fare cose. Ma quando le macchine fanno le cose, dobbiamo prestare attenzione. Anche se quello che fanno le macchine è semplice. Ti spiego perché.

Dagli stivali da pioggia ai cellulari e ritorno

Diciamo che una fabbrica produce stivali da pioggia. Amo gli stivali da pioggia perché sono cresciuto in una zona della Norvegia dove piove molto; Amo stare all'aria aperta, soggetto ai molti elementi della natura. Nokia ha realizzato gli stivali da pioggia con cui sono cresciuto. Sì, il Nokia che conosciamo oggi come azienda di elettronica produceva stivali di gomma. Perché questa chiave? Perché una volta che fai qualcosa, sei destinato a voler apportare miglioramenti. Ha senso. Si potrebbe dire che è la natura umana.

Quello che è successo a Nokia è ben noto e va un po' così: inizialmente una cartiera, quando ero un ragazzino, la produzione di stivali di gomma (e pneumatici) ha avuto un particolare successo per l'azienda. Tuttavia, hanno visto ulteriori opportunità. Quindi, ad un certo punto negli anni '1980, sono passati all'elettronica e hanno cambiato rapidamente le fabbriche intorno, costruendo una grande struttura di fornitori locali quando hanno iniziato a produrre telefoni cellulari. Ciò ha inaugurato la rivoluzione delle comunicazioni mobili, iniziata in Scandinavia e diffusa nel resto del mondo. Comprensibilmente, molti hanno scritto la storia di Nokia negli anni '1990 (vedi I segreti del miracolo finlandese: l'ascesa di Nokia).

Il mio esempio è semplice. Forse, troppo semplice. Ma pensala in questo modo. Se una grande azienda può passare rapidamente dalla produzione di carta su cui scrivere, agli stivali che rendono più facile stare fuori sotto la pioggia, infine, ai telefoni cellulari che alterano il modo in cui gli esseri umani comunicano: quanto sarà facile il passo successivo? Supponiamo che un'azienda che produce telefoni cellulari decida di realizzare nanobot e forse quelli decollino tra un decennio, alterando l'umanità con minuscole macchine che girano autonomamente ovunque, capaci di riassemblare e alterare l'esperienza umana. E se ciò accadesse senza considerare come vogliamo che avvenga, chi vogliamo essere al comando e gli obiettivi finali?

Suggerire che i robot abbiano aiutato Nokia consapevolmente a decidere di produrre telefoni cellulari sarebbe un'esagerazione. Ma riconoscere che la tecnologia ha avuto un ruolo nel consentire a un'area rurale finlandese sulla sua sponda settentrionale di pensare di poter ottenere il dominio del mondo in una nuova industria gioca un ruolo significativo.

La storia di Nokia non è stata così rosea negli ultimi dieci anni, dato che non ha tenuto conto dell'emergere di sistemi operativi iOS e Android basati su software. Ora, di conseguenza, Nokia non produce più telefoni. In un po' come una storia di ritorno, ora realizzano infrastrutture di rete e di telecomunicazione, soluzioni di sicurezza di rete, router Wi-Fi, illuminazione intelligente e smart TV (vedi La storia del ritorno di Nokia). Nokia fa ancora cose, è vero. L'unica osservazione da fare è che Nokia sembra sempre divertirsi a mescolare le cose che fanno. Anche le decisioni produttive degli esseri umani sono, a volte, difficili da capire.

Produrre significa far evolvere le cose e le cose. In generale, ciò che produciamo oggi è cambiato rispetto a appena un decennio fa. Le stampanti 3D hanno decentralizzato la produzione di molti prodotti avanzati, sia nell'industria che nella casa. Le conseguenze che alterano la vita della stampa 3D non si sono ancora verificate. Non sappiamo se durerà, ma sappiamo che l'obiettivo della FDA è quello di regolamentare la fabbricazione dei prodotti (vedi qui) come le pillole stampate o i dispositivi medici che ne derivano, gli ovvi problemi di proprietà intellettuale e responsabilità, o i problemi relativi alla possibilità di stampare armi da fuoco. In definitiva, la discussione politica su quali conseguenze negative potrebbe avere la stampa 3D al di là di questo è inesistente e pochi di noi si sono presi la briga di pensarci.

Non sto suggerendo che la stampa 3D sia pericolosa di per sé. Forse, questo è un cattivo esempio. Tuttavia, le cose che inizialmente sembrano banali possono alterare il mondo. Gli esempi sono tanti: la punta di freccia del cacciatore/raccoglitore di metallo che dà inizio alle guerre, le maschere rituali che ci proteggono dal COVID-19, i chiodi che costruiscono grattacieli, le macchine da stampa a caratteri mobili che (ancora) riempiono le nostre fabbriche di carta stampata e alimentano le attività editoriali, lampadine che ti permettono di vedere e lavorare all'interno di notte, potrei continuare. Nessuno di cui io sappia si è seduto alla fine del 1800 e ha predetto che Nokia avrebbe spostato la sua produzione dalla carta alla gomma all'elettronica, e poi lontano dai telefoni cellulari. Forse avrebbero dovuto.

Gli esseri umani sono poveri predittori del cambiamento graduale, il processo in cui un cambiamento porta a più cambiamenti e, all'improvviso, le cose sono radicalmente diverse. Non comprendiamo ancora questo processo perché abbiamo poca conoscenza pratica del cambiamento esponenziale; non possiamo immaginarlo, calcolarlo o scandagliarlo. Tuttavia, più e più volte, ci colpisce. Pandemie, crescita demografica, innovazione tecnologica dalla stampa di libri alla robotica, in genere ci colpisce senza preavviso.

Il trucco con il futurismo non è se, ma quando. Si potrebbe effettivamente essere in grado di prevedere il cambiamento semplicemente selezionando alcuni nuovi metodi di produzione e affermando che diventeranno più diffusi in futuro. È abbastanza semplice. La parte difficile è capire esattamente quando e soprattutto come.

Le graffette non sono il problema

Considera di nuovo il mio esempio di fabbrica, ma questa volta immagina che le macchine siano responsabili di numerose decisioni, non tutte, ma decisioni di produzione come l'ottimizzazione. Nel suo libro superintelligenza, l'umanista distopico dell'Università di Oxford Nick Bostrom ha immaginato un algoritmo di ottimizzazione dell'IA che gestiva una fabbrica di graffette. Ad un certo punto, dice, immagina che la macchina ragioni per cui imparare a deviare risorse sempre crescenti verso il compito è razionale, finendo per trasformare gradualmente il nostro mondo in graffette e resistere ai nostri tentativi di spegnerlo.

Nonostante sia un ragazzo intelligente, l'esempio di Bostrom è piuttosto stupido e fuorviante (ma memorabile). Per uno, non riesce a spiegare il fatto che umani e robot non sono più entità separate. Interagiamo. La maggior parte dei robot intelligenti si sta evolvendo in cobot o robot collaborativi. Gli esseri umani avranno molte possibilità di correggere la macchina. Anche così, il suo punto fondamentale rimane. Potrebbe esserci un cambio di passo a un certo punto, e se quel cambiamento avviene abbastanza velocemente e senza una supervisione sufficiente, il controllo potrebbe andare perso. Ma quel risultato estremo sembra un po' inverosimile. Ad ogni modo, sono d'accordo, dobbiamo regolamentare gli esseri umani che azionano queste macchine e imporre che i lavoratori siano sempre al passo con una formazione adeguata. Quel tipo di allenamento non sta andando bene. Attualmente ci vuole troppo tempo e occorrono competenze specialistiche sia per allenarsi che per essere formati. So una cosa. In futuro tutti i tipi di persone utilizzeranno i robot. Coloro che non lo fanno, saranno piuttosto impotenti.

Aumentare gli esseri umani è meglio dell'automazione senza cervello, indipendentemente dal fatto che non ci fondiamo mai completamente con le macchine. I due concetti sono logicamente distinti. È possibile che sia le persone che i robot rimangano bloccati nell'automazione per il bene dell'automazione. Ciò danneggerebbe gravemente la produzione in futuro. Anche se non produce robot assassini. Credo che una fusione sia lontana centinaia di anni, ma non è questo il punto. Anche se mancano solo trent'anni, le macchine semoventi che operano su algoritmi semplicistici che perdono il controllo, quello scenario si verifica già in officina. Alcune di queste macchine hanno trent'anni e funzionano su vecchi sistemi di controllo proprietari. La loro sfida principale non è che siano avanzati ma il contrario. Sono troppo semplicistici per poter comunicare. Questo non è un problema per domani. È un problema preesistente. Dobbiamo aprire gli occhi su di esso. Pensaci la prossima volta che indossi i tuoi stivali di gomma.

Ho ancora i miei stivali Nokia degli anni '1980. Hanno un buco dentro, ma li tengo per ricordare a me stesso da dove vengo e quanto lontano ho camminato. Anche la pioggia continua a cadere, e finché è abbastanza pulito non voglio una soluzione migliore di quegli stivali. Poi di nuovo, sono umano. Presumibilmente un robot sarebbe già andato avanti. Qual è la versione AI degli stivali da pioggia, mi chiedo. Non è un cellulare. Non è un sensore pioggia. Sconvolge la mente.

Gli stivali digitali oggi significano che puoi personalizzarli perché hanno disegni stampati in 3D su di essi. Ci sono scarpe virtuali che esistono solo come NFT (token non fungibili) che possono essere vendute e scambiate. Le migliori scarpe da ginnastica virtuali valgono $ 10,000 in questi giorni (vedi Che cos'è una scarpa da ginnastica NFT e perché vale $ 10,000?). Non ho paura di quelli, ma dovrei esserlo? Se il mondo virtuale diventa più apprezzato del mondo fisico, forse lo farò. O dovrei aspettare di essere preoccupato fino a quando l'avatar di un'IA non acquista il proprio stivale NFT per affrontare la "pioggia"? Se costruiamo algoritmi a nostra immagine, è più probabile che un'IA sia brava in cose in cui vorremmo essere bravi ma in genere non lo siamo, come acquistare azioni, costruire amicizie leali (forse sia con macchine che con umani) e ricordare cose. Il metaverso industriale potrebbe essere sorprendentemente sofisticato, pieno di gemelli digitali che imitano il nostro mondo e lo superano in modi fruttuosi, oppure potrebbe essere incredibilmente semplice. Forse entrambi. Semplicemente non lo sappiamo ancora.

Dobbiamo regolare gli algoritmi dell'IA perché non sappiamo cosa c'è dietro l'angolo. Questa è una ragione sufficiente, ma per quanto riguarda il modo in cui lo facciamo, questa è una storia più lunga. Consentitemi un'altra rapida osservazione, forse tutti gli algoritmi fondamentali dovrebbero essere resi pubblicamente disponibili. Il motivo è che, in caso contrario, non c'è modo di sapere a cosa potrebbero portare. I migliori sono abbastanza noti (vedi I 10 migliori algoritmi di apprendimento automatico), ma non esiste una panoramica mondiale di dove e come verranno utilizzati. Sono soprattutto gli algoritmi non supervisionati che dovrebbero essere osservati attentamente (vedi Sei potenti casi d'uso per l'apprendimento automatico nella produzione), se vengono utilizzati per prevedere la manutenzione o la qualità, per simulare ambienti di produzione (ad es. gemelli digitali) o per generare nuovi progetti a cui un essere umano non penserebbe mai. Nel panorama odierno, questi algoritmi senza supervisione sono in genere le cosiddette reti neurali artificiali, che tentano di imitare il cervello umano.

Ho iniziato a preoccuparmi delle reti neurali, solo perché trovo la loro logica difficile da capire. Il problema è che la maggior parte degli esperti, anche quelli che li implementano, non capiscono come questi algoritmi si spostino da un passaggio all'altro o da un livello all'altro. Non credo che la metafora degli “strati nascosti”, che viene spesso usata, non sia molto azzeccata o molto divertente. Non dovrebbero esserci strati nascosti nella produzione, nella riscossione automatizzata delle tasse, nelle decisioni di assunzione o nelle ammissioni all'università, tanto per cominciare. Forse dovresti considerare di preoccuparti anche tu? Una cosa è certa, gli esseri umani e le macchine che creano cose insieme cambieranno il mondo. Lo ha già fatto, molte volte. Dalla carta agli stivali da pioggia e agli strati dei cervelli artificiali di oggi, nulla dovrebbe essere lasciato inesplorato. Non dobbiamo nasconderci dal semplice fatto che da molti piccoli cambiamenti può apparire improvvisamente un cambiamento più grande.