AI Ethics e l'acclamata AI Uncanny Valley, che scuote anche le auto a guida autonoma basate sull'IA

A volte ci sono cose leggermente strane che catturano la tua attenzione e fanno andare i tuoi succhi intuitivi che in qualche modo c'è qualcosa che non va. La stranezza non è palese, per niente palese in faccia. Potresti non essere nemmeno in grado di capire immediatamente quale sia l'incongruenza o come mai il tuo proverbiale senso di ragno sta formicolando.

Forse vengono percepiti sottili indizi rivelatori. Forse ti capita di capire che esiste una dissonanza nel tuo intestino. Immagino che tu possa dire che c'è solo il minimo accenno di inquietudine sottovalutata e il tuo delicato radar umano sta captando segnali altrimenti apparentemente nascosti.

Benvenuti nella valle misteriosa.

Se non hai mai sentito parlare della valle misteriosa, un argomento relativamente popolare nel campo dell'intelligenza artificiale e in particolare della robotica, ti aspetta un po' per una sorpresa poiché questo è l'argomento di cui parlerò e analizzerò da vicino qui.

La nozione generale può applicarsi a molte cose che sperimentiamo nella vita, sebbene i principi fondamentali e la definizione originaria implichino sistemi di intelligenza artificiale e robot. Esploreremo prima le origini e il significato iniziale della valle misteriosa e poi procederemo con un ampliamento per vedere come i fenomeni sembrano essere applicabili in contesti più ampi.

Potrei anche aggiungere che valuteremo se la valle misteriosa esiste.

Vedete, alcuni scettici e cinici sostengono che l'intera questione è un po' un imbroglione e non regge. Fai attenzione quando sollevi l'argomento a coloro che sono al corrente. Alcuni sorrideranno allegramente e ti daranno una pacca sulla spalla che conosci perfettamente la valle misteriosa, mentre altri ti faranno una stridente predica sul fatto che è un buffet di hogwash e devi ripulire sommariamente la tua mente con una saponetta schiumosa per la pulizia mentale .

La buona notizia qui è che puoi decidere se la valle misteriosa è reale o meno, insieme a se ha meriti per un'applicazione consapevole o invece dovrebbe essere gettata senza tante cerimonie nel mucchio di spazzatura delle idee tecnologiche. In questo senso, sei al posto di guida.

Tutto ciò riguarda anche da vicino il fiorente campo dell'IA etica e la crescente consapevolezza che la società deve prestare seriamente e sobriamente attenzione all'etica dell'IA. Faremo quel legame momentaneamente.

Il miglior punto di partenza è citando direttamente il professore che ha escogitato il concetto di valle misteriosa e ha chiamato apertamente questo fenomeno proclamato. Nel 1970, il professor Masahiro Mori del Tokyo Institute of Technology pubblicò un articolo piuttosto insignificante in una rivista un po' meno nota chiamata Energia (non particolarmente un focolaio per l'IA e la robotica di per sé), e ha detto questo:

"Ho notato che, salendo verso l'obiettivo di far sembrare umani i robot, la nostra affinità per loro aumenta fino a quando arriviamo a una valle, che io chiamo la valle misteriosa".

Si prega di notare che la frase sopra è mostrata in inglese, sebbene il documento originale fosse in giapponese. La versione tradotta in inglese è stata curata dall'autore e successivamente pubblicata nel IEEE Spectrum nel 2012 e accreditato a Masahiro Mori come autore. Puoi leggere tu stesso il documento poiché è disponibile online apertamente e gratuitamente. È una lettura decisamente veloce di forse dieci minuti o giù di lì e non contiene alcuna terminologia pesante.

Detto questo, è interessante e in qualche modo sorprendente che un articolo così vivace, pubblicato nel 1970, alla fine abbia avviato un'intera arena di indagine e lanciato una miriade di studi, progetti, ricerche correlati e, a volte, una tempesta di polemiche sul fatto che l'introduzione il concetto di una valle misteriosa esiste davvero. Suppongo che questo mostri che le idee intriganti ea volte che cambiano il punto di vista non devono essere massicciamente contorte o riempite di gergo e alterità. Un'idea succinta può essere proprio come se non anche più potente di quanto potrebbe sembrare sulla faccia delle cose.

Confido che questo ti incoraggerà a provare a promuovere le tue nuove idee, facendolo con la consapevolezza che il dolce e il semplice possono essere altrettanto magnifici o talvolta più che contorti e complessi.

Torniamo all'elicitazione della misteriosa valle.

Ti imbatti in un sistema robotico che ha una faccia simile a una faccia dall'aspetto umano. Immagina che questa faccia robotica sia stata ideata attraverso numerose iterazioni. Gli sviluppatori di intelligenza artificiale che hanno messo insieme la testa del robot si sono sforzati in modo incrementale di far sembrare la parte robotica del viso sempre più simile a un vero volto umano.

Il loro primo tentativo fu estremamente primitivo. La faccia del robot aveva lo stesso aspetto che hai visto nei film di fantascienza di essere interamente metallica e mostrare ingranaggi e fili. Capisci immediatamente quando guardi l'aggeggio che è un robot. Nessuna domanda nella tua mente a riguardo.

Il prossimo tentativo degli sviluppatori di intelligenza artificiale ha comportato l'avvolgimento di alcuni materiali plastici attorno ai pezzi metallici. Anche se questo sembra un po 'più amichevole, sai ancora immediatamente che si tratta di una testa di robot e di una faccia robotica. Ancora una volta, facile da rilevare.

Quegli sviluppatori di intelligenza artificiale sono determinati a continuare così. Scolpiscono la plastica e le conferiscono il tono della pelle. Aggiungono caratteristiche che sembrano molto simili a un volto umano, come nei, capelli, imperfezioni e simili.

A prima vista, potresti essere indotto a credere che questo sia un volto umano. Se è stata scattata una foto della faccia robotica e ti è stato chiesto di identificare se l'immagine raffigurava una persona rispetto a una faccia robotica, potresti essere ostacolato nel poter immediatamente dire quale fosse. D'altra parte, se ti trovassi vicino al dispositivo, probabilmente a un'ispezione ravvicinata saresti in grado di discernere che non si tratta di un essere umano e invece di un espediente robotico.

Il fatto è che, prima che tu avessi la possibilità di fare un esame approfondito, c'era qualcosa sul viso che non sembrava tornare del tutto. Sembrava sicuramente un volto umano. Ma c'era qualcosa che non andava. Dovevi continuare a fissare intensamente più e più volte per mettere il dito su ciò che non sembrava giusto. Forse è un vero volto. Poi di nuovo, forse non lo è. La tua mente vacilla di conseguenza.

Una parvenza di inquietudine entra nella tua mente.

Non avevi la stessa parvenza di inquietudine quando hai visto le due versioni precedenti. Potresti senza pausa o esitazione rilevare che il robot era un robot. Solo un bambino potrebbe essere ingannato nel credere che una di queste versioni fosse di una persona reale.

Questa ultima versione però era diversa. Non era ancora perfetto per apparire come un volto umano. Né era così lontano dalla realtà che era ovvio che doveva trattarsi di un robot. Era stata raggiunta una specie di terreno confuso.

Supponiamo che gli sviluppatori abbiano spinto ulteriormente nei loro sforzi di ricerca e riordinato tutto in modo che il volto robotico fosse quasi indistinguibile da un volto umano. Non importa per quanto tempo fissi la cosa, non sei sicuro se sia un essere umano o meno. Quando viene informato che si tratta della faccia robotica, rimani sbalordito. Accidenti, hanno fatto un ottimo lavoro nel farlo sembrare reale.

Nota che finora hai considerato solo gli aspetti robotici basati solo sull'aspetto.

Potremmo aggiungere movimento all'equazione. Ciò aggiunge una dimensione aggiuntiva per farti discernere se il robot è un robot rispetto a un essere umano. Non voglio intrattenere pienamente questo come un tipo di problema multidimensionale in questa discussione poiché rende più intricata una delucidazione su questo argomento (ci sono però multi-dimensioni inevitabilmente intrecciate). In ogni caso, immagina di non solo aver visto la faccia robotica, ma anche di poter guardare mentre il robot muove i lineamenti del viso, come la bocca, gli occhi, il naso, ecc. Ovviamente, anche quelli potrebbero essere omaggi sul fatto che si tratti di un robot o un essere umano.

Un aspetto fondamentale da tenere in prima linea nella misteriosa valle è che la concezione originale enfatizza l'atto dell'affinità umana. Il fenomeno affermato è che la tua affinità sta aumentando man mano che vedi le facce del robot migliorate in modo incrementale, fino al punto in cui si presenta la variante misteriosa. A quel punto, si dice che il tuo senso di affinità diminuisca drasticamente, precipitando in un baratro o in una valle di affinità.

Per la versione particolare che ti ha fatto sospettare che qualcosa non andasse, la tua affinità sarebbe radicalmente caduta. Inoltre, secondo la teoria, la tua affinità può risalire alle stelle una volta che incontri la versione più avanzata che è quasi identica a una forma veramente umana.

Ecco di più su ciò che l'autore ha affermato sulla nostra normale inclinazione a presumere che gli aspetti della vita stiano aumentando gradualmente: "Il termine matematico funzione monotonicamente crescente descrive una relazione in cui la funzione y = ƒ(x) aumenta continuamente con la variabile x. Ad esempio, come sforzo x cresce, reddito y aumenta, o quando si preme l'acceleratore di un'auto, l'auto si muove più velocemente. Questo tipo di relazione è onnipresente e molto facilmente comprensibile. Infatti, poiché tali funzioni in aumento monotono coprono la maggior parte dei fenomeni della vita quotidiana, le persone possono cadere nell'illusione che rappresentino tutte le relazioni. A testimoniare questa falsa impressione c'è anche il fatto che molte persone lottano per tutta la vita spingendo con insistenza senza comprendere l'efficacia del tirarsi indietro. Ecco perché le persone di solito sono perplesse di fronte a qualche fenomeno che questa funzione non può rappresentare”. Questo è citato per il IEEE Spectrum carta tradotta.

Questo presupposto quasi universale sull'aumento continuo può essere ribaltato quando incontriamo qualcosa che non va. L'inquietudine e il sospetto causeranno un calo relativamente brusco e drammatico dell'affinità, secondo la teoria, come una mano robotica che hai deciso di stringere e non riuscivi a sentire le caratteristiche ossute di una mano umana: "Quando ciò accade, perdiamo il senso di affinità, e la mano diventa misteriosa. In termini matematici, questo può essere rappresentato da un valore negativo”.

Se accetti la premessa che esiste questo fenomeno di una valle misteriosa, sono sicuro che ti starai chiedendo a cosa ti serve sapere che la valle misteriosa apparentemente esiste.

Questo è il classico di tutti i tempi "e allora?" prova di praticità.

Si scopre che molte persone hanno fornito molte interpretazioni di ciò che dovremmo o possiamo fare per la valle misteriosa. Ci sono tonnellate di opinioni. Tra poco ne parlerò.

Nel frattempo, ecco cosa ha offerto Masahiro Mori: “Speriamo di progettare e costruire robot e mani protesiche che non cadranno nella valle misteriosa. Pertanto, a causa del rischio insito nel tentativo di aumentare il proprio grado di somiglianza umana per scalare il secondo picco, consiglio ai progettisti di prendere il primo picco come obiettivo, il che si traduce in un moderato grado di somiglianza umana e un notevole senso di affinità . In effetti, prevedo che sia possibile creare un livello di affinità sicuro perseguendo deliberatamente un progetto non umano. Chiedo ai designer di riflettere su questo”.

Una rapida sintesi da parte mia di dodici pratiche regole pratiche su cosa fare riguardo alla valle misteriosa va in questo modo in particolare per gli sviluppatori di intelligenza artificiale:

1) Sii consapevole della valle misteriosa e sii all'erta di conseguenza

2) Presumibilmente vuoi raggiungere l'affinità umana per la tua IA il più possibile

3) Preparati a una perdita di affinità umana se la tua IA cade nella valle misteriosa

4) Cerca di evitare la valle misteriosa escogitando la tua IA in questo modo

5) È rispettabile avere un obiettivo che è al di sotto della valle misteriosa

6) Sali fino al bordo della valle misteriosa ma non cadere dalla scogliera

7) Non essere ossessionato dall'andare oltre la valle misteriosa

8) C'è la possibilità che tu possa saltare oltre la valle misteriosa

9) Non preoccuparti del salto perché potresti comunque cadere a valle

10) La massima affinità umana sarebbe certamente raggiunta superando la valle misteriosa

11) Tuttavia, si trova un'affinità adeguata e adeguata prima della valle misteriosa

12) Sii continuamente consapevole della valle misteriosa e non lasciartela sfuggire di mente

Queste dozzine sono tutti precetti generali che possono essere considerati come chiavi di volta o punti di ancoraggio per conoscere la valle misteriosa. Riconosco subito che ci sono altri punti non elencati in quella scarsa dozzina che potrebbero essere considerati altrettanto importanti. Riconoscerò anche prontamente che è inevitabile che ci sia disaccordo su ciascuno dei punti individuati e che su ogni punto sollevato può derivarne un lungo acceso dibattito.

Inoltre, alcuni direbbero che i dodici punti sono del tutto spazzatura perché, tanto per cominciare, si basano su una falsità. Non esiste una valle misteriosa, direbbero. È tutto solo un inganno e un espediente inventato che fa appello solo e tristemente a fare appello alle menti deboli (ahi, fa davvero male!). Qualsiasi attenzione alla valle misteriosa è una boccata d'aria sprecata e qualcuno dovrebbe venire e mettere un affilato paletto teorico di legno nel cuore della questione (alcuni ricercatori hanno provato a farlo).

Per motivi di discussione, seguiamo il flusso e assumiamo che ci sia una valle misteriosa e che pretende di corrispondere generalmente a ciò che ho indicato finora. Coloro che non sono d'accordo con la concettualizzazione di una valle misteriosa sono invitati a isolarsi o continuare a leggere a denti stretti e la loro rabbia intellettuale che fermenta e ribolle (scusate per questo).

Ecco come entrano in gioco l'IA etica e l'obiettivo di ideare e mettere in campo l'IA etica. A proposito, per le mie continue e approfondite esplorazioni dell'etica dell'IA, vedere la mia discussione su questo link qui ed questo link qui, solo per citarne alcuni.

La valle misteriosa è decisamente un affare di amore e odio per chi è interessato all'IA etica.

In primo luogo, alcuni background necessari. Uno degli scrupoli etici più da far rizzare i capelli relativi all'IA è che gli esseri umani possono essere ingannati facendogli credere che un sistema di intelligenza artificiale sia senziente. Tieni presente che non esiste alcuna IA di oggi che si avvicini lontanamente all'essere senziente. Semplicemente non sta accadendo in questo momento. La mia affermazione apparentemente "sfacciata" viene fatta nonostante quei titoli incessanti e a tutto volume che dichiarano che questa IA o che l'IA è senziente o abbastanza vicina da essere considerata tale. Malarkey. Non siamo alla sensibilità dell'IA.

Non sappiamo come arrivarci. Non sappiamo se accadrà. La sensibilità dell'IA è un sogno e un'aspirazione utili, anche se non saltare la pistola e pensare che siamo sul punto di raggiungerlo.

Naturalmente, molti avvertono con fervore che se in qualche modo riusciamo a portare a termine la sensibilità dell'IA, indipendentemente dal fatto che lo facciamo per progettazione o per puro caso, ci troveremo di fronte a un rischio esistenziale. In questo modo di pensare, forse cercare la sensibilità dell'IA non è così utile. Il rischio è che questa IA senziente possa determinare che non vale la pena avere gli esseri umani in giro. Potremmo essere schiacciati come un insetto. O diventare schiavo dell'IA. Ciò potrebbe verificarsi se l'IA sceglie apertamente di farlo, oppure l'IA potrebbe finire per essere la nostra macchina del giorno del giudizio che ci distrugge per la nostra stessa inettitudine. Per la mia copertura su quegli esiti preoccupanti della sensibilità o della singolarità dell'IA, vedere il link qui.

Una preoccupazione cruciale per l'IA etica è che gli sviluppatori dell'IA e coloro che mettono in campo l'IA a volte inducono gli umani a pensare che l'IA sia senziente. Il modo in cui l'IA si esibisce, ad esempio attraverso una formulazione robotica o la sua interattività conversazionale, può insidiosamente spronare le persone a presumere che l'IA sia senziente. Questo a sua volta ti porta lungo un sentiero di primula potenzialmente disgustoso.

Se cadi nella trappola mentale di pensare che un sistema di intelligenza artificiale sia senziente, probabilmente farai affidamento su di esso per fare cose che farebbero gli esseri senzienti. Ma non c'è ancora alcun senso comune di una qualità simile a quella umana incorporata in nessuna delle IA di oggi. L'IA che sperimentiamo attualmente è estremamente fragile e superficiale quando si tratta di capacità simili a quelle umane. Potresti finire in acque sgradevoli e pericolose credendo che un sistema di intelligenza artificiale sia senziente.

Come si collega con la valle misteriosa?

Ecco l'accordo.

Ricordiamo che la valle misteriosa sembra dirci che l'affinità umana aumenterà gradualmente man mano che un sistema di intelligenza artificiale o un robot si avvicinano sempre di più a una formulazione simile a quella umana. In un momento in cui il sistema di intelligenza artificiale si sta avvicinando al punto di essere abbastanza vicino, ma ancora, non proprio lì, abbiamo la strana sensazione che qualcosa non va. Fino ad allora, sapevamo che l'IA non era umana. Ora non siamo sicuri. La nostra affinità umana diminuisce. Solo quando l'IA o il robot diventano completamente convincenti in merito alle capacità umane, riguadagniamo la nostra parvenza di affinità con il dispositivo.

Presumibilmente gli sviluppatori di intelligenza artificiale che prendono questo cuore apposta sforzarsi di mantenere la loro IA fuori dalla valle misteriosa, con l'obiettivo di fermarsi in termini di caratteristiche dell'IA, appena prima di cadere nell'abisso perturbante (ricordate, questo è anche ciò che ha sottolineato Masahiro Mori). Apparentemente gli sviluppatori lo farebbero assicurandosi che esistessero ancora abbondanti indizi rivelatori per rendere piuttosto chiaro che l'IA è un'IA tutt'altro che senziente e ergo non un essere umano o ugualmente.

Gli esperti di etica dell'IA generalmente accoglierebbero con favore questo sincero sforzo.

Il ragionamento è semplice. Gli sviluppatori di intelligenza artificiale così informati e che abbracciano stanno cercando di assicurarsi che il sistema di intelligenza artificiale non induca le persone ad attribuire falsamente strutture simili a quelle umane all'IA. Questa è sicuramente una buona notizia. Gli sviluppatori realizzeranno di proposito l'IA per impedire un'immersione nella valle misteriosa. Gli umani si renderanno subito conto che l'IA non è senziente.

Cercare di convincere gli sviluppatori di intelligenza artificiale ad abbracciare un tale approccio non è facile. In effetti, può essere controintuitivo ai loro soliti istinti e alle loro ambizioni di guida.

Sono state fatte molte affermazioni sul fatto che gli sviluppatori di intelligenza artificiale e i tecnici, in generale, siano consumati dagli obiettivi. Vedono un obiettivo e spesso lo perseguiranno ciecamente con grande entusiasmo. Non c'è tempo per fermarsi e annusare le rose. Via alle gare, si parte. Nel campo dell'IA, l'obiettivo normativo sarebbe un'IA idealizzata che è indistinguibile dagli esseri umani in quanto l'IA potrebbe essere intelligentemente uguale in parità. Ma non ci siamo ancora. In quanto tale, la valle misteriosa fornisce un obiettivo secondario, atterrando prima della valle misteriosa, altrimenti arginata, e diventa un obiettivo che è comunque accettabile. Certo, non è il pregiato anello d'oro, ma l'idea è che questo premio “secondario” va bene, grazie mille, e puoi esserne orgoglioso.

Abbiamo alterato la rovinosa ambizione più alta della ricerca di obiettivi e l'abbiamo imbrigliata in una base ragionata dal suono logico per fare la cosa giusta, per così dire.

Evviva!

Ottieni una vittoria per l'etica dell'IA.

Ma aspetta un secondo, avviso spoiler, c'è qualcos'altro che dobbiamo ugualmente considerare.

Ora che quegli esperti sviluppatori di intelligenza artificiale conoscono la valle misteriosa, potrebbero trasformare il loro ingegno e le loro abilità tecniche per saltare di proposito nell'abisso e tuttavia farlo con una parvenza di inganno in mente. Fai sembrare l'IA completamente simile a quella umana, anche se gli sviluppatori sanno che questo non è vero.

Il pensiero malizioso va così. Non lasciare che il tuo sistema di intelligenza artificiale capovolga il cappello e induca le persone a percepire quell'inafferrabile corrente sotterranea di inquietudine. Elimina le sfaccettature che potrebbero fornire indizi o indizi sul fatto che l'IA non è delle capacità umane. Fallo mentre ti rendi conto segretamente e sapendo imperdonabilmente che l'IA non è delle capacità umane e si tratta di nascondere quella verità a coloro che interagiscono o dipendono dall'IA.

Che piani diabolici.

Ironia della sorte, la valle misteriosa potrebbe essere una sorta di campanello d'allarme per gli sviluppatori di intelligenza artificiale che, se vogliono davvero ingannare le persone, devono essere abbastanza intelligenti da sfuggire all'abisso. Non lo fanno raggiungendo l'IA completa, e invece erigendo fumo e specchi per far sembrare l'IA fuorviante come se fosse umana. Se gli sviluppatori di intelligenza artificiale non si fossero resi conto dell'esistenza di questa valle misteriosa, nel complesso ci sarebbero caduti. Questo è un bene per l'umanità perché gli umani ergo perderebbero la loro affinità con l'IA in termini di non fare affidamento sulla qualità odierna dell'IA.

Purtroppo, sapendo che la trappola esiste, gli sviluppatori di intelligenza artificiale che vogliono aggirarla troveranno modi perniciosamente intelligenti per farlo.

Segna un colpo contro i precetti dell'IA etica.

Vedi come questo crea una relazione di amore-odio per gli esperti di etica dell'IA sulla valle misteriosa?

Dannato se lo fai, dannato se non lo fai.

Mi rendo conto che questo è stato un esame piuttosto approfondito della valle misteriosa e potresti desiderare ardentemente alcuni esempi quotidiani. C'è un insieme speciale e sicuramente popolare di esempi che mi stanno a cuore. Vedete, nella mia qualità di esperto di IA, comprese le ramificazioni etiche e legali, mi viene spesso chiesto di identificare esempi realistici che mettano in mostra i dilemmi dell'etica dell'IA in modo che la natura in qualche modo teorica dell'argomento possa essere colta più facilmente. Una delle aree più suggestive che presenta vividamente questo dilemma etico dell'IA è l'avvento delle vere auto a guida autonoma basate sull'IA. Questo servirà come un pratico caso d'uso o un esempio per un'ampia discussione sull'argomento.

Ecco quindi una domanda degna di nota che vale la pena considerare: L'avvento delle vere auto a guida autonoma basate sull'intelligenza artificiale illumina qualcosa sulla valle misteriosa e, in tal caso, cosa ci informa di fare?

Concedimi un momento per disfare la domanda.

Innanzitutto, nota che non c'è un guidatore umano coinvolto in una vera auto a guida autonoma. Tieni presente che le vere auto a guida autonoma sono guidate tramite un sistema di guida AI. Non è necessario un guidatore umano al volante, né è previsto che un essere umano guidi il veicolo. Per la mia copertura ampia e continuativa sui veicoli autonomi (AV) e in particolare sulle auto a guida autonoma, vedere il link qui.

Vorrei chiarire ulteriormente cosa si intende quando mi riferisco a vere auto a guida autonoma.

Comprensione dei livelli delle auto a guida autonoma

Per chiarire, le vere auto a guida autonoma sono quelle che l'IA guida l'auto interamente da sola e non c'è alcuna assistenza umana durante l'attività di guida.

Questi veicoli senza conducente sono considerati Livello 4 e Livello 5 (vedere la mia spiegazione a questo link qui), mentre un'auto che richiede a un conducente umano di condividere lo sforzo di guida è generalmente considerata di livello 2 o di livello 3. Le auto che condividono l'attività di guida sono descritte come semiautonome e in genere contengono una varietà di componenti aggiuntivi automatici denominati ADAS (Advanced Driver-Assistance Systems).

Non c'è ancora una vera auto a guida autonoma al Livello 5, che non sappiamo ancora se questo sarà possibile raggiungere, e nemmeno quanto tempo ci vorrà per arrivarci.

Nel frattempo, gli sforzi del Livello 4 stanno gradualmente cercando di ottenere un po 'di trazione sottoponendosi a prove su strade pubbliche molto strette e selettive, anche se c'è controversia sul fatto che questo test debba essere consentito di per sé (siamo tutti cavie di vita o di morte in un esperimento che si svolgono sulle nostre autostrade e strade secondarie, alcuni sostengono, vedere la mia copertura su questo link qui).

Poiché le auto semi-autonome richiedono un guidatore umano, l'adozione di questi tipi di auto non sarà nettamente diversa dalla guida di veicoli convenzionali, quindi non c'è molto di nuovo di per sé su questo argomento (tuttavia, come vedrai in un momento, i punti successivi saranno generalmente applicabili).

Per le auto semi-autonome, è importante che il pubblico abbia bisogno di essere avvertito di un aspetto inquietante che si è verificato di recente, vale a dire che, nonostante quei guidatori umani che continuano a pubblicare video di se stessi addormentarsi al volante di un'auto di Livello 2 o Livello 3 , dobbiamo tutti evitare di essere indotti in errore nel credere che il conducente possa distogliere la propria attenzione dal compito di guida durante la guida di un'auto semi-autonoma.

Sei la parte responsabile delle azioni di guida del veicolo, indipendentemente da quanta automazione possa essere lanciata in un Livello 2 o Livello 3.

Auto a guida autonoma e la valle misteriosa

Per i veicoli a guida autonoma di livello 4 e 5, non ci sarà un guidatore umano coinvolto nel compito di guida.

Tutti gli occupanti saranno passeggeri.

L'intelligenza artificiale sta guidando.

Un aspetto da discutere immediatamente riguarda il fatto che l'IA coinvolta negli odierni sistemi di guida dell'IA non è senziente. In altre parole, l'IA è complessivamente un collettivo di programmazione e algoritmi basati su computer, e sicuramente non è in grado di ragionare nello stesso modo in cui possono farlo gli umani.

Perché questa ulteriore enfasi sul fatto che l'IA non sia senziente?

Perché voglio sottolineare che quando parlo del ruolo del sistema di guida dell'IA, non sto attribuendo qualità umane all'IA. Tieni presente che in questi giorni c'è una tendenza continua e pericolosa ad antropomorfizzare l'IA. In sostanza, le persone stanno assegnando una sensibilità simile a quella umana all'intelligenza artificiale odierna, nonostante il fatto innegabile e indiscutibile che non esiste ancora un'intelligenza artificiale di questo tipo.

Con questo chiarimento, puoi immaginare che il sistema di guida AI non "conoscerà" nativamente in qualche modo gli aspetti della guida. La guida e tutto ciò che comporta dovranno essere programmate come parte dell'hardware e del software dell'auto a guida autonoma.

Immergiamoci nella miriade di aspetti che vengono a giocare su questo argomento.

Innanzitutto, è importante rendersi conto che non tutte le auto a guida autonoma IA sono uguali. Ogni casa automobilistica e azienda tecnologica a guida autonoma sta adottando il suo approccio per ideare auto a guida autonoma. In quanto tale, è difficile fare affermazioni radicali su ciò che i sistemi di guida dell'IA faranno o non faranno.

Inoltre, ogni volta che si afferma che un sistema di guida AI non fa qualcosa in particolare, questo può, in seguito, essere superato dagli sviluppatori che di fatto programmano il computer per fare proprio quella cosa. Passo dopo passo, i sistemi di guida dell'IA vengono gradualmente migliorati ed estesi. Una limitazione esistente oggi potrebbe non esistere più in una futura iterazione o versione del sistema.

Confido che fornisca una litania sufficiente di avvertimenti per sottolineare ciò che sto per riferire.

Ora siamo pronti per fare un tuffo profondo nelle auto a guida autonoma e nelle questioni etiche dell'IA che coinvolgono la misteriosa valle.

Ci sono quattro aspetti relativi a questa materia che saranno trattati qui:

1. L'aspetto generale delle auto a guida autonoma

2. La domanda su dove “guardano” le auto a guida autonoma

3. Azioni di guida AI delle auto a guida autonoma

4. Robot che guidano come mezzo per raggiungere auto a guida autonoma

Altre sfaccettature sono anche validamente comprese, ma per vincoli di spazio, questi quattro argomenti saranno sufficienti per illuminare il rilevamento della valle misteriosa in relazione alle auto a guida autonoma basate sull'intelligenza artificiale.

1. Aspetto generale delle auto a guida autonoma

Scommetto che hai visto foto o video delle prove odierne di auto a guida autonoma. Pertanto, potresti aver notato che la maggior parte dei veicoli sono auto dall'aspetto convenzionale dotate di attrezzature specializzate aggiuntive. Ad esempio, potrebbe esserci un portapacchi sul tetto che contiene una serie di sensori elettronici. I sensori a volte includono videocamere, unità radar, dispositivi LIDAR, sensori a ultrasuoni e simili.

I design futuristici tendono a suggerire che potremmo discostarci dall'auto dall'aspetto convenzionale per riprogettare invece le auto sia all'interno che all'esterno per essere veicoli autonomi dall'aspetto più elegante. In questo momento, il pensiero generale è che è più semplice usare auto convenzionali e non spendere energia cercando di allungare lo sforzo armeggiando contemporaneamente con auto dall'aspetto non convenzionale (ci sono alcune eccezioni a questo punto di vista generale, vedi la mia copertura su il link qui).

L'essenza in questo momento è che se stai guidando sulla carreggiata e incontri un'auto a guida autonoma nelle vicinanze, puoi quasi sempre discernere immediatamente che probabilmente si tratta di un'auto a guida autonoma semplicemente notando l'infarinatura dei sensori montati sul veicolo autonomo. Questo è un rapido omaggio visivo. Ovviamente, non sai per certo che sia di per sé la guida autonoma poiché in questo frangente i controlli di guida sono solitamente ancora intatti e un guidatore di riserva umano potrebbe essere al volante.

In un certo senso, puoi suggerire che è particolarmente utile che le auto a guida autonoma sembrino distinguersi fisicamente e siano prontamente visivamente individuate dai conducenti umani nelle auto vicine a guida umana e anche dai pedoni nelle vicinanze. La consapevolezza che un'auto a guida autonoma è in roaming nelle vicinanze può essere un utile indizio per stare in guardia, spingendoti a essere vigile e consapevole del fatto che l'IA è o potrebbe guidare il veicolo.

Supponiamo che le auto a guida autonoma siano identiche a un'auto convenzionale a guida umana. Questo è realisticamente fattibile in almeno due modi. In primo luogo, i sensori potrebbero essere potenzialmente nascosti o modellati in modo da non essere così evidenti per un'ispezione visiva casuale. In secondo luogo, potrebbe essere che tutte le auto, comprese le auto convenzionali a guida umana, siano gradualmente dotate di sensori simili, anche se il veicolo rimarrà comunque un'auto prevalentemente a guida umana. Vedere la mia ulteriore copertura a questo link qui.

Se rifletti attentamente su questa considerazione sul fatto che le auto a guida autonoma possano o debbano essere identiche nell'aspetto alle auto convenzionali a guida umana, potresti pensare che una valle misteriosa potrebbe essere in agguato in questo stufato.

Vedete, le auto che sembrano palesemente auto a guida autonoma potrebbero essere rappresentate come in un incrocio che è appena prima della valle misteriosa. Fondamentalmente, "sai" che è un robot o un tipo di sistema robotico. È un giudizio a cui puoi saltare quasi immediatamente.

Quando le auto a guida autonoma hanno lo stesso aspetto delle auto a guida umana, forse questo suggerisce che i veicoli autonomi hanno saltato oltre la valle misteriosa per quanto riguarda il loro aspetto robotico. C'è però una via di mezzo tra quelle due apparenze fisiche che ci atterra nella valle misteriosa?

Forse vedi un'auto a guida autonoma che scende per la strada e sembra che probabilmente sia un'auto a guida autonoma, d'altra parte, l'aspetto non è né dall'aspetto strettamente autonomo né dall'aspetto strettamente guidato dall'uomo. Si potrebbe obiettare che l'auto a guida autonoma è ora in uno stato di apparenza inquietante o inquietante.

L'auto a guida autonoma si è apparentemente immersa nella misteriosa valle.

Detto questo, non tutti sarebbero d'accordo con quella categorizzazione. Alcuni direbbero che l'aspetto fisico non ha nulla a che fare con la valle misteriosa. Alcuni ovviamente affermano anche che non c'è nulla di realistico conosciuto come la valle misteriosa.

Come accennato in precedenza, sei libero di prendere la tua decisione in merito.

2. Domanda su dove stanno guardando le auto a guida autonoma

Una preoccupazione incombente che molti hanno riguardo alle auto a guida autonoma è che di solito mancano di un conducente umano al posto di guida e quindi è difficile capire dove sta guardando "il conducente" mentre guida l'auto.

Normalmente guardi i conducenti umani per spiare dove stanno guardando. Ad esempio, potresti essere un pedone a un passaggio pedonale e un'auto si sta avvicinando all'incrocio. Guardi attentamente la persona seduta al posto di guida e cerchi di discernere dove è girata la testa e dove stanno guardando i suoi occhi. Se ritieni che l'autista umano ti abbia visto, potresti essere più a tuo agio nell'attraversare la strada. Al contrario, se il guidatore umano non sembra vederti, sei giustamente preoccupato di attraversare.

In alcune città c'è una specie di mossa del gatto e del topo su questi aspetti. Una norma culturale particolare in una determinata città potrebbe essere che se si stabilisce un contatto visivo con un guidatore, quest'ultimo "vince" e ha l'apparente diritto di procedere, indipendentemente dalla legalità della situazione di guida. Altre città potrebbero essere completamente l'opposto, vale a dire che la norma culturale è che quando viene stabilito il contatto visivo il pedone "vince" e si suppone che il guidatore umano si deferisca alle azioni del pedone.

Sembra che abbiamo adottato questa usanza per il tempo relativamente lungo in cui le auto sono state in mezzo alle nostre città e comunità. Il problema con l'avvento delle auto a guida autonoma è che non c'è un guidatore umano al posto di guida e quindi nessun pedone o guidatore umano nelle vicinanze che normalmente usa la testa e gli occhi degli automobilisti come indicatore culturale dell'intenzione di guida è ora sfortunato.

Le case automobilistiche e gli sviluppatori di auto a guida autonoma sono profondamente consapevoli di questo problema emergente. Una soluzione proposta consiste nell'auto a guida autonoma che fa lampeggiare i fari del veicolo autonomo o eventualmente suona il clacson. Un'altra idea è che l'auto a guida autonoma potrebbe avere una variante di un altoparlante e dire a chi si trova nelle vicinanze quali sono le "intenzioni" del sistema di guida AI. Ciascuna di queste idee ha degli svantaggi significativi.

Eppure una proposta diversa implica fare qualcosa che a prima vista potresti ritenere ridicolo. La proposta consiste nel posizionare sfere a forma di bulbo oculare all'esterno del veicolo autonomo. Queste sfere sembrerebbero praticamente occhi umani nella parvenza di poter ruotare avanti e indietro, dandoti un'indicazione immediata che suggerisce che l'IA "ti ha visto" (lo interpreteresti dai bulbi oculari che guardano nella tua particolare direzione). Ho analizzato questo approccio su il link qui.

Quale sarebbe la tua reazione nel vedere un'auto a guida autonoma scendere lungo la carreggiata e avere questi bulbi oculari strani e di grandi dimensioni che appaiono montati sul cofano o sul tetto?

Suppongo che potresti pensare che sia inquietante, forse inquietante.

Alcuni suggerirebbero che l'inquietudine derivi dal fatto che l'auto a guida autonoma equipaggiata si trova nella valle misteriosa. Altri sosterrebbero con veemenza che questo non ha nulla a che fare con la valle misteriosa. Di questi esperti, alcuni direbbero che c'è un'inquietudine che può essere inquietante senza dover essere trincerati nella valle misteriosa (cioè, la valle misteriosa apparentemente produce sempre l'inquietudine, ma non tutta l'inquietudine è prodotta esclusivamente attraverso la valle misteriosa). L'altro punto di vista è che le sfere potrebbero essere presumibilmente progettate per avere un aspetto meno bulbo oculare e sembrare più robotiche, o che tutti inevitabilmente accetteremo l'aspetto di queste sfere e la sorprendente reazione iniziale si attenuerà.

3. Azioni di guida AI delle auto a guida autonoma

Molte delle prove odierne di auto a guida autonoma hanno mostrato che i sistemi di guida IA ​​esistenti tendono ad essere programmati per guidare in modi legali piuttosto tiepidi e in qualche modo rigorosamente rispettosi. Il sistema di guida AI in genere ferma l'auto a guida autonoma ai segnali di stop. Il sistema di guida AI non esegue corse audaci attraverso gli incroci quando il segnale stradale sta per diventare rosso. Queste pratiche di guida ribelle sono di competenza dei conducenti umani.

In un certo senso, potresti quasi immaginare che un'auto a guida autonoma sia un'auto a guida autonoma dallo stile di guida che sta esibendo. Anche se visivamente il veicolo autonomo sembrava essere un'auto convenzionale a guida umana, potresti osservare le azioni di guida e forse dedurre logicamente che probabilmente è guidato da un sistema di intelligenza artificiale.

Alcuni credono che dovremo rendere i sistemi di guida dell'IA più simili alle buffonate dei conducenti umani in modo che si integrino efficacemente negli approcci normativi alla guida. Suppongo che potresti interpretarlo come combattere il fuoco con il fuoco.

Ha senso farlo?

Tieni presente che gli scettici e i critici schietti detestano l'idea. Sosterrebbero strenuamente che vogliamo che i sistemi di guida dell'IA guidino correttamente e con cautela. Aggiungere potenzialmente milioni di auto a guida autonoma alle strade programmate per essere come conducenti umani erranti sembrerebbe un incubo colossale. Ho discusso questa proposta controversa a il link qui.

Riformuliamo il dilemma sfruttando la valle misteriosa.

Quando il sistema di guida dell'IA è strettamente legale per le sue azioni di guida, questo è forse un indizio rivelatore che è probabile che si tratti di un sistema robotico (nonostante i conducenti umani lo facciano, anche se nel mondo di oggi sembrano rari). Se i sistemi di guida dell'IA devono guidare in modo eccentrico come i conducenti umani, questo salta attraverso la valle misteriosa o cade nella valle misteriosa?

Rimuginalo.

4. Robot che guidano come mezzo per raggiungere auto a guida autonoma

Quest'ultimo elemento per la copertura è il più sorprendente di questi quattro.

Potresti essere del tutto ignaro del fatto che alcuni sviluppatori di intelligenza artificiale stanno cercando di creare robot che guiderebbero le auto. Il robot tenderebbe ad assomigliare a un essere umano sotto vari aspetti, avendo gambe robotiche e braccia robotiche come arti. Quando vuoi che un'auto convenzionale a guida umana sia un'auto a guida autonoma, metti semplicemente questo robot di guida AI specializzato nel sedile del conducente della tua auto. Vedi la mia analisi di questa nozione a il link qui.

Perché dovremmo voler guidare i robot?

La bellezza di un tale robot è che tutte le auto a guida umana di oggi potrebbero, in una sorta di interpretazione, diventare auto a guida autonoma, quasi da un giorno all'altro. Semplicemente compri, noleggi o in qualche modo ti procuri un robot di guida. Metti il ​​robot al posto di guida durante un viaggio di guida. Il robot ti guida a destinazione. Se vuoi passare alla guida umana, rimuovi il robot dal veicolo, magari riponilo nel bagagliaio per un uso successivo.

Ci sono circa 250 milioni di auto convenzionali negli Stati Uniti oggi. Alcuni credono che alla fine verranno eliminati quando le auto a guida autonoma verranno alla luce. Piuttosto che buttare via quelle auto convenzionali, forse potremmo provare a trasformarle in auto a guida autonoma, anche se questa è forse un'idea piuttosto costosa. L'approccio apparentemente più prudente sarebbe quello di rendere disponibili i robot di guida.

Se vedessi un'auto dall'aspetto convenzionale scendere per la strada del tuo quartiere e avesse un robot al volante, quale sarebbe la tua reazione?

Probabile inquietudine.

Un'affermazione certamente discutibile è che questa inquietudine è dovuta al robot che guida un'auto convenzionale che si tuffa nella famosa o famigerata valle misteriosa.

Conclusione

Dal punto di vista dell'IA etica, la valle misteriosa presenta un intrigante enigma.

Ci sono alcuni nell'IA che credono pienamente nella valle misteriosa e altri no. Ma, indipendentemente dal fatto che tu creda nella valle misteriosa o non lo faccia, comunque l'argomento stesso è sbandato. Non puoi nascondere la testa e fingere che il costrutto di per sé sia ​​inesistente. Il costrutto come idea vive e in qualche apparenza è viralmente potente. Lo odi o lo ami, l'argomento maledetto o forse esaltato persiste.

Secondo il mio precedente discorso sui meriti della valle misteriosa dal punto di vista etico dell'IA, c'è un duello di amore e odio in essa. Quelli nel regno dell'IA etica dovrebbero abbracciare la valle misteriosa, o rifiutare sommariamente la valle misteriosa, o rimanere in qualche modo neutrali sulla veridicità e concentrarsi invece sull'impatto che si accumula a causa delle convinzioni divergenti in corso su di essa.

Questa sfida fa sorgere l'economista preminente Adam Smith che una volta disse (parafrasando) che sulla strada dalla Città dello Scetticismo, devi passare attraverso la Valle dell'Ambiguità.