Perché non hai ancora un'auto a guida autonoma? Questa serie in 2 parti spiega i grandi problemi rimanenti

Le persone spesso chiedono: "Dov'è la mia macchina a guida autonoma?" "Perché non ne ho uno e quando arriverà?" Molte persone pensano che gli è stata promessa un'auto dalla fine degli anni '20 ed è tardi, e forse non arriverà, come le auto volanti di cui parlavano decenni fa.

In questa serie di due articoli (con video di accompagnamento) diamo un'occhiata ai motivi principali per cui probabilmente non stai guidando in una robocar oggi e quando potrebbe accadere. Quali sono le principali questioni tecnologiche, legali e sociali che si frappongono e quali problemi in realtà non sono bloccanti?

Per la maggior parte di noi, queste macchine non possono arrivare qui abbastanza presto. Hanno la promessa di evitare una parte decente degli incidenti automobilistici di oggi che uccidono oltre un milione ogni anno in tutto il mondo. Ci semplificheranno la vita e riscriveranno i principi del trasporto. In tal modo, riscriveranno il luogo in cui viviamo e la natura stessa della città, nonché dozzine di altri settori, dall'energia alla vendita al dettaglio. Ogni giorno che ritardiamo a portare queste cose sulla strada in volume, migliaia di persone moriranno per mano di persone che non avrebbero dovuto guidare. Ogni giorno rimandiamo.

Certo, è difficile

Per essere chiari, il motivo principale per cui "ci vuole così tanto tempo" è che è difficile. Uno dei più grandi progetti di ricerca software mai intrapresi. Ha richiesto non solo un software rivoluzionario, ma anche tonnellate di lavoro dettagliato che si occupa di un gran numero di casi speciali e della mappatura del mondo e di tutte le sue rughe. Chiunque pensi o pensi che possa essere consegnato in base a un programma si sbaglia e non ha mai lavorato prima nel software. Quando le case automobilistiche hanno cancellato date come il 2020, quelle erano speranze, non previsioni, e che alcune società tecnologiche l'hanno effettivamente realizzato è stato sorprendente. I progetti pluriennali che richiedono innovazioni non vengono mai previsti con precisione.

Nessuno con un background software sarebbe affatto scioccato se le previsioni per un progetto così grande fatto molti anni fa non fossero accurate. Quindi le cose non sono "fuori programma", anche se non hanno soddisfatto le speranze ottimistiche. Questo significa anche che le cose vengono fatte in piccoli passi.

Il più grande ostacolo però non è effettivamente farlo (cioè renderlo sicuro) ma sapere di averlo fatto.

Dimostrando che l'hai davvero reso sicuro

Il primo obiettivo tecnologico era semplicemente realizzarlo. Per realizzare un'auto che possa guidare da sola in sicurezza. È un risultato enorme, ma almeno in alcune città alcune aziende lo hanno già realizzato. Guidare in modo più sicuro rispetto all'essere umano medio è stato fatto da aziende come Waymo nelle facili strade di Phoenix. Quella era "la parte difficile", ma una parte ancora più difficile è definire cosa sia la sicurezza, misurarla e dimostrare di averlo fatto. Devi dimostrarlo a te stesso, al tuo consiglio, ai tuoi avvocati, al pubblico e forse anche al governo. Proprio come il vaccino Moderna Covid era pronto a febbraio 2020, prima del primo lockdown, il mondo ha aspettato 10 mesi – mentre un milione di persone sono morte senza di esso – prima di lasciare che le prime persone si sparassero. Abbiamo aspettato che ci dimostrassero di averlo fatto.

Misurare la sicurezza è piuttosto difficile. Sappiamo quanto spesso i conducenti umani subiscono incidenti di ogni tipo, da piccole ammaccature fino a decessi. Le vittime si verificano circa ogni 80 milioni di miglia negli Stati Uniti, o circa 2 milioni di ore di guida. Non possiamo testare tutte le versioni del software dicendo: "Facciamo che guidi per un miliardo di miglia e vediamo se uccide meno della dozzina di persone che morirebbero se gli umani guidassero così lontano". È una distanza impossibile da percorrere su strade vere anche una volta, per non parlare di ogni nuova versione. Potremmo guidare molto meno e contare ammaccature e incidenti minori - in effetti questo è il meglio che abbiamo ottenuto finora perché è almeno possibile - ma non siamo sicuri che si riferisca a lesioni con i robot allo stesso modo in cui fa con le persone.

Molti iniziano il modo tradizionale dell'industria automobilistica. Testano ogni componente dei loro veicoli per assicurarsi che sia affidabile e conforme alle specifiche. Cercano di farlo con sistemi di componenti, ma quella metodologia diventa difficile quando le cose diventano più complesse. Questo si chiama sicurezza funzionale: i componenti e i sistemi sono privi di difetti e gestiranno potenziali guasti noti.

Più recentemente c'è stato uno sforzo maggiore per portare questo a un livello di sistema e provare a testare la "Sicurezza della funzionalità prevista". Con SOTIF, i team lavorano per garantire che interi sistemi funzionino ancora, sia in caso di problemi e guasti dei componenti, sia in caso di uso improprio previsto. Ciò comporta spesso la simulazione dell'intero sistema, o parti di esso, o la simulazione "hardware in the loop" che è più semplice e sicura rispetto ai test dal vivo su strada.

Il test di simulazione offre la possibilità di testare un sistema in milioni di scenari diversi. Qualsiasi cosa qualcuno abbia mai visto, sentito o sognato, con centinaia di lievi variazioni di tutte queste cose.

Forse la cosa più difficile da testare, ma la cosa che più vorresti sapere, è quanto bene un sistema risponde a situazioni mai viste prima. Mentre puoi creare test di simulazione per sapere che il veicolo si comporta bene in quasi tutte le situazioni previste, una grande abilità magica delle menti umane è la capacità di gestire problemi mai visti prima. Le IA possono farlo, ma non sono altrettanto buone. Alla fine, vorremmo sperare in un modo per ottenere scenari nuovi, realistici e pericolosi ogni giorno. Oggi è bello che la tua auto sia stata programmata per gestire tutto ciò a cui chiunque abbia mai pensato, ma il vero gold standard potrebbe essere quello di lanciare 20 nuove situazioni mai viste prima, ogni giorno, e scoprire che gestisce la maggior parte di esse. Nemmeno gli umani li gestiscono tutti. Questa è una cosa che spero di vedere accadere attraverso il Progetto Piscina di sicurezza, che ho contribuito ad avviare con il World Economic Forum, Deepen.AI e l'Università di Warwick.

Anche con tutta la simulazione devi anche provare dal vivo su strada. Nessuno schiererà un'auto che non ha dimostrato di gestire molto bene il mondo reale. Sebbene costoso, il sistema di utilizzo dei conducenti di sicurezza umana per supervisionare le operazioni di robocar ha in realtà un eccellente track record e non mette in pericolo il pubblico rispetto alla normale guida umana.

Nel settore, ogni azienda cade su se stessa per descrivere quanto sia devota alla sicurezza. Il loro lavoro è creare un veicolo sicuro, ma fanno queste dichiarazioni per compiacere i funzionari e il pubblico. Ironia della sorte, l'interesse pubblico non è quello di realizzare le robocar più sicure, ma piuttosto le strade più sicure. I robocar sono uno strumento che può portare strade più sicure e prima arriveranno qui, prima e meglio lo faranno. I funzionari, se prendessero sul serio il loro dovere di migliorare la sicurezza stradale generale, incoraggerebbero le aziende a non andare troppo lontano in materia di sicurezza e si concentrerebbero invece sull'implementazione più rapida di una tecnologia più sicura, anche se facendo di meno per dimostrare che è sicura quando l'implementazione è piccola , lo fa accadere più velocemente. Ma non lo faranno mai, a causa del modo in cui la società reagisce agli errori e al rischio.

Una seconda componente della sicurezza è la sicurezza informatica. Abbiamo bisogno che queste auto siano robuste contro i tentativi di impossessarsene. Ad alcune persone non piace parlare di sicurezza informatica, ma la storia passata dell'industria automobilistica non è stata eccezionale. Fare ciò implica non solo pratiche e strumenti sicuri, ma anche ciò che viene chiamato "red teaming", in cui un team di esperti hacker dal cappello bianco va a caccia dall'esterno per trovare vulnerabilità finché non riescono a trovarne più. Un altro strumento importante è ridurre al minimo la connettività, o ciò che gli addetti alla sicurezza chiamano "superfici di attacco". Molti nel settore sono ossessionati da quella che immaginano sia la "macchina connessa" e scambiano la connettività per una rivoluzione grande quanto la guida autonoma. Non lo è, non da lontano. È necessaria una certa connettività, ma dovrebbe essere utilizzata con parsimonia in modo che la vera rivoluzione possa rimanere al sicuro.

Una delle maggiori sfide per i test è l'ampio uso dell'apprendimento automatico da parte di tutti i team robocar. L'apprendimento automatico è uno strumento di intelligenza artificiale estremamente potente e la maggior parte ritiene che sia essenziale, ma tende a produrre strumenti "scatola nera" che prendono decisioni ma che nessuno comprende appieno. Se non sai come funziona un sistema o perché fallisce o fa la cosa giusta, è difficile testarlo e certificarlo. In Europa, hanno emanato leggi che richiedono che tutta l'IA sia "spiegabile" a un certo livello, ma molte reti di apprendimento automatico sono molto difficili da spiegare. È spaventoso, ma sono così potenti che non li abbandoneremo. Potremmo trovarci di fronte a una scatola nera che è due volte più sicura nei test rispetto a un sistema spiegabile e ci sono argomentazioni convincenti che le persone fanno a favore di entrambe le scelte.

Predire il futuro

Un robocar è coperto da sensori, come telecamere, radar, laser LIDAR e altro ancora. I sensori sono probabilmente l'aspetto più discusso dell'hardware, ma in realtà i sensori non ti dicono affatto cosa vuoi sapere. Questo perché i sensori ti dicono dove sono le cose in questo momento, ma non te ne importa molto. Ti interessa dove saranno le cose in futuro. Le informazioni provenienti dai sensori sono solo un indizio verso il vero obiettivo di prevedere il futuro. Sapere dove si trova qualcosa e quanto velocemente si sta muovendo è un buon inizio, ma sapere di cosa si tratta è altrettanto importante per sapere dove sarà. La maggior parte degli oggetti sulla strada o vicino a essa non sono balistici: un essere umano è al comando e può cambiare rotta. Ecco perché una delle aree chiave della ricerca oggi è migliorare nel prevedere ciò che gli altri sulla strada, in particolare gli umani, faranno. Questo può variare dal conoscere il comportamento di guida al capire se un pedone in piedi all'angolo sta per entrare nel passaggio pedonale o sta navigando sul web.

Mentre diversi team hanno fatto grandi progressi, si scopre che le persone sono più brave dei robot odierni nel prevedere le altre persone. Migliorare in questo è uno dei problemi chiave sulla lista delle cose da fare, in particolare in ambienti più complessi come le città trafficate. Prevedere il futuro implica anche prevedere come gli altri reagiranno ai propri movimenti e ai movimenti previsti degli altri. Un'unione di corsia o una svolta a sinistra non protetta può essere un ballo con il dare e avere, e le robocar cercheranno costantemente di migliorare il loro modo di fare.

Percepire più velocemente

I sensori possono essere solo un mezzo per raggiungere il vero obiettivo, ma meglio fanno, meglio puoi prevedere quel futuro. I team stanno ancora cercando di rendere i sensori più veloci per rendere più veloci la percezione e la previsione. Una cosa importante è conoscere la velocità degli oggetti in movimento. Il radar te lo dice, ma le fotocamere e i vecchi LIDAR no, a meno che tu non guardi più fotogrammi. Alcuni LIDAR più recenti possono dirti la velocità e la distanza. L'osservazione di più fotogrammi richiede almeno lo stesso tempo dell'acquisizione dei fotogrammi, ma di solito di più.

Una situazione che può essere un problema è spostarsi sull'autostrada dietro un veicolo più grande. Immagina che davanti a quel veicolo ci sia un camion fermo sulla spalla, bloccato nella corsia. Succede spesso con incidenti e veicoli di emergenza. Improvvisamente il grande veicolo davanti a te vira a destra per evitare l'ostacolo e per la prima volta vedi quel camion fermo. Non hai davvero molto tempo per frenare o virare e potresti non avere nemmeno un posto dove andare. Se devi guardare 3 fotogrammi di video per vedere che in effetti non si sta muovendo, probabilmente è 1/10 di secondo sprecato, e questa è una situazione in cui può essere importante. Quindi molte squadre sono alla ricerca di modi per ottenere quel vantaggio e lo hanno trovato principalmente nei LIDAR in grado di misurare il "Doppler" per conoscere la velocità di tutto ciò che colpiscono con il laser. Anche i radar conoscono la velocità, ma il mondo è pieno di oggetti fermi che riflettono il radar, ed è difficile distinguere il veicolo fermo dal guardrail fermo accanto ad esso.

Prendendo la strada lunga

Citerò brevemente che una delle ragioni per una squadra famosa – TeslaTSLA
– non è ancora pronto è che stanno cercando di rendere deliberatamente il problema più difficile. Mentre ogni team fa un uso massiccio della visione artificiale, Tesla vuole farlo funzionare solo con la visione artificiale e solo le telecamere del 2016. La maggior parte degli altri team aggiunge anche telecamere, LIDAR, radar e mappe migliori alla propria cassetta degli attrezzi. Tesla vuole una svolta nella visione che possa renderla più economica. Dicono che tutti quegli strumenti extra siano distrazioni. Ma il resto del settore vuole utilizzare tutti gli strumenti per farlo prima, anche se a costi maggiori, e pensa che Tesla stia paralizzando se stessa. Finora, in base alla qualità del prodotto – Tesla FSD è seriamente molto indietro – gli altri hanno ragione, anche se la gara non è finita.

Questa è la prima parte. La seconda parte esamina cose come essere un buon cittadino delle strade, perché i robocar vengono schierati in una città alla volta invece che ovunque contemporaneamente e i problemi di affrontare una logistica più banale come fermarsi per raccogliere motociclisti, modelli di business, app e preoccuparsi troppo della sicurezza mentre si fa accettare ai governi e al pubblico. Elencherò anche alcuni fattori su cui si sta lavorando ma non sono veri e propri ostacoli alla distribuzione. Cerca la seconda parte nei giorni a venire.

Alcuni ritengono che il fatto di non avere o guidare una robocar nel 2022 significhi che lo sviluppo è in ritardo rispetto al programma. In realtà, non c'è mai stato un programma serio, solo speranze, ma in realtà questa lista di problemi fa presagire ottimismo, perché questi problemi rimanenti sembrano generalmente trattabili. Per affrontare la maggior parte di essi sono necessari duro lavoro e denaro, non innovazioni.

Resta sintonizzato per la seconda parte, in formato video e testo

Puoi lasciare commenti su questa pagina o sulla pagina del video.