In Tesla e in altre grandi aziende tecnologiche, non sono le macchine, ma i presupposti dietro di esse a causare problemi

Le nuove tecnologie fanno sempre emergere dei nervosi. Nel 370 a.C., Platone rifletté nel suo libro Fedro che la crescente "tendenza" verso la scrittura avrebbe indotto gli uomini a farlo perdono tutta la loro saggezza conservata. Nel 1880, si temeva che i pulsanti elettrici, tra tutte le cose, causassero a tutti noi perdere la nostra creatività lasciare che un pulsante svolga un compito per noi. Nella nostra generazione, c'è stata una profonda paura che qualsiasi esposizione ai videogiochi marcisse cervello dei bambini. Tali teorie spesso alla fine si dimostrano sbagliate. Ma a volte, ciò che avremmo potuto sperare sarebbe rimasto nel regno della fantascienza diventa realtà.

Negli ultimi mesi abbiamo ricevuto due promemoria molto forti sui pericoli dell'adozione sfrenata della tecnologia. I nostri peggiori incubi si sono avverati e le vite sono state irrimediabilmente danneggiate:

• Poche ore dopo che il leader di Tesla, Elon Musk, pubblicizzava le sue auto a guida autonoma su Twitter, una Tesla in modalità di guida autonoma ha deciso di accostare sul lato del Bay Bridge, un'arteria a 4 corsie in rapido movimento e ha causato un incidente con 8 auto ferendo 9 persone tra cui un bambino di 2 anni. Questo è uno dei centinaia di incidenti che sono stati causati dai sistemi di guida autonoma di Tesla, che hanno portato a 19 morti dal 2016.
• Randall Reid stava andando a una tardiva cena del Ringraziamento con sua madre quando la polizia lo fermò e lo mise in prigione per una settimana dopo il software di riconoscimento facciale lo aveva segnalato come sospetto in un caso di furto di una borsa di lusso della Louisiana. L'unico problema? Non aveva mai messo piede nello stato. Ma il 28enne residente in Georgia è afroamericano e il software di riconoscimento facciale è stato ampiamente criticato per la sua incapacità di distinguere accuratamente i volti neri.

«Mi hanno detto che avevo un mandato della Jefferson Parish. Ho detto: 'Cos'è la Jefferson Parish?'” Reid segnalato all'A.P. “Non sono mai stato in Louisiana un giorno in vita mia. Poi mi hanno detto che era per furto. Quindi non solo non sono stato in Louisiana, ma non rubo nemmeno.

Forse non in difesa di Elon Musk, ma a titolo di spiegazione, ha spesso notato che il suo obiettivo altruistico è alla fine ridurre il numero di incidenti stradali e morti rendendo le auto più intelligenti degli umani. E che per rendere quelle macchine più intelligenti, potrebbero aver bisogno di muoversi veloce (letteralmente) e rompi alcune cose (anche, letteralmente) su strade reali.

È qui che ci si potrebbe allineare con i suoi obiettivi - strade più sicure - ma contestare i suoi metodi - la sperimentazione umana. Siamo passati dal testare la medicina sugli esseri umani, senza il loro consenso, nel caso di Germania nazista e la Tuskegee "studi" - ai topi, che non possono acconsentire - a industrie come i cosmetici che imparano a testare i prodotti senza il costo della vita, umana, animale o altro. La tecnologia può essere testata senza danneggiare le persone lungo il percorso? È qui che noi - e gli organismi di regolamentazione del governo - possiamo fare delle scelte sul tipo di esperimenti a cui siamo disposti a sottoporre i nostri cittadini.

E poi, nel caso dell'intelligenza artificiale, è stata espressa una ragionevole preoccupazione che nel contesto di team tecnologici che generalmente mancano della diversità del nostro mondo globale in cui oltre il 85% delle persone vivere in Asia, Africa e America Latina, c'è il possibilità di danno significativo che può essere fatto se le tecnologie non riescono a incorporare la diversità nei loro progetti. Gente come Timnit Gebru con Nero in AI stanno facendo il duro lavoro di cercare di rendere responsabili le persone dietro le macchine, ma l'hanno fatto affrontato un sacco di venti contrari date le forze economiche che controllano gran parte di questa ricerca.

Non dobbiamo tornare a cavalli e passeggini se rifiutiamo le auto a guida autonoma. Quello che POSSIAMO fare è sostenere un nuovo motto tecnologico per il prossimo decennio: "muoviti lentamente e rompi meno".

Allo stesso modo, Hermant Tenaja ha scritto nel Harvard Business Review, "Prodotti minimi vitali" devono essere sostituiti da "prodotti minimi virtuosi" - nuove offerte che testano l'effetto sulle parti interessate e costruiscono protezioni contro potenziali danni". Offre otto domande che gli imprenditori tecnologici di oggi devono porre, tra cui:

• Quale cambiamento sistemico e sociale aspiri a creare con il tuo prodotto?
• Come sosterrai la virtù del tuo prodotto?
• Qual è il tuo framework per sfruttare responsabilmente i dati e l'intelligenza artificiale?
• Come definisci e promuovi la diversità nel contesto della tua attività?

Gli imprenditori possono riflettere su queste domande per i loro prodotti. E poi per i consumatori, prima di rivolgere la tua faccia all'ultimo, più grande servizio di generazione di avatar, potrebbe essere saggio pensarci due volte su come potrebbe tornare a morderti. Non abbiamo bisogno di ignorare la tecnologia, ma forse possiamo imparare a essere consumatori di tecnologia molto più consapevoli.