AI Ethics lotta appassionatamente affinché il tuo diritto legale sia un'eccezione

Dicono che c'è un'eccezione a ogni regola.

Il problema però è che spesso prevale la regola permanente e c'è poca o nessuna indennità per un'eccezione da riconoscere o prendere in considerazione. Il caso medio viene utilizzato nonostante la stridente possibilità che un'eccezione sia in primo piano. Un'eccezione non ottiene alcun tempo di trasmissione. Non ha la possibilità di essere debitamente considerato.

Sono sicuro che devi sapere di cosa sto parlando.

Hai mai tentato di ottenere una sorta di servizio clienti personalizzato in base al quale sei stato trattato senza pensare senza alcuna distinzione per il tuo caso particolare e le tue esigenze specifiche?

Questo è indubbiamente successo a te, probabilmente innumerevoli volte.

Ti guiderò attraverso una tendenza inquietante che sta emergendo su come l'Intelligenza Artificiale (AI) viene escogitata incessantemente per forzare l'adattamento di tutto al paradigma one size fits all.

Le eccezioni non vengono rilevate o si sceglie di essere piegate fuori forma come se non fossero affatto eccezioni. La base per questo è in parte dovuta all'avvento di Machine Learning (ML) e Deep Learning (DL). Come vedrai a breve, ML/DL è una forma di abbinamento di modelli computazionali, simile a quello che è "più facile" da sviluppare e implementare se sei disposto a ignorare o aggirare le eccezioni. Questo è altamente problematico e solleva notevoli preoccupazioni sull'etica dell'IA. Per la mia copertura globale continua ed estesa dell'etica dell'IA e dell'IA etica, vedere il link qui ed il link qui, solo per citarne alcuni.

Le cose non devono essere così e per favore sappi che questo è alimentato da coloro che stanno creando e implementando l'IA scegliendo di ignorare o minimizzare la gestione delle eccezioni all'interno dei loro intrugli di IA.

Quando regolano le eccezioni

Per prima cosa scompattiamo la natura del caso medio rispetto alla realizzazione delle eccezioni.

Il mio esempio preferito di questo tipo di approccio al dogpiling o al miope con un caso mediocre senza eccezioni è vividamente illuminato da quasi tutti gli episodi dell'acclamata e ancora piuttosto immensamente popolare serie TV nota come House, MD (di solito espresso semplicemente come Casa, che ha funzionato dal 2004 al 2012 e può essere visualizzato oggi sui social media e altri media). Lo spettacolo prevedeva un personaggio immaginario di nome Dr. Gregory House che era burbero, insopportabile e abbastanza non convenzionale, eppure era ritratto come un genio medico in grado di scovare le malattie e i disturbi più oscuri. Ad altri medici e persino ai pazienti potrebbe non piacere necessariamente, ma ha portato a termine il lavoro.

Ecco come si è svolto un episodio tipico (avviso spoiler generico!).

Un paziente si presenta all'ospedale dove il dottor House fa parte del personale. Il paziente presenta inizialmente sintomi alquanto comuni e vari altri medici si alternano cercando di diagnosticare e curare il paziente. La cosa strana è che i tentativi di aiutare il paziente o non riescono a migliorare le condizioni avverse o peggio ancora tendono a ritorcersi contro. Il paziente peggiora sempre di più.

Poiché il paziente ora è visto come una sorta di curiosità medica e poiché nessun altro può capire di cosa soffre il paziente, il dottor House viene coinvolto nel caso. Questo a volte viene fatto apposta per attingere alla sua abilità medica, mentre in altri casi viene a sapere del caso e i suoi istinti innati lo attirano verso circostanze insolite.

Scopriamo gradualmente che il paziente ha una malattia estremamente rara. Solo il dottor House e il suo team di stagisti medici sono in grado di capirlo.

Ora che ho condiviso con te la trama principale degli episodi, tuffiamoci nelle lezioni apprese che illustrano la natura del caso medio rispetto alle eccezioni.

Le storie di fantasia sono progettate per mostrare come pensare dentro la scatola a volte possa fallire gravemente il bersaglio. Tutti gli altri medici che stanno inizialmente tentando di aiutare il paziente sono offuscati nei loro processi di pensiero. Vogliono forzare i sintomi e le sfaccettature presentate in una diagnosi medica convenzionale. Il paziente è semplicemente uno dei tanti che presumibilmente hanno visto prima. Esaminare il paziente e quindi prescrivere gli stessi trattamenti e soluzioni mediche che hanno utilizzato ripetutamente nel corso della loro carriera medica.

Lavare, risciacquare, ripetere.

In un certo senso, puoi giustificare questo approccio. Le probabilità sono che la maggior parte dei pazienti abbia i disturbi più comuni. Giorno dopo giorno, questi medici incontrano gli stessi problemi medici. Si potrebbe suggerire che i pazienti che entrano in ospedale si trovino davvero su una catena di montaggio medica. Ciascuno scorre lungo i protocolli standardizzati dell'ospedale come se facessero parte di un impianto di produzione o di un impianto di assemblaggio.

Prevale il caso medio. Non solo questo è generalmente adatto, ma consente anche all'ospedale e al personale medico di ottimizzare di conseguenza i propri servizi medici. I costi possono essere ridotti quando si escogitano i processi medici per gestire il caso medio. C'è un consiglio abbastanza famoso che viene spesso riprodotto nella mente degli studenti di medicina, ovvero che se senti i suoni degli zoccoli provenire dalla strada, è probabile che tu debba pensare a un cavallo piuttosto che a una zebra.

Efficiente, produttivo, efficace.

Finché un'eccezione non si insinua nel mezzo.

Forse una zebra dello zoo è scappata e si è aggirata per la tua strada.

Questo significa che le eccezioni dovrebbero essere la regola e dovremmo mettere da parte la regola del caso medio invece di concentrarci esclusivamente sulle sole eccezioni?

Sarebbe difficile affermare che tutti i nostri incontri e servizi quotidiani dovrebbero essere incentrati sulle eccezioni piuttosto che sul caso medio.

Nota che non sto facendo un simile suggerimento. Quello che sto affermando è che dobbiamo garantire che le eccezioni possano verificarsi e che dobbiamo riconoscere quando sorgono eccezioni. Dico questo perché alcuni esperti sono inclini a proclamare ad alta voce che se sei un sostenitore del riconoscimento delle eccezioni devi ergo essere contrario a escogitare per il caso medio.

Questa è una falsa dicotomia.

Non cadere per questo.

Possiamo avere la nostra torta e mangiarla anche noi.

Fare il caso per un diritto di essere un'eccezione

In seguito forse fornirò un po' di shock che mette in relazione tutto questo con l'uso fiorente dell'IA.

I sistemi di intelligenza artificiale vengono sempre più realizzati per concentrarsi sul caso medio, spesso a esclusione oa scapito del riconoscimento delle eccezioni.

Potresti essere sorpreso di sapere che questo sta accadendo. La maggior parte di noi presumerebbe che, poiché l'IA è una forma di automazione del computer, il bello dell'automazione delle cose è che di solito è possibile incorporare eccezioni. Questo di solito può essere fatto a un costo inferiore rispetto a quello che se si utilizzasse il lavoro umano per eseguire un servizio simile. Con il lavoro umano, potrebbe essere costoso o proibitivo avere a disposizione ogni tipo di lavoro in grado di gestire le eccezioni. Le cose sono molto più facili da gestire e mettere in atto se puoi presumere che i tuoi clienti o clienti siano tutti di calibro medio. Ma si suppone che l'uso di sistemi computerizzati consenta delle eccezioni, prontamente. In questo modo di pensare, dovremmo fare il tifo a gran voce per le capacità più informatiche che vengono alla ribalta.

Considera questo come un enigma sconvolgente e prenditi un momento per riflettere su questa domanda irritante: Come può l'IA, che altrimenti si presume essere la migliore dell'automazione, apparentemente inesorabilmente marcia lungo il percorso routinizzato e senza eccezioni che ironicamente o inaspettatamente abbiamo immaginato sarebbe andato esattamente nella direzione opposta?

Risposta: Tuttavia, Machine Learning e Deep Learning ci stanno portando a un'esistenza senza eccezioni non perché dobbiamo obbligatoriamente intraprendere quella strada (possiamo fare di meglio).

Disimballiamo questo.

Supponiamo di decidere di utilizzare l'apprendimento automatico per ideare un'intelligenza artificiale che verrà utilizzata per capire le diagnosi mediche. Raccogliamo una serie di dati storici sui pazienti e le loro circostanze mediche. Il ML/DL che abbiamo impostato cerca di intraprendere un abbinamento di modelli computazionali che esaminerà i sintomi dei pazienti e renderà un disturbo atteso associato a quei sintomi.

Sulla base dei dati inseriti, il ML/DL accerta matematicamente che sintomi come naso che cola, mal di gola, mal di testa e dolore sono tutti fortemente associati al comune raffreddore. Un ospedale sceglie di utilizzare questa IA per eseguire il pre-screening dei pazienti. Abbastanza sicuro, ai pazienti che riportano quei sintomi al primo arrivo in ospedale viene "diagnosticato" come probabile che abbiano un comune raffreddore.

Cambiando le marce, aggiungiamo un tocco di Dr. House a tutto questo.

Un paziente arriva in ospedale e viene diagnosticato dall'IA. L'IA indica che il paziente sembra avere un comune raffreddore in base ai sintomi di naso che cola, mal di gola e mal di testa. Al paziente vengono fornite prescrizioni apparentemente adatte e consigli medici per affrontare un comune raffreddore. Questo è tutto parte integrante dell'approccio del caso medio utilizzato durante l'elaborazione dell'IA.

Si scopre che il paziente finisce per avere questi sintomi per diversi mesi. Un esperto di malattie rare e alimenti si rende conto che questi stessi sintomi potrebbero riflettere una perdita di liquido cerebrospinale (CSF). L'esperto tratta il paziente con varie procedure chirurgiche legate a tali perdite. Il paziente si riprende (a proposito, questa storia straordinaria su un paziente con una perdita di liquido cerebrospinale a cui inizialmente era stato diagnosticato un comune raffreddore si basa vagamente su un vero caso medico).

Ripercorreremo ora i nostri passi in questa saga medica.

Perché l'IA che stava effettuando il pre-screening dell'assunzione non è stata in grado di valutare che il paziente potesse avere questo raro disturbo?

Una risposta è che se i dati di addestramento utilizzati per la creazione di ML/DL non contenessero tali istanze, non ci sarebbe nulla su cui corrispondere la corrispondenza del modello computazionale. Data l'assenza di dati relativi alle eccezioni alla regola, la regola generale o il caso medio stesso saranno considerati apparentemente inalterati e applicati senza alcuna esitazione.

Un'altra possibilità è che ci fosse un'istanza di questa rara perdita di liquido cerebrospinale nei dati storici, ma si trattava solo di un caso particolare e in questo senso un valore anomalo. Il resto dei dati era tutto matematicamente vicino al caso medio accertato. Sorge quindi la domanda su cosa fare per il cosiddetto outlier.

Tieni presente che affrontare questi valori anomali è una questione molto diversa da come gli sviluppatori di IA potrebbero decidere di fare i conti con l'aspetto di qualcosa al di fuori del caso medio determinato. Non è necessario un approccio che gli sviluppatori di IA siano obbligati ad adottare. È un po' un selvaggio West su ciò che un determinato sviluppatore di IA potrebbe fare in un dato caso di sollevazione di eccezioni dei loro sforzi di sviluppo ML/DL.

Ecco la mia lista dei modi in cui queste eccezioni sono spesso in modo inappropriato gestito:

• Eccezione assunta come errore
• Eccezione assunta come indegna
• Eccezione assunta come modulabile nella “norma”
• Eccezione non notata affatto
• Eccezione notata ma sommariamente ignorata
• Eccezione notata e poi dimenticata
• Eccezione notata e nascosta alla vista
• Etc.

Uno sviluppatore di intelligenza artificiale potrebbe decidere che la rarità non è altro che un errore nei dati. Potrebbe sembrare strano che qualcuno la pensi in questo modo, specialmente se si tenta di umanizzarlo, ad esempio immaginando che il paziente con la perdita di liquido cerebrospinale sia quell'unico caso. C'è una forte tentazione, tuttavia, che se tutti i tuoi dati fuori contesto dicono fondamentalmente una cosa, forse costituita da migliaia e migliaia di record e stanno tutti convergendo in un caso medio, il verificarsi di uno strano pezzo di dati può prontamente (pigramente!) essere interpretato come un vero e proprio errore. L '"errore" potrebbe quindi essere scartato dallo sviluppatore dell'IA e non considerato nell'ambito di ciò su cui viene addestrato il ML/DL.

Un altro mezzo per far fronte a un'eccezione sarebbe decidere che si tratta di una questione indegna. Perché preoccuparsi di una rarità quando forse ti stai affrettando a far funzionare un ML/DL? Elimina il valore anomalo e vai avanti. Nessun pensiero va necessariamente verso le ripercussioni lungo la strada.

Ancora un altro approccio consiste nel ripiegare l'eccezione nel resto dell'ambiente del caso medio. Lo sviluppatore di intelligenza artificiale modifica i dati per adattarli al resto della norma. C'è anche la possibilità che lo sviluppatore di IA non si accorga dell'esistenza dell'eccezione.

L'ML/DL potrebbe segnalare che è stata rilevata l'eccezione, che quindi lo sviluppatore di intelligenza artificiale dovrebbe istruire l'ML/DL su come trattare matematicamente l'outlier. Lo sviluppatore di intelligenza artificiale potrebbe inserirlo in un elenco di cose da fare e in seguito dimenticare di affrontarlo o semplicemente scegliere di ignorarlo e così via.

Tutto sommato, il rilevamento e la risoluzione della gestione delle eccezioni quando si tratta di IA è senza alcun approccio specificamente stipulato o irresistibilmente equilibrato e motivato di per sé. Le eccezioni sono spesso trattate come emarginati indegni e il caso medio è il vincitore prevalente. Gestire le eccezioni è difficile, può richiedere molto tempo, richiede una parvenza di abili capacità di sviluppo dell'IA, e per il resto è una seccatura rispetto al raggruppare le cose in un elegante papillon di una taglia unica.

In una certa misura, ecco perché AI Ethics and Ethical AI è un argomento così cruciale. I precetti di AI Ethics ci portano a rimanere vigili. I tecnologi dell'IA possono a volte interessarsi alla tecnologia, in particolare all'ottimizzazione dell'alta tecnologia. Non stanno necessariamente considerando le più ampie ramificazioni della società.

Oltre a impiegare i precetti di etica dell'IA in generale, c'è una domanda corrispondente se dovremmo avere leggi per governare i vari usi dell'IA. Nuove leggi vengono diffuse a livello federale, statale e locale che riguardano la gamma e la natura di come dovrebbe essere ideata l'IA. Lo sforzo per redigere e promulgare tali leggi è graduale.

In questa particolare discussione sul ruolo delle eccezioni arriva un punto di vista provocatorio secondo cui forse dovrebbe esserci un diritto legale associato all'essere un'eccezione. Potrebbe essere che l'unico mezzo praticabile per ottenere il riconoscimento in buona fede per qualcuno che potrebbe essere un'eccezione implica l'utilizzo del braccio lungo della legge.

Mettere in atto un nuovo tipo di diritto umano.

Il diritto di essere considerato un'eccezione.

Consideriamo questa proposta: “Il diritto ad essere un'eccezione non implica che ogni individuo is un'eccezione ma che, quando una decisione può infliggere un danno al soggetto della decisione, il decisore dovrebbe considerare la possibilità che il soggetto può essere un'eccezione. Il diritto ad essere un'eccezione implica tre ingredienti: nuocere, individualizzazionee incertezza. Il decisore deve scegliere di infliggere danno solo dopo aver considerato se la decisione è adeguatamente individualizzata e, soprattutto, l'incertezza che accompagna la componente data-driven della decisione. Maggiore è il rischio di danno, più grave è la considerazione” (di Sarah Cen, in un documento di ricerca intitolato Il diritto di essere un'eccezione nel processo decisionale basato sui dati, MIT, 12 aprile 2022).

Potresti essere tentato di presumere che abbiamo già un tale diritto.

Non necessariamente. Secondo il documento di ricerca, il diritto umano probabilmente più vicino riconosciuto a livello internazionale potrebbe essere quello della dignità individuale. In teoria, l'idea che dovrebbe esserci un riconoscimento della dignità tale che si suppone che un individuo e la sua specifica unicità siano inclusi ti porta all'interno del campo di gioco di un potenziale diritto umano di eccezione. Uno scrupolo è che le leggi esistenti che regolano il regno della dignità siano dette in qualche modo nebulose ed eccessivamente malleabili, quindi non ben sintonizzate con lo specifico costrutto giuridico di un diritto di eccezione.

Coloro che sono favorevoli a un nuovo diritto che consiste in un diritto umano ad essere un'eccezione sosterrebbero che:

• Un tale diritto obbligherebbe praticamente legalmente gli sviluppatori di intelligenza artificiale a far fronte esplicitamente alle eccezioni
• Le aziende che producono IA sarebbero più legalmente agganciate per non avere a che fare con le eccezioni
• L'IA sarebbe probabilmente più bilanciata e nel complesso più robusta
• Coloro che usano l'IA o soggetti all'IA starebbero meglio
• Quando l'IA non ammette eccezioni, il ricorso legale sarebbe prontamente fattibile
• Anche i produttori di intelligenza artificiale staranno meglio (la loro intelligenza artificiale coprirebbe una gamma più ampia di utenti)
• Etc.

Coloro che si oppongono a un nuovo diritto etichettato come diritto umano ad essere un'eccezione tendono a dire:

• I diritti umani e legali esistenti coprono sufficientemente questo e non c'è bisogno di complicare le cose
• Un onere indebito sarebbe gravato sulle spalle dei produttori di IA
• Gli sforzi per creare l'IA diventerebbero più costosi e tenderebbero a rallentare i progressi dell'IA
• Sorgerebbero false aspettative che tutti chiederebbero di essere un'eccezione
• Il diritto stesso sarebbe indubbiamente soggetto a interpretazioni divergenti
• Quelli che guadagneranno di più saranno la professione legale quando i casi legali saliranno alle stelle
• Etc.

In breve, l'opposizione a un tale nuovo diritto di solito sostiene che si tratta di un gioco a somma zero e che un diritto legale di essere un'eccezione costerà più di quanto ne derivi vantaggiosamente. Coloro che credono che un tale nuovo diritto sia sensatamente richiesto è incline a sottolineare che questo non è un gioco a somma zero e che alla fine tutti ne traggono vantaggio, compresi quelli che fanno l'IA e quelli che usano l'IA.

Puoi star certo che questo dibattito che comprende le implicazioni legali, etiche e sociali associate all'IA e alle eccezioni sarà forte e persistente.

Auto a guida autonoma e importanza delle eccezioni

Considera come ciò si applica nel contesto di sistemi autonomi come veicoli autonomi e auto a guida autonoma. Ci sono già state varie critiche sulla mentalità del caso medio dello sviluppo dell'IA per le auto a guida autonoma e i veicoli autonomi.

Ad esempio, all'inizio, pochissimi modelli di auto a guida autonoma hanno accolto coloro che hanno una qualche forma di disabilità o menomazione fisica. Non si è pensato molto a comprendere in modo più ampio una gamma completa di esigenze del ciclista. Nel complesso, questa consapevolezza è aumentata, sebbene siano ancora espresse preoccupazioni sul fatto che questo sia abbastanza lontano e ampiamente abbracciato come dovrebbe essere.

Un altro esempio del caso medio rispetto a un'eccezione ha a che fare con qualcosa che potrebbe prenderti alla sprovvista.

Sei pronto?

La progettazione e l'implementazione di molti dei sistemi di guida dell'IA e delle auto a guida autonoma di oggi tendono a fare un presupposto silenzioso o non detto che gli adulti guideranno l'auto a guida autonoma. Sappiamo che quando un guidatore umano è al volante c'è ovviamente un adulto nel veicolo, per definizione poiché di solito ottenere una patente di guida si basa sull'essere un adulto (beh, o quasi). Per le auto a guida autonoma che hanno l'IA che fa tutta la guida, non è necessaria la presenza di un adulto.

Il punto è che possiamo far guidare i bambini in auto da soli senza la presenza di un adulto, almeno questo è possibile nel caso di auto a guida autonoma completamente autonome e guidate dall'IA. Puoi mandare i tuoi figli a scuola al mattino utilizzando un'auto a guida autonoma. Invece di dover dare un passaggio ai tuoi figli o dover utilizzare un autista umano di un servizio di condivisione di corse, puoi semplicemente far salire i tuoi figli su un'auto a guida autonoma ed essere portati a scuola.

Non tutto è roseo quando si tratta di avere figli in auto a guida autonoma da soli.

Dal momento che non è più necessario avere un adulto a bordo del veicolo, ciò implica che anche i bambini non si sentiranno più influenzati o, per così dire, controllati dalla presenza di un adulto. I bambini impazziranno e distruggeranno l'interno delle auto a guida autonoma? I bambini proveranno a arrampicarsi o ad allungarsi fuori dai finestrini dell'auto a guida autonoma? Quali altri tipi di buffonate potrebbero fare, causando potenziali lesioni e gravi danni?

Ho trattato l'acceso dibattito sull'idea che i bambini vadano da soli in auto a guida autonoma, vedete il link qui. Alcuni dicono che questo non dovrebbe mai essere permesso. Alcuni dicono che è inevitabile e dobbiamo capire come farlo funzionare al meglio.

Conclusione

Torniamo al tema generale del caso medio contro l'eccezione.

Siamo tutti d'accordo sul fatto che ci sarà sempre qualche eccezione alla regola. Una volta che una regola è stata formata o identificata, dovremmo cercare delle eccezioni. Quando incontriamo delle eccezioni, dovremmo pensare a quale regola potrebbe applicarsi questa eccezione.

Molte delle IA ideate oggi sono modellate attorno alla formulazione della regola, mentre le sfide associate alle eccezioni tendono ad essere abbandonate e ignorate.

Per coloro a cui piace essere viscido e dicono che non ci sono eccezioni alla regola che ci sono sempre eccezioni alla regola, riconoscerei che questo spirito sembra essere un enigma mentale. Vale a dire, come possiamo avere una regola che ci sono sempre eccezioni, ma poi questa stessa regola non sembra applicarsi alla regola che ci sono sempre eccezioni alla regola?

Ti fa girare la testa.

Fortunatamente, non c'è bisogno di complicare eccessivamente queste questioni che fanno riflettere. Si spera che possiamo vivere con la pratica e vitale regola empirica a cui dovremmo prestare attenzione e accogliere le eccezioni a ogni regola.

Questo sistema le cose, quindi ora mettiamoci al lavoro.