Generative AI ChatGPT sarà ovunque una volta che il portale API sarà presto aperto, stupefacendo l'etica dell'IA e la legge sull'IA

Libera il Kraken!

Sicuramente conosci quel famoso tormentone pronunciato in particolare dall'attore Liam Neeson in Lo scontro tra titani quando ordina di liberare il leggendario mostro marino, con l'obiettivo di provocare un immenso caos e una distruzione fuori misura. La linea è stata ripetuta all'infinito e ha generato ogni sorta di meme. Nonostante le varie parodie, la maggior parte delle persone sente ancora, almeno visceralmente, che l'osservazione preannuncia che qualcosa di un'emergenza oscura e pericolosa sta per essere scatenata.

Forse lo stesso sentimento può essere applicato in questi giorni all'Intelligenza Artificiale (AI).

Mi permetta di elaborare.

Un recente annuncio ha indicato che un'app AI ora clamorosamente famosa chiamata ChatGPT creata dall'organizzazione OpenAI sarà presto resa disponibile per l'accesso da parte di altri programmi. Questa è una grande novità. Lo dico anche se poco dei media regolari ha raccolto la dichiarazione. A parte le menzioni fugaci, l'impatto completo di questo accesso imminente sarà dannatamente significativo.

Nella colonna di oggi, spiegherò perché questo è il caso. Puoi prepararti di conseguenza.

Alcuni credono fermamente che questo sarà come liberare il Kraken, vale a dire che sorgeranno tutti i tipi di cose brutte. Altri vedono questo come rendere disponibile una risorsa cruciale che può potenziare tonnellate di altre app sfruttando le grandi capacità di ChatGPT. O è il peggiore dei tempi o il migliore dei tempi. Considereremo qui entrambi i lati del dibattito e potrai decidere tu stesso in quale campo atterrare.

In tutto questo c'è una serie di considerazioni sull'etica dell'IA e sulla legge sull'IA.

Tieni presente che sono in corso sforzi per infondere i principi dell'IA etica nello sviluppo e nella messa in campo delle app di intelligenza artificiale. Un contingente crescente di esperti di etica dell'IA preoccupati e di un tempo sta cercando di garantire che gli sforzi per ideare e adottare l'IA tengano conto di una visione del fare AI in bene e scongiurare AI for Bad. Allo stesso modo, vengono proposte nuove leggi sull'IA che vengono sbandierate come potenziali soluzioni per impedire agli sforzi dell'IA di impazzire sui diritti umani e simili. Per la mia continua ed estesa copertura di AI Ethics e AI Law, vedi il link qui ed il link qui, solo per citarne alcuni.

Ci sono stati crescenti scrupoli sul fatto che ChatGPT e altre app di intelligenza artificiale simili abbiano un brutto ventre che forse non siamo pronti a gestire. Ad esempio, potresti aver sentito che gli studenti nelle scuole sono potenzialmente in grado di imbrogliare quando si tratta di scrivere saggi assegnati tramite ChatGPT. L'intelligenza artificiale scrive per loro. Nel frattempo, lo studente è in grado di girare apparentemente senza problemi il saggio come se avesse scritto dalla propria zucca. Non quello che presumibilmente vogliamo che l'IA faccia per l'umanità.

Alcuni elementi essenziali chiave potrebbero essere utili per preparare il terreno per ciò di cui si tratta.

ChatGPT è un tipo di AI comunemente indicato come AI generativa. Queste app di intelligenza artificiale basate sulla generazione di tendenza ti consentono di inserire un breve messaggio e fare in modo che l'app generi output per te. Nel caso di ChatGPT, l'output è testo. Pertanto, inserisci un messaggio di testo e l'app ChatGPT produce il testo per te. Tendo a descriverlo come un particolare sottotipo di IA generativa affinato per generare output di testo in saggio (ci sono altri sottotipi come testo in immagini, testo in video e così via).

Il produttore AI di ChatGPT ha indicato che presto sarà resa disponibile un'API (Application Programming Interface) per l'app AI. In breve, un'API è un mezzo per consentire ad altri programmi di andare avanti e utilizzare un programma che rende disponibile un portale nell'applicazione data. Ciò significa che praticamente qualsiasi altro programma su questo pianeta può potenzialmente sfruttare l'uso di ChatGPT (beh, come concesso in licenza e previa approvazione da parte del produttore AI di ChatGPT, come verrà discusso ulteriormente qui).

Il risultato è che l'uso e gli usi di ChatGPT potrebbero potenzialmente esplodere.

Considerando che oggi c'è un numero impressionante di iscrizioni che coinvolgono persone che su un individuale base può utilizzare ChatGPT, limitato dal produttore di intelligenza artificiale a un milione di utenti, questo sarà probabilmente una goccia nel secchio di ciò che sta per accadere.

Renditi conto che quei milioni di iscrizioni esistenti sono costituiti da una parte che ha utilizzato ChatGPT per una volta e poi, dopo che il brivido è svanito, non l'hanno più utilizzato da allora. Molti sono stati presumibilmente attratti dall'app AI come risposta reattiva virale dei social media. In breve, se tutti gli altri volevano usarlo, volevano farlo anche loro. Dopo alcune sperimentazioni iniziali con l'IA generativa, si sono sentiti soddisfatti di aver evitato la loro FOMO (paura di perdere qualcosa).

Per chiarire chiaramente, non sto suggerendo che le persone non utilizzino ChatGPT. Sono. Coloro che si sono registrati stanno scoprendo sempre più che l'app AI è sovraccarica. Un sacco di persone stanno usando l'app. Di tanto in tanto ricevi alcune indicazioni dolorose composte in modo intelligente che il sistema è occupato e dovresti riprovare più tardi. Si dice per strada che l'infrastruttura esistente per ChatGPT si sia sforzata di far fronte ai fan accaniti che utilizzano l'app AI.

E sebbene avere un milione di potenziali utenti non sia nulla da starnutire, è probabile che il numero venga prontamente eclissato di molte volte una volta che l'API sarà resa disponibile. Gli sviluppatori di altri programmi che oggi non hanno nulla a che fare con l'IA generativa vorranno attingere al carrozzone dell'IA generativa. Vorranno connettere il loro programma con ChatGPT. La loro speranza più profonda è che questo aumenterà il loro programma esistente nella stratosfera della popolarità.

Pensare in questo modo. Supponiamo che tutti i tipi di società di software che oggi realizzano programmi che raggiungono molti milioni di utenti, spesso raggiungendo decine e centinaia di milioni di utenti in tutto, scelgano di accoppiare i rispettivi programmi con ChatGPT. Ciò suggerisce che il volume di utenti che utilizzano ChatGPT potrebbe salire alle stelle.

Il Kraken viene rilasciato.

Perché varie società di software dovrebbero voler fare coppia con ChatGPT, ti starai chiedendo?

Una risposta semplice è che potrebbero anche sfruttare gli incredibili venti favorevoli che stanno spingendo ChatGPT in avanti e verso l'alto. Alcuni lo faranno per ragioni ragionevoli e oneste. Altri lo faranno semplicemente per cercare di ottenere la propria parvenza di quindici minuti di fama.

Mi piace stratificare gli abbinamenti a ChatGPT come costituiti da due intenzioni principali:

• Accoppiamento autentico con ChatGPT
• Falso accoppiamento con ChatGPT

Nel primo caso, l'idea è che esista una base in buona fede per l'associazione con ChatGPT. I creatori di un determinato programma sono in grado di articolare bene i vantaggi tangibili e funzionali che deriveranno dall'abbinamento del loro programma con ChatGPT. Possiamo tutti in uno stato d'animo ragionevole vedere che l'accoppiamento è un matrimonio fatto in paradiso.

Per l'altro caso, costituito da ciò che definisco falso, alcuni cercheranno di accoppiarsi con ChatGPT in modo volubile o traballante. Il business case non consiste in nulla di particolarmente sostanziale. L'accoppiamento è un disperato tentativo di cavalcare le code di ChatGPT. Qualsiasi ispezione ragionevole rivelerebbe che l'accoppiamento ha un valore marginale. Ora, se pensi che questa sia una forma di accoppiamento corretta o impropria è in qualche modo sospesa nell'aria. Si potrebbe provare a sostenere che un particolare abbinamento con ChatGPT, anche se l'abbinamento non realizza altro che aumentare l'utilizzo e non ha altro valore additivo funzionale, presumibilmente l'abbinamento è ancora degno di essere intrapreso.

Un po 'uno svantaggio saranno quelli che ritraggono falsamente l'accoppiamento e inducono le persone a credere che stia accadendo qualcosa di notevole quando in realtà non lo è. Possiamo certamente aspettarci che alcuni lo proveranno. Quelli di AI Ethics sono fortemente preoccupati per gli usi dell'olio di serpente che usciranno dalla falegnameria. C'è anche la possibilità che se questo sfugge di mano, potremmo vedere nuove leggi relative all'IA che saranno spinte a essere redatte e promulgate.

Analizziamo più da vicino ciò che costituisce accoppiamenti genuini e ciò che costituisce anche accoppiamenti falsi.

Innanzitutto, dovremmo assicurarci di essere tutti sulla stessa pagina su cosa sia l'IA generativa e anche su cosa sia ChatGPT. Una volta coperto questo aspetto fondamentale, possiamo eseguire una valutazione convincente di come l'API in ChatGPT cambierà radicalmente le cose.

Se hai già molta familiarità con Generative AI e ChatGPT, puoi forse scorrere la sezione successiva e procedere con la sezione che la segue. Credo che tutti gli altri troveranno istruttivi i dettagli vitali su questi argomenti leggendo attentamente la sezione e aggiornandosi.

Una rapida introduzione all'IA generativa e ChatGPT

ChatGPT è un sistema interattivo orientato alla conversazione per scopi generici, essenzialmente un chatbot generale apparentemente innocuo, tuttavia, viene utilizzato attivamente e avidamente dalle persone in modi che stanno cogliendo molti completamente alla sprovvista, come elaborerò a breve. Questa app AI sfrutta una tecnica e una tecnologia nel regno dell'IA che viene spesso chiamata AI generativa. L'intelligenza artificiale genera output come il testo, che è ciò che fa ChatGPT. Altre app AI basate sulla generazione producono immagini come immagini o opere d'arte, mentre altre generano file audio o video.

Mi concentrerò sulle app AI generative basate su testo in questa discussione poiché è quello che fa ChatGPT.

Le app di intelligenza artificiale generativa sono estremamente facili da usare.

Tutto quello che devi fare è inserire un prompt e l'app AI genererà per te un saggio che tenta di rispondere al tuo prompt. Il testo composto sembrerà come se il saggio sia stato scritto dalla mano e dalla mente umana. Se dovessi inserire un prompt che diceva "Parlami di Abraham Lincoln", l'IA generativa ti fornirà un saggio su Lincoln. Questo è comunemente classificato come AI generativo che esegue testo in testo o alcuni preferiscono chiamarlo testo in saggio produzione. Come accennato, esistono altre modalità di IA generativa, come text-to-art e text-to-video.

Il tuo primo pensiero potrebbe essere che questa capacità generativa non sembri un grosso problema in termini di produzione di saggi. Puoi facilmente fare una ricerca online su Internet e trovare facilmente tonnellate e tonnellate di saggi sul presidente Lincoln. Il kicker nel caso dell'IA generativa è che il saggio generato è relativamente unico e fornisce una composizione originale piuttosto che un imitatore. Se dovessi cercare di trovare il saggio prodotto dall'intelligenza artificiale da qualche parte online, difficilmente lo scoprirai.

L'intelligenza artificiale generativa è pre-addestrata e fa uso di una complessa formulazione matematica e computazionale che è stata creata esaminando i modelli nelle parole scritte e nelle storie sul web. Come risultato dell'esame di migliaia e milioni di passaggi scritti, l'intelligenza artificiale può vomitare nuovi saggi e storie che sono un miscuglio di ciò che è stato trovato. Aggiungendo varie funzionalità probabilistiche, il testo risultante è praticamente unico rispetto a quello che è stato utilizzato nel training set.

Ecco perché c'è stato un clamore sul fatto che gli studenti possano imbrogliare quando scrivono saggi fuori dall'aula. Un insegnante non può limitarsi a prendere il saggio che gli studenti ingannevoli affermano essere la loro stessa scrittura e cercare di scoprire se è stato copiato da qualche altra fonte online. Nel complesso, non ci sarà alcun saggio preesistente definitivo online che si adatti al saggio generato dall'intelligenza artificiale. Tutto sommato, l'insegnante dovrà accettare a malincuore che lo studente abbia scritto il saggio come un lavoro originale.

Ci sono ulteriori preoccupazioni sull'IA generativa.

Uno svantaggio cruciale è che i saggi prodotti da un'app di intelligenza artificiale basata sulla generazione possono contenere varie falsità, inclusi fatti palesemente falsi, fatti rappresentati in modo fuorviante e fatti apparenti che sono interamente fabbricati. Questi aspetti fabbricati sono spesso indicati come una forma di Allucinazioni AI, uno slogan che disapprovo ma che purtroppo sembra stia guadagnando comunque popolarità (per la mia spiegazione dettagliata sul motivo per cui questa è una terminologia scadente e inadatta, vedere la mia copertura su il link qui).

Vorrei chiarire un aspetto importante prima di entrare nel vivo dell'argomento.

Ci sono state alcune folli affermazioni fuori misura sui social media AI generativa affermando che questa ultima versione di AI è in realtà IA senziente (no, si sbagliano!). Quelli di AI Ethics e AI Law sono particolarmente preoccupati per questa fiorente tendenza di affermazioni estese. Si potrebbe educatamente dire che alcune persone stanno sopravvalutando ciò che l'intelligenza artificiale di oggi può effettivamente fare. Presumono che l'intelligenza artificiale abbia capacità che non siamo ancora stati in grado di raggiungere. È un peccato. Peggio ancora, possono permettere a se stessi e agli altri di trovarsi in situazioni terribili a causa del presupposto che l'IA sarà senziente o simile a quella umana nel poter agire.

Non antropomorfizzare l'IA.

In questo modo verrai catturato in una trappola appiccicosa e austera di aspettarti che l'IA faccia cose che non è in grado di eseguire. Detto questo, l'ultima IA generativa è relativamente impressionante per quello che può fare. Tieni presente, tuttavia, che esistono limitazioni significative che dovresti tenere sempre a mente quando utilizzi qualsiasi app di intelligenza artificiale generativa.

Se sei interessato al trambusto in rapida espansione su ChatGPT e l'IA generativa tutto sommato, ho fatto una serie mirata nella mia rubrica che potresti trovare informativa. Ecco uno sguardo nel caso in cui qualcuno di questi argomenti attiri la tua fantasia:

• 1) Previsioni di progressi dell'IA generativa in arrivo. Se vuoi sapere cosa è probabile che accada sull'IA per tutto il 2023 e oltre, compresi i prossimi progressi nell'IA generativa e ChatGPT, ti consigliamo di leggere il mio elenco completo delle previsioni per il 2023 su il link qui.
• 2) IA generativa e consigli sulla salute mentale. Ho scelto di esaminare come l'IA generativa e ChatGPT vengono utilizzate per i consigli sulla salute mentale, una tendenza problematica, secondo la mia analisi mirata su il link qui.
• 3) Fondamenti di IA generativa e ChatGPT. Questo pezzo esplora gli elementi chiave di come funziona l'IA generativa e in particolare approfondisce l'app ChatGPT, inclusa un'analisi del brusio e della fanfara, a il link qui.
• 4) Tensione tra insegnanti e studenti su IA generativa e ChatGPT. Ecco i modi in cui gli studenti useranno subdolamente AI generativa e ChatGPT. Inoltre, ecco i modi in cui gli insegnanti possono affrontare questo maremoto. Vedere il link qui.
• 5) Contesto e utilizzo dell'IA generativa. Ho anche fatto un esame ironico dal sapore stagionale su un contesto correlato a Babbo Natale che coinvolge ChatGPT e intelligenza artificiale generativa a il link qui.
• 6) Truffatori che utilizzano l'IA generativa. Su una nota minacciosa, alcuni truffatori hanno capito come utilizzare l'IA generativa e ChatGPT per commettere illeciti, inclusa la generazione di e-mail di truffa e persino la produzione di codice di programmazione per malware, vedi la mia analisi su il link qui.
• 7) Errori da principiante utilizzando l'IA generativa. Molte persone stanno superando e sorprendentemente al di sotto di ciò che l'IA generativa e ChatGPT possono fare, quindi ho esaminato in particolare l'undershooting che i principianti dell'IA tendono a fare, vedi la discussione su il link qui.
• 8) Affrontare i prompt dell'IA generativa e le allucinazioni dell'IA. Descrivo un approccio all'avanguardia all'utilizzo di componenti aggiuntivi di intelligenza artificiale per affrontare i vari problemi associati al tentativo di inserire suggerimenti adeguati nell'IA generativa, inoltre ci sono ulteriori componenti aggiuntivi di intelligenza artificiale per rilevare i cosiddetti risultati allucinati e falsità dell'IA, come coperto a il link qui.
• 9) Sfatare le affermazioni di Bonehead sul rilevamento di saggi prodotti dall'IA generativa. C'è una corsa all'oro fuorviante di app di intelligenza artificiale che proclamano di essere in grado di accertare se un determinato saggio sia stato prodotto dall'uomo o generato dall'IA. Nel complesso, questo è fuorviante e, in alcuni casi, un'affermazione ossuta e insostenibile, vedi la mia copertura su il link qui.
• 10) Il gioco di ruolo tramite l'IA generativa potrebbe far presagire svantaggi per la salute mentale. Alcuni utilizzano l'intelligenza artificiale generativa come ChatGPT per eseguire giochi di ruolo, in cui l'app AI risponde a un essere umano come se esistesse in un mondo fantastico o in un'altra ambientazione inventata. Questo potrebbe avere ripercussioni sulla salute mentale, vedi il link qui.
• 11) Esponendo la gamma di errori e falsità emessi. Vari elenchi raccolti vengono messi insieme per cercare di mostrare la natura degli errori e delle falsità prodotti da ChatGPT. Alcuni ritengono che questo sia essenziale, mentre altri dicono che l'esercizio è futile, vedi la mia analisi su il link qui.
• 12) Le scuole che vietano la chat GPT di intelligenza artificiale generativa stanno perdendo la barca. Potresti sapere che varie scuole come il Dipartimento dell'Istruzione di New York City (NYC) hanno dichiarato il divieto dell'uso di ChatGPT sulla loro rete e sui dispositivi associati. Anche se questa potrebbe sembrare una precauzione utile, non sposterà l'ago e purtroppo manca completamente la barca, vedi la mia copertura su il link qui.

Potresti trovare interessante il fatto che ChatGPT sia basato su una versione di un'app AI precedente nota come GPT-3. ChatGPT è considerato un passo leggermente successivo, denominato GPT-3.5. Si prevede che GPT-4 sarà probabilmente rilasciato nella primavera del 2023. Presumibilmente, GPT-4 sarà un impressionante passo avanti in termini di capacità di produrre saggi apparentemente ancora più fluenti, approfondire ed essere un timore reverenziale. -che ispira meraviglia per le composizioni che può produrre.

Puoi aspettarti di vedere un nuovo round di meraviglia espressa quando arriva la primavera e viene rilasciata l'ultima IA generativa.

Ne parlo perché c'è un altro punto di vista da tenere a mente, costituito da un potenziale tallone d'Achille per queste app di intelligenza artificiale generativa migliori e più grandi. Se un fornitore di intelligenza artificiale rende disponibile un'app di intelligenza artificiale generativa che vomita schiumosamente disgustosità, ciò potrebbe deludere le speranze di quei produttori di intelligenza artificiale. Uno spillover sociale può far sì che tutta l'IA generativa abbia un serio occhio nero. Le persone si arrabbieranno senza dubbio per le uscite sporche, che sono già accadute molte volte e hanno portato a chiassose reazioni di condanna da parte della società nei confronti dell'IA.

Un ultimo avvertimento per ora.

Qualunque cosa tu veda o legga in una risposta AI generativa sembra da trasmettere come puramente fattuale (date, luoghi, persone, ecc.), assicurati di rimanere scettico e sii disposto a ricontrollare ciò che vedi.

Sì, le date possono essere inventate, i luoghi possono essere inventati e gli elementi che di solito ci aspettiamo siano irreprensibili sono contro tutti i oggetto di sospetti. Non credere a ciò che leggi e mantieni un occhio scettico quando esamini saggi o risultati di intelligenza artificiale generativa. Se un'app di intelligenza artificiale generativa ti dice che Abraham Lincoln ha volato in giro per il paese con il suo jet privato, sapresti senza dubbio che questo è maleducato. Sfortunatamente, alcune persone potrebbero non rendersi conto che i jet non esistevano ai suoi tempi, o potrebbero saperlo ma non notare che il saggio fa questa affermazione sfacciata e oltraggiosamente falsa.

Una forte dose di sano scetticismo e una mentalità persistente di incredulità saranno la tua migliore risorsa quando utilizzi l'IA generativa.

Siamo pronti per passare alla fase successiva di questa delucidazione.

Scatenare la Bestia

Ora che abbiamo stabilito i fondamenti, possiamo immergerci nelle ripercussioni aziendali e sociali dovute agli aspetti dell'API ChatGPT.

Un annuncio è stato recentemente fatto da Microsoft in collaborazione con OpenAI sull'imminente disponibilità di ChatGPT sulla piattaforma cloud Azure di Microsoft (per post online intitolato "La disponibilità generale del servizio Azure OpenAI espande l'accesso a modelli di intelligenza artificiale avanzati e di grandi dimensioni con vantaggi aziendali aggiunti", 16 gennaio 2023):

• “I modelli di linguaggio di grandi dimensioni stanno rapidamente diventando una piattaforma essenziale per le persone per innovare, applicare l'intelligenza artificiale per risolvere grandi problemi e immaginare cosa sia possibile. Oggi siamo lieti di annunciare la disponibilità generale del servizio Azure OpenAI come parte del continuo impegno di Microsoft per la democratizzazione dell'IA e della partnership in corso con OpenAI. Con il servizio Azure OpenAI ora disponibile a livello generale, più aziende possono richiedere l'accesso ai modelli di intelligenza artificiale più avanzati al mondo, tra cui GPT-3.5, Codex e DALL•E 2, supportati dalle affidabili funzionalità di livello aziendale e dall'infrastruttura ottimizzata per l'intelligenza artificiale di Microsoft Azure, per creare applicazioni all'avanguardia. I clienti saranno anche in grado di accedere presto a ChatGPT, una versione perfezionata di GPT-3.5 che è stata addestrata ed esegue l'inferenza sull'infrastruttura di Azure AI, tramite il servizio Azure OpenAI.

Potresti aver notato in quella dichiarazione che saranno disponibili anche altre varie app AI che sono state ideate da OpenAI. In effetti, alcune di queste app di intelligenza artificiale sono già accessibili da un po' di tempo, come menzionato ulteriormente nella recente dichiarazione di cui sopra: "Abbiamo lanciato il servizio Azure OpenAI nel novembre 2021 per consentire ai clienti di sfruttare la potenza dei modelli di intelligenza artificiale generativa su larga scala con l'azienda promette che i clienti si aspettano dalla nostra infrastruttura cloud e informatica di Azure: sicurezza, affidabilità, conformità, privacy dei dati e funzionalità integrate di Responsible AI” (ibid).

In precedenza ho accennato al fatto che sia l'etica dell'IA che la legge sull'IA stanno cercando di bilanciare il AI in bene aspirazioni con il potenziale AI for Bad che a volte può sorgere. All'interno del regno dell'IA, c'è un movimento in atto verso l'avere AI responsabile o talvolta coniato come Trustworthy AI o Human-Centered AI, vedi la mia copertura su il link qui. Tutti i produttori di intelligenza artificiale sono invitati a ideare e mettere in campo la propria intelligenza artificiale AI in bene e cercare apertamente di ridurre o mitigare qualsiasi AI for Bad che potrebbe emergere.

Questo è un compito arduo.

In ogni caso, la suddetta pronuncia affrontava le considerazioni di AI responsabile:

• “In qualità di leader del settore, riconosciamo che qualsiasi innovazione nell'IA deve essere fatta in modo responsabile. Questo diventa ancora più importante con nuove tecnologie potenti come i modelli generativi. Abbiamo adottato un approccio iterativo ai modelli di grandi dimensioni, lavorando a stretto contatto con il nostro partner OpenAI e i nostri clienti per valutare attentamente i casi d'uso, apprendere e affrontare i potenziali rischi. Inoltre, abbiamo implementato i nostri limiti per il servizio Azure OpenAI in linea con i nostri principi di intelligenza artificiale responsabile. Come parte del nostro Framework di accesso limitato, gli sviluppatori sono tenuti a richiedere l'accesso, descrivendo il caso d'uso o l'applicazione previsti prima che gli venga concesso l'accesso al servizio. I filtri dei contenuti progettati in modo univoco per catturare contenuti offensivi, odiosi e offensivi monitorano costantemente l'input fornito al servizio e il contenuto generato. In caso di violazione confermata delle norme, potremmo chiedere allo sviluppatore di intraprendere azioni immediate per prevenire ulteriori abusi" (ibid).

Il punto cruciale di quella prospettiva di AI responsabile è che richiedendo una richiesta formale per accedere a ChatGPT sulla base dell'API del programma, c'è la possibilità di eliminare gli invii sgradevoli. Se esiste un'adeguata due diligence nella scelta di quali altre aziende e dei loro programmi possono accedere a ChatGPT, forse c'è una possibilità di combattere per prevenire la piena ira di un Kraken rilasciato.

Forse si forse no.

Alcuni esperti si stanno torcendo le mani sul fatto che le possibilità di guadagno di consentire l'utilizzo dell'API ChatGPT metteranno a dura prova l'idea controbilanciante di voler mantenere la bestia ragionevolmente e al sicuro contenuta. Il controllo sarà davvero sufficientemente attento in anticipo? Potremmo vedere invece che si verifica un processo di approvazione traballante quando il volume delle richieste sfugge di mano? Alcuni temono che solo una volta che il gatto è fuori dal sacco possa effettivamente verificarsi un esame tardivo più completo, anche se a quel punto il danno sarà già stato fatto.

Bene, puoi almeno dare il dovuto credito al fatto che è coinvolto un processo di verifica. Esistono alcune app di intelligenza artificiale generativa che mancano di un processo di verifica coerente o che sono di natura sommaria e superficiale. Inoltre, ci sono versioni open source dell'IA generativa che generalmente possono essere utilizzate da quasi chiunque lo desideri, anche se si suppone che vengano seguite alcune restrizioni di licenza (cercare di farle rispettare è più difficile di quanto possa sembrare).

Diamo una rapida occhiata alle regole esistenti relative alla limitazione dell'accesso al servizio Azure OpenAI per vedere cosa dovranno fare gli altri produttori di software per connettersi potenzialmente a ChatGPT. Secondo i criteri Microsoft pubblicati online (ultima pubblicazione indicata come 14 dicembre 2022):

• “Come parte dell'impegno di Microsoft per un'intelligenza artificiale responsabile, stiamo progettando e rilasciando il servizio Azure OpenAI con l'intenzione di proteggere i diritti degli individui e della società e promuovere un'interazione uomo-computer trasparente. Per questo motivo, attualmente limitiamo l'accesso e l'uso di Azure OpenAI, inclusa la limitazione dell'accesso alla possibilità di modificare i filtri dei contenuti e modificare il monitoraggio degli abusi. Azure OpenAI richiede la registrazione ed è attualmente disponibile solo per i clienti e i partner gestiti che lavorano con i team degli account Microsoft. I clienti che desiderano utilizzare Azure OpenAI sono tenuti a inviare un modulo di registrazione sia per l'accesso iniziale per la sperimentazione sia per l'approvazione per passare dalla sperimentazione alla produzione.
• “Per la sperimentazione, i clienti attestano di utilizzare il servizio solo per gli usi previsti inviati al momento della registrazione e si impegnano a incorporare la supervisione umana, forti limiti tecnici su input e output, canali di feedback e test approfonditi. Per la produzione, i clienti spiegano come questi sono stati implementati per mitigare il rischio. I clienti che desiderano modificare i filtri dei contenuti e modificare il monitoraggio degli abusi dopo aver effettuato l'onboarding al servizio sono soggetti a ulteriori restrizioni dello scenario e sono tenuti a registrarsi qui.
• "L'accesso al servizio Azure OpenAI è soggetto all'esclusiva discrezione di Microsoft in base a criteri di idoneità e a un processo di verifica e i clienti devono riconoscere di aver letto e accettato i termini di servizio di Azure per il servizio Azure OpenAI. Microsoft potrebbe richiedere ai clienti di verificare nuovamente queste informazioni. Il servizio Azure OpenAI è reso disponibile ai clienti in base ai termini che disciplinano la loro sottoscrizione ai servizi Microsoft Azure, inclusa la sezione Azure OpenAI delle condizioni del prodotto Microsoft. Si prega di leggere attentamente questi termini in quanto contengono condizioni e obblighi importanti che disciplinano l'utilizzo del servizio Azure OpenAI.

Questo è dal lato Microsoft delle cose.

OpenAI ha anche le sue politiche di utilizzo associate alla sua API:

• “Vogliamo che tutti siano in grado di utilizzare la nostra API in modo sicuro e responsabile. A tal fine, abbiamo creato norme sui casi d'uso e sui contenuti. Seguendoli, ci aiuterai a fare in modo che la nostra tecnologia venga utilizzata a fin di bene. Se scopriamo che il tuo prodotto non rispetta queste norme, ti chiederemo di apportare le modifiche necessarie. Se non rispetti, potremmo intraprendere ulteriori azioni, inclusa la chiusura del tuo account.
• "Vietiamo la creazione di prodotti destinati ai seguenti casi d'uso:"
• “— Industrie illegali o dannose”
• "— Uso improprio dei dati personali"
• “— Promuovere la disonestà”
• "— Ingannare o manipolare gli utenti"
• "— Cercando di influenzare la politica"
• “La seguente serie di casi d'uso comporta un rischio maggiore di potenziali danni: giustizia penale, forze dell'ordine, servizi legali, governativi e civili, assistenza sanitaria, terapia, benessere, coaching, finanza, notizie. Per questi casi d'uso, devi:"
• "1) Testa accuratamente i nostri modelli per verificarne l'accuratezza nel tuo caso d'uso e sii trasparente con i tuoi utenti riguardo alle limitazioni"
• "2) Assicurati che il tuo team abbia esperienza nel settore e comprenda/segua le leggi pertinenti"
• "Inoltre, non consentiamo a te o agli utenti finali della tua applicazione di generare i seguenti tipi di contenuto:"
• "- Odiare"
• "- Molestie"
• “— Violenza”
• "- Autolesionismo"
• “— Sessuale”
• "- Politico"
• "- Spam"
• "- Inganno"
• "— Malware"

Una grande domanda sarà se questi ideali possono essere osservati se c'è un fervente afflusso di richieste per connettersi con ChatGPT. Forse ci sarà uno tsunami travolgente di richieste. Il lavoro umano per esaminare e controllare attentamente ciascuno potrebbe essere costoso e difficile da gestire. Il desiderio di essere opportunamente restrittivi verrà annacquato, inavvertitamente di fronte all'immensa domanda di accesso?

Come dice la famosa battuta, il migliore dei piani a volte può essere mandato in frantumi al primo contatto con forze abbondanti.

C'è anche un ampio margine di manovra su come interpretare le regole stabilite. Come abbiamo visto in generale sull'aumento della disinformazione e della disinformazione, cercare di separare il grano dalla pula può essere piuttosto impegnativo. Come si può determinare se il contenuto generato rispetta o viola le disposizioni di non essere odioso, politico, ingannevole e simili?

Una difficoltà incombente potrebbe essere che se l'API ChatGPT viene messa a disposizione di un produttore di software che sta accoppiando il proprio programma con ChatGPT e l'output risultante viola in modo inequivocabile i precetti dichiarati, il cavallo sarà già fuori dalla stalla? Alcuni suggeriscono che esiste una forte possibilità di danno reputazionale che può essere sostenuto da tutte le parti coinvolte. Non è chiaro se questo possa essere superato semplicemente disattivando l'API per quel particolare trasgressore. Il danno, in un certo senso, potrebbe persistere e rovinare il barile tutto sommato. Un sacco di colpa sarà data a tutti i visitatori.

Stratificazione degli abbinamenti API

Ho notato in precedenza che gli abbinamenti a ChatGPT possono essere convenientemente raggruppati in due intenzioni principali:

• Accoppiamento autentico con ChatGPT
• Falso accoppiamento con ChatGPT

Esaminiamo prima gli abbinamenti genuini o in buona fede.

Come sfondo, il modo in cui ciò avviene è in qualche modo semplice. L'app ChatGPT consente ad altri programmi di richiamare l'app. In genere, questo consisterebbe, ad esempio, in un programma che chiameremo Widget che passa a ChatGPT un prompt in formato testo, quindi dopo che ChatGPT ha fatto il suo dovere, un saggio o un testo viene restituito al Widget del programma. Questo è quasi come una persona che fa la stessa cosa, anche se avremo un programma che fa quelle azioni al posto di una persona che lo fa.

Ad esempio, supponiamo che qualcuno escogiti un programma che esegue ricerche sul Web. Il programma chiede all'utente cosa desidera cercare. Il programma fornisce quindi all'utente un elenco di vari risultati di ricerca o risultati che, si spera, mostrino siti Web pertinenti in base alla query dell'utente.

Immagina che l'azienda che produce questo programma di ricerca web voglia abbellire la sua app.

Richiedono l'accesso all'API ChatGPT. Supponiamo che facciano tutte le pratiche burocratiche adeguate e alla fine vengano approvati. Il loro programma che esegue ricerche sul Web dovrebbe quindi essere modificato per includere una chiamata all'app ChatGPT tramite l'API. Supponiamo che scelgano di creare quelle mod.

Ecco come potrebbe funzionare del tutto. Quando un utente inserisce una query per una ricerca web nel programma principale, questo programma non solo esegue una ricerca convenzionale sul web, ma passa anche la query a ChatGPT tramite l'API. ChatGPT quindi elabora il testo e restituisce un saggio risultante al programma principale. Il programma di base della ricerca Web ora presenta all'utente due aspetti, vale a dire i risultati della ricerca Web e il saggio aggiuntivo prodotto da ChatGPT.

Una persona che utilizza questo programma principale non saprà necessariamente che ChatGPT è stato utilizzato sul back-end. Può accadere entro i confini del programma principale e l'utente è beatamente inconsapevole del coinvolgimento di ChatGPT. D'altra parte, il programma principale potrebbe essere ideato per informare l'utente che viene utilizzato ChatGPT. Questo di solito dipende dal fatto che i creatori del programma principale vogliano rivelare che l'altra app, in questo caso ChatGPT, era in uso. In alcuni accordi, il creatore del programma invocato insiste che il programma che invoca l'API deve far sapere agli utenti che l'altro programma è in uso. Tutto dipende dalle preferenze e dai dettagli della licenza.

Per abbinamenti genuini, ecco gli approcci consueti:

• 1) Passaggio diretto a ChatGPT
• 2) Componente aggiuntivo per aumentare ChatGPT
• 3) App alleata che coincide con ChatGPT
• 4) Immersione completamente integrativa con ChatGPT

In breve, nel primo approccio elencato, l'idea è che potrei ideare un programma che sia semplicemente un frontend per ChatGPT e, come tale, tutto ciò che il mio programma fa è passare il testo a ChatGPT e recuperare il testo da ChatGPT. Metto a disposizione il mio programma per chiunque voglia usare ChatGPT e che altrimenti non si fosse registrato per usarlo. Questo è un approccio.

In secondo luogo, potrei ideare un programma che funga da componente aggiuntivo per ChatGPT. Ad esempio, quando ChatGPT genera un saggio, potrebbe contenere falsità. Supponiamo che crei un programma che esamini l'output di ChatGPT e provi a controllare le falsità. Rendo disponibile il mio programma in modo tale che le persone inseriscano un prompt di testo nel mio programma, che quindi invia il prompt a ChatGPT. ChatGPT produce un saggio che torna al mio programma. Prima che il mio programma ti mostri il saggio, preseleziona il saggio e tenta di contrassegnare o rimuovere le falsità. Quindi vedi il saggio risultante dopo che il mio programma ha fatto la proiezione.

Il terzo approccio consiste nell'avere un'app alleata che in un certo senso coincide con ChatGPT. Supponiamo che io sviluppi un programma che aiuti le persone a scrivere in modo creativo. Il mio programma fornisce consigli e suggerimenti predefiniti su come scrivere in modo creativo. Il programma si limita a pungolare o spronare l'utente a farlo. Nel frattempo, quello che mi piacerebbe poter fare è mostrare all'utente in cosa consiste la scrittura creativa. Pertanto, stabilisco un'API con ChatGPT. Il mio programma riceve quindi una richiesta dall'utente e invoca ChatGPT per fornire un blub di un saggio che potrebbe dimostrare la scrittura creativa. Questo potrebbe essere fatto in modo iterativo e richiamare ChatGPT più volte nel processo.

Nel caso del quarto approccio elencato, ChatGPT è completamente integrato in qualche altro programma o insieme di programmi. Ad esempio, se avessi un'app di elaborazione testi e un'app per fogli di calcolo, potrei voler integrare ChatGPT in quelle app. In un certo senso funzionerebbero mano nella mano l'uno con l'altro. Tratterò in una prossima colonna pubblicando la possibilità che Microsoft possa scegliere di infondere ChatGPT nella propria suite di produttività per ufficio, quindi sii alla ricerca di quell'analisi in arrivo.

Questi sono quindi i modi chiave in cui potrebbe avvenire un vero accoppiamento.

Consideriamo ora alcuni degli accoppiamenti falsi.

Ecco alcuni abbinamenti fasulli generali a cui dovresti stare attento:

• Abbinamento espediente con ChatGPT – utilizza marginalmente ChatGPT, fatto principalmente per spettacolo e per raccogliere pubblicità senza valore aggiunto
• Promesse allettanti sull'accoppiamento ChatGPT – il fornitore di software afferma di essere nel bel mezzo dell'associazione a ChatGPT, cercando di essere sotto i riflettori, quando la realtà è che non lo faranno e stanno facendo un classico falso testa e rendendo un falso impegno
• Imitazioni che proclamano di essere simili a ChatGPT – piuttosto che accoppiarsi con ChatGPT, alcuni fornitori di software useranno qualcos'altro, il che va bene, ma cercheranno di insinuare che sia ChatGPT quando non lo è, sperando di ottenere alcuni degli ultimi bagliori di ChatGPT
• Altro – sono concepibili molti altri schemi estesi e conniventi

Ci saranno indubbiamente molti imbrogli in corso su tutto questo. Sarà parte integrante del rilascio del Kraken.

Conclusione

Consentitemi di gettare alcune chiavi inglesi e altri ostacoli in questa faccenda.

E il costo?

Attualmente, coloro che si sono registrati per utilizzare ChatGPT lo fanno gratuitamente. In precedenza ho osservato che a un certo punto sarà necessaria una vera e propria monetizzazione. Ciò potrebbe comportare l'addebito di una commissione per transazione o forse il pagamento di un abbonamento. Un'altra possibilità è che gli annunci possano essere utilizzati per portare l'impasto, per cui ogni volta che utilizzi ChatGPT verrà visualizzato un annuncio. Eccetera.

Coloro che scelgono di stabilire un abbinamento con ChatGPT tramite l'API dovrebbero riflettere seriamente sui potenziali costi coinvolti. È probabile che vi sia un costo relativo all'utilizzo del cloud Microsoft Azure per l'esecuzione dell'app ChatGPT. Ci sarà sicuramente un costo da parte di OpenAI per utilizzare l'API ChatGPT e richiamare l'app AI. Un fornitore di software sosterrà anche i propri costi interni, come la modifica dei programmi esistenti per utilizzare l'API o lo sviluppo di nuovi programmi attorno all'associazione con ChatGPT. Immagina sia un costo iniziale che una serie di costi di manutenzione continua.

L'essenza è che questa stratificazione dei costi modererà in una certa misura la corsa all'oro verso l'utilizzo dell'API ChatGPT. I fornitori di software presumibilmente dovrebbero fare un calcolo prudente del ROI (ritorno sull'investimento). Tutto ciò che possono fare aumentando il loro programma utilizzando ChatGPT porterà denaro aggiuntivo sufficiente per compensare i costi?

Non tutti saranno necessariamente così attenti ai costi. Se hai tasche profonde e ritieni che il tuo utilizzo di ChatGPT spingerà il tuo programma nel regno delle app più conosciuto o altamente riconosciuto, potresti decidere che ne vale la pena in questo momento. Crea un nome per la tua app cavalcando le falde di ChatGPT. Lungo la strada, una volta che il tuo programma è popolare o fa soldi in altro modo, o compensi la precedente mancanza di profitto o lo cancelli come il costo richiesto per entrare nel grande momento.

Una piccola startup sostenuta da una società di Venture Capital (VC) potrebbe essere disposta a sborsare una parte del suo investimento iniziale per essere abbinata all'API ChatGPT. La fama potrebbe sorgere all'istante. La fortuna potrebbe essere molto lontana, ma è qualcosa da affrontare in seguito. Prendi le luci della ribalta quando l'ottenimento è buono, come si suol dire.

Si suppone che ci possano essere Onlus e Imprese Sociali che decideranno di mollare anche su questo. Supponiamo che un'azienda senza scopo di lucro identifichi un uso vantaggioso dell'invocazione dell'API ChatGPT che apparentemente supporterà i loro obiettivi altruistici o socialmente vantaggiosi. Forse raccolgono fondi per questo tramite una campagna di finanziamento online. Forse cercano di concludere un accordo con i venditori in modo che paghino un importo simbolico o ne ottengano l'uso gratuitamente.

Il tempo ci dirà.

L'ultimo suggerimento con cui ti lascio è il fattore di rischio.

Non voglio sembrare eccessivamente pessimista, ma ho detto in precedenza che gli output di ChatGPT possono contenere falsità e avere altri potenziali svantaggi. Il fatto è che se un fornitore di software che crea un'app viene coinvolto nell'utilizzo dell'API ChatGPT, corre il rischio di avere output aspri e cupi, che dovrebbero anticipare. Non mettere la testa sotto la sabbia.

Sorgono problemi che tali output potrebbero contaminare l'app che sceglie di utilizzarli. In tal senso, la tua app che all'inizio sta cavalcando la gloria di ChatGPT potrebbe anche finire per sfondare un muro di mattoni se si fa affidamento sugli output forniti tramite ChatGPT. Forse gli output vengono presentati agli utenti e questo provoca un orrendo putiferio. Sfogano la loro angoscia su di te e sulla tua app.

A tua volta, provi a puntare il dito contro ChatGPT. Ti tirerà fuori dall'enigma? Una volta che c'è una puzza, permea ampiamente e pochi vengono risparmiati. In questo senso, potrebbe essere che tramite un uso ampliato di ChatGPT, la consapevolezza degli output fallosi diventi più comunemente nota. Quindi, stranamente, o ironicamente, l'uso esteso di ChatGPT a causa dell'API potrebbe spararsi il piede.

Non voglio concludere le mie osservazioni con una faccia triste, quindi proviamo a trasformarci in una faccia felice.

Se tutti i limiti e i vincoli ambiziosi vengono seguiti con attenzione e giudizio e rispettati rigorosamente, attingere a ChatGPT tramite l'API può essere una buona cosa. È anche probabile che ciò stimolerà ulteriormente altre app di intelligenza artificiale generativa all'azione. L'alta marea potrebbe alzare tutte le barche.

Sembra ottimista.

Potresti sapere che si diceva che Zeus avesse il controllo del Kraken. Sofocle, l'antico drammaturgo greco, disse questo di Zeus: "I dadi di Zeus cadono sempre per fortuna".

Forse si dirà lo stesso di come l'IA generativa inevitabilmente approderà, almeno speriamo.