Preoccupazioni infuriate che la chat generativa di intelligenza artificiale GPT sproni gli studenti a imbrogliare enormemente quando scrivono saggi, genera un'attenzione incantata per l'etica dell'IA e la legge sull'IA

Il tema scritto dagli studenti di oggi è un mai più?

La tesina studentesca piena di angoscia sta uscendo febbrilmente dalla finestra?

Questo è il brouhaha che recentemente è scoppiato in un tumulto a tutto campo. Vedi, l'aspetto di un'app AI nota come ChatGPT ha ricevuto molta attenzione e ha anche suscitato molta rabbia. Per la mia copertura completa di ChatGPT, vedere il link qui. Per la mia continua ed estesa copertura di AI Ethics e AI Law, vedi il link qui ed il link qui, solo per citarne alcuni.

L'essenza delle urla e dei muggiti è che questo tipo di intelligenza artificiale, tipicamente indicato come IA generativa, sarà la campana a morto per aver chiesto agli studenti di svolgere compiti in stile saggio.

Perchè così?

Perché l'ultima intelligenza artificiale generativa è in grado di produrre saggi apparentemente fluenti con la semplice immissione di un semplice suggerimento. Se inserisci una riga come "Parlami di Abraham Lincoln", l'intelligenza artificiale genererà un saggio sulla vita e sui tempi di Lincoln che spesso è abbastanza buono da essere scambiato per essere stato scritto interamente ed esclusivamente da mani umane. Inoltre, ed ecco il vero kicker, il saggio non sarà un duplicato o una copia evidente di qualcos'altro già scritto sullo stesso argomento. La produzione del saggio sarà essenzialmente un "originale", per quanto possa accertare qualsiasi ispezione casuale.

Uno studente che deve affrontare un compito di scrittura può semplicemente invocare una di queste app di intelligenza artificiale generativa, inserire un prompt e voilà, l'intero saggio è stato scritto per loro. Devono solo tagliare e incollare il testo generato automaticamente in un documento vuoto, schiaffeggiare di nascosto il loro nome e le informazioni sulla classe e, con un po' di spavalderia piuttosto coraggiosa, andare avanti e consegnarlo come opera loro.

Le possibilità che un insegnante riesca a scovare che il saggio è stato scritto da AI e non dallo studente sono quasi prossime allo zero.

Scandaloso!

I titoli hanno proclamato frettolosamente che abbiamo raggiunto l'amara fine di far scrivere agli studenti saggi o svolgere essenzialmente qualsiasi tipo di compito di scrittura al di fuori della classe. L'unico mezzo per far fronte alla situazione sembrerebbe essere l'uso della scrittura di saggi in classe. Quando gli studenti si trovano in un ambiente controllato come un'aula e presumono di non avere accesso ai laptop o ai loro smartphone, si troveranno confinati a scrivere saggi alla vecchia maniera.

Per chiarire, il vecchio modo significa che dovranno scrivere esclusivamente tramite l'uso delle proprie zucche.

Qualsiasi tipo di saggio fatto fuori dall'aula sarà immediatamente sospettato. Lo studente ha scritto il saggio o l'ha fatto un'app AI? Come accennato, il saggio sarà scritto così bene che non si può facilmente rilevare che è stato scritto da una macchina. L'ortografia sarà impeccabile. La sintassi sarà eccezionale. La linea del discorso e le potenziali argomentazioni guidate fatte saranno convincenti.

Diamine, per così dire, potresti suggerire che l'IA generativa darà la sua proverbiale mano facendo un saggio che va oltre le capacità dello studente che sceglie di intraprendere questa nefasta strada. Un insegnante potrebbe insospettirsi semplicemente perché il tema è un po' troppo bello. Un insegnante esperto sarebbe tentato di indovinare che lo studente non avrebbe potuto scrivere una prosa così elegante ed ermetica. I campanelli d'allarme interni iniziano a suonare.

Ovviamente, sfidare uno studente sul suo saggio sarà brutto e può avere conseguenze negative.

Supponiamo che lo studente abbia scritto attentamente il tema, tutto da solo. Potrebbero averlo controllato due volte e tre volte. C'è anche la possibilità che forse un amico o un conoscente abbia dato un'occhiata per individuare qualcosa che necessita di ulteriore lucidatura. Tutto sommato, è ancora il loro saggio scritto da loro. Immagina un insegnante che pone a questo studente serio e studioso domande puntuali sul saggio. L'imbarazzo e il dispiacere per essere essenzialmente accusati di barare sono palpabili, anche se l'insegnante non fa ad alta voce tale affermazione. Il solo confronto in sé è sufficiente per minare la stima dello studente e farlo sentire falsamente calunniato.

Alcuni insistono sul fatto che qualsiasi insegnante con sospetti sulla paternità di un saggio dovrebbe chiedere allo studente di spiegare cosa ha scritto. Presumibilmente, se il saggio è stato scritto dallo studente, lo studente in particolare può spiegarlo adeguatamente. Gli insegnanti hanno fatto questo tipo di indagine per eoni. Uno studente potrebbe aver costretto un altro studente a scrivere il suo saggio per loro. Lo studente potrebbe aver convinto un genitore a scrivere il suo saggio. Nel mondo di oggi, lo studente potrebbe pagare qualcuno su Internet per scrivere segretamente il proprio saggio per suo conto.

Pertanto, chiedere a uno studente di verificare la paternità tramite un'indagine in classe è consuetudine e non è un grosso problema.

Sono contento che tu l'abbia sollevato.

Il tentativo di grigliare uno studente in modo mite o dimostrabile non è una cartina di tornasole così semplice come potresti pensare. Lo studente avrebbe potuto studiare da vicino il saggio prodotto dall'intelligenza artificiale e prepararsi per un potenziale interrogatorio.

Pensare in questo modo. Lo studente prima genera il saggio con la semplice pressione di un pulsante. Lo studente quindi trascorre una quantità di tempo che avrebbe dedicato alla scrittura del saggio, invece esaminandolo e studiandolo meticolosamente. Dopo un po', le parole sono quasi totalmente affidate alla memoria. Lo studente quasi si illude credendo di aver scritto davvero il saggio. Questa parvenza di fiducia e consapevolezza potrebbe facilmente farli passare attraverso il controllo guidato dall'insegnante.

Aha, alcuni dicono con un po' di contrappunto ai timori delle app di intelligenza artificiale generativa, nota che lo studente ha effettivamente "imparato" qualcosa dopo aver generato il saggio. Certo, lo studente non ha fatto il lavoro di gambe per ricercare l'argomento, né ha composto il saggio, ma comunque, se ha studiato attentamente il saggio, sembra dimostrare che ha imparato a conoscere l'argomento assegnato. Lo studente che si impegna a imparare a memoria il saggio su Lincoln ha presumibilmente imparato qualcosa di sostanziale su Lincoln.

L'apprendimento è avvenuto.

Whoa, la replica va, l'incarico è stato probabilmente un duplice processo. Imparare a conoscere Lincoln potrebbe essere stato relativamente secondario. Il vero scopo era che lo studente imparasse a scrivere. Questa parte essenziale dell'incarico è stata completamente annullata. Gli insegnanti spesso assegnano argomenti a tempo indeterminato e in realtà mirano solo a far sperimentare allo studente la scrittura. Devi esporre ciò che vuoi scrivere, devi capire le parole che userai, devi mettere le parole in un insieme sensato di frasi e paragrafi, e così via. La semplice lettura di un saggio prodotto dall'intelligenza artificiale non corrisponde affatto a quell'aspetto fondamentale di un compito di saggio.

Il contraccolpo a questo è l'affermazione che lo studente sta potenzialmente imparando a scrivere esaminando attentamente la scrittura prodotta dall'IA. Non studiamo tutti i grandi maestri della scrittura per vedere come scrivono? La nostra scrittura è un tentativo di raggiungere artisti del calibro di Shakespeare e altri grandi scrittori. Studiare la parola scritta è un mezzo valido per imparare a scrivere.

Come una feroce partita di tennis, la pallina si sposta dall'altra parte della rete. Sebbene studiare una buona scrittura sia buono, alla fine devi scrivere se vuoi essere in grado di scrivere. Non puoi semplicemente leggere all'infinito e poi dare per scontato che lo studente ora sappia scrivere. Devono scrivere, scrivere e continuare a scrivere finché non sono in grado di mostrare e migliorare in modo tangibile le loro capacità di scrittura.

Vedi come tutto questo è piuttosto un enigma?

Tieni presente che ci sono circa un milione o più di colpi di scena in tutto questo.

Tratterò alcuni dei colpi di scena più ingegnosi e interessanti.

Ottimizzazione del saggio tramite prompt AI

Avendo appena citato Shakespeare, ecco un aspetto dell'IA generativa che potrebbe sorprendervi. In molte delle app di intelligenza artificiale generativa, puoi dire qualcosa del genere: "Scrivi un saggio su Lincoln come se Shakespeare avesse scritto il saggio". L'intelligenza artificiale tenterà di generare un saggio che sembra essere scritto nella lingua abitualmente usata da Shakespeare nei suoi scritti. È un'impresa piuttosto divertente e coinvolgente da vedere e molti si divertono molto.

In che modo questo si collega allo studente che "imbroglia" usando l'IA generativa per scrivere i propri saggi?

In molte app di intelligenza artificiale generativa, puoi dire all'intelligenza artificiale di scrivere in modo tutt'altro che eccezionale. L'intelligenza artificiale cercherà di produrre un saggio che sia alquanto approssimativo. Ci sono problemi di sintassi qui o là. La logica del saggio potrebbe essere nervosa o leggermente sconnessa.

Questo sarebbe uno stratagemma intelligente. Lo studente prende il saggio risultante e lo consegna. Il saggio è abbastanza buono da ottenere un voto massimo, ma nel frattempo non è così perfetto da suscitare l'ira dell'insegnante. Ancora una volta, l'intelligenza artificiale ha svolto tutto il lavoro di gamba per lo studente, incluso rendere il saggio in qualche modo imperfetto.

Inoltre, la maggior parte delle app generative AI ti consente di utilizzare l'app per tutto il tempo che desideri. Ecco come arriva a giocare. Uno studente scrive che l'app AI deve fare un saggio un po' imperfetto su Lincoln. Il saggio è prodotto. Lo studente guarda il saggio e si rende conto che è ancora eccessivamente perfetto. Lo studente inserisce un altro prompt che istruisce l'IA a rendere le imperfezioni più pronunciate.

Schiuma, risciacqua, ripeti.

Lo studente continua a inserire suggerimenti e a ispezionare i saggi prodotti. Più e più volte questo si verifica. Alla fine, lo studente porta l'intelligenza artificiale al giusto livello di imperfezione nel saggio. La versione Goldilocks è stata raggiunta. È abbastanza perfetto da ottenere un voto alto e abbastanza imperfetto da non destare sospetti.

Sono sicuro che alcuni di voi stiano affermando viscidamente che se lo studente avesse appena scelto di scrivere il dannato saggio in primo luogo, forse avrebbe trascorso meno tempo o almeno la stessa quantità di tempo a scrivere il saggio stesso. Tutto questo uso dispendioso di energia dell'app AI avrebbe potuto essere diretto semplicemente a procedere alla scrittura del saggio.

Bene, ricorda, lo studente non ha questo in mente. La facilità di inserimento di suggerimenti e di revisione e selezione iterativa del saggio desiderato è destinata a essere molto più facile da fare per lo studente. Un'ora per farlo è molto meno ardua che scrivere direttamente il saggio. La viscosità in questo caso deve essere soppesata rispetto alla realtà.

Cosa succede se altri studenti fanno lo stesso

Scommetto che avevi in ​​mente questo pensiero intelligente mentre leggevi l'analisi precedente sui saggi e le app di intelligenza artificiale generativa, vale a dire che lo studente verrà senza dubbio catturato se molti altri studenti fanno lo stesso.

Permettetemi di spiegare.

Un insegnante assegna l'intera classe a scrivere un saggio su Lincoln. Supponiamo che il 90% degli studenti decida di utilizzare un'app di intelligenza artificiale generativa per questo compito. Se il 90% sembra eccessivamente deprimente, vai avanti e usa invece il 10%. Tieni presente che man mano che gli studenti scoprono l'utilità delle app di intelligenza artificiale generativa, la tentazione di usarle crescerà rapidamente.

Ok, quindi una notevole percentuale della classe utilizza un'app di intelligenza artificiale generativa. Si potrebbe presumere che ergo gli studenti consegnino tutti all'incirca lo stesso saggio su Lincoln. L'insegnante noterà quando valuterà il terzo o il quarto saggio che i saggi sono praticamente tutti uguali. Questo sarà un enorme indizio che qualcosa non va.

Mi dispiace, ma è improbabile che tu sia così fortunato.

La maggior parte delle app di intelligenza artificiale generativa è molto sensibile al modo in cui un prompt è particolarmente composto. Se scrivo "Parlami di Lincoln" rispetto a se scrivo "Parlami della vita di Lincoln", le probabilità sono che i saggi saranno sostanzialmente diversi. In primo luogo, forse il saggio prodotto dall'IA si concentra sul presidente Lincoln durante il suo mandato alla Casa Bianca e omette qualcosa sulla sua infanzia. L'altro suggerimento potrebbe produrre un saggio che copre la sua nascita fino alla sua morte.

Gli studenti probabilmente non inseriranno esattamente ciò che l'insegnante ha dato loro come suggerimento per il saggio. Sembrerebbe sensato, come imbroglione, provare variazioni. Ma anche se tutti gli studenti inseriscono esattamente lo stesso suggerimento, ci sono buone probabilità che ogni saggio sia in qualche modo diverso dagli altri.

Queste app di intelligenza artificiale fanno uso di una vasta rete matematica e computazionale creata internamente che fondamentalmente ha un modello ampiamente abbinato al testo trovato su Internet. Incluso nel processo di generazione di un saggio è un fattore probabilistico. È improbabile che le parole scelte siano nello stesso ordine e con la stessa esatta formulazione. Ogni saggio generato sarà generalmente diverso.

C'è un problema però in questo. Se l'argomento scelto è abbastanza oscuro, c'è la possibilità che alcuni dei saggi prodotti si assomiglino tra loro. Ciò sarebbe in parte dovuto al fatto che lo schema alla radice del testo era sottile all'inizio. Detto questo, il modo in cui il saggio è composto potrebbe essere ancora molto diverso. Tutto quello che sto dicendo è che l'essenza del contenuto di per sé potrebbe potenzialmente essere più o meno la stessa.

Non volendo sembrare cupo, ma potresti potenzialmente fare la stessa affermazione su un argomento comune come la vita di Lincoln. In quanti modi diversi puoi elaborare gli aspetti complessivi della sua vita? Se in qualche modo hai protetto gli studenti in un'aula chiusa a chiave per scrivere su Lincoln e hai dato loro l'accesso online per ricercare la sua vita, oserei dire che le possibilità che i saggi fossero in qualche modo simili potrebbero accadere comunque.

Il fattore gratuito e facile è sostanziale

Se uno studente al giorno d'oggi vuole imbrogliare pagando qualcuno su Internet per scrivere il proprio saggio, è molto semplice farlo (spero che non ti scioperi, forse avrei dovuto offrire un avviso di attivazione in anticipo).

Il problema però è che devi pagare per il saggio. Inoltre, c'è qualche piccola possibilità che tu possa, in seguito, essere catturato, forse. Hai usato una carta di credito per pagare il saggio? Forse è meglio utilizzare una qualche forma di elaborazione dei pagamenti sotterranea per cercare di mantenere chiare le tue tracce.

Il bello o forse il fattore esasperante dell'IA generativa è che in questo momento la maggior parte di esse è disponibile gratuitamente. Non è richiesto alcun pagamento. Nessun track record particolare del tuo utilizzo (beh, per essere chiari, l'app AI potrebbe tenere traccia del tuo utilizzo, soprattutto perché molte delle app AI richiedono la registrazione con un indirizzo e-mail, ma ovviamente puoi fingere anche quello ).

Alcune persone presumono naturalmente che sia necessario essere un mago dell'IA per utilizzare un'app di intelligenza artificiale generativa.

Non è così.

In generale, le app di intelligenza artificiale generativa sono sorprendentemente semplici da usare. Invochi l'app AI. Ti presenta una casella di testo aperta per inserire il tuo prompt. Inserisci un prompt e premi invio. L'app AI genera il testo.

Questo è tutto.

Non sono necessari linguaggi informatici specializzati. Nessuna conoscenza di database o data science. Ti assicuro che quasi tutti i bambini a scuola possono facilmente utilizzare un'app di intelligenza artificiale generativa. Se un bambino sa digitare, può usare queste app.

Alcuni sostengono che le aziende che forniscono le app di intelligenza artificiale generativa dovrebbero prima verificare l'età dell'utente, presumibilmente per impedire ai non adulti di utilizzare l'intelligenza artificiale per scopi di frode quando scrivono saggi. Se l'utente indica di non essere un adulto, non consentirgli di utilizzare l'app AI. Francamente, questo è uno scenario di prevenzione improbabile, a meno che in qualche modo non siano state emanate leggi relative all'IA che cercano di stabilire questo tipo di restrizioni. Anche se tali leggi vengono approvate, è probabile che tu possa aggirare questo problema utilizzando un'app di intelligenza artificiale generativa ospitata in un altro paese, ecc.

Un altro punto di vista proibitivo sarebbe se le app di intelligenza artificiale generativa costassero denaro per essere utilizzate. Supponiamo che ci fosse una commissione per transazione o una quota di abbonamento. Ciò metterebbe l'app di intelligenza artificiale generativa alla pari con quegli umani su Internet che scriveranno un saggio per te che ti chiederà di farlo. Il lavoro andrebbe testa a testa con l'IA (per inciso, tutto questo suggerisce che gli esseri umani che per vivere scrivono saggi per gli studenti saranno sostituiti dall'IA che fa lo stesso; la domanda è dovremmo essere rattristati o contenti che quegli umani che si guadagnano da vivere non saranno più in grado di farlo in quel modo).

Le aziende che realizzano app di IA generative sono certamente desiderose di guadagnare da queste app, anche se il modo in cui farlo è ancora in sospeso. L'addebito di una commissione di transazione, una quota di abbonamento o forse l'addebito per parola generata sono tutti sul tavolo. Piuttosto che far pagare le persone, la monetizzazione potrebbe essere effettuata tramite l'uso di annunci. Forse ogni volta che usi una particolare app di intelligenza artificiale generativa, devi prima vedere un annuncio. Potrebbe essere un creatore di soldi.

Odio versare latte su questo, ma come mezzo per superare gli imbrogli degli studenti, non sarà nessun tipo di proiettile d'argento. Neanche vicino.

Esistono versioni open source dell'IA generativa. Le persone li pubblicano e altri tendono a rendere l'app disponibile gratuitamente. In un modo o nell'altro, anche se alcune aziende addebitano una commissione, sarai in grado di trovare varianti che sono gratuite, anche se potresti aver bisogno di vedere annunci o forse registrarti e fornire alcune informazioni su di te per scopi di marketing.

Il Multi-Step aiuta questo

Uno studente sceglie di utilizzare un'app di intelligenza artificiale generativa per produrre il proprio saggio.

Invece di consegnare subito il saggio, lo studente decide di modificare il saggio. Tirano fuori giudiziosamente alcune parole qui. Mettici qualche parola lì. Sposta una frase in alto. Sposta una frase più in basso. Dopo un po' di modifiche e rifiniture, ora hanno un saggio che sono pronti a consegnare.

Questo saggio è opera dello studente o no?

Ti ho portato alla domanda irrisolta senza risposta da un milione di dollari.

Facciamo un rapido background sui diritti legali e la violazione. Questo è un argomento che ho trattato parecchio, come ad esempio il link qui ed il link qui, per esempio.

Probabilmente sai già qualcosa sui diritti d'autore e su ciò che è noto come proprietà intellettuale (PI). Qualcuno che ha una storia protetta da copyright dovrebbe mantenere vari diritti legali associati a quella storia. Non hanno una parvenza onnicomprensiva completamente ferrea di diritti legali. Ci sono esclusioni ed eccezioni.

Uno dei problemi più difficili in merito alla violazione del materiale protetto da copyright di qualcuno è la vicinanza di ciò che potresti avere rispetto alla fonte originale. Forse hai letto o visto notizie su cantanti famosi e i loro testi, per cui qualcun altro ha scritto una canzone con testi apparentemente simili e se questo era legalmente corretto o meno.

In precedenza avevo accennato al fatto che di solito l'app di intelligenza artificiale generativa non produce un saggio che è una copia carbone di altri materiali su cui è stata precedentemente addestrata esaminando i contenuti su Internet. È probabile che il materiale sia generalizzato e tutto confuso insieme in modo tale da non assomigliare più da vicino a qualunque contenuto fosse costituito dalla fonte.

Dovremo aspettare e vedere come il processo legale si occuperà di questo. Se un'app di intelligenza artificiale generativa produce un'opera d'arte che è visivamente ovviamente simile a un'opera d'arte di provenienza, probabilmente tenderemmo ad accusare l'IA e i creatori dell'IA di aver violato il copyright associato all'opera originale. Possiamo vederlo con i nostri occhi.

Quando si tratta di saggi, questo può essere più complicato. I casi ovvi sono quando intere frasi e paragrafi sono identici parola per parola. Possiamo vederlo tutti. Ma quando la formulazione differisce con un minimo di differenze, entriamo in aree grigie.

Quanto deve essere lontano dal materiale di provenienza originale il materiale appena creato per dichiarare che è un originale in buona fede per i suoi meriti?

Questa è una domanda pesante.

Colleghiamo questo allo studente che utilizza l'app di intelligenza artificiale generativa per il suo saggio.

Fai finta per il momento che un particolare saggio generato dall'app AI venga interpretato come un saggio "originale". Sto dicendo di presumere che non violi in alcun modo apparente nessun altro saggio preesistente o narrativa testuale in qualsiasi parte della terra.

Lo studente inizia quindi con una fonte originale del materiale. Come già indicato, lo studente modifica e perfeziona questo materiale. Le cose raggiungono un punto in cui l'originale prodotto dall'app AI ora differisce dalla versione raffinata che lo studente ha ideato.

Questo è barare?

Forse sì forse no.

Puoi sostenere che lo è. Lo studente ha iniziato con l'IA che scriveva il suo saggio per loro. Tutto ciò che lo studente ha fatto è giocare meccanicamente con il saggio. Ci aspettiamo che lo studente scriva il saggio in aria e usi il proprio nogging per farlo. È chiaramente un imbroglio usare l'app AI per generare la loro linea di base. Assegnare un voto "F" allo studente.

Non così in fretta. Puoi sostenere che non è barare. Lo studente ha rielaborato il materiale originale. Se un confronto tra il saggio prodotto dall'app AI e la versione perfezionata dallo studente è una differenza abbastanza grande, diremmo che lo studente ha scritto il saggio. Certo, hanno usato altro materiale per farlo, ma non puoi dire lo stesso se hanno usato un'enciclopedia o qualche altra fonte? Questo studente merita un voto "A" per aver composto un saggio con il proprio ingegno (nonostante abbia fatto riferimento ad altri materiali per farlo).

Gli insegnanti saranno intrappolati nel mezzo di questa domanda già irritante.

Un approccio è che un insegnante potrebbe affermare categoricamente che gli studenti devono elencare tutti i materiali di riferimento, incluso se è stata utilizzata o meno un'app di intelligenza artificiale generativa. Se uno studente non elenca esplicitamente l'IA generativa come riferimento e se l'insegnante scopre che non l'ha elencata, lo studente ottiene sommariamente un voto "F" sul compito. O forse alcune scuole considereranno questo un atto di imbroglio che fa sì che lo studente riceva un bocciatura automatica. O forse espulso. Dovremo vedere fino a che punto le scuole si spingono su queste questioni.

In generale, ci stiamo dirigendo verso un mondo capovolto di proprietà intellettuale e proprietà legale di opere come saggi (testo), arte (immagini) e video, tra cui:

• Alcuni chiederanno un risarcimento legale ai produttori di IA generativa in merito alle fonti di contenuto che sono state utilizzate dall'IA per generare l'output prodotto.
• Alcuni prenderanno l'output dell'IA generativa e considereranno il risultato come opere di loro proprietà, quindi cercheranno di chiedere un risarcimento legale a chiunque violi il loro lavoro "originale".
• Questo potrebbe cambiare, in modo tale che qualcuno produca output dall'IA generativa, che viene pubblicato su Internet, e poi arriva qualche altra IA generativa e lo usa nella sua formazione per produrre opere simili.

Trasformare un negativo in positivo

Tutto questo parlare della cattiveria dell'IA generativa quando si tratta di imbrogli degli studenti forse sta offuscando le nostre menti, alcuni esortano.

Prendi questo in una direzione diversa.

Sei seduto?

Forse gli insegnanti dovrebbero considerare di proposito di far usare agli studenti l'IA generativa come parte del processo di apprendimento su come scrivere saggi.

Ho già scritto del cosiddetto doppi usi dell'intelligenza artificiale, cfr il link qui. L'idea è che a volte un sistema di intelligenza artificiale può essere utilizzato per il male e talvolta può essere cambiato e utilizzato per il bene. L'aspetto preoccupante è quando qualcuno scrive IA per sempre ed è beatamente inconsapevole di quanto facilmente la loro IA possa essere trasformata nello spettro della cattiveria. Parte di AI etici è la consapevolezza che l'intelligenza artificiale dovrebbe essere concepita in modo tale da non poter essere trasformata dall'oggi al domani in una maledizione. Questa è una preoccupazione continua.

Torniamo all'intelligenza artificiale generativa per la produzione di saggi.

In precedenza ho sollevato il concetto che uno studente potrebbe essere in grado di imparare a scrivere guardando opere scritte che già esistono. Questo ha molto senso. Fondamentalmente, più leggi, più è probabile che tu stia espandendo la tua parvenza mentale verso la capacità di scrivere. Come affermato in precedenza, devi ancora scrivere, poiché tutte le letture del mondo non ti porteranno necessariamente a diventare un bravo scrittore se non pratichi l'atto di scrivere.

Potremmo usare l'IA generativa per favorire questo accoppiamento lettura-scrittura. Chiedi a uno studente di utilizzare intenzionalmente l'IA generativa. L'IA produce un saggio. Allo studente viene assegnato il compito di criticare il saggio prodotto dall'intelligenza artificiale. Successivamente, allo studente viene assegnato il compito di scrivere un nuovo saggio, magari su un argomento diverso, ma può utilizzare la struttura e altri elementi generali del precedente saggio generato dall'IA.

Questo potrebbe essere ancora più produttivo, suggeriscono alcuni, per gli studenti rispetto alla semplice lettura di libri o altri testi di scrittori con cui lo studente non ha accesso per "interagire". Con l'app AI, lo studente può provare a rieseguire e produrre il saggio iniziale utilizzando una moltitudine di suggerimenti, uno dopo l'altro. Lo studente potrebbe dire all'intelligenza artificiale di scrivere un saggio essenziale su Lincoln. Successivamente, lo studente chiede un lungo saggio su Lincoln scritto con voce informale. Dopo averlo esaminato, lo studente indica all'app AI di produrre una versione altamente formalizzata del saggio Lincoln. Eccetera.

L'affermazione fatta è che questo potrebbe aiutare materialmente uno studente ad apprendere la scrittura e come può avvenire la scrittura.

Un recente documento di ricerca propone proprio questo punto: "Gli autori di questo documento ritengono che l'IA possa essere utilizzata per superare tre ostacoli all'apprendimento in classe: migliorare il trasferimento, rompere l'illusione della profondità esplicativa e addestrare gli studenti a valutare criticamente le spiegazioni" ( in un documento intitolato "New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments", Dr. Ethan Mollick e Dr. Lilach Mollick, Wharton School dell'Università della Pennsylvania e Wharton Interactive, 12 dicembre 2022)

Ad esempio, sottolineano che il miglioramento del trasferimento dell'apprendimento potrebbe avvenire in questo modo: "L'intelligenza artificiale è un modo economico per fornire agli studenti molti esempi, alcuni dei quali potrebbero essere imprecisi o richiedere ulteriori spiegazioni o potrebbero essere semplicemente inventati. Per gli studenti con una conoscenza di base di un argomento, puoi utilizzare l'intelligenza artificiale per aiutarli a testare la loro comprensione e spingerli esplicitamente a nominare e spiegare imprecisioni, lacune e aspetti mancanti di un argomento. L'intelligenza artificiale può fornire una serie infinita di esempi di concetti e applicazioni di tali concetti e puoi spingere gli studenti a: confrontare esempi in contesti diversi, spiegare il nucleo di un concetto e evidenziare incongruenze e informazioni mancanti nel modo in cui l'IA applica i concetti a nuove situazioni” (ibid).

È simile al vecchio ritornello, se non puoi batterli, unisciti a loro.

Trasforma l'IA generativa in uno strumento educativo.

Yikes, arriva la risposta rapida.

Stai mettendo la volpe nel pollaio. Agli studenti che non avevano idea di cosa fosse l'IA generativa ora lo verrà mostrato, apertamente, dalle azioni palesi di un insegnante e delle loro scuole. Se gli studenti erano all'oscuro delle opportunità di barare, lo stai mettendo direttamente in faccia e nelle loro mani.

Sembra del tutto ripugnante che coloro che detengono l'autorità presentino agli studenti un mezzo per imbrogliare. Quindi metterai per sempre il più onesto degli studenti nel regno delle tentazioni imbroglioni. Tutti avranno accesso alla macchina per imbrogliare. Gli viene detto di farlo. Non c'è bisogno di nasconderlo. Non c'è bisogno di fingere di non utilizzare l'IA generativa. La scuola e l'insegnante te l'hanno fatto usare.

La controreplica a questo è che devi tenere ciecamente e ignorantemente la testa sotto la sabbia per pensare che gli studenti non acquisiranno familiarità con l'IA generativa. Mentre stai scioccamente fingendo che non lo sappiano, si stanno affrettando fuori dalla scuola per usarlo. La tua scelta migliore è presentare loro la cosa, discutere per cosa può e non può essere usata e portare una luce brillante e brillante all'intero enigma.

È piuttosto stupido.

Per quelli di voi che stanno facendo ricerche sulle innovazioni educative della tecnologia, potreste voler dare un'occhiata all'IA generativa e come potrebbe cambiare la natura degli approcci educativi e influenzare l'apprendimento degli studenti. Arriverà abbastanza presto.

Usare il rilevamento per salvarci dalla rovina

Cambia cappello e consideriamo per un momento l'opera d'arte digitale.

Se crei un'opera d'arte digitale, potresti voler contrassegnarla in qualche modo in modo da poter, in seguito, discernere se qualcuno ha scelto di utilizzare o riutilizzare la tua abilità artistica. Un modo semplice per farlo consiste nel modificare alcuni dei pixel o dei punti nella grafica digitale. Se ne fai qualcuna qui o là, l'aspetto dell'opera d'arte sembrerà sempre lo stesso agli occhi degli umani. Non noteranno quei pixel che sono minuscoli e sono stati impostati su un colore speciale che può essere visto solo a un'attenta ispezione tramite strumenti digitali.

Potresti conoscere queste tecniche come una forma di filigrana. Proprio come ai vecchi tempi c'erano tentativi di filigranare materiali cartacei e altri contenuti non digitalizzati, abbiamo assistito gradualmente all'ascesa delle filigrane digitali.

Una filigrana digitale potrebbe essere nascosta nell'immagine di un'opera d'arte digitale. Se ciò può sembrare invadente per l'immagine, puoi provare a incorporare la filigrana nel file che contiene l'opera digitale (i cosiddetti "metadati" dell'opera digitale).

C'è un gioco del gatto e del topo che può sorgere.

Qualche malfattore arriva e scoprono la tua filigrana digitale. Lo rimuovono. Ora, apparentemente possono usare liberamente la tua opera d'arte digitale senza preoccuparsi che tu possa, in seguito, entrare in essa e mostrare che chiaramente è una fregatura dei tuoi sforzi. Quei mascalzoni!

Dobbiamo aumentare la filigrana digitale, cosa che possiamo fare attraverso l'uso di tecniche e tecnologie crittografiche. Pensa ai messaggi segreti e alla codifica.

L'idea è di codificare la filigrana digitale in modo che sia difficile da trovare. È anche potenzialmente difficile da rimuovere. Potremmo anche provare a garantire che il software che visualizzerà o consentirà l'uso dell'opera d'arte digitale debba prima verificare e verificare che esista una filigrana digitale codificata valida nell'opera, altrimenti è considerata una copia impropria. Ti ho beccato in flagrante.

Possiamo fare lo stesso per l'IA generativa che produce testo?

È stato lanciato un guanto di sfida. Il problema, tuttavia, può essere più difficile in una certa misura rispetto a quando si considerano le filigrane digitali per le opere d'arte.

Ecco perché.

Supponiamo che l'unico posto in cui puoi posizionare la filigrana sia direttamente nel testo stesso. Dico questo perché il testo che viene generato non va necessariamente in un file. Il testo è solo testo. Puoi tagliarlo e incollarlo dallo strumento di intelligenza artificiale generativa. In questo senso, di solito non ci sono metadati o file in cui incorporare la filigrana.

Devi concentrarti esclusivamente sul testo. Testo puro.

Una strada sarebbe quella di fare in modo che l'intelligenza artificiale generativa produca il testo in un modo che possa essere rintracciato. Come esempio grezzo ma poco pratico, immagina di aver deciso di iniziare ogni terza frase con la parola "E" all'inizio della frase. Genereremmo comunque un saggio apparentemente del tutto fluente. L'unico trucco è che ogni terza frase inizia con la nostra parola magica scelta. Nessun altro sa cosa stiamo combinando.

Uno studente utilizza l'intelligenza artificiale generativa per produrre il saggio assegnato su Lincoln. Lo studente lo prende direttamente dall'app AI e lo invia tramite e-mail all'insegnante. Si scopre che lo studente ha aspettato fino all'ultimo momento ed era in ritardo rispetto alla scadenza pubblicata. Non c'è tempo per rivedere il saggio. Basta inviarlo e sperare per il meglio.

L'insegnante guarda il tema. Supponiamo di averle detto che la nostra filigrana consiste nella parola magica usata all'inizio di ogni terza frase. L'insegnante rileva che questo è il caso in questo saggio presentato. Anche se c'è forse una possibilità incredibilmente esigua che lo studente abbia scritto il saggio e forse gli piaccia usare questa particolare parola all'inizio di ogni terza frase, penso che possiamo ragionevolmente concordare che questo è altamente improbabile e invece lo studente probabilmente ha usato l'IA generativa per produrre il saggio.

Vedi come funziona?

Confido che tu lo faccia.

Il problema ora è come trovare una filigrana che non sia così ovvia. Uno studente potrebbe notare che le frasi sembrano usare stranamente una parola particolare. Potrebbero indovinare cosa sta succedendo. A sua volta, lo studente potrebbe spostarsi tra le frasi e fare qualche riformulazione. Questo quindi praticamente affonda questa particolare filigrana poiché il saggio non è più facilmente individuato come scritto dall'IA generativa.

Il gioco del gatto e del topo sta ancora una volta andando avanti.

Abbiamo bisogno di produrre un testo scorrevole che in qualche modo contenga una "filigrana" in un modo che non può essere facilmente distinto. Inoltre, se possibile, la filigrana dovrebbe continuare a persistere anche se il saggio viene leggermente rivisto. Una revisione integrale probabilmente non consentirà alla filigrana di sopravvivere. Ma vogliamo una certa ridondanza e resilienza in modo che la filigrana sia preferibilmente rilevabile anche se vengono apportate alcune modifiche all'area di testo.

Un ricercatore che sta lavorando per l'azienda che produce ChatGPT (l'app AI di OpenAI) sta esplorando alcuni interessanti sforzi crittografici lungo queste considerazioni sul watermarking. Scott Aaronson è un professore di informatica presso l'Università del Texas ad Austin e ha recentemente tenuto un discorso su alcuni dei lavori in corso (una trascrizione è pubblicata sul suo blog).

Considera questo estratto in cui spiega brevemente l'approccio esistente: “Come funziona? Per GPT, ogni input e output è una stringa di token, che potrebbero essere parole ma anche segni di punteggiatura, parti di parole o altro: ci sono circa 100,000 token in totale. Fondamentalmente, GPT genera costantemente una distribuzione di probabilità sul token successivo da generare, in base alla stringa di token precedenti. Dopo che la rete neurale ha generato la distribuzione, il server OpenAI campiona effettivamente un token in base a tale distribuzione o a una versione modificata della distribuzione, a seconda di un parametro chiamato "temperatura". Finché la temperatura è diversa da zero, tuttavia, di solito ci sarà una certa casualità nella scelta del token successivo: potresti ripetere più volte lo stesso prompt e ottenere ogni volta un completamento diverso (ad esempio, una stringa di token di output) .”

Come notato, esiste una quantità designata di casualità su quali parole verranno inserite accanto al saggio che viene derivato dall'app ChatGPT. Ciò spiega anche il punto precedente, secondo cui è probabile che ogni saggio sia in qualche modo diverso anche se sullo stesso argomento. Un uso mirato di un approccio di selezione casuale che rientra in limiti particolari è in esecuzione sotto il cofano durante la generazione del saggio.

Arriviamo ora alla parte succosa, la commistione crittografica: "Quindi per filigranare, invece di selezionare il token successivo in modo casuale, l'idea sarà di selezionarlo in modo pseudo-casuale, utilizzando una funzione pseudocasuale crittografica, la cui chiave è nota solo a OpenAI . Ciò non farà alcuna differenza rilevabile per l'utente finale, supponendo che l'utente finale non sia in grado di distinguere i numeri pseudocasuali da quelli veramente casuali. Ma ora puoi scegliere una funzione pseudocasuale che distorce segretamente un certo punteggio, una somma su una certa funzione g valutata per ogni n-grammo (sequenza di n token consecutivi), per qualche piccolo n, che puoi anche calcolare se sai la chiave per questa funzione pseudocasuale.

Mi rendo conto che potrebbe sembrare in qualche modo tecnologicamente inceppato.

L'essenza è che il saggio prodotto sembrerà fluente e non sarai in grado di discernere prontamente leggendo il saggio che contiene una filigrana digitale. Per capire se un determinato saggio contiene una filigrana, dovresti inserire il saggio in un rilevatore appositamente ideato. Il programma che esegue il rilevamento calcolerebbe un valore basato sul testo e sarebbe in grado di confrontarlo con una chiave memorizzata. Nell'approccio descritto, le chiavi sarebbero detenute dal venditore e non sarebbero altrimenti disponibili, quindi, supponendo che le chiavi siano mantenute segrete, solo il programma di rilevamento unto potrebbe calcolare se il saggio è stato probabilmente derivato da ChatGPT in questo caso.

Continua riconoscendo che questo non è infallibile: “Ora, tutto questo può essere sconfitto con uno sforzo sufficiente. Ad esempio, se hai utilizzato un'altra intelligenza artificiale per parafrasare l'output di GPT, va bene, non saremo in grado di rilevarlo. D'altra parte, se si inseriscono o si eliminano solo alcune parole qua e là, o si riorganizza l'ordine di alcune frasi, il segnale di filigrana sarà ancora presente. Poiché dipende solo da una somma su n-grammi, è robusto contro questo tipo di interventi".

A un insegnante potrebbe essere concesso l'accesso a un programma di rilevamento che controlla i saggi degli studenti. Supponiamo che la questione sia relativamente semplice in quanto l'insegnante chiede agli studenti di inviare per e-mail i loro temi all'insegnante e al rilevatore automatico. L'app del rilevatore informa quindi l'insegnante sulla probabilità che il saggio venga creato da ChatGPT in questo caso.

Ora, se il rivelatore è apertamente disponibile a chiunque, ci sarebbero studenti imbroglioni "superiori" che semplicemente inserirebbero i loro saggi nel rivelatore e apporterebbero una serie di modifiche fino a quando il rivelatore non indicherebbe una bassa probabilità che il saggio sia stato derivato dal rivelatore generativo AI. Altro che gatto e topo. Presumibilmente, il rilevatore deve essere mantenuto strettamente protetto dall'utilizzo della password, oppure sono necessari altri mezzi o metodi per gestire gli approcci crittografici (è possibile utilizzare una varietà di metodi basati su chiave e senza chiave).

Un insegnante potrebbe trovarsi di fronte alla possibilità di dozzine o centinaia di app di intelligenza artificiale generativa disponibili per l'uso su Internet. In tal caso, cercare di convincere tutti a utilizzare una filigrana digitale e dover inserire un saggio in tutti loro, beh, diventa solo più allettante e logisticamente complicato.

Niente più saggi fuori dall'aula

Una prospettiva negativa e cupa è che forse gli insegnanti dovranno abbandonare l'uso della scrittura di saggi esterni. Tutti i saggi devono essere scritti solo all'interno dell'ambiente controllato di una classe.

Questo ha un sacco di problemi.

Supponiamo che uno studente debba normalmente impiegare dieci ore per scrivere un particolare saggio in piena regola che è un progetto di classe. Come sarebbe fatto questo all'interno di un'aula? Hai intenzione di suddividerlo e chiedere allo studente di scrivere un piccolo pezzo del saggio in una serie di giorni? Pensa alle difficoltà che questo presenta.

Alcuni sostengono che forse la questione è stata esagerata.

Gli insegnanti dovrebbero fare come hanno sempre fatto riguardo al plagio da parte degli studenti. In anticipo l'insegnante dichiara che il plagio è una seria preoccupazione per gli imbrogli. Sottolinea che l'uso dell'IA generativa, in qualsiasi modo, sarà considerato un'azione imbrogliata.

Apporta sanzioni che hanno un peso significativo, come un voto basso, una classe bocciata o l'espulsione da una scuola se arriva così lontano. Richiedere agli studenti di attestare per iscritto per ogni compito di saggio esterno che ciò che hanno consegnato è il loro lavoro (fatto senza ausili come l'intelligenza artificiale generativa, copiando da Internet, utilizzando altri studenti, utilizzando un genitore, pagando per farlo e presto). Inoltre, richiedere agli studenti di elencare tutti gli strumenti online utilizzati nella preparazione del lavoro, inclusa la necessità di annotare in particolare qualsiasi utilizzo dell'IA generativa.

L'insegnante potrebbe o meno utilizzare un'app di rilevamento per provare a discernere se il saggio presentato è probabile da un'app di intelligenza artificiale generativa. Questo è un passaggio potenzialmente gravoso, a seconda della facilità di utilizzo e accesso dei rilevatori.

Presumibilmente, gli insegnanti dovrebbero già agire per scoprire se i saggi scritti dall'esterno sembrano legittimi. Scrivendo saggi in classe, c'è la possibilità di confrontare e contrastare, rendendosi conto però che il tempo per scrivere in classe è minore e potrebbe anche essere ostacolato dalla restrizione di non consentire l'accesso ai materiali di riferimento online.

Il succo è che non dovremmo prendere la strada di abbandonare bruscamente l'uso della scrittura di saggi esterni. Alcuni lo deplorerebbero come un atto avventato e che sembra ricordare di buttare via il bambino con l'acqua sporca (un vecchio detto, forse vale la pena ritirarlo).

Se la scrittura esterna viene completamente interrotta come attività di apprendimento, ci sono probabilmente svantaggi gravi e prolungati nel rimuovere questa attività educativa apparentemente quotidiana dal curriculum. C'è un compromesso coinvolto. Quanti studenti imbroglieranno, nonostante tutti i controlli e gli equilibri sopra menzionati? Quanti studenti non imbroglieranno e quindi continueranno a utilizzare un approccio educativo vantaggioso per migliorare la loro abilità di scrittura?

In teoria, si spera, la percentuale di imbroglioni sarà abbastanza piccola da rendere la scrittura esterna ancora meritoria per la preponderanza degli studenti.

Conclusione

L'intelligenza artificiale può essere un bel mal di testa.

Per gli insegnanti, l'intelligenza artificiale può essere sia una benedizione che una maledizione. In ogni caso, significa che gli insegnanti devono conoscere l'IA, insieme a come affrontare i colpi di scena dell'IA associati alle loro attività di insegnamento, il che è un altro peso aggiuntivo sulle loro schiene e spalle già troppo estese. Shoutout agli insegnanti ovunque.

Forse possiamo desiderare che l'IA se ne vada.

Nope.

Vedi, non torneremo indietro nel tempo e cancelleremo l'IA generativa. Chiunque chieda questo è un sognatore. E, per inciso, sto usando la parola "E" come prima parola della terza frase di questo paragrafo (oops, svelando la chiave!), L'IA generativa è qui per restare.

Ecco un suggeritore per avviare le tue accese discussioni: L'IA generativa diventerà più pervasiva e avrà capacità ancora più sbalorditive e snervanti.

Mic goccia.

Pensiero finale per ora.

Shakespeare scrisse notoriamente che "Essere o non essere: questa è la domanda".

Ti assicuro che l'IA generativa lo sarà. Lo è già.

Dobbiamo capire come vogliamo che l'IA generativa entri nelle nostre vite e come la società sceglierà di modellare e guidare tale utilizzo. Se hai mai avuto bisogno di una ragione per pensare all'etica dell'IA e alla legge sull'IA, forse l'IA generativa ti spingerà a cercare di sapere cosa siamo, anche se non sappiamo cosa potremmo essere (riferimento nascosto a Shakespeare).