ChatGPT: una star da copertina

Un nuovo approfondimento di Eleonora Pantò per la rubrica Appunti Selvaggi: il tema è attualissimo e dedichiamo anche un laboratorio per le biblioteche del Piemonte e della Valle D’Aosta al tema (le iscrizioni sono aperte)

ChatGPT avrebbe potuto essere l’ospite d’onore del Festival di Sanremo qualche settimana fa, dato il suo indice di popolarità in questi mesi: il Time gli ha dedicato una copertina proprio in queste settimane. Come per ogni innovazione un po’ dirompente, assistiamo ad un’accelerazione di eventi e di reazioni di segno opposto: i programmatori usano ChatGPT per scrivere codice? Amazon impedisce ai propri dipendenti di usarlo, come le banche e le maggiori aziende mondiali di consulenza. Scienziati e ricercatori citano ChatGPT come coautori nei rapporti di ricerca? I principali editori scientifici creano nuove politiche editoriali per non accettare questi contributi: per Science l’uso di questi strumenti è affine al plagio, in quanto l’elaborato prodotto non può essere dichiarato “materiale originale”. L’Università della Svizzera Italiana ha vietato l’uso di ChatGPT negli esami e altre università la seguiranno. Allo stesso tempo, esiste già una produzione di libri, anche per bambini, scritti da ChatGPT, autopubblicati dagli ideatori e venduti su Amazon.

Sam Altam – uno degli amministratori di OpenAI  ha dichiarato in un tweet il 19 febbraio che ChatGPT ci renderà più produttivi, perché ci metteremo meno tempo a scrivere email, più in salute (anche chi non può permettersi un medico potrà giovarsi dei suoi consigli), più intelligenti (gli studenti potranno usarlo per studiare) e pure più allegri (pensa che bei MEME può creare un AI!). Su Facebook mi è comparso un annuncio pubblicitario,  che testualmente,  diceva che ChatGPT potrà sostituire le persone nel marketing.

ChatGPT si sta rivelando un vero game-changer: la versione nuova di Internet, non è quella di Marc Zuckenberg con il visore ma quella di un assistente onnisciente che risponde a qualsiasi domanda sullo scibile umano e redige al posto tuo qualsiasi “testo”.

Ma è davvero così? Se avete interagito con ChatGPT avrete avuto modo di scoprire che non è sempre preciso, e spesso “inventa” informazioni che non ha. Nel mio precedente articolo Futurabilia ho raccontato la nascita di OpenAI e  ChatGPT, ma forse è necessario un passo indietro. 

Cosa si intende per intelligenza artificiale

Con “intelligenza artificiale” (IA) ci si riferisce a sistemi informatici  in grado di eseguire compiti che tipicamente richiedono capacità associate all’intelligenza umana, come il riconoscimento di pattern (= strutture che si ripetono), apprendere dall’esperienza e prendere decisioni. Questi sistemi sono “allenati” a compiere queste azioni,  attraverso l’uso di dati e algoritmi che gli permettono di “apprendere” e perfezionarsi. Esistono due tipi di IA: debole o specialistica, in grado di svolgere compiti in settori specifici, o generale, che può svolgere qualsiasi tipo di compito. Le più comuni applicazioni dell’IA sono la traduzione, il riconoscimento di immagini e di linguaggio parlato, i processi decisionali e gli assistenti personali. 

L’uso di sistemi di IA consente un aumento dell’efficienza e della produttività, una maggiore accuratezza, la possibilità di eseguire compiti pericolosi o impossibili per gli esseri umani. Non abbiamo ancora idea di quali siano le conseguenze sociali e psicologiche dell’uso dell’IA, ma è già evidente l’impatto sull’occupazione (=non sono più necessarie persone), non conosciamo le conseguenze dell’uso dei dati forniti dalle persone in modo consapevole o inconsapevole (ne ho parlato qui), non abbiamo garanzie sul fatto che i sistemi siano progettati in modo etico e responsabile, inoltre la complessità degli algoritmi e le tecniche di apprendimento automatico utilizzate rendono i processi decisionali opachi. 

Come funziona l’intelligenza artificiale? 

In modo molto semplificato, un sistema di IA si basa sull’uso di un algoritmo di apprendimento automatico (machine learning) che usa una grande base dati; l’algoritmo può apprendere in modo “supervisionato” quando utilizza dati che sono “etichettati” (labeled data): di solito appartengono ad una determinata categoria e le etichette sono utilizzate per classificare nuovi dati; nel modo non supervisionato i dati non sono categorizzati e il sistema individua pattern ricorrenti per classificarli e raggrupparli secondo caratteristiche comuni. Altri metodi prevedono l’uso di regole predeterminate o di sistemi evolutivi, per fare previsioni. 

I chatbot e ChatGP

I chatbot sono l’interfaccia fra l’essere umano e l’IA, e permettono l’interazione utilizzando il linguaggio naturale. I chatbot sono usati in diversi contesti: nell’assistenza clienti, nel commercio elettronico per proporre prodotti sulla base di scelte precedenti e tracciare ordini, in ambito sanitario per raccogliere informazioni sulle condizioni mediche del paziente, in ambito educativo per fornire informazioni, proporre quiz, gestire calendari, in ambito finanziario per consigliare investimenti, ecc.

ChatGPT è un chatbot basato su una variante del modello GPT – Generative Pre training Transformer, progettato per realizzare conversazioni finalizzate a creare testi. ChatGPT  è un modello di deep learning, ovvero un modello di apprendimento non supervisionato, cioè adatto a elaborare dati non strutturati, che non possono essere categorizzati in anticipo: il sistema autoapprende in modo automatico e necessita di basi di dati molto grandi, almeno superiori a 100 milioni di punti dati (data point) per dare risultati affidabili.

Usare ChatGPT

Nella finestra in basso, si possono inserire domande, anche in italiano, la punteggiatura di solito non è importante. Facciamo un po’ di esercizio, chiediamo “Com’è il Buthan?”

Dopo avere generato la risposta, l’interfaccia si presenta diversamente: possiamo vedere a sinistra che e’ comparsa una scritta  “Buthan cultura e ambiente” e in basso è comparsa una riga con  scritto “Regenerate response” per chiedere una nuova risposta alla stessa domanda, e una serie di  icone che permettono di salvare il risultato in formato immagine o pdf, oppure di copiarlo nella clipboard. Per esempio se chiederemo “com’è la cucina” e il sistema assumerà che continuiamo a parlare del Buthan. 

Vi volevo consigliare un film molto bello sul Buthan, ma non ricordavo il titolo, così gli ho chiesto  volutamente in modo un po’ vago “come si chiama il film sul Buthan” .. eh ahimè mi ha proposto “Viaggio a Kandahar” che è ugualmente molto bello ma è girato in Afghanistan.  

Per creare una nuova conversazione, potete cliccare “New Chat”. 

Cos’è un prompt? 

Come abbiamo visto, ChatGPT genera testi a partire da una domanda o da un contesto – chiamato “prompt” che viene utilizzato per generare la risposta o continuare la conversazione. Il modello utilizza la propria “conoscenza” per generare un testo coerente (verosimile) che non vuol dire vero o corretto. ChatGTP può essere ottimizzato per generare testi adatti a specifici domini.

Per avere buoni risultati bisogna imparare a creare buone domande: gli elementi fondamentali di un prompt sono: istruzioni, domande, dati  ed esempi di riferimento.

1. Prompt con istruzioni e domande: “Come devo rispondere ad un’offerta di lavoro? Dammi suggerimenti sulle diverse informazioni da includere, il tono da utilizzare e le espressioni da evitare”
2. Prompt con istruzioni e dati: “Come devo rispondere ad un’offerta di lavoro? Ho un’esperienza ventennale nel marketing, specificatamente nel settore dell’abbigliamento sportivo, parlo bene l’inglese, francese e italiano. “
3. Prompt con istruzioni ed esempi “Potresti suggerirmi delle serie TV? mi piace la fantascienza come Black Mirror e ho apprezzato Little fire everywhere”

La capacità di creare prompt efficaci sta crescendo molto rapidamente: l’ingegneria dei prompt (prompt engineering) potrebbe essere la nuova forma di programmazione e sostituire l’apprendimento automatico e altri tipi di ingegnerizzazione del software. Per ingegnerizzare le domande è necessaria una conoscenza del dominio per incorporare l’obiettivo nel prompt (ad esempio, determinando come dovrebbero essere i risultati buoni e cattivi) e la comprensione del modello. Modelli diversi risponderanno in modo diverso allo stesso tipo di prompt.  La generazione di prompt su una certa scala richiede un approccio programmatico. Ad esempio si possono generare dei prompt come “modelli” (template) da riusare.  

“Qual è il cibo che contribuisce maggiormente all’aumento dell’insulina?”

Usa questo formato

D: <ripeti la domanda>

R: Descrivo il ragionamento. <descrivi il ragionamento> Quindi la risposta finale è <risposta finale>

Si potrà poi riutilizzare questo formato:

“Qual è stato europeo ha registrato il maggior aumento della temperatura negli ultimi dieci anni” Usa il formato precedente

Un altro modo è forzare il sistema ad essere fattuale e citare le fonti.

La crisi climatica esiste? Rispondi usando solo fonti affidabili e cita le fonti

In questo caso usando solo la lingua italiana non ho avuto il risultato che intendevo: solo aggiungendo un’ulteriore specificazione inglese ho avuto l’indicazione dei siti web da cui erano tratte le informazioni, nel modo seguente: 

La crisi climatica esiste? Rispondi usando solo fonti affidabili e cita le fonti and insert reference

Questi esempi sono molto semplici e introduttivi: in rete troverete tantissimo materiale e istruzioni su come creare prompt, oltre a varie raccolte di prompt classificate per argomento (dal marketing all’educazione). 

ChatGPT e la didattica

Gli studenti sono stati velocissimi a capire che ChatGPT poteva fare i compiti al posto loro: su Youtube e tiktok si trovano video e tutorial che spiegano come fare. Come faranno quindi le scuole e università a scoprire se l’elaborato è originale? Avrà ancora senso dare dei compiti che possono essere fatti dal magico ChatGPT? Come si adegueranno i sistemi antiplagio? 

Esistono già alcuni software in grado di analizzare se i testi sono stati prodotti con sistemi di AI, la stessa OpenAI ha creato un software ma la sua affidabilità è molto bassa.  E forse non è questa la soluzione. 

ChatGPT può essere utile agli insegnanti o alle biblioteche scolastiche, per trovare risorse e consigliare percorsi personalizzati, progettare lezioni che prevedono l’uso anche in classe questo strumento, ad esempio per far generare quiz o analizzare i testi prodotti, per creare storie a bivi, ecc.

Alla UCLA, Università californiana, si considera l’uso di ChatGPT come una frode, ma uno dei loro docenti non è d’accordo e scrive su su Scientific American “Per rimanere competitivi per tutta la loro carriera, gli studenti devono imparare a sollecitare uno strumento di scrittura basato sull’intelligenza artificiale per ottenere risultati utili e sapere come valutarne la qualità, l’accuratezza e l’originalità. Devono imparare a comporre saggi ben organizzati e coerenti che coinvolgano un mix di testo generato dall’intelligenza artificiale e scrittura tradizionale. In qualità di professionisti che lavoreranno negli anni 2060 e oltre, dovranno imparare a interagire in modo produttivo con i sistemi di intelligenza artificiale, utilizzandoli sia per integrare e per migliorare la creatività umana con lo straordinario potere promesso dall’IA della metà del 21° secolo.”

Con toni un po’ meno eclatanti, anche Antonio Casilli, sociologo e docente al Politecnico di Parigi e autore di vari libri sul lavoro digitale, ha usato  ChatGPT con i suoi studenti, esattamente come Wikipedia in altre occasioni. 

Usare questi strumenti non significa ignorare tutte le criticità connesse e gli aspetti controversi, quali proprietà intellettuale dei materiali utilizzati per produrre le risposte, l’utilizzo dei dati inseriti nelle conversazioni, i casi di sfruttamento dei lavoratori per ripulire manualmente i contenuti inadatti.

Esiste poi un altro aspetto importante: perché questi sistemi sono progettati per creare empatia? Alla richiesta di consigliarmi la serie TV ha aggiunto “Spero ti divertirai a vedere queste serie”. Spero??

Antropoformizzare questi strumenti presenta dei vantaggi per chi li vende, ma crea confusione in chi li usa: per questo gli sviluppatori dovrebbero evitare di progettarli in questo modo e i giornalisti dovrebbero evitare di usare metafore fuorvianti. Inoltre dovremmo trovare nuove parole che sostituiscano “intelligenza” “apprendimento” “reti neurali” perché sono concetti che hanno poco da spartire con questi sistemi. 

Altri riferimenti

• Una spiegazione un pò più tecnica di come funziona ChatGTP ma abbastanza comprensibile – in inglese  How ChatGPT Works: The Model Behind The Bot | by Molly Ruby | Jan, 2023 | Towards Data Science 
• Una delle tante guide per insegnanti per creare prompt – in inglese A Teacher’s Prompt Guide to ChatGPT aligned with ‘What Works Best’  
• Il saggio “L’era delle macchine che apprendono” – a pagamento –  di Francesco Maria De Collibus pubblicato sul numero  L’intelligenza non è artificiale, Limes, dicembre 2022 che approfondisce vari aspetti sul tema dell’IA e sulle ricadute positive di tali sistemi. 
• L’intervista alla sociologa Elena Esposito  a cura di  Francesco  Nasi” Comunicazione artificiale: algoritmi e intelligenza sociale”che affronta il tema del linguaggio partendo dal titolo.
• E se vi è rimasta la curiosità, il film su Buthan  che volevo consigliarvi e di cui non ricordavo il nome, è questo Lunana il Villaggio alla fine del mondo,  il titolo originale è  Lunana – a yak in the classroom. 

Eleonora Pantò, 26 febbraio 2023