Chiedendo “Otto per sei”, la risposta tarda un po’ e manca poco che qualcuno se ne esca con “quarantasei”. Da quando ci hanno fatto imparare le tabelline a memoria non ci sono né calcoli, né applicazione di regole, solo associazioni tra simboli. Ricorda qualcosa?
È un fatto che ChatGPT all’inizio sbagliava facilmente i calcoli matematici, proprio perché non calcolava affatto.

Oggi, invece, con un algoritmo più raffinato, è stato capace di rispondere bene al prompt:

Quanto fa radice di due per pi greco?
(4,44 per la cronaca).

.Alla domanda diretta sul suo modo di operare, ChatGPT ha dato la risposta piuttosto ambigua che vedete di lato.

Le frasi fatte e le tabelline ci dovrebbero aver instillato il seme del dubbio (altra frase fatta): “Vuoi vedere che anche noi...”. Ma, per consolidare il ragionamento, serve l’aiuto di due testimoni chiave. Il primo è una confezione di biscotti ai cereali. L’altro è Sigmund Freud.

Prima colazione con parole-agenti

Da quello che sappiamo sul funzionamento dei prompt (vedi Docete, n. 41), ogni parola è un “agente” che contribuisce ad attivare un comportamento, che nel caso delle IA generative è costituito dalla produzione di un testo, di un’immagine, di un filmato o di un’audio. Sappiamo anche che tutto questo avviene senza alcuna vera comprensione. Dove abbiamo già visto tutto questo? Facile rispondere: lo abbiamo visto nel marketing.

Questa, per esempio, è una confezione di biscotti. È piuttosto piccola, di forma cilindrica, e ha l’arduo compito di farsi notare (e acquistare) in mezzo a tutte le altre stipate nello scaffale di un supermercato

Srotoliamo la confezione. Quello che balza agli occhi sono le parole buttate lì ad arte sopra un’immagine dai colori caldi.

Ciascuna di queste parole ha la precisa funzione di evocare altre parole, pensieri ed emozioni. “Cereale”, “Frutta”, “Vegetali” e “Grano” si collegano subito all’idea di salute, regolare funzionamento del corpo, sostenibilità ambientale. E poi ci sono “italiano” che solletica l’orgoglio patriottico e l’onnipresente “100%” che ribadisce che è tutto vero, tutto vegetale, tutto italiano. Nessuna frase articolata (soggetto, verbo, complemento...), nessun pensiero compiuto.

Mentre le sole informazioni in grado di attivare un ragionamento sono in basso, scritte con caratteri microscopici: nessuno le leggerà mai, ma il meccanismo delle parole-agenti funziona alla grande e la mano corre ad afferrare l’oggetto per riporlo nel carrello.

In realtà, questo modo di fare non ci stupisce poi tanto. Perché sappiamo che il marketing e la pubblicità parlano “alla pancia del pubblico”, non a quello che siamo abituati a considerare “pensiero”. Ma la similitudine con l’intelligenza artificiale coinvolge aspetti più “profondi”. Compreso un meccanismo descritto per la prima volta molto tempo fa.

I sogni

Era il 1899, quando Sigmund Freud pubblicava L’Interpretazione dei sogni, dove presentava la sua idea rivoluzionaria sulla genesi e sul significato dell’attività onirica. Un’idea che avrebbe più volte revisionato, ma lasciandone inalterati i tratti salienti. Chiedendo preventivamente perdono a tutto il mondo della psicoanalisi per la semplificazione, provo a schematizzare così il processo di produzione del sogno:

• Uno o più eventi nel corso della giornata, anche insignificanti a prima vista, fungono da fattore scatenante. Freud li definisce “residuo diurno”, ma noi possiamo ridefinirli come il prompt del sogno.
• Durante il sonno, la mente rielabora questo stimolo-prompt seguendo complessi sentieri associativi che ne collegano i singoli elementi – immagini, parole, stati d’animo – a ricordi meno recenti, idee, immagini, emozioni e desideri antichi, sepolti nella profondità dell’inconscio. Sono i “pensieri onirici latenti” che appaiono come un intrico incoerente, che però nasconde e rivela qualcosa di vero e vitale. È la soddisfazione di un desiderio inconscio che per Freud è il cuore del lavoro onirico.
• Questo intrico incoerente viene poi sottoposto a una revisione (Freud la chiama “elaborazione secondaria”) che produce il sogno come lo ricordiamo al risveglio: una narrazione relativamente coerente, razionale e presentabile. Come una scena da film.

Tra il lavoro onirico e il processo con cui l’intelligenza artificiale generativa produce un output testuale le somiglianze sono sorprendenti. Come nel sogno, le parole del prompt diventano agenti che agganciano altre parole seguendo sentieri associativi (qui di natura statistica). Le “pescano” nel mare magnum della memoria della macchina, che volendo possiamo considerare una sorta di inconscio. Quello che ne risulta è un’insalata di parole del tutto inadatta alla comunicazione umana, che assomiglia moltissimo a certi testi futuristi o a un delirio psicotico. Ecco un esempio, fornito da ChatGPT (ma ho visto di peggio...):

Grattacieli... alti, vetro, metallo. Strade, luci brillanti. Droni, volano, traffico. Persone, ologrammi? Robot. Suono, continuo, basso, macchine. Vegetazione—alberi sui tetti. Fiumi... no, canali. Cibo, distributori automatici. Pioggia, neon, blu. Energia, pannelli solari ovunque.

Interrogando un’IA generativa non vediamo mai niente del genere, perché su questo materiale grezzo interviene un processo di revisione, un’altra elaborazione secondaria che produce un testo fluido, logico, coerente, con una qualità di scrittura ben superiore a quella della media degli umani. Ed ecco che lo sgangherato output diventa:

La città futuristica si erge con grattacieli altissimi, ricoperti di vetro e metallo lucente, che riflettono le luci brillanti delle strade sottostanti. Droni volano ordinatamente tra le corsie aeree, evitando il traffico che si muove in silenzio grazie a veicoli elettrici autonomi.
Le persone si mescolano con ologrammi interattivi e robot assistenti, creando una visione di tecnologia integrata nella vita quotidiana.
Un suono costante, basso e vibrante, riempie l'aria...

Sulla similitudine non mi spingerei oltre, perché il sogno è spinto da quel potente motore pulsionale che sta alla base della nostra vita psichica, mentre l’intelligenza artificiale generativa dispone solo di un apparato statistico che (almeno speriamo!) non sottende desideri propri.

Così diversi, così uguali

L’idea che le reti neurali artificiali ci assomiglino almeno un po’ difficilmente ci lascerà indifferenti. Ma è proprio così? O abbiamo talmente bisogno di capire noi stessi che siamo disposti a usare come modello anche un pezzo di metallo, plastica e silicio condito da un po’ di software?

Nel dubbio, sul rapporto tra sogno e intelligenza artificiale generativa ho chiesto il parere a uno degli interessati. Non a Sigmund Freud, naturalmente, ma a ChatGPT che per la stesura di questo articolo mi ha fatto da assistente. Mi ha risposto che “il parallelismo è suggestivo e utile per riflettere sui processi creativi sia umani che artificiali”.

Per ora, mi accontenterei, sospendendo il giudizio.

Bibliografia

• Vindice Deplano, 2024, "Questione di prompt", Docete, n. 41.
• Sigmund Freud, 1899, L’interpretazione dei sogni, Boringhieri.
• Vivaldo Moscatelli, 2024, “The art of prompting”, Formazione & Cambiamento