Perché ci interessa

Sempre più persone in tutto il mondo usano strumenti come ChatGPT per informarsi, per studiare, per scrivere testi e lavorare. Chi di noi l’abbia usato per almeno qualche mese, probabilmente avverte un qualche effetto sulla propria mente.

Effettivamente è così, qualcosa cambia, ma cosa esattamente? Cosa accade alle nostre facoltà mentali se usiamo servizi come ChatGPT o Claude per affrontare un compito cognitivamente complesso come la scrittura argomentativa?

È quello che si sono chiesti gli studiosi del MIT Media Lab, nel contesto di una indagine con metodi neuroscientifici.

I risultati dello studio sono di grande interesse: da un lato l’AI semplifica e velocizza il nostro lavoro, ma dall’altro sembra compromettere alcune nostre funzioni cognitive fondamentali e ri-struttura il nostro pensiero.

Il fenomeno è stato definito dai ricercatori come "debito cognitivo", cioè una forma di adattamento del cervello, cioè una progressiva riduzione dell’attivazione autonoma delle sue risorse interne.

I​n altri termini: più ci affidiamo a ChatGPT per produrre idee e testi, meno il nostro cervello si attiva per le funzioni di memoria, pianificazione, autoregolazione.

Come è stato svolto lo studio

Il team di ricerca ha coinvolto un campione di 54 studenti universitari, che sono stati suddivisi in tre gruppi, ciascuno dei quali ha dovuto produrre un saggio scritto con modalità diverse:

1. ​gruppo "ChatGPT”: utilizza esclusivamente ChatGPT 4o per produrre testi, senza nessun’altra risorsa informativa;
2. gruppo "Motore di ricerca”: gli è consentito cercare informazioni online con motori di ricerca, ma non può usare alcuno strumento AI
3. gruppo “Solo-cervello”: deve scrivere senza alcun supporto esterno.

Ciascun partecipante ha svolto tre sessioni di scrittura in momenti diversi, della durata di 20 minuti a sessione, su temi predefiniti. Durante i compiti, l’attività cerebrale della persona veniva registrata tramite elettroencefalogramma (EEG medio-denso).

Ogni testo prodotto dai partecipanti è stato poi valutato, sia dai loro Docenti che da un “Valutatore AI”.

Inoltre, dopo ogni sessione di scrittura, gli studenti sono stati intervistati dai ricercatori, per verificare:

• se erano capaci di ricordare parti dei testi che avevano prodotto;
• che percezione avevano del proprio coinvolgimento nella scrittura del testo, se sentivano il testo come loro.

Infine, in una quarta sessione, a un sottogruppo di partecipanti è stata invertita la consegna: chi tra loro aveva sempre usato ChatGPT ha dovuto scrivere senza alcun aiuto, quanti tra loro avevano scritto in autonomia, hanno potuto usare ChatGPT; lo scopo è stato misurare l’effetto cumulativo dell’uso dell’AI, nel tempo.

Principali risultati

Semplificando, questi i risultati:

1. Minore attivazione cerebrale per il gruppo “ChatGPT". L’analisi EEG ha mostrato che i partecipanti che scrivevano con ChatGPT attivavano in misura minore le aree cerebrali legate alle funzioni esecutive e alla memoria di lavoro. In particolare, si osserva una riduzione della connettività nelle bande alfa e beta, che sono indicatori dell’elaborazione strategica, della pianificazione, dell’attenzione e del controllotop-down. Scrivere con ChatGPT, quindi, riduce l’attivazione delle aree prefrontali e occipito-parietali del cervello, cioè quelle coinvolte nel progettare l’argomentazione, nel recuperare conoscenze, nel mantenere in memoria l’articolazione del testo, nel monitorarne la coerenza e nel selezionare le parole adeguate.
2. Difficoltà nel ricordare ciò che si è scritto, per il gruppo “ChatGPT". Ai partecipanti è stato chiesto di citare una frase dal testo che avevano appena scritto, ma solo il 16% degli studenti del gruppo ChatGPT è riuscito a farlo. Invece l’89% delle persone che non avevano usato l’AI,  è riuscita a citarlo. Questo indica che il contenuto generato con ChatGPT non viene processato in modo profondo, e quindi non viene conservato nella memoria a breve termine.
3. Percezione di ridotta ownership del testo, per il gruppo “ChatGPT".  Molti partecipanti di questo gruppo sentono di non essere autori del testo prodotto, e i ricercatori interpretano questa dichiarazione come una riduzione della cosiddetta “agency cognitiva” cioè la percezione soggettiva di essere autore, e non un mero “esecutore", dei propri processi mentali e del risultato che generano. Se questa sensazione di agency viene meno, il soggetto non si sente responsabile per le scelte linguistiche, logiche e concettuali necessarie a produrre il testo; ciò ha effetti negativi anche sull’apprendimento.
   

Una forma di dipendenza?

Abbiamo detto che, come ultima prova, ai partecipanti del gruppo “ChatGPT” (che avevano usato ChatGPT per tre sessioni) è stato chiesto di scrivere un testo in completa autonomia. In questo caso, i partecipanti mostravano questi effetti, all'elettroencefalogramma:

1. bassa attivazione cerebrale rispetto agli altri gruppi;
2. maggiore incertezza nell’organizzazione del testo;
3. testi meno ricchi.

Questo ultimo esperimento è stato fatto anche all’inverso: ai partecipanti che prima avevano lavorato in autonomia, viene chiesto di usare l’AI per aiutarsi in una sessione di scrittura. In questo caso, le reti neurali restano attive e risulta una maggiore capacità di integrare pensiero autonomo ed AI.

I ricercatori chiamano questo effetto "cognitive offloading": quando ci si abitua a delegare processi cognitivi a un'entità esterna (in questo caso la generazione di testi, la scelta delle argomentazioni linguistiche, la strutturazione del testo), il cervello smette di “allenare” quelle funzioni, con effetti negativi che diventano visibili appena la “protesi” dell'AI viene rimossa.

Limiti

Gli stessi autori affermano che sono necessarie ulteriori ricerche per comprendere gli impatti a medio e lungo termine, quindi non si possono trarre conclusioni definitive da questo studio. Tra le varie limitazioni, si citano:

1. il campione è quantitativamente ridotto;
2. tutti i partecipanti sono studenti o neolaureati di grandi istituzioni accademiche statunitensi, quindi poco rappresentativi dell’intera popolazione;
3. è stato usato un solo modello LLM (GPT-4o).
   

Implicazioni e conclusioni

Un primo messaggio che possiamo provvisoriamente ricavare dallo studio sembra questo: l’uso ordinario e inconsapevole che si fa dei comuni LLM come ChatGPT moltiplica la nostra capacità di produrre testi ma compromette le nostre capacità cognitive; mentre si riduce il nostro sforzo nel generare testi, diminuisce la nostra capacità di valutare criticamente l’informazione, accumulando ​un "debito cognitivo" che erode le capacità di pensiero. Dapprima ci sentiamo più forti, e il momento dopo?

Aggiungo qualche considerazione personale.

Molti: non solo gli esperti dalla profezia facile, non solo quelli che si fanno i selfie con ogni novità, ma anche bravi studiosi in buona fede, propongono di accettare gli LLM come vere e proprie “protesi cognitive permanenti”, cioè da integrare strutturalmente nelle nostre routine quotidiane.

Senza specifiche strategie, senza un’esperienza d’interazione diversa, lo sconsiglierei. Per questo è necessario definire e diffondere modi migliori per usare l’AI, che sia lievito del pensiero, pungolo dialogico e riflessivo, per esplorare attivamente alternative, generare domande complesse, confrontare prospettive, espandere la coscienza. Dovremmo coltivare l'autoregolazione, anziché indebolirne la base cognitiva.

Se poi mettiamo in relazione questo rischio di passività accresciuta con il fatto che quella "protesi cognitiva” è intrinsecamente opaca, centralmente manipolabile e fuori dal nostro controllo, la scala della minaccia cresce; il debito cognitivo ci porta verso una società più chiusa.

Tengo a dire che questo ultimo commento personale allo studio non intende evocare nubi, aspira solo ad essere un momento dialettico e costruttivo, un piccolo credito per compensare il debito.