E se l’intelligenza artificiale leggesse al nostro posto?

In occasione del Learning More Festival di Modena abbiamo incontrato la professoressa Naomi Susan Baron che ci ha trasportato in un mondo in cui l’IA legge e interpreta testi complessi al nostro posto

Negli ultimi anni abbiamo imparato a conoscere (e persino a giocare con) l’intelligenza artificiale che scrive testi, crea immagini e anche canzoni basandosi sulle nostre più o meno accurate indicazioni. Ma cosa succederebbe – e che impatto avrebbe nelle nostre vite – se l’IA iniziasse a leggere e interpretare testi complessi in nostra vece? Dovremmo confrontarci con tematiche riguardanti la comprensione del testo, il deskilling umano, il riconoscimento o la perdita della voce autoriale e persino rivedere il processo di formazione delle idee.

E così anche un innocente e divertente gioco, come farsi riassumere un classico della letteratura dall’IA per fare bella figura durante una cena, rischia di diventare uno dei principali terreni di dibattito attorno alle nuove tecnologie. Di tutto questo si sta occupando Naomi Susan Baron, professoressa emerita di Linguistica presso l’American University di Washington. In occasione del Learning More Festival di Modena, sabato 9 novembre terrà un talk dal titolo Chi l’ha letto? L’impatto dell’Intelligenza Artificiale che legge.

Wired l’ha incontrata qualche giorno prima del suo talk e le ha chiesto di aiutarci a interpretare il presente e a immaginare gli scenari futuri.

Professoressa Baron, partiamo dal tema del suo intervento al Festival: cosa significa fare affidamento su un’intelligenza artificiale capace di comprendere e interpretare testi complessi?

“Anche se il cervello non è un muscolo, dobbiamo comunque allenarlo per mantenerlo efficiente. Leggere testi complessi o pieni di sfumature linguistiche è una forma di esercizio mentale. Abbandonarci all’IA significa perdere l’opportunità di allenare il cervello e rinunciare alla possibilità di interpretare un testo connettendolo ad altre nostre letture o esperienze.”

Può fornirci un esempio positivo e uno negativo di uso dell’IA?

“Sul fronte positivo l’IA è estremamente efficiente nel passare al setaccio montagne di informazioni scritte, più o meno complesse. Quindi se desideriamo un approccio rapido ci può offrire un’ottima bozza preliminare. Sul lato negativo, come avvertono tutte le aziende che sviluppano modelli di linguaggio, i risultati prodotti dall’IA non sempre sono accurati. Se vogliamo fidarci, dobbiamo verificare”.

Altri risvolti negativi?

“Se ci rivolgiamo costantemente all’IA per comprendere testi impegnativi, perdiamo la motivazione e la capacità di farlo da soli. Un tempo chiedevo ai miei studenti: ‘Cosa sapete fare quando Internet non funziona?’ Ora la mia domanda è: ‘Cosa siete in grado di leggere, scrivere o ricercare, se non avete accesso a un LLM (large language model, ndr)?’”

Abbiamo chiesto a ChatGPT se gli esseri umani smetteranno di leggere con l’IA. Ci ha risposto che non lo faranno e che continueranno a leggere per vivere esperienze, costruirsi opinioni e sviluppare capacità di critica. Cosa ne pensa?

“ChatGPT è addestrata per essere di supporto alle capacità cognitive e creative umane. Non mi sorprende affatto questa risposta. Ciò che mi preoccupa di più è l’assunzione – da parte di ChatGPT o di chiunque altro – che le persone continueranno a leggere per quei precisi motivi. In molti paesi c’è un costante calo della lettura spontanea sia tra i bambini, sia tra gli adulti. Il test PISA (Programma per la valutazione internazionale dello studente, ndr) del 2018, rilevò che il 49% leggeva solo se obbligato, rispetto al 36% di dieci anni prima. E questi dati precedono l’avvento dell’IA. Posso solo immaginare, oggi, questa statistica”.

In un quarto di secolo abbiamo abbandonato la carta per leggere sugli schermi. Ora ci informiamo scrollando e non sfogliando, ci muoviamo su più livelli di lettura con gli ipertesti e preferiamo i riassunti ai longform. È stata una rivoluzione copernicana, ma non ce ne siamo quasi accorti. Come leggiamo oggi?

“Sebbene la lettura digitale sia esplosa, si legge ancora molto su carta. Uno studio recente dell’American Library Association ha rilevato che la Generazione Z legge più carta dei Millennials. Forse il fenomeno BookTok sta contribuendo a suscitare interesse per la carta tra i più giovani, ma – almeno negli Stati Uniti – le vendite di libri stampati continuano a resistere contro il digitale. Poi c’è la questione dello scrollare contro lo sfogliare; soprattutto su un laptop, dove si ha più spazio visivo rispetto a un cellulare, si può leggere una pagina intera alla volta ed è la scelta migliore. Le ricerche ci dicono che si apprende di più quando si legge digitalmente sfogliando le pagine e non scrollando. Quando vediamo un’intera pagina leggiamo più lentamente, torniamo indietro e usiamo quello spazio più ampio per fissare le nozioni. Gli ipertesti sono utili e spesso ci portano a nuove idee, ma ci distraggono. Sulla preferenza per i riassunti avete ragione, questa è una tendenza crescente, ora amplificata dagli strumenti di riassunto dell’IA che sono ovunque. Inserisci un testo lungo in Google NotebookLM e appare un riassunto o un podcast di 10 minuti; Acrobat riassume il PDF che volevi salvare; Zoom riassume sia la riunione che la chat parallela”.

Cosa ne pensa di queste funzioni?

“Ne ho provate alcune e sono rimasta stupita di quanto riescano a cogliere, ma anche preoccupata per quanto omettono. Leggere e scrivere sono abilità preziose. Cedere queste capacità all’IA significa rinunciare al lavoro che millenni di scrittura e lettura hanno prodotto per il pensiero umano”.

Qualche anno fa ha parlato di una correlazione tra scrittura e memoria. Cosa significa?

“I miei studi hanno rivelato che con la scrittura a mano c’è una maggiore attività cerebrale nelle aree della memoria. In particolare i partecipanti hanno elogiato la scrittura a mano perché favorisce il pensiero critico, li aiuta a concentrarsi su ciò che stanno scrivendo e stimola la creatività”.

Cosa succede al nostro cervello se smettiamo di leggere o se lasciamo che l’intelligenza artificiale ci racconti storie?

“Lo scenario dell’IA che ci racconta storie non mi preoccupa particolarmente. I narratori orali esistono da millenni, e gli audiolibri sono una continuazione di questa pratica. Ciò che mi preoccupa è quando ci rivolgiamo all’IA per leggere storie lunghe al posto nostro. Un numero crescente di app offre la possibilità di riassumere i romanzi o di tracciare i profili dei personaggi. Sembra divertente, ma stiamo rinunciando alla possibilità di entrare nella storia, scoprire le connessioni e formulare le nostre opinioni”.

Le rivoluzioni mediatiche spostano gli equilibri, ma poi tutto si stabilizza. La carta è sopravvissuta dopo la radio. La radio dopo la TV. La TV dopo Internet. Cosa accadrà ora con l’IA?

“I sondaggi (almeno negli Stati Uniti) ci dicono che non tutti gli studenti cercano una scappatoia dall’obbligo di leggere libri di testo e romanzi o di scrivere saggi. Dicono che preferiscono scrivere con la propria voce piuttosto che attribuirsi un vocabolario o una sintassi più sofisticata proposta dall’IA. Non ho una sfera di cristallo e non posso prevedere quanti saranno questi studenti, però penso che un ruolo cruciale lo avranno gli adulti, decidendo quanto vorranno mettersi in gioco per difendere la millenaria connessione che esiste tra pensare, scrivere e leggere”.