Stare nell'intelligenza artificiale

Una cornice di ricerca per sviluppare competenze critiche rispetto all'uso dell'AI. Come sempre, io ho tante domande e poche risposte. La prima di due puntate.

La Macchina Analitica non ha alcuna pretesa di originare nulla. Può fare tutto ciò che sappiamo come ordinarlo per esibirsi. Può seguire l’analisi; ma non ha il potere di anticipare relazioni o verità analitiche - Ada Lovelace (1843).

Sono settimane che mi siedo al computer e mi dico che devo (voglio?) scrivere una puntata sull’intelligenza artificiale (che da qui in poi chiamerò AI, usando l’acronimo inglese, non me ne vogliate). Sono settimane che apro il computer e inizio a scrivere e poi mi blocco perché mi dico che no, non ho voglia di parlarne, non voglio contribuire a un discorso a mio avviso già troppo inflazionato. Ne parliamo così tanto, la usiamo (chi?) così tanto, io che poi nel mondo della tecnologia ci lavoro e con l’AI devo fare i conti (notare la scelta di quest’espressione) praticamente ogni giorno (ma chi non deve, al giorno d’oggi, quando anche una ricerca veloce sul cellulare rimanda a risposte generate dall’AI?). Sono settimane, quindi, che apro il computer per scrivere finalmente "l’episodio sull’intelligenza artificiale"! - e poi non lo scrivo. Nell’ultima settimana però ho letto tre cose (molte di più in verità ma queste mi hanno convinta che fosse arrivato finalmente il momento di scriverne): un pezzo di Elena Canovi su "cacca, dati e scioperi"; un pezzo di Alice Orrù su "lingua neutra e intelligenza artificiale"; e, ultimo in ordine cronologico, un pezzo di Donata Columbro su "serendipità nell’era dell’intelligenza artificiale". Ovviamente vi consiglio la lettura di tutte e tre le newsletter, ma niente di quello che sto per scrivere richiede conoscenze di nessun tipo in merito (almeno penso, perché non so ancora di preciso dove andrò a parare).

Mi interrogo spesso rispetto all’utilizzo dell’AI - sono una persona con un grande senso critico, e quando decido di fare una cosa mi serve sapere perché la sto facendo, se ha senso farla, e come abbia senso farla. Mi interrogo spesso rispetto all’utilizzo dell’AI a lavoro ma anche nella mia vita personale. Mi faccio domande anche quando scrivo questa newsletter, che non scrivo mai utilizzando l’AI (per una serie di motivi che forse entro la fine di questa puntata saranno più o meno chiari, non so ancora). A proposito di scrittura e AI lo scorso fine settimana ho passato qualche ora a leggere articoli sul caso Shy Girl, che se non conoscete si riassume pressappoco così:

a marzo la casa editrice Hachette ha annullato la pubblicazione sul mercato USA, prevista per aprile, del romanzo horror Shy Girl di Mia Ballard, insieme al ritiro delle copie già in circolazione sul mercato UK (dove era già uscito nell’autunno del 2025), dopo che online hanno iniziato a circolare insistenti voci che fosse stato scritto con l’AI"

Questo pezzo arriva da una critica a mio avviso precisa e intellettualmente stimolante che potete recuperare qui.

La lettura di questa vicenda mi ha fatto sorgere altre domande, e adesso non solo mi chiedo come sto e come mi posiziono rispetto all’uso dell’AI, ma mi chiedo anche come mi fa stare essere dall’altra parte; come mi fa stare, ad esempio, leggere un contenuto online e poi rendermi conto (da sola o non) che è stato interamente scritto da una chatbot? Questa domanda l’ho anche girata ad altre persone e, anche se sono arrivate delle risposte, il senso generale che ho riscontrato nei dialoghi avuti - nella mia vita personale, parzialmente professionale, e anche associativa - è che "non abbiamo più riferimenti". Non sappiamo più cos’è umano e cos’è artificiale - non lo possiamo più sapere, in particolar modo nella scrittura, ma mi viene da dire anche in altri domini. Sicuramente nella programmazione, che scrittura comunque è, e quindi poi nelle cose che va a progettare, dai siti web, alle applicazioni, insomma roba che usiamo tutti i giorni. Senza contare poi tutta una serie di lavori che a poco a poco acquisiscono un grado di automazione che richiede sempre meno l’utilizzo di persone umane e sempre più una o più tecnologie che "più o meno riescono a far da sole". Un grande senso di confusione, insomma. E forse non soltanto nella mia testa.

Schema di un percettrone, il modello più semplice di rete neurale artificiale. Guest e Martin, 2025.

A questo punto forse sarebbe bene sottolineare che la mia posizione rispetto all’AI non è di rifiuto. Non può esserlo perché a lavoro mi occupo di data science (scienza dei dati), non può esserlo perché mi interesso di dati e tecnologia (cioè anche quando non lavoro), e non può esserlo perché mi rendo conto che siamo al punto in cui queste tecnologie (attenzione al plurale) sono così incanalate dentro quello che produciamo e dentro le cose di cui facciamo esperienza, che avere una posizione di rifiuto sarebbe un po’ una lotta contro i mulini al vento. Ultimo - ma non proprio - chi lo ha detto che con l’AI non si possano anche fare cose belle? La costruzione del mio archivio del cancro è un esempio. Me l’ha costruito l’AI? Ni. L’ho fatto io? Hmm, sì. L’avrei fatto anche senza AI? Sì, certo. Sono criptica, lo so, ma ci torno dopo (o più probabilmente la prossima settimana).

La mia posizione rispetto all’AI è - suprise surprise - critica. Allora di che parliamo in questo (primo) episodio a tema? Quello che vorrei fare è provare a condividere con voi una cornice di analisi (critica, per l’appunto) che sto utilizzando per dare forma alle mie domande in merito, nella speranza di sviluppare qualche risposta. La cornice di cui parlo è quella sviluppata da Olivia Guest e colleghe al Dipartimento di Scienza Cognitiva del “Donders Centre for Cognition” della Radboud University, in Olanda (uno di quei gruppi a cui scriverei immediatamente se volessi fare un altro dottorato). La ricerca è piuttosto ampia e nemmeno la conosco tutta, ma ci sono due articoli, pubblicati quasi in parallelo lo scorso anno, che ho letto e riletto (e studiato) che forse possono essere utili per indirizzare le nostre domande rispetto all’AI in questo mare di confusione senza più punti fermi.

AI critical literacies

Il primo articolo, che trovate in preprint su Zenodo, presenta una cornice di pensiero e di lavoro per sviluppare quelle che in italiano potrebbero chiamarsi "competenze critiche" rispetto all’AI (in inglese critical literacies).

Attenzione però: competenze critiche - o approccio critico, il mio - qui non significa necessariamente "scettico". I due aggettivi non sono sinonimi. Una cornice di pensiero e quindi di utilizzo critico è, per me, una roba più strutturata e più cosciente del puro scetticismo: significa chiedermi come posso comprendere una tecnologia AI, come posso evitare di farmi ingannare dal suo linguaggio, dal modo in cui viene presentata, impacchettata, e talvolta magari venduta. Significa capire se la sto usando per il mio bene o meno, o se invece sta danneggiando me in qualche modo, o un’altra persona o un gruppo di persone.

Gli strumenti presentati nello studio si posizionano in uno spazio a cinque dimensioni, vi riporto qui la figura presentata nel paper:

Le cinque dimensioni della cornice di competenze critiche presentate da Guest e colleghe.

1. Chiarezza concettuale

Parlare di AI significa parlare di tutto e allo stesso tempo di niente. Questa confusione terminologica ha le sue radici nell’AI stessa, che non è un concetto ben definito, una tecnologia precisa, un campo di studi, una filosofia, un modo di vivere, una religione. Intelligenza artificiale - come parola che uso quando parlo con mia madre o con un amico - in verità non significa niente. Eppure, allo stesso tempo, quando diciamo AI, ormai sappiamo tuttə che ci stiamo riferendo a una serie di tecnologie specifiche (quelle LLM, dei grandi modelli di linguaggio) prodotte da aziende a scopo di lucro (OpenAI, Tesla, Meta, Microsoft, Google, Amazon, Anthropic, etc.). La chiarezza concettuale ci chiede di mettere in discussione le definizioni che l’industria ci consegna - che cosa significa che un modello linguistico "capisce" un testo? quando ci dicono che un sistema AI è "sicuro", è sicuro per chi? e in base a quale criterio? - e di lavorare su definizioni nuove, dove necessario.

Leggendo del caso Shy Girl, sono arrivata a un articolo sul Guardian scritto da Stephen Marche (articolo brutto, ve lo dico). Ma mi ha colpito questa frase in particolare:

machines can generate meaning / le macchine sono in grado di generare significato

Ma è così? E che cosa significa generare significato? Parliamo di un significato che preclude l’esperienza umana? Parliamo di un significato che ha invece a che fare con una distribuzione probabilistica di parole, virgole, accenti, e locuzioni? La domanda non mi sembra banale.

2. Pensiero critico

Questa è una cosa necessaria in generale, ma diventa essenziale in un tempo storico fatto di fascismo e tecnosoluzionismo. Pensiero critico sembrerebbe significare "essere vigili sulle proprie astrazioni, senza lasciarsi guidare ciecamente da esse". Roba complessa, non sono sicura di comprenderla appieno. Il pensiero critico credo che per me si allinei con la sensazione di "presenza": devo rimanere presente - quasi in controllo, anche se questa non è la parola adatta - nella costruzione di quello che sto per affermare sul mondo. Un esempio banale è quello dell’AI che "ragiona come una persona": se esiste una correlazione tra le risposte generate da un sistema AI e quelle generate da un essere umano, questa correlazione non dice niente sulla struttura sottostante. E questa cosa ha molto a che vedere con il "significato" di cui scrivevo sopra.

Un altro esempio è quello dei famosi "guardrail" inglobati nelle chatbot che dovrebbero - a detta dell’industria - tutelare le persone utenti. Ma individuare quando un sistema AI non soddisfa standard appropriati di sicurezza e responsabilità richiede una cognizione completa che per definizione e dimostrabilmente non può essere codificata.

3. Decolonialità

I sistemi AI vengono addestrati prevalentemente su dati in inglese, prodotti da popolazioni occidentali, secondo categorie concettuali che riflettono specifiche tradizioni culturali. Poi però vengono presentati come strumenti universali. Una specifica prospettiva - quella più forte, più dominante, quella che detiene il potere - si presenta come neutrale e generale, e si finisce per invisibilizzare tutto il resto, tutto ciò che si esclude. Come se ciò non bastasse, il costo ambientale e umano di questi sistemi ricade prevalentemente su comunità già storicamente marginalizzate.

C’è un esempio riportato in questa dimensione che ha specificamente a che fare con le donne, e con il fatto che spesso umanizzare l’AI significa de-umanizzare le donne. Non ne parlo adesso, ma ci teniamo un appunto per la prossima puntata.

4. Rispetto dell’expertise

Questa è la dimensione che ho trovato più interessante e curiosa: quella del rispetto per le competenze professionali delle persone. È anche la dimensione che più mi sta a cuore, devo ammettere, perché da persona che lavora nel settore tecnologico e che ricopre un ruolo - a detta di molti - ormai quasi del tutto eseguibile da sistemi AI, non posso che interrogarmi sul senso della mia professione (e non solo dentro la grande macchina del capitalismo che continua a spremerci).

Il punto di partenza di questa dimensione è che nella nostra società esiste un accordo implicito tra chi sviluppa competenze specializzate - mediche, insegnanti, scienziate, avvocati, infermieri, giornaliste - e la società che ne trae beneficio. La società investe tempo e risorse nella formazione di questi professionisti, e in cambio si fida del loro giudizio in ambiti specifici. Il patto ha una struttura epistemica precisa perché la persona con precise competenze non sa solo cosa fare, ma perché deve farlo, sa anche quando non farlo, e quali sono i limiti del proprio sapere. In particolare, è la consapevolezza di questi limiti che distingue l’expertise dall’improvvisazione.

Quali rischi si corrono allora con l’uso improprio dell’AI? Uno: la simulazione dell’expertise. Una chatbot può simulare il linguaggio di una persona esperta ma non ne può possedere la struttura sottostante e soprattutto non ha nessuna responsabilità verso la persona utente. Il patto epistemico si rompe. Due: la pressione all’adozione acritica. Quando comunità, aziende, istituzioni varie, spingono verso l’adozione di strumenti AI per rendere il lavoro delle persone coinvolte più "efficiente", e lo fanno spesso senza consultare le persone che il lavoro devono eseguirlo - come se il loro giudizio fosse un ostacolo piuttosto che una risorsa - il patto epistemico si rompe di nuovo. Questa dimensione è la più stimolante per me, da un punto di vista intellettuale, ma anche a causa delle ripercussioni che un certo tipo di riflessioni possono causare dentro gruppi di lavoro più o meno organizzati.

Trovo ad esempio molto preoccupante che si tenda a delegittimare una posizione di rifiuto dell’AI, soprattutto dentro certi settori. C’è il rischio - che sento spesso di correre in prima persona - di passare per persone luddiste o conservatrici. Come se dire "questo strumento, anche se è AI, forse proprio perché è AI, non va bene per me e non va bene per le mie attività" fosse una cosa irrazionale e segno di paura e basta. Ma non è proprio il contrario? Non è piuttosto una persona che conosce molto bene un dominio che si trova nella posizione migliore per valutare se ha senso usare uno strumento o meno?

5. Slow science

Alla slow science, alla ricerca lenta, io mi sono avvicinata già anni fa, nei miei anni di transizione dall’accademia alla ricerca indipendente. Il senso di questa dimensione è che la buona conoscenza richiede tempo, e io personalmente di questa cosa sono convinta. Serve tempo per sbagliare, tempo per capire e poi tempo per correggere. Serve tempo per riprodurre, per discutere, per replicare, per ricominciare da capo e provare di nuovo. Quando il ritmo di lavoro - sviluppo di idee e di progetti - deve accelerare per poter stare al passo con i cicli di rilascio dei modelli AI, e quando gli strumenti vengono utilizzati in una corsa cieca verso la quantità e la produttività, si mina l’expertise (e il desiderio di crescere) che invece si vorrebbe (e si dovrebbe) potenziare.

Queste cinque dimensioni possono aiutarci a capire in che modo vogliamo relazionarci ai sistemi AI, nei limiti delle modalità che siamo liberə di scegliere, ovviamente.

Nel secondo articolo, parallelo a questo, Guest e le colleghe ci offrono una cornice di analisi che vede ogni sistema AI come una relazione tra tecnologia e lavoro cognitivo umano. Ma di questo, se sarete ancora qui, parleremo la prossima settimana.

Cose che ho letto, visto, sentito

• Un’inchiesta sulle donne con disabilità o con diagnosi psichiatrica sopravvissute alla violenza. La sta realizzando Donata Columbro, e qui un form per lasciare la propria storia in formato anonimo. Un lavoro molto prezioso.

• È uscita Big Mistakes; probabilmente inizierò a vederla prima che questa newsletter veda la luce :)

• È anche uscito "Una cosa spirituale" il libro di Vasco Brondi. Non l’ho ancora comprato, ma nel frattempo vi lascio questa playlist. "E si vede dallo spazio il tuo sforzo solitario".

Oggi era lunga, lo so. Fate ə monellə <3.