Usare l'intelligenza artificiale
L'AI in relazione ai processi cognitivi umani. Potenziamento, sostituzione, o spostamento? La puntata numero due, ma ahimè ne servirà una terza.
AI "is in reality produced by relations among people [even though it] appears before us in a fantastic form as relations among things"
Vi ho mentito. Non succede spesso, ma ogni tanto capita. Capita soprattutto quando vi parlo di quello che ancora non so - quello che mi sfugge e che sto provando ad afferrare, a capire, a imparare. Quando l’ignoto non mi spaventa ma anzi lo inseguo mentre provo a far tornare i conti, smascherando fattori e introducendo termini a cui non avevo mai pensato prima.
Una cornice di ricerca per sviluppare competenze critiche rispetto all’uso dell’AI. La prima di due puntate.
Eccola la bugia, perché nel frattempo - non senza un pizzico di rammarico, lo ammetto - mi sa che le puntate sono diventate (almeno) tre. Non riesco a infilare in un pezzo che si legga in sette minuti (la lunghezza media delle mie newsletter, a quanto pare) tutto quello che vorrei approfondire rispetto allo "stare nell’intelligenza artificiale". Starci dentro, proprio. Viverci, lavorarci, pensarci, prenderne le misure, le distanze se necessario.
Restare indietro - indietro dove?
E stare al passo - ma al passo di chi?
Probabilmente allora saranno tre, le puntate. O forse quattro. O probabilmente la chiuderemo qui e poi torneremo a parlarne altrove, non lo so, abbiate pazienza.
La scorsa settimana abbiamo passato un po’ di tempo dentro lo spazio a cinque dimensioni presentato dalle ricercatrici del dipartimento di scienza cognitiva dell’università di Radboud. Chiarezza concettuale, pensiero critico, decolonialità, rispetto dell’expertise, e slow science. Una checklist abbastanza preziosa, dal mio punto di vista, ma anche abbastanza complessa.
Mi piacerebbe potervi dire che dopo aver studiato l’articolo di cui vi ho parlato la settimana scorsa tutti i miei dubbi rispetto allo sviluppo e all’utilizzo dell’AI si sono dipanati. Mi piacerebbe potervi dire che ho questa minuscola lista stampata su foglietti colorati e che la tiro fuori ogni volta che decido di usare l’AI o devo interfacciarmi in qualche modo con un sistema AI. Un pezzo di codice da rivedere, un set di slide, gli appunti di una riunione di lavoro, un’immagine generata con l’ultimo rilascio di chatGPT, una roba online che voglio costruire io stessa. Sarebbe bello tirare fuori la checklist e usarla per navigare questo spazio complesso fatto di scelte e di modalità di lavoro: è abbastanza chiaro che cosa sto facendo? Lo sto facendo con pensiero critico? Sono abbastanza presente per poterne davvero avere coscienza? Sto facendo del male a qualcuno, anche senza volerlo? Sto rispettando l’esperienza e l’opinione professionale delle persone coinvolte in questo processo? Lo sto facendo frettolosamente perché più sono veloce e più produco? Posso piuttosto concedermi il lusso di rallentare?
Ecco, vorrei proprio potervi dire che funziona così. Ti fai le domande giuste, ti dai le risposte, e ti regoli di conseguenza - qualunque cosa significhi. Grazie al cielo non sono davvero bugiarda e quindi non ve lo dirò. La verità è un tantino più complessa, e queste domande - per quanto importanti - non si tramutano magicamente in strumenti e risorse per fare delle scelte consapevoli. Allora oggi continuiamo lo studio della cornice di ricerca, e ci occupiamo di un altro articolo, pubblicato da Guest lo scorso anno, dal titolo: "What Does ‘Human-Centred AI’ Mean?" - Che cosa significa AI incentrata sull’umano?
AI umano-centrica
Sarò onesta. Ho letto il titolo e mi sono detta - eccolo qua, un altro pezzo che ci deve convincere che l’unica AI possibile sia quella che mette l’umano al centro: l’esperienza umana, il sentire umano, la costruzione umana, dall’umano e per l’umano. AI umano-centrica: io questa espressione non l’ho mai capita, e non avendola capita non l’ho mai fatta mia. Anzi, ho spesso pensato che fosse proprio un’espressione vuota, uno slogan che suona bene, ma per l’appunto uno slogan, una cosa etica proprio per definizione, costruita per dormire meglio la notte, rassicurante a modo suo. AI umano-centrica: continuo a non capire. Come se fosse possibile qualche altra forma di AI. L’abbiamo fatta noi, l’AI. È vero che ricalca - in parte - le modalità di apprendimento proprie dell’esperienza umana, ma - non so come dire - non può esistere AI senza l’umano. È un po’ come Geppetto e Pinocchio, ecco. E sì, lo so che poi nella fiaba Pinocchio diventa un ragazzino in carne ed ossa, ma il mondo reale non è una fiaba (purtroppo o per fortuna).
Solo che Guest mi ha sorpresa. Perché mi è bastato leggere mezza pagina per dare senso al fatto che io quell’espressione lì non l’ho mai capita o non ho mai capito come utilizzarla. Guest, infatti, afferma subito che l’AI non può non essere centrata sull’umano, perché non può trattarsi di una scelta progettuale (di design, insomma), ma bensì soltanto di una scelta strutturale. Presentare l’AI centrata sull’umano come un obiettivo da raggiungere - piuttosto che un inequivocabile stato delle cose - ci fa omettere delle robe molto importanti su come effettivamente funzionano i sistemi AI.
Partiamo dal ricordarci di cosa stiamo parlando.
Una (nuova) definizione di AI
Quando parliamo di AI, stiamo proponendo di fatto una versione artificiale, sintetica, costruita (alla Pinocchio insomma) di una capacità che è inerentemente umana: l’intelligenza. Facendolo, però, ci dobbiamo ricordare che le definizioni, in quanto tali, non posseggono verità intrinseca, ma sono soltanto delle convenzioni concordate che vengono messe alla prova dalla loro coerenza interna e dalla loro relazione al buon senso, alla storia, alla pratica comune. Allora forse per utilizzare bene l’AI, dobbiamo tornare a pensarla in relazione alla definizione originale, in relazione cioè all’intelligenza, ai processi cognitivi umani. La definizione di Guest nell’articolo di cui sopra fa proprio questo: prescinde dalla tecnologia, e osserva l’AI come una relazione tecno-sociale che relega a macchine o algoritmi una parte - anche piccola - del lavoro cognitivo umano.
Non è - a mio avviso - una definizione nuova, perché quando ai corsi di scienza dei dati studiavo l’AI e la Machine Learning, una delle primissime cose che mi sono state insegnate è che l’AI prova a simulare l’apprendimento umano, con lo scopo di imparare, fare previsioni, compiere delle scelte, ottimizzare dei processi. Per quanto la definizione non sia necessariamente nuova, però, Guest la rende a mio avviso particolarmente interessante perché ci spinge a spostare lo sguardo dall’astrazione della tecnologia - come funziona? com’è costruita? che architettura e che limiti ha? - alla comprensione di quella relazione tecno-sociale.
Una relazione che Guest coniuga in tre modalità diverse. Proverò a riassumerle prendendo come esempio il compito cognitivo del calcolo aritmetico: addizioni e sottrazioni.
Una relazione tecno-sociale
Il primo modo di declinare questa relazione è quella di potenziamento: la tecnologia amplifica quello che io so fare senza però rimpiazzarmi. Un esempio è quello dell’utilizzo di un abaco (tecnologia che secondo la definizione di Guest può essere considerato un sistema AI, perché ha a che vedere con un processo cognitivo) rispetto al calcolo mentale. L’abaco potenzia il calcolo mentale ma non lo sostituisce, perché chi usa un abaco sta ancora esercitando quella competenza cognitiva, solo con uno strumento che lo supporta. Fin qui tutto bene.
Il secondo modo è quello della sostituzione: la tecnologia fa qualcosa che altrimenti farei io, in modo abbastanza neutro o che dipende dal contesto. Ancora sulla scia del calcolo mentale, una tecnologia che lo sostituisce è quella della calcolatrice: se so riconoscere numeri e simboli, devo solo premere dei pulsanti sulla macchinetta, e impostando l’input ottengo un certo output. La relazione di sostituzione in questo caso è abbastanza neutra e non ci sono particolari rischi. Questo però perché io sono una persona adulta e so già fare i calcoli a mente (nei limiti delle mie capacità).
La relazione però cambia completamente se diamo in mano una calcolatrice a un bambino di prima elementare che non ha ancora imparato a fare le addizioni. In quel caso la tecnologia non sostituisce la competenza cognitiva del calcolo mentale, ma la sposta, la relega completamente alla macchina. I rischi che si corrono in questo senso sono grandi, perché il bambino non svilupperà quella precisa competenza cognitiva e quando la macchina non ci sarà o non risponderà più ai suoi input, non avrà strumenti per arrangiarsi.
Il terzo modo di declinare questa relazione - quello più problematico - è proprio questo: quello dello spostamento. La tecnologia non potenzia né sostituisce in modo neutrale, ma rende superfluo il lavoro di qualcuno in modo dannoso, senza offrire alternative, spesso concentrando il vantaggio economico e cognitivo nelle mani di chi possiede la tecnologia. Uno degli esempi presentati nel paper è quello del computer digitale rispetto al computer umano (human computer). Il computer umano in passato era una persona - molto spesso una donna - che svolgeva calcoli, lavorava con macchinari di calcolo, e scriveva software. Quando i computer digitali sono arrivati, queste persone sono state non solo sostituite, ma proprio cancellate dalla storia. Il loro contributo è stato reso invisibile, e la loro erasure è stata facilitata proprio dall’ascesa della macchina che le aveva rimpiazzate.
Questa tassonomia di relazioni è stata al centro della mia attenzione negli ultimi mesi ogni volta che mi sono chiesta se sto usando l’AI per fare meglio quello che so fare (o imparare nuovi modi di fare le stesse cose), o se la sto usando correndo il rischio di rendere in primo luogo me stessa superflua, cioè proprio le mie capacità (potenziali o attuali). Cosa che onestamente non vorrei mai fare.
Se faccio scrivere la mia newsletter a chatGPT, non sto solo delegando quel compito alla macchina, sto proprio smettendo di esercitare la mia capacità di pensare attraverso la scrittura. E infatti non lo faccio mai. Se però chiedo a claude code di aiutarmi a scrivere del codice per costruire l’archivio del mio cancro, sto usando uno strumento che potenzia quella mia specifica skill, quella della programmazione, magari in un linguaggio che non ho mai usato prima. E lo faccio - sempre e comunque - facendo attenzione al risultato e - dove possibile - al modello che sto usando.
Quindi, in sintesi, per valutare come utilizzo una determinata tecnologia, prima cerco di capire se questa è legata a compiti cognitivi - il che devo dire, nella sua definizione ampia, è quasi sempre vero. Poi provo a caratterizzare la relazione: si tratta di potenziamento, sostituzione, o spostamento? Questo secondo passo mi richiede di guardare non solo alla tecnologia in sé, ma anche al contesto d’uso, a chi ne trae vantaggio (soltanto io? qualcun altro? sempre le stesse persone?), e a chi ne paga il costo.
E a proposito di costi - e giuro che la chiudo qui per questa puntata - Guest scrive che l’AI è umano-centrica non perché si comporti come gli esseri umani o sia progettata per assomigliarvi, ma perché richiede un fantasma nella macchina - spesso letteralmente una persona nascosta nel processo - per funzionare correttamente.
Ma di questo parleremo - ahimè - la prossima settimana.
Cose che ho letto, visto, sentito
Ho visto Modern Love. Era arrivato il momento, e ho pianto a ogni episodio.
Innamorarsi di una città come di una persona. Penso di provare per Gent quello che lei prova per Roma.
Ho finito di leggere Heartstopper. È ufficialmente finito. I can’t move on.
Fate ə monellə!
A me quello che sembra interessante di questa cosiddetta "era delle IA" sono proprio le domande che ci stiamo facendo. Questo è molto molto umano, e l'IA contribuisce a mantenerci tali in questo senso.
Sono molto confusa e amareggiata, non capisco molto e mi pongo le tue stesse domande (e molte altre). Grazie per questa bussola 💗