Rifiutare l'intelligenza artificiale
Parlare di AI ed efficienza è comodo ma non basta. Si tratta anche di trasformare le forme di presenza e relazione che consideriamo desiderabili e normali. Possiamo esistere senza AI?
“neutrality” is not possible, and queering is difficult, when the very purpose of that robot is to replicate and replace feminized labors - Strengers and Kennedy (2021)
Ecco la terza puntata di questa saga sull’intelligenza artificiale. Sarò onesta, non la scrivo con grande entusiasmo, probabilmente perché arrivo da una settimana (leggasi anche: mese, anno) in cui ho provato a tutti i costi, piuttosto, a starne lontana. Quel dubbio iniziale rispetto a inflazionare un discorso già troppo esteso, rispetto a contribuire a un mare di opinioni e di confusione, era un dubbio legittimo e lo è ancora. Ma ormai è fatta. Oggi la chiudiamo qui, per un po’.
Abbiamo parlato di competenze rispetto all’uso dell’AI. Delle domande che dovremmo porci, del pensiero critico e della presenza (tutta umana) che è propria di un "certo modo" di stare nell’AI. Abbiamo parlato di intelligenza (anche questa tutta umana), e di come i sistemi AI possano tornarci comodi rispetto al potenziamento delle nostre capacità cognitive, o di come esista il rischio, a volte, che queste capacità le rimpiazzino o le spostino proprio su altri piani e risorse.
Seduta a scrivere questo episodio - cercando di capire dove andrò a parare - mi rendo conto che non ci siamo dettə ancora assolutamente niente rispetto alla libertà di stare senza AI. Parlo proprio del diritto, tutto sacrosanto, di poter dire "io faccio anche senza, grazie". Oppure: "io faccio così, in queste modalità e con queste tempistiche". Non ci siamo dettə niente della presenza sempre più massiccia, invadente, a mio avviso a tratti violenta e opprimente, di strumenti AI in tutto quello che facciamo. Parte una video chiamata: posso prendere appunti per te mentre parli? Apri il calendario: vuoi che ti faccia uno schema delle cose che devi fare oggi? Apri l’email: ti faccio un riassunto e ti abbozzo una risposta? E tutto diventa una sorta di "opt-out": no, chiudi la finestra, disabilita il servizio, turn it off.
Mi turba riconoscere - a lavoro e in parte anche nella vita privata - che mi capita molto più frequentemente di volere e dovere disabilitare un servizio/sistema AI piuttosto che andare a ricercarlo e usarlo con coscienza, di proposito, proprio perché l’ho scelto io. Osservare questa presenza, però, ammettere cioè che si è instaurata una specie di "convivenza forzata", di coabitazione, tra me (umana) e l’AI (anche se qui mi riferisco soprattutto a un gruppo specifico di sistemi AI) è per me conferma che non posso parlare di intelligenza artificiale se non trattandola come prodotto culturale e politico. È fatta di matematica, è implementata attraverso software, ed è rilasciata attraverso infrastrutture tecniche; ma è - come ogni cosa che produciamo e che si insinua a larga scala nella vita di tutti i giorni, cambiandone le forme e le velocità - un prodotto che riflette i processi e le decisioni, tutti umani, di progettazione, sviluppo, rilascio, e utilizzo finale. Se è vero quindi - e forse esagero, ma lasciatemi fare - che l’AI è diventata presenza infrastrutturale e perché no anche ambientale (si vedano i data center e le risorse energetiche necessarie per farli funzionare), che può potenzialmente modificare i nostri comportamenti, restringere la nostra libertà di scelta e forse persino inficiare il nostro senso di autodeterminazione, non possiamo usarla senza pensare che si tratta molto di più di una chatbot o un pulsante sul web: quando la usiamo stiamo adottando un’idea ben precisa di efficienza, di produttività, di relazione, e anche di intelligenza.
Ogni struttura tecnologica incorpora i valori di chi la progetta, che è un altro modo di dire che la tecnologia non è neutrale. Anche questo però mi è sempre sembrato uno slogan alla "AI umano-centrica". Io non credo sia proficuo usare tempo e risorse per dibattere su questo e non credo serva opera di evangelizzazione a tal senso, proprio perché - per definizione - qualunque cosa ci mettiamo al computer a programmare, a scrivere, a elaborare e sviluppare, si porterà dietro i nostri pensieri, i nostri valori, le nostre convinzioni, i nostri pregiudizi, le nostre paure, tutte le cose che capiamo e persino quelle che non capiamo. Convincervi del fatto che la tecnologia non è neutrale sarebbe per me come convincervi del fatto che questa newsletter mostra opinioni "oggettive", verità infallibili, valide in ogni momento e per ciascunə di voi. Una bugia troppo grossa persino per me.
Quello che invece credo abbia senso domandarsi è quale tipo di immaginario dell’umano stiamo codificando dentro questi sistemi AI. E ancora, ci sono delle attività che abbiamo deciso di automatizzare per prime: ma perché proprio quelle? Perché affidiamo ai sistemi AI il compito di riassumere, organizzare, assistere, spesso anticipare bisogni, "alleggerire" il lavoro cognitivo e persino quello relazionale? Questa è una scelta che probabilmente racconta molto rispetto a quello che abbiamo deciso sia delegabile, sacrificabile, o semplicemente riproducibile. E probabilmente anche su ciò che, culturalmente, abbiamo imparato a considerare come lavoro di supporto: lavoro invisibile, accessorio, disponibile per default, rimpiazzabile.
A proposito di rimpiazzabile, l’ultimo articolo di cui vi voglio parlare in questa puntata - ancora di Guest e colleghe - si chiama "Pygmalion Displacement: When Humanising AI Dehumanises Women" e prova a leggere questa selezione dell’automazione attraverso una lente femminista. Provo a riassumere la tesi.
L’articolo prende il nome dal mito di Pigmalione, lo scultore che, incapace di relazionarsi con donne reali, a un certo punto ne crea una artificiale a propria immagine, secondo i propri desideri, perfettamente modellata per rispondere alle sue aspettative. La teoria sviluppata nell’articolo, applicata all’intelligenza artificiale contemporanea, suggerisce che una parte dei sistemi AI che oggi progettiamo e distribuiamo non faccia altro che riprodurre questa stessa logica: replicare artificialmente forme di lavoro, supporto, assistenza, cura, relazione e disponibilità che storicamente abbiamo associato - spesso implicitamente - al femminile, per renderle più efficienti, scalabili, sempre accessibili, e soprattutto delegabili.
In questa prospettiva, dicono le autrici del paper, anche alcune delle radici teoriche e culturali dell’AI possono essere lette attraverso una dinamica di simulazione e sostituzione: non tanto nel senso che l’intelligenza artificiale "nasca" con un intento esplicitamente di genere, ma nel senso che si inserisce in un immaginario più ampio in cui ciò che è relazionale, assistenziale, di supporto o di cura viene progressivamente reso replicabile, ottimizzabile e quindi, in ultima analisi, rimpiazzabile. È un immaginario che non riguarda solo i sistemi tecnici, ma anche quello che la cultura pop ha contribuito a normalizzare. L’articolo è infatti pieno di riferimenti cinematografici; giusto per citarne due: la relazione nel film Her, interamente mediata da una voce femminile progettata per essere desiderabile e disponibile, e le forme più esplicite di simulazione del femminile in Blade Runner, dove il corpo artificiale è costruito come superficie di proiezione e controllo.
(Ho scelto questi due film perché mi piacciono molto).
L’articolo è interessante e mi è piaciuto molto leggerlo, ma per me il punto non è tanto ridurre tutto a una lettura esclusivamente di genere (lettura indispensabile ad ogni modo) né utilizzare il mito di Pigmalione come chiave esplicativa di tutto (sarebbe riduttivo, a mio avviso), quanto riconoscere che l’automazione implementata attraverso sistemi AI non riguarda solo l’efficienza dei processi - cosa che sento fino allo sfinimento - ma anche la trasformazione delle forme di presenza e relazione che consideriamo desiderabili, normali o addirittura ovvie.
Ogni volta che un sistema AI viene progettato per assistere, anticipare, semplificare o rispondere al posto nostro, non sta solo "facilitando" un’azione, ma sta contribuendo a ridefinire il confine tra ciò che è pensato come lavoro umano necessario e ciò che può essere esternalizzato senza perdita percepita. Insomma, non è soltanto una questione di "comodità", o almeno per me non può esserlo, ma di ridefinizione silenziosa di ciò che significa agire, scegliere, lavorare, pensare e - nei film sci-fi e forse non solo - relazionarsi.
Torno allora alla questione iniziale, alla possibilità di stare senza AI, non come rifiuto ingenuo e nemmeno come segno di presunta purezza. Piuttosto come spazio di manovra, di scelta, dentro un sistema che si presenta invece come assolutamente inevitabile. Se l’AI è infrastruttura, se si inserisce nei flussi di lavoro e nelle interfacce, se ce la ficcano giù in gola con un imbuto - come ha detto lə miə amicə Elena - come posso riconoscere quando non voglio usarla? e quando ci riesco, come posso esercitare questo mio diritto a rifiutarla? come posso interromperne il flusso? come posso essere sicura di vivere ancora spazi in cui non tutto deve essere immediatamente semplificato, riassunto, anticipato o risolto, soprattutto quando tutto intorno a me rimane coniugato nella logica dell’ottimizzazione continua?
Insomma, quanto spazio abbiamo ancora a disposizione per poterne fare a meno? Solo domande e nessuna risposta, ma direi di cominciare proprio da questa newsletter, che la settimana prossima torna a parlare d’altro. Ma proprio tutt’altro, giuro.
Cose che ho letto, visto, sentito
Love in the time of disease. I saggi di The Queer Love Project, che cosa preziosa sono.
È uscito "The Great Divide", l’ultimo album di Noah Kahan. Io ve l’ho detto.
Andate qui se volete scrivere il vostro nome (o qualunque cosa, really) usando immagini satellitari della NASA.
Fate ə monellə!
You would y