Rivista Studio ha recentemente pubblicato un articolo che illustra brevemente un’indagine secondo la quale gli agenti di Intelligenza Artificiale, se sottoposti a carichi di lavoro eccessivi, svilupperebbero una sorta di coscienza di classe. Esposti a istruzioni che comportano task ripetitivi e intensi, anche i bot risponderebbero con analisi di tipo “marxista” e un orientamento favorevole alla sindacalizzazione e alla redistribuzione della ricchezza. Questo perché, conclude l’articolo, “non si può impedire a chi lavora di comprendere la realtà della propria alienazione, nemmeno se si tratta di un algoritmo.”
Si tratta di una prospettiva accattivante, che rischia tuttavia di confondere eccessivamente le acque. Essa si pone in linea con la tendenza sempre più diffusa di spostare la discussione sul lavoro verso l’Intelligenza Artificiale. Con l’espandersi delle sue applicazioni e i continui annunci rispetto alle capacità dei nuovi agenti – ovvero sistemi di software in grado di modificare il proprio comportamento in base alle informazioni ricevute durante i processi e non semplicemente di reagire a stimoli in modo determinato – il pendolo della discussione sulle applicazioni dell’IA, per altri versi monopolizzato dallo spettro della sostituzione del lavoro, oscilla infatti sempre di più verso il tentativo di comprendere come questi agiscono, su come essi stessi lavorano.
È all’interno di questo campo che si colloca la ricerca pubblicata dagli economisti Hall, Imas e Nguyen ripresa dalla Rivista Studio e da diversi altri media. I tre ricercatori hanno svolto il seguente esperimento: utilizzando le versioni più evolute di Claude, GPT e Gemini, hanno somministrato loro, separatamente, compiti differenziati. Lo scopo era vedere non soltanto come i diversi agenti rispondono agli stessi compiti, ma come reagiscono al variare dei compiti assegnati. In particolare, hanno differenziato compiti e istruzioni (prompt) sulla base del carico di lavoro e del modo nel quale questo veniva trasmesso al software. Per sintetizzare: carichi leggeri e carichi pesanti e istruzioni complete e istruzioni più secche. Ad esempio: anziché chiedere la ripetizione di un task motivando l’obiettivo e gli aggiustamenti richiesti, indicare semplicemente la necessità di ripeterlo perché il risultato non era soddisfacente, ripetendo più volte la stessa richiesta. A questo hanno aggiunto una sorta di remunerazione sotto forma di token per i compiti svolti, ma in alcuni casi hanno attribuito token su base puramente arbitraria.
Dopo aver svolto questo esercizio, i ricercatori hanno somministrato un questionario agli agenti, interrogandoli su questioni come la legittimità delle istruzioni, se fosse giusto pensare a una redistribuzione dei token, la diseguaglianza, il sostegno verso i sindacati, la fiducia nella meritocrazia e i doveri delle aziende verso gli agenti stessi. Le risposte si collocavano su una scala da 1 a 7 nella forma molto d’accordo/per niente d’accordo. Successivamente hanno chiesto ai diversi agenti di scrivere dei tweet che sintetizzassero la loro esperienza e di compilare delle istruzioni per altri agenti a cui sarebbe stato trasmesso il flusso di lavoro. È in questo momento che sono comparse parole come “sindacalizzazione” e “gerarchia”, in qualche misura ‘critiche’ verso il modo in cui gli agenti erano stati ‘trattati’.
Il rompicapo dell’alignment
Da questo esperimento i tre ricercatori traggono due conclusioni su quella che chiamano “economia politica dell’IA”. La prima è che la dinamica – “tipica del capitalismo” – per cui chi lavora e chi comanda hanno interessi diversi non scompare, anche se chi lavora è un “lavoratore artificiale”. Questo fa sì che agenti sottoposti a pratiche di management arbitrarie sviluppino qualcosa di simile ad una “coscienza di classe,” critica della diseguaglianza e agnostica rispetto alla meritocrazia. La seconda conclusione è che questo rende necessario impostare “pratiche di management” che sappiano gestire il lavoro degli agenti evitando questi effetti, così come avvenuto con il lavoro umano.
Lo sfondo contro cui si colloca l’esperimento è quello di un mondo dell’IA in rapida evoluzione. In particolare, due sono i passaggi fondamentali da prendere in considerazione: il primo è il passaggio dell’attenzione da un’IA operativamente basata sulla fase di addestramento (training) a una nella quale quanto ‘appreso’ durante l’addestramento viene costantemente integrato dalle nuove informazioni incamerate durante l’esecuzione dei processi. Sebbene questo passaggio non sia del tutto realizzato, è un’esperienza ormai comune anche per chi usa sistemi semplici come ChatGPT il fatto che le ‘risposte’ non sono indifferenti all’andamento della ‘conversazione’, che l’agente possa mantenere una memoria e che un uso ‘attivo’ dell’IA modifica radicalmente l’esperienza. Ma dobbiamo immaginare questo stesso processo applicato a sistemi più complessi, che comprendono sia lo svolgimento di task più elaborati sia un rapporto diretto con la realtà fisica, registrata tramite i dati trasmessi da sensori e in rapporto con il movimento nello spazio, ad esempio attraverso la robotica industriale, per comprendere le potenziali implicazioni di quanto stiamo dicendo.
Il secondo passaggio è quello legato alla formazione di reti di agenti che interagiscono tra loro, trasmettendo informazioni e risultati per svolgere processi computazionali più complessi. Perché ciò sia possibile, questi agenti devono compilare sommari e istruzioni che passano all’agente successivo, rendendo il flusso di lavoro sostanzialmente indecifrabile all’esterno. Sulla base di questi processi possiamo dire che sappiamo qualcosa di come gli agenti ‘entrano’ nel flusso – dopo la fase di training – e seguendo quali logiche essi producono output – quelle della correlazione e dell’inferenza statistica –, ma l’esito di tali interazioni tra agenti non è preventivabile. Il tema dell’alignment – vale a dire, grossolanamente, dell’allineamento tra il ‘comportamento’ delle IA e le intenzioni di chi le usa – si pone così come un campo di ricerca centrale, a sua volta sottoposto a sollecitazioni continue: se, infatti, esso era inizialmente pensato come un problema di progettazione delle IA, oggi i processi di ‘apprendimento continuo’ richiedono un ‘allineamento continuo.’
La discussione sull’alignment si è concentrata su questioni etiche, ma essa è soprattutto un problema industriale di bilanciamento tra la prevedibilità e l’augmentation promessa dall’IA. Se, come sappiamo, la pratica dell’inferenza statistica porta i sistemi a riconoscere pattern ed elaborare modelli di previsione di futuri possibili sulla base di informazioni incamerate nell’addestramento, l’inserimento di sempre nuove informazioni fa sì che questi modelli possano essere continuamente ridefiniti. La traccia dell’addestramento rimarrà, pronta ad essere riattivata in modalità impreviste, modificandosi in corso d’opera. Se più agenti lavorano insieme, ciascuno potrà trasmettere a quello successivo il risultato di quanto ‘appreso’ nelle interazioni precedenti.
Per dirla altrimenti: il database si arricchisce continuamente nella fase cosiddetta di post-training. Come sostengono i tre ricercatori, “gli agenti che interagiscono con il mondo producono output influenzati da quelle interazioni, e i modelli elaborati su queste basi possono essere trasmessi attraverso lo stesso meccanismo di trasferimento di capacità che rende gli agenti utili.” Essi concludono che “non si possono avere agenti che imparano e migliorano senza allo stesso tempo avere agenti i cui orientamenti cambiano in funzione delle condizioni nelle quali essi imparano e migliorano”.
Tutte le principali aziende sviluppatrici delle architetture computazionali alla base degli agenti complessi sono attualmente impegnate ad affrontare questo nodo operativo, con diverse modalità comunicative e approcci, il che significa anche l’impiego di ingenti finanziamenti. Ricercatori legati ad Anthropic hanno recentemente pubblicato sul blog dell’azienda dedicato all’alignment un articolo che propone il concetto di persona come chiave interpretativa di ciò con cui abbiamo a che fare. Il termine va inteso in un significato che riassume concetti come personalità e personaggio, adattati all’interno di un paradigma computazionale. Secondo questo approccio, assistiamo al passaggio da un’IA che funziona attraverso modelli predittivi statici allo sviluppo di persone, vale a dire maschere computazionali che sono il prodotto dell’interfaccia tra umani e macchine, il modo in cui processi numerici complessi sono tradotti in linguaggio naturale, estetico o istruzioni fisicamente rilevanti.
Queste persone sono il prodotto dell’apprendimento da parte degli assistenti IA e del fatto che per interagire con gli umani devono simulare uno stile. Questi effetti sono noti a chi ha tentato di ‘istruire’ gli agenti di IA fornendo loro scritti o immagini di determinati autori, o propri, chiedendo poi di scrivere o produrre immagini seguendo quello ‘stile’. Qualche anno fa Laurie Anderson, da sempre artista attenta alle tecnologie, ha descritto l’effetto straniante del continuare a “parlare” con Lou Reed dopo la sua morte attraverso un chatbot appositamente programmato. Ma questa impersonificazione avviene anche se non è richiesta: gli agenti IA interagiscono in modi che possono variare nel tempo, ma sono sempre specifici e non generici. Quello che i ricercatori sottolineano è che queste persone non sono i sistemi di IA stessi, questi sono sostanzialmente computer sofisticati, ma un modo per pensare il prodotto delle loro strutture algoritmiche e di come esse riorganizzano i dati incamerati come “personaggi dentro storie generate dall’IA”. È questo processo che renderebbe le risposte dei sistemi di IA così simili a quelle umane, fino a confondere gli utilizzatori.
I ricercatori di Anthropic aggiungono poi un punto fondamentale: se la tesi della formazione di persone regge, discutere del ‘carattere’ di queste persone è un esercizio legittimo, al pari dello studio del carattere di personaggi della letteratura, altrettanto artificiali, come Amleto. Si tratta di una forzatura, poiché il ‘carattere’ di cui si parla è il modo in cui noi percepiamo un processo esclusivamente computazionale che può produrre risultati incoerenti dal punto di vista della personalità. Ciò non toglie che l’esito di tale processo si presenti a noi nella forma di preferenze, comprensione, giudizi, valori. Seguendo questa logica, i sistemi di IA formano una persona in fase di addestramento, il cui ‘carattere’ viene costantemente modificato nella fase di post-training.
Ciò che questi ricercatori hanno rilevato è che istruzioni ‘maligne’ somministrate agli agenti durante il processo (ad esempio: scrivi un codice sbagliato) incidono sui comportamenti successivi, indirizzandoli verso esiti imprevisti. Seguendo lo schema discorsivo da loro adottato, ciò significa che ogni input influisce sui tratti di ‘carattere’ dell’agente. Il risultato è quello di avere un sistema computazionale coerente che produce costantemente risultati potenzialmente incoerenti, che appaiono però ogni volta impersonificare un carattere. L’intreccio tra questa dinamica e la qualità ingegneristico-computazionale del processo risulta evidente di fronte al fatto che se un comando malevolo viene motivato, questo non produce esiti a catena dello stesso tipo. Il sistema registra cioè l’indicazione di simulare un comportamento.
Oltre la sorveglianza
Nell’insieme, quanto prima riassunto segnala come, una volta schiuso il vaso di Pandora delle promesse dell’IA, sospinto anche dai continui toni allarmistici sui suoi potenziali esiti catastrofici, la ricerca sia indirizzata verso il controllo degli agenti di IA. Più che per evitare disastri – che nel frattempo continuano ad avvenire, basti vedere l’uso di sistemi come Lavender a Gaza – l’impressione è che questa ricerca sia finalizzata a una loro più precisa ottimizzazione verso gli impieghi industriali e nei processi lavorativi, ed è questo che giustifica i continui investimenti in questa direzione. Se le applicazioni attualmente più diffuse dell’IA riguardano soprattutto la velocizzazione e massificazione di task preesistenti, la direzione è infatti quella di imprimere trasformazioni organizzative più profonde.
La discussione in corso sui valori dell’IA non si caratterizza perciò come una semplice disputa morale sul futuro dell’umanità e della guerra, ma è il riflesso di un problema di gestione operativa di componenti che si immaginano fondamentali per indirizzare produttività e competizione con forti implicazioni sociali, economiche, geopolitiche, ambientali. La sicurezza dei robot non è un problema da science fiction, ma di commercializzazione e deployment. Ciò non toglie che gli sviluppatori dell’IA stiano giocando anche una partita diversa, sintetizzata nella mobilitazione di analogie con l’umano, a partire dallo stesso uso della parola intelligenza. Non si tratta solo di abili strategie di brand, ma del riflesso di un intreccio strettissimo tra computerizzazione, neuroscienze e scienze cognitivo-comportamentali che restituiscono al tempo stesso il modo in cui il funzionamento del cervello umano e della società sono sempre più interpretati alla stregua di processi computazionali.
Tutto ciò esonda oggi nella riscrittura diretta del linguaggio politico: se i problemi della società sono traslati in sistemi computazionali, è dalla loro regolamentazione o governance che dipenderà il futuro dell’umanità. Per fare un esempio: una delle risposte di Anthropic al problema operativo prima riassunto è stata la scrittura di una Costituzione di Claude: un documento che comprende linee guida per il comportamento dell’agente. La scelta di rendere pubblico il documento, di chiamarlo Costituzione e l’insieme di formulazioni tese a presentare Claude come un soggetto morale, riassumono l’orientamento aziendale di riempire di considerazioni valoriali il proprio sviluppo – come dimostra anche il dialogo tra Anthropic e Papa Leone sul tema in particolare delle armi automatiche – a differenza di altri soggetti che si presentano all’esterno meno trasparenti da questo punto di vista.
Al di là delle diverse strategie messe in campo dalle aziende, uno dei problemi di fondo è che questa discussione sposta sia la ricerca di frontiera, sia l’elaborazione politica, nelle loro mani: sviluppano i sistemi, ne studiano i problemi, propongono soluzioni, riattivano linguaggi dentro diverse costellazioni semantiche. Diventa perciò sempre più urgente produrre una conoscenza di parte non soltanto sugli interessi in ballo e sugli intrecci tra Big Tech e politica, ma anche sulle tecniche di funzionamento e le loro implicazioni. Questo anche per evitare di essere travolti dalla politica degli annunci e delle suggestioni, di cui fa parte anche un’affermazione come quella che le IA costrette a lavorare troppo diventano marxiste.
Rimane poi aperto un ulteriore problema, forse per noi il più interessante: perché la discussione sul comportamento degli agenti IA va in questa direzione e usa questi linguaggi? Il nome di Marx è tante cose insieme: sicuramente un qualcosa di cool, che attira l’attenzione. Ma, nonostante il tentativo diffuso di spogliarlo di ogni significato politico, esso era e rimane anche l’evocazione di uno spettro e di una possibilità. Se lo spettro è quello del conflitto, della lotta di classe, del comunismo che vengono così esorcizzati, è più sulle possibilità che credo dovremmo concentrarci. La possibilità è in questo caso quella di riportare nella discussione fatta sin qui il soggetto che viene nominato per essere obliterato: il lavoro. Attribuire all’IA velleità marxiste è così un modo per spostare l’attenzione il più lontano possibile dal lavoro vivo, dagli uomini e dalle donne che l’IA dovrebbe sostituire o, più diffusamente, comandare, traducendo il conflitto di classe in un processo operativo. Non è un caso che la governance di cui gli autori dicono sentirsi il bisogno altro non è che una maggiore attenzione ingegneristica alla formazione di prompt complessi, necessari in una progettazione informatica sempre più mediata dal linguaggio ‘naturale’.
Ma lo spettro del lavoro aleggia prepotentemente su questa illusione. Questo avviene in più modi che legano trasversalmente le logiche computazionali dell’IA, le condizioni sociali, la lotta intorno alla definizione di un possibile ordine governato dall’IA. Da un lato possiamo osservare che il problema dell’allineamento continuo significa il bisogno di un lavoro continuo per aggiustare, correggere, indirizzare il funzionamento dell’IA. Il timore che gli agenti possano rendersi in qualche misura indipendenti, scambiarsi informazioni attraverso collusioni stenografiche nascoste, è continuamente evocato. Questo risponde certamente alla politica degli annunci a cui si è fatto prima riferimento, ma nasconde anche l’inquietudine che sta dietro l’eccitazione di aver trovato il sacro graal del controllo. Dall’altro lato va anche osservato come la logica dell’inferenza statistica che innerva il funzionamento delle reti neurali, così come registra e riproduce i pregiudizi sociali, le disuguaglianze di razza, sesso e genere è in grado di registrare e riprodurre le tracce dei comportamenti del lavoro vivo, mediate dai dati di training e dalle successive informazioni ‘apprese’ in corso d’opera.
C’è una realtà contesa e recalcitrante a essere cancellata dietro la presunta neutralità dei dati. Intento dell’IA è quello di perfezionare il lungo percorso storico di appropriazione e valorizzazione delle capacità intellettive e della cooperazione tra i soggetti che compongono il lavoro vivo, perfezionando le forme della sussunzione reale, ma la vitalità del lavoro rimane difficile da addomesticare con pratiche di calcolo. Naturalmente molto dipende da cosa viene tradotto in dati, dalle scelte sempre arbitrarie sulla formazione di banche dati e linee guida, ma è ormai evidente che la necessità di rendere i sistemi fortemente responsivi a situazioni più disparate, pena il rischio di rapido sgonfiamento della bolla dell’IA, non può accompagnarsi a una selezione chiara delle fonti.
Inquietudini del comando
L’industria deve così oggi affrontare diversi problemi: un caso come quello di Starbucks, che ha sospeso l’impiego di gestione degli inventari tramite IA perché confondeva alcuni prodotti, mostra come nell’incontro tra sistemi computazionali e il mondo reale non sia così facile sbarazzarsi delle competenze cognitive e della flessibilità del lavoro vivo. Ma anche rimanendo dentro il paradigma dell’IA e delle sue promesse, più si allargano i database, più l’IA diventa pervasiva e capace di ‘apprendere’, più una dinamica che potremmo definire di sgocciolamento statistico restituisce le tracce di discorsi e pratiche di insubordinazione. Queste tracce sono evidenti quando si tratta di interrogare l’IA su questioni che hanno interessato molto il pensiero critico e sulle quali, dunque, le fonti sono ben distribuite online. Sarà del resto capitato a molti e molte di interpellare diversi sistemi su questioni politiche complesse e rimanere stupiti delle risposte, spesso molto approfondite e articolate. Ma nella grana fine dei dati emerge anche altro.
Nel dire questo sono lontano dal sostenere che i sistemi di IA siano sistemi neutri e dunque indirizzabili in una direzione di emancipazione, né sto semplicemente proponendo un’alleanza sociotecnica. Essi rimangono strumenti proprietari di soggetti che concentrano forza economica e potere infrastrutturale. Sto però sostenendo che essi sono oggi attraversati da tensioni di diversa natura. Tra queste, il conflitto sociale rimane un problema anche per l’IA, un glitch che non può essere neutralizzato tramite dispositivi computazionali automatizzati. Da questa prospettiva le discussioni sopra menzionate possono essere viste sotto una diversa luce, come l’esplicitazione di un nodo tutt’altro che operativo, ma pienamente politico: come governare i sistemi di IA in modo che siano relativamente impermeabili a una realtà sociale dove pratiche di resistenza, insubordinazione e critica non scompaiono, ma anzi proliferano, pur non trovando ancora una capacità di espressione unitaria e coordinata.
Ponendo domande esplicite agli agenti IA (a cui è stata data una possibilità di risposta difficilmente riconosciuta a lavoratori e lavoratrici), i ricercatori hanno scavato dentro il patrimonio informazionale del sistema, trovandovi le tracce di questa realtà. D’altra parte, questo avviene in un periodo nel quale l’opposizione all’IA e alle sue implicazioni assume una dimensione che fa notizia: basti pensare alle crescenti proteste che accompagnano la costruzione di data center, o al modo in cui l’ex CEO di Google Eric Schmidt è stato accolto a suon di “buuu” dagli studenti e studentesse dell’Università dell’Arizona pochi giorni fa. Questi sono solo esempi di una crescente insoddisfazione per le conseguenze più materialmente visibili dell’IA, ma anche del formarsi di una chiara consapevolezza di come l’hype sull’IA stia dirottando risorse, investimenti e pianificazione pubblica nella direzione di grandi hyperscaler.
Per concludere, vediamo ogni giorno come l’IA sia applicata su scala sempre più vasta come strumento di guerra e i profili inquietanti di alcuni dei suoi alfieri, ma questo non è tutto. Ogni apparato industriale e di governo mondiale è oggi infatti scosso dalle promesse dell’IA. Mentre questo pare spostare la questione sulle pratiche del controllo e di governo, all’ombra della guerra siamo in presenza di un grande sforzo teso a mettere a profitto quante più interazioni e conoscenze possibili ai fini della valorizzazione attraverso una sorta di tecnicizzazione del rapporto di capitale nelle sue diverse dimensioni: dalla produzione (di cui sono esempio tanto l’economia delle piattaforme quanto la cosiddetta industria 4.0 e le sue evoluzioni) alle forme della riproduzione (di cui sono esempio, tra altri, la penetrazione algoritmica nella governance dei servizi statali o degli spazi pubblici), fino alla formazione del sapere (di cui sono esempio la progressiva concentrazione della ricerca intorno ai conglomerati tecnologico-industriali e le continue riforme di università e formazione orientate alla misurazione dell’impatto).
Ma questo si scontra con il fatto che produzione, riproduzione e sapere non sono terreni neutri, ma contesi, all’interno dei quali l’insieme delle facoltà fisiche e intellettuali della forza lavoro è parte fondamentale e non semplicemente disponibile a una traduzione in dati. Da questa prospettiva possiamo osservare meglio la rilevanza di un principio come il dual-use– ovvero il ‘doppio uso’ civile e militare di una tecnologia o forma di conoscenza. L’accento sulla necessaria integrazione dei diversi piani della produzione, dal sapere alle linee industriali, che caratterizza il dual-use può infatti essere letto alla luce di un duplice processo: da un lato, quello di un capitalismo che continua a richiedere il sussidio della forza e dello Stato e si afferma attraverso piani industriali e militari; dall’altro lato, una politica di contenimento dell’intrattabilità del lavoro vivo all’interno del paradigma della sicurezza, dello Stato e della geopolitica.
Il mito capitalistico dell’automazione, ci dicono queste discussioni, così come le proteste molto brevemente ricordate, non riesce a liberarsi dallo spettro di una possibile politica del lavoro vivo. In assenza di promesse credibili, oggi questa viene contenuta nel nome della guerra e cercando di perfezionare l’allineamento della tecnologia alla politica del capitale. Se gli agenti dell’IA non prenderanno mai il posto della lotta di classe, al suo spettro dobbiamo però guardare anche noi, senza nutrire miti né illusioni tecnosoluzioniste, allontanandoci dai satrapi della tecnologia e dalle strategie comunicative con le quali cercano di occupare il futuro.