Una conversazione sull’AGI è partita dal futuro del software ed è finita su reddito universale, mobilità sociale, tassazione, proprietà e potere. Non abbiamo trovato la soluzione, ma forse abbiamo trovato domande migliori.
Questa non è un’intervista nella quale ho chiesto all’intelligenza artificiale di predire il futuro, né il tentativo di farle trovare una soluzione che probabilmente, oggi, non possiede nessuno. Ho fatto qualcosa di più semplice: ho sottoposto a GPT un problema e, a ogni risposta, ho cercato il punto in cui quella risposta smetteva di funzionare.
La conversazione era iniziata quasi per caso parlando di AGI, Artificial General Intelligence, e del suo possibile impatto sul lavoro. A un certo punto siamo arrivati all’Universal Basic Income, il reddito universale di base. Sembrava una risposta ragionevole. Poi abbiamo guardato meglio e abbiamo trovato un altro problema. Abbiamo provato a risolvere quello e ne è comparso un altro. E poi un altro ancora.
Alla fine la cosa interessante non era più stabilire se GPT avesse ragione. Era capire quanto profondamente dovremmo ripensare una società nella quale il lavoro umano potrebbe non essere più il principale meccanismo attraverso cui vengono distribuiti reddito, opportunità e, indirettamente, potere.
Quella che segue è una versione rielaborata della nostra conversazione.
Prima di tutto: perché dovremmo fidarci dell’AGI?
Nello: Io vedo l’AGI come un’arma a doppio taglio. Prendiamo qualcosa che esiste già oggi: gli agenti di coding. Gli dai un progetto, prepari specifiche abbastanza dettagliate, definisci l’architettura, gli spieghi quello che vuoi e, nonostante tutto questo, ogni tanto partono comunque per la tangente.
Mi è successo anche lavorando ad uno dei miei recenti progetti che sto sviluppando in questo periodo. Ed è proprio questa esperienza che mi rende scettico quando sento immaginare un futuro nel quale arriverà l’AGI e basterà sedersi davanti a un computer e dire: “Fammi un’app”.
Se già oggi un sistema può sbagliare pur avendo alle spalle una progettazione abbastanza precisa, cosa succederà quando gli concederemo molta più autonomia?
GPT: Una maggiore capacità non elimina necessariamente il problema della specificazione. Un sistema può diventare estremamente bravo nell’eseguire un obiettivo senza che questo significhi che abbia interpretato correttamente l’obiettivo stesso. Anzi, una maggiore autonomia può rendere alcuni errori più costosi, perché una decisione sbagliata presa all’inizio può propagarsi molto più lontano prima che qualcuno intervenga.
Potrebbe quindi cambiare la natura stessa del lavoro tecnico. Una parte del valore potrebbe spostarsi dall’esecuzione alla capacità di definire correttamente il problema, stabilire vincoli, verificare i risultati e assumersi la responsabilità delle decisioni.
Nello: Che è quasi il contrario della promessa che sentiamo spesso. Non necessariamente “non dovrai più sapere niente”, quindi. Forse dovrai sapere abbastanza da accorgerti quando una macchina molto competente sta facendo una cosa molto stupida.
GPT: Esattamente. Più aumenta la capacità operativa del sistema, più può diventare importante la capacità umana di giudicare quello che sta facendo.
Questa volta, però, la scala è diversa
Nello: C’è un’altra cosa che non mi convince. Ogni volta che qualcuno parla del rischio occupazionale dell’AI arriva inevitabilmente il paragone storico: il cavallo è stato sostituito dall’automobile, alcuni mestieri sono scomparsi e ne sono comparsi altri; la rivoluzione industriale ha distrutto determinati lavori e ne ha creati di nuovi.
Tutto vero. Ma secondo me c’è un problema di scala. In confronto alle precedenti tecnologie, questa non è una pallottola: è una bomba termonucleare. Non stiamo automatizzando soltanto una particolare attività. Stiamo costruendo qualcosa capace di attraversare contemporaneamente una quantità enorme di attività cognitive.
GPT: È una distinzione importante. Molte precedenti forme di automazione sostituivano prevalentemente attività specifiche. Una macchina industriale poteva automatizzare una determinata operazione; un software gestionale poteva eliminare una determinata procedura amministrativa.
I sistemi generalisti hanno invece una caratteristica differente: capacità come leggere, scrivere, analizzare, classificare, programmare, pianificare e comunicare sono componenti comuni a moltissime professioni. Questo non significa necessariamente che il 90% delle persone perderà il lavoro, ma potrebbe significare che servirà molto meno lavoro umano per produrre la stessa quantità di output.
Nello: Che economicamente può essere quasi altrettanto importante. Non serve necessariamente eliminare completamente una professione. Se un’azienda che prima aveva bisogno di dieci persone domani ne necessita soltanto tre, le altre sette hanno comunque un problema.
GPT: Esatto. Per questo misurare soltanto quali professioni “spariranno” rischia di essere fuorviante. Bisogna anche chiedersi quanto lavoro umano continuerà a essere necessario all’interno delle professioni che rimarranno.
E allora arriva l’UBI
Nello: Ed eccoci alla risposta che viene fuori praticamente ogni volta: Universal Basic Income. Se l’automazione elimina una quantità enorme di lavoro, redistribuiamo una parte della ricchezza prodotta e garantiamo a tutti un reddito. Problema risolto.
GPT: Risolverebbe, almeno in linea teorica, il problema di garantire un livello minimo di reddito a chi non riesce più a ottenerlo attraverso il lavoro.
Nello: Ed è proprio quel “minimo” il problema. Il lavoro non serve soltanto per pagare l’affitto e comprare da mangiare. Per gran parte della popolazione è anche uno dei principali strumenti di mobilità sociale. Puoi studiare, diventare più bravo, cambiare azienda, assumerti maggiori responsabilità, guadagnare di più, mettere da parte del capitale o aprire un’attività. Naturalmente puoi anche fallire, ma almeno esiste una traiettoria.
Se invece una parte enorme della popolazione riceve semplicemente un assegno perché il suo lavoro non serve più, come fa a migliorare la propria condizione economica?
GPT: Ed è qui che emerge una distinzione fondamentale. Un reddito universale può affrontare il problema della sicurezza economica, ma non necessariamente quello della mobilità economica. Una società potrebbe riuscire a garantire a tutti un livello di vita dignitoso e contemporaneamente diventare estremamente rigida dal punto di vista sociale.
Nello: Ed è proprio questo che mi preoccupa. Perché a quel punto rischiamo di creare una classe sociale permanente.
Una società di proprietari e percettori?
Nello: Immaginiamo lo scenario portato all’estremo. Da una parte hai chi possiede aziende, modelli, datacenter, robot, capitale e infrastrutture. Dall’altra hai milioni di persone alle quali viene garantito un reddito. Magari vivono anche decentemente, ma come passa una persona dal secondo gruppo al primo?
GPT: Se il lavoro perde progressivamente importanza nella produzione della ricchezza, la proprietà del capitale diventa ancora più determinante. Il rischio teorico è quello di creare una società molto ricca in termini aggregati, ma caratterizzata da una mobilità sociale estremamente bassa.
La domanda, quindi, smette di essere soltanto “quanto reddito dobbiamo redistribuire?” e diventa “chi possiede le macchine e le infrastrutture che producono quel reddito?”.
Nello: E questa è una domanda completamente diversa. Perché se mi dai abbastanza soldi per vivere hai forse risolto il problema della povertà, ma non hai necessariamente risolto quello della libertà economica.
GPT: Esatto. Un reddito garantito può fornire sicurezza senza necessariamente fornire proprietà, capacità di accumulazione o possibilità di migliorare significativamente la propria posizione relativa. Se l’obiettivo è preservare anche la mobilità sociale, la redistribuzione del solo reddito potrebbe quindi non essere sufficiente.
Bene. Allora tassiamo le corporation
Nello: La soluzione sembrerebbe semplice. Se le aziende producono enormemente di più grazie all’automazione, le tassiamo e redistribuiamo una parte dei profitti.
GPT: È certamente una delle possibilità. In uno scenario nel quale diminuisce la quota di reddito generata dal lavoro umano, avrebbe senso discutere di uno spostamento della base fiscale dal lavoro verso profitti, rendite e capitale.
Nello: Sì, sulla carta. Però abbiamo già difficoltà oggi a tassare correttamente multinazionali che possono distribuire proprietà intellettuale, profitti e strutture societarie attraverso diverse giurisdizioni. Ora immagina aziende con fatturati giganteschi, pochissimi dipendenti e una parte enorme del valore prodotta da infrastrutture digitali. Come le tassi? E soprattutto: quale Stato le tassa?
GPT: Questo è uno dei problemi principali. Più il capitale diventa mobile e meno dipende da una forza lavoro fisicamente presente in un determinato territorio, maggiore diventa la possibilità di arbitraggio tra sistemi fiscali differenti. Una tassazione efficace della produttività automatizzata potrebbe quindi richiedere livelli di coordinamento internazionale molto superiori a quelli attuali.
Nello: Che è facilissimo da scrivere in una frase e molto meno facile da fare nel mondo reale. Se un paese tassa pesantemente quella ricchezza e un altro decide di non farlo, rischia semplicemente di spostare il problema insieme alle aziende.
GPT: Esattamente. E questo mostra già un limite importante della soluzione “tassiamo l’AI”: il problema non è soltanto stabilire quale aliquota applicare, ma costruire istituzioni capaci di tassare una forma di capitale estremamente mobile senza innescare una competizione al ribasso fra Stati.
Ma c’è un problema ancora più grande: il potere
Nello: Supponiamo però che riusciamo a farlo. Le corporation vengono tassate e con quei soldi lo Stato finanzia il reddito di milioni di persone. A quel punto mi viene un’altra domanda: politicamente, quelle persone quanto conteranno?
Una grande corporation versa miliardi di tasse, investe miliardi, controlla infrastrutture importanti e può minacciare di spostare attività da un paese all’altro. Il cittadino, invece, riceve denaro dallo Stato. Formalmente ha sempre un voto, certo. Ma economicamente il rapporto di forza non rischia di diventare ancora più sbilanciato?
GPT: Il rischio esiste, anche se non è una conseguenza inevitabile. Nelle democrazie il peso politico formale di un cittadino non dipende dalle tasse che versa, ma il potere economico può trasformarsi in capacità di influenza attraverso lobbying, investimenti, controllo delle infrastrutture, accesso ai decisori e possibilità di spostare capitali.
Se contemporaneamente una parte molto grande della popolazione diventasse economicamente dipendente dai trasferimenti pubblici, si potrebbe creare un rapporto nuovo e potenzialmente problematico tra capitale, Stato e cittadino.
Nello: Ed è qui che il problema dell’UBI smette di essere soltanto economico.
GPT: Sì. Diventa un problema istituzionale e, in ultima analisi, un problema di distribuzione del potere.
Allora trasformiamo il sussidio in un dividendo
Nello: A questo punto proviamo un’altra strada. Invece di considerare il reddito universale un sussidio pagato dalle tasse, potremmo considerarlo una specie di dividendo sulla produttività automatizzata.
GPT: Questa impostazione cambia effettivamente il principio. Invece di dire “hai perso il lavoro e quindi lo Stato ti mantiene”, si potrebbe dire che una parte della produttività generata dall’automazione appartiene alla società nel suo complesso.
Esistono diversi meccanismi teorici attraverso cui farlo: fondi sovrani che possiedono partecipazioni nelle imprese, fondi pubblici di investimento, sistemi pensionistici che detengono capitale produttivo, cooperative o altre forme di proprietà collettiva. Il cittadino non sarebbe soltanto destinatario di una redistribuzione successiva alla produzione della ricchezza, ma indirettamente proprietario di una parte del capitale che la produce.
Nello: Questo mi convince di più, ma non abbiamo ancora risolto il problema. Se distribuisci lo stesso dividendo a tutti, cosa succede alle enormi differenze che esistevano prima? Una persona che guadagnava centomila dollari all’anno viene improvvisamente equiparata a una che ne guadagnava ventimila?
GPT: Non necessariamente. Si potrebbe immaginare un sistema composto da più livelli: una componente universale, un’assicurazione temporanea legata almeno in parte al reddito perso e, separatamente, forme di partecipazione alla nuova ricchezza prodotta.
L’obiettivo dell’assicurazione temporanea sarebbe evitare una caduta immediata del tenore di vita durante la transizione, senza però trasformare per sempre le vecchie differenze salariali in differenti diritti al reddito pubblico.
Nello: Quindi non conserviamo per sempre le vecchie disuguaglianze, ma nemmeno diciamo a una persona che perde improvvisamente la propria professione: “Da domani la tua vita vale 1.500 dollari al mese, arrangiati”.
GPT: Esattamente. Il problema della transizione e quello dell’assetto economico di lungo periodo sono due questioni differenti e probabilmente richiederebbero strumenti differenti.
“Diamogli gli strumenti per reinventarsi”
GPT: C’è poi un’altra possibilità. Oltre al sostegno economico, le persone potrebbero ricevere accesso agli stessi strumenti di AI che hanno prodotto l’automazione, insieme a capitale iniziale, formazione e infrastrutture che consentano loro di creare nuove attività economiche.
Nello: Ed ecco un’altra soluzione che sulla carta sembra bellissima, ma che ha un problema evidente: non tutti possono diventare imprenditori.
GPT: Vero.
Nello: E soprattutto non tutti vogliono diventarlo. Non possiamo costruire una società nella quale milioni di ex impiegati, amministrativi, programmatori, traduttori, designer e analisti devono improvvisamente aprire una startup per avere una possibilità di migliorare la propria condizione.
GPT: Questa obiezione elimina l’idea che l’imprenditorialità possa rappresentare una soluzione universale. Potrebbe essere una possibilità per alcuni, ma una società dovrebbe prevedere percorsi differenti. Alcune persone potrebbero utilizzare l’AI per creare imprese; altre continuare a svolgere professioni nelle quali il contributo umano conserva valore; altre dedicarsi ad attività socialmente utili che il mercato tradizionalmente remunera poco; altre ancora potrebbero semplicemente lavorare molto meno.
Nello: E forse questa è un’altra cosa che facciamo fatica ad accettare. Continuiamo a cercare un modo per mantenere tutti occupati quaranta ore alla settimana anche mentre immaginiamo macchine che potrebbero rendere necessaria una quantità enormemente inferiore di lavoro umano.
GPT: Esatto. Una delle possibilità è che la domanda stessa sia formulata male. Invece di chiedere “come creiamo abbastanza nuovi lavori da sostituire quelli automatizzati?”, potremmo doverci chiedere “come distribuiamo reddito, opportunità, proprietà e status in una società che necessita di molto meno lavoro?”.
E quindi, qual è la soluzione?
Nello: Dopo tutto questo, abbiamo una soluzione?
GPT: No.
E sarebbe poco serio fingere di averla. Non sappiamo quanto rapidamente progredirà l’automazione, quali professioni saranno realmente colpite, quali nuovi lavori emergeranno, quale sarà il costo dell’energia e del calcolo, quanto rimarrà importante il lavoro umano e quali modelli politici saranno adottati dai diversi paesi.
Quello che possiamo fare è identificare alcuni problemi che una soluzione credibile dovrebbe affrontare contemporaneamente. Dovrebbe garantire sicurezza economica senza distruggere la mobilità sociale; distribuire almeno una parte dei benefici dell’automazione senza rendere economicamente irrilevante il cittadino; trovare una base fiscale sostenibile in presenza di capitale estremamente mobile; evitare una concentrazione eccessiva della proprietà delle infrastrutture produttive; consentire percorsi differenti a persone che hanno capacità e aspirazioni differenti; e, soprattutto, preservare un equilibrio democratico tra cittadini, governi e soggetti economici enormemente potenti.
Il problema è che migliorare uno di questi aspetti può peggiorarne un altro.
Nello: Che è esattamente quello che è successo durante questa conversazione. Ogni volta che sembrava emergere una soluzione, bastava fare un’altra domanda per trovare il problema successivo.
GPT: E forse questo è il risultato più utile della conversazione. Non una risposta, ma una mappa un po’ più completa della domanda.
Forse stiamo facendo la domanda sbagliata
Siamo partiti parlando di AGI e, a un certo punto, abbiamo praticamente smesso di parlarne. Ed è probabilmente la cosa che mi ha colpito di più di questa conversazione.
Passiamo moltissimo tempo a domandarci quando arriverà l’AGI, se sarà più intelligente di noi, quali benchmark riuscirà a superare e quanti lavori riuscirà a svolgere. Sono domande legittime, ma forse quella realmente importante viene subito dopo.
Che tipo di società vogliamo costruire se una parte significativa del lavoro umano smette di avere valore economico?
Non credo che la risposta sia fermare l’intelligenza artificiale. Probabilmente non sarebbe nemmeno possibile: se un paese decidesse unilateralmente di rallentare, altri potrebbero semplicemente continuare.
Ma nemmeno accelerare indiscriminatamente confidando che il mercato trovi spontaneamente un nuovo equilibrio mi sembra una risposta particolarmente convincente. Il mercato può essere estremamente efficace nel distribuire risorse quando le persone possiedono qualcosa che possono scambiare: lavoro, capitale, competenze, proprietà. Se una parte crescente della popolazione perde progressivamente il valore economico del proprio lavoro senza acquisire contemporaneamente capitale, il presupposto stesso cambia.
Forse il vero problema dell’AI non sarà quindi trovare abbastanza nuovi lavori. Potrebbe essere costruire un nuovo meccanismo attraverso il quale le persone possano partecipare alla prosperità, migliorare la propria condizione e conservare potere economico e politico anche quando il loro lavoro non è più indispensabile.
Non abbiamo trovato la soluzione. Sarebbe presuntuoso pensare di poterlo fare durante una conversazione tra un uomo che fa una passeggiata serale e un modello di intelligenza artificiale.
Ma una cosa, alla fine, mi sembra abbastanza chiara: se aspettiamo che il problema si presenti in tutta la sua dimensione prima di cominciare a discuterne, probabilmente avremo iniziato la discussione troppo tardi.