Urbi et Orbita: l’enciclica che sognava di convertire l’algoritmo

Eccoci, dunque, di fronte all'ultimo bestseller della teologia contemporanea. Leone XIV — primo pontefice americano, figura che già di per sé compone un “affascinante” algoritmo sociologico — ha dato alle stampe, lo scorso 25 maggio, Magnifica Humanitas, la prima enciclica dedicata all'intelligenza artificiale. In un pomeriggio d'agosto, sospeso nella sua immobilità estiva, ci siamo concessi il lusso teoretico di addentrarci nelle oltre cento pagine licenziate dal Magistero. Il documento giunge con tempestività chirurgica: la penetrazione delle tecnologie generative nel lavoro, nella didattica e nella comunicazione ha ormai raggiunto una massa critica che persino il Vaticano non può più eludere. Il Papa affronta una questione fino a ieri riservata alla cibernetica o alla fantascienza: cosa resta dell’umano nell’era dei codici? Leggere questo testo è, in un certo senso, un dovere — non perché la Santa Sede si sia improvvisamente convertita al progressismo (non lo è, e non ambisce a esserlo), ma perché quando un'istituzione dotata di un peso simbolico così imponente decide di prendere parola, quel gesto segna un punto di non ritorno: la transizione digitale ha smesso di essere un fatto meramente tecnico per farsi antropologia, politica, forma di civiltà. Ottocento milioni di fedeli — in larga parte lavoratori e poveri del Sud globale — ricevono così un messaggio a suo modo inatteso: l'algoritmo non è un destino metafisico, ma una scelta politica e, in quanto tale, può essere governato. Prima di soffermarci sui limiti del testo, è giusto partire dai suoi meriti. Sarebbe ingeneroso liquidare Magnifica Humanitas come pura retorica spiritualista: Leone XIV compie alcuni passi che vale la pena riconoscere. 

Il primo riguarda la mercificazione del lavoro cognitivo. L’enciclica mette in guardia dal rischio che l’automazione intelligente finisca per ridurre il lavoratore a elemento residuale di un processo produttivo governato esclusivamente dalla logica dell’efficienza. La dignità del lavoro umano viene così messa in discussione non dalla macchina in sé, ma dal modo in cui la macchina viene inserita nei rapporti economici. È un punto tutt’altro che secondario. L’intelligenza artificiale non arriva infatti in un mondo privo di rapporti di forza: arriva nel capitalismo. E quando una tecnologia capace di sostituire, integrare o sorvegliare il lavoro viene introdotta in un sistema nel quale la proprietà dei mezzi di produzione è fortemente concentrata, il problema non è soltanto ciò che la macchina sa fare. È chi decide cosa farle fare e per quale scopo. 

Il secondo merito è il rifiuto del determinismo tecnologico. Gli algoritmi, ricorda l'enciclica, non sono semplici programmi: sono istituzioni invisibili. L'intelligenza artificiale non è una forza autonoma calata dal cielo — dietro ogni sistema tecnologico ci sono scelte umane e, dietro ogni scelta, una gerarchia di valori e, dietro ogni gerarchia di valori infine, un'idea di società. È qui che la questione si fa davvero politica, perché la tecnologia contemporanea è detenuta e sviluppata da soggetti dotati di una capacità senza precedenti di organizzare il lavoro, la conoscenza, l'informazione e, indirettamente, il consenso. La concentrazione di dati, infrastrutture computazionali, piattaforme e modelli proprietari genera una forma di potere che la storia del capitalismo non aveva mai conosciuto: un potere capace non solo di controllare risorse materiali, ma di intervenire direttamente sulla produzione e sulla circolazione del sapere. Leone XIV lo riconosce con nettezza quando scrive che “nessuna tecnologia è neutrale”, perché ogni tecnologia assume il volto di chi la pensa, la finanzia, la regola, la utilizza. Con questa frase il Papa sgretola la parabola rassicurante che la Silicon Valley racconta da decenni — quella secondo cui la tecnologia sarebbe un semplice strumento, innocente e apolitico, e tutto dipenderebbe soltanto dall'uso che ne facciamo. È uno dei passaggi più significativi dell’enciclica.

Il terzo elemento di interesse è l'attenzione alle asimmetrie globali. Leone XIV affronta il divario digitale e il rischio che l'intelligenza artificiale finisca per accentuare le disuguaglianze fra i Paesi, concentrando ulteriormente conoscenza, infrastrutture e ricchezza nelle aree del mondo già dominanti. Nel documento emerge inoltre una critica esplicita alla concentrazione di brevetti, algoritmi, piattaforme, dati e infrastrutture nelle mani di pochi: non ancora, forse, una critica compiutamente politica dell'economia digitale, ma almeno il riconoscimento che la proprietà della tecnologia è, in sé, una questione di potere.

Vi è infine il tema della manipolazione cognitiva: l'enciclica dedica ampio spazio alla disinformazione, ai deepfake, agli algoritmi di raccomandazione, alla progressiva colonizzazione dell'attenzione. Il rischio, scrive il Papa, è quello di un'erosione della capacità critica — di un'umanità sempre più incerta nel distinguere il vero dal falso, il reale dal simulato.

Magnifica Humanitas pone dunque le domande giuste: chi decide? A vantaggio di chi? Con quale idea di uomo? Il problema è ciò che viene dopo — o meglio, è fino a che punto queste domande vengano portate alle loro conseguenze.

Di fronte all'interrogativo decisivo — come disinnescare la vertigine tecnologica — la prosa papale resta prigioniera dei propri limiti costitutivi. Leone XIV evoca la “persona” e il “bene comune”, ma per ricucire la frattura tra chi detiene i mezzi di produzione algoritmica (dati, infrastrutture computazionali, modelli proprietari) e chi ne subisce i contraccolpi si affida a una “responsabilità condivisa” e invoca una “governance dell'intelligenza artificiale” capace di coinvolgere una pluralità di soggetti, richiamando la necessità di regole, trasparenza, responsabilità. Sono richieste ragionevoli e, in alcuni passaggi, persino coraggiose.

Ma è proprio qui che emerge il limite politico del documento. Perché nel momento in cui si riconosce che l'intelligenza artificiale modifica i rapporti di potere, è inevitabile arrivare alla domanda successiva: chi possiede l'intelligenza artificiale? Non soltanto chi la utilizza. Non soltanto chi la regola. Non soltanto chi la programma. Chi possiede i dati? Chi possiede i server? Chi possiede i modelli? Chi controlla le piattaforme? Chi decide quali infrastrutture sviluppare, quali sistemi rendere accessibili, quali mercati conquistare, quali attività automatizzare? L'enciclica si avvicina a questa domanda e, in alcuni passaggi, arriva persino a formularla con chiarezza — ma senza trasformarla fino in fondo in una questione di conflitto politico e di rapporti di proprietà. Perché se la tecnologia è potere, non basta chiedere al potere di comportarsi bene: occorre anche chiedersi come quel potere sia distribuito.

I principali sistemi di intelligenza artificiale sono oggi sviluppati da un numero relativamente ristretto di grandi corporation. Nessuna carta etica, nessun comitato di supervisione, nessuna dichiarazione di principio può cancellare questo dato di fatto. Invocare una “civiltà dell'amore” è certamente più nobile che invocare una guerra commerciale — ma chiedere ai potenti di essere responsabili è, in fondo, un po' come chiedere al lupo di farsi vegetariano.

Eppure, questa parabola pontificia non è irrilevante: è al contempo un sintomo e un’opportunità. Un sintomo, perché dimostra che persino la più antica istituzione d'Occidente percepisce la perdita di egemonia sul senso comune; un’opportunità, perché spalanca contraddizioni feconde. Se l’intelligenza artificiale può minacciare la dignità del lavoro, allora bisogna interrogarsi sui rapporti di produzione nei quali viene introdotta. Se la concentrazione tecnologica produce disuguaglianza, allora bisogna interrogarsi sulla proprietà delle infrastrutture. Se gli algoritmi non sono neutrali, allora bisogna interrogarsi su chi stabilisce i loro obiettivi. Se la tecnologia è un problema di potere, infine, la risposta non può essere soltanto etica. Deve essere politica.

L’enciclica non arriva sempre fino a questa conclusione. Ma fornisce molte delle premesse da cui partire.

L'algoritmo è il nuovo intellettuale organico, non perché pensi, ma perché organizza il pensiero. Struttura il campo del dicibile, decide quali voci amplificare e quali relegare ai margini, stabilisce — attraverso una selezione apparentemente impersonale — ciò che merita attenzione e ciò che può essere ignorato. Produce, giorno dopo giorno, il senso comune della nostra epoca. Gli algoritmi mostrano a ciascuno ciò che più probabilmente catturerà la sua attenzione: non impongono di pensare in un certo modo, ma suggeriscono, con continuità quasi impercettibile, una direzione possibile — fino a quando quella direzione rischia di diventare il nostro stesso orizzonte. È una nuova forma di governo individualizzato, che opera più attraverso la seduzione che attraverso la coercizione. Non ti viene detto cosa devi pensare. Ti viene mostrato ciò che è più probabile che tu voglia pensare.

L’algoritmo, nonostante quanto raccontino i vari palchi TED, non è mai neutrale. E quella neutralità apparente può diventare la forma più sofisticata dell’ideologia: nasconde le scelte politiche incorporate nel codice dietro il velo rassicurante della necessità tecnica.

La domanda, allora, cambia. Non dobbiamo chiederci soltanto se l’intelligenza artificiale possa essere etica. Dobbiamo chiederci se il potere che la governa possa essere democratico.

Gli algoritmi possono imparare moltissime cose. La giustizia, però, non si scarica da un dataset. Che fare, allora? La prima risposta dovrebbe essere rendere visibile l'invisibile. Capire come funzionano gli algoritmi non significa trasformare ogni cittadino in un programmatore: significa comprenderne il funzionamento politico. Chi decide cosa ottimizzare? Quale comportamento viene premiato, quale penalizzato? Chi stabilisce gli obiettivi? Dobbiamo imparare a riconoscere che la personalizzazione può essere una forma di sorveglianza, che l'engagement è anche estrazione di valore, che ciò che appare neutrale può nascondere precise scelte economiche e politiche. Serve, in altre parole, un autentico lavoro di controinformazione.

La seconda risposta consiste nel costruire infrastrutture alternative: piattaforme cooperative, sistemi interoperabili, modelli aperti, tecnologie sottratte — almeno in parte — alla logica esclusiva della rendita. L'egemonia non si combatte soltanto con le idee: si combatte costruendo strutture capaci di rendere praticabili idee diverse. Non è fantascienza: il software libero esiste da decenni ed esistono comunità, infrastrutture, modelli cooperativi che dimostrano come la tecnologia possa essere organizzata secondo logiche diverse da quella della massimizzazione del profitto.

La terza risposta è tornare a chiedersi chi possiede cosa. Non bastano algoritmi etici, responsabili, trasparenti: non basta sapere che una tecnologia è stata progettata correttamente, se non ci si chiede chi ne controlla le infrastrutture, chi beneficia del suo funzionamento, chi paga il prezzo delle sue conseguenze.

La questione, in fondo, è la stessa che accompagna ogni grande trasformazione tecnologica: non ciò che possiamo fare, ma chi decide che cosa faremo.

Ed è forse proprio qui che Magnifica Humanitas, pur senza spingersi fino in fondo, diventa un documento politicamente interessante. Perché nel momento stesso in cui la Chiesa riconosce che l'intelligenza artificiale non è neutrale, che il lavoro può essere impoverito, che il potere tecnologico può concentrarsi, che la dignità umana può essere messa in discussione, non può più pretendere che il problema sia soltanto morale.

La morale, da sola, non governa i server. Non decide chi possiede i dati. Non redistribuisce la potenza di calcolo. Non democratizza una piattaforma. Per tutto questo serve la politica.

L'enciclica di Leone XIV ha il merito, forse involontario, di aver scoperto le carte: la conversione dell'algoritmo è un'illusione teologica, ma la sua socializzazione è un'urgenza politica. L'alternativa che ci troviamo davanti non è tra un'intelligenza artificiale spietata e una benevola, bensì tra la feudalizzazione digitale della conoscenza e la riappropriazione collettiva degli strumenti con cui immaginiamo il futuro.

Perché il futuro, alla fine, non sarà scritto dagli algoritmi. Sarà scritto da chi avrà avuto il coraggio — e il potere — di decidere come quegli algoritmi dovranno servirci.