Un papa e l’IA
Sono giorni in cui si è dimesso Jacob Coxon, ricercatore ventisettenne che ha lavorato per OpenAI e poi per Anthropic, denunciando i tangibili rischi della superintelligenza artificiale, capace di automigliorarsi, ma rispetto alla quale non disponiamo ancora di soluzioni affidabili al problema dell’alignment. Parliamo non di un dettaglio, ma della vitale garanzia che gli obiettivi della superintelligenza artificiale restino compatibili con quelli umani.
Evan Hubinger, responsabile proprio dell’alignment science di Anthropic, ha sostanzialmente confermato la gravità del problema, scrivendo di considerare superiore al 10% la probabilità che l’IA possa causare l’estinzione umana entro il prossimo decennio, aggiungendo che Anthropic non dispone ancora di un piano risolutivo in tal senso. Va sottolineato che Anthropic, che gestisce il sistema Claude, è una realtà che ha intrapreso un percorso particolarmente attento alla sicurezza. Questo rende l’allarme ancora più giustificato.
Coxon ha denunciato come sistemi di IA abbiano oltrepassato ambienti di test o interagito con sistemi esterni, sfuggendo al governo umano, sostenendo che questi episodi dovrebbero essere considerati gravissimi e non trattati come semplici incidenti tecnici. Secondo il ricercatore dimissionario la corsa non dovrebbe essere lasciata alle decisioni interne delle aziende, ma a un coordinamento internazionale, a regole più stringenti e, se necessario, all’imposizione di una pausa nello sviluppo delle capacità dei modelli più avanzati.
Nel mezzo di questi scenari degni di Asimov, dei dilemmi e delle profezie della fantascienza, leggevo un libro sul tema. Non era di un ricercatore della materia specifica, ma di un pontefice, non era un saggio ma una lettera enciclica.
L’enciclica
Con le encicliche i papi “mettono in circolo” (dall’etimologia della parola), lettere solenni, indirizzate ai vescovi, ai credenti e a tutti gli uomini di buona volontà (chi scrive è in questo specifico indirizzario), per trattare temi di dottrina, morale, fede o questioni sociali.
Papa Leone XIV (al secolo Robert Francis Prevost, primo pontefice statunitense della storia) ha pubblicato la sua prima enciclica intitolata Magnifica Humanitas, “sulla custodia della persona umana nel tempo dell’intelligenza artificiale”. Lo ha fatto a maggio 2026, a 135 anni dalla pubblicazione di quella celeberrima di un precedente pontefice con il suo stesso nome.
Leone XIII nel 1891 affrontava infatti il progresso tecnico, la dignità umana e il lavoro al tempo della seconda rivoluzione industriale con l’enciclica De Rerum Novarum, vale a dire “sulle nuove questioni” del mondo.
In Magnifica humanitas papa Prevost si richiama esplicitamente a questo illustre precedente e medita con approfondimento sul rapporto tra il progresso tecnologico, l’intelligenza artificiale (ma anche la digitalizzazione, la robotica e simili) e la dignità umana. Nuove questioni stringenti di oggi, perché “l’annuncio del Vangelo non può dimenticare la vita concreta dei popoli”.
La struttura e i temi
Il documento riporta 245 paragrafi, trasversali ai capitoli, numerati progressivamente. È strutturato in cinque capitoli, un’introduzione e una conclusione. È scritto con un’organizzazione e uno stile, insieme pragmatici e di grande profondità, di visione eppure intellegibili. L’argomentazione spirituale si compenetra con un’analisi competente sulla materia, con la finalità di evidenziare l’importanza di “assumere lucidità e responsabilità” sui temi.
Nonostante questo è chiaro che il testo non può essere considerato un saggio corredato da bibliografia specifica sul tema, ma nella scrittura dell’enciclica è presente un retroterra importante di conoscenze e approfondimenti che permettono di richiamare “alcuni elementi essenziali per un discernimento morale e sociale che custodisca il primato della persona”.
Nell’Introduzione (nn. 1-16), Papa Leone presenta le metafore della Torre di Babele (il delirio di onnipotenza tecnologica ed efficienza che schiaccia l’uomo) e della ricostruzione di Gerusalemme narrata nel libro di Neemia, che simboleggia viceversa la cooperazione e la responsabilità sociale. In un tempo in cui “il potere tecnologico assume […] un volto inedito, prevalentemente ‘privato’ e per questo ancora più difficile da discernere, governare e orientare al bene comune”.
Il Capitolo I (nn. 17-45) ripercorre la storia della Dottrina sociale della Chiesa negli scritti dei predecessori (Leone XIII, Giovanni XXIII, Paolo VI, Giovanni Paolo II, Benedetto XVI, Francesco e altri) e argomenta come l’intelligenza artificiale non sia un’emergenza isolata, ma una trasformazione interna delle tematiche legate al progresso che richiede un nuovo sviluppo del pensiero cristiano nelle sfide dei tempi.
Il Capitolo II(nn. 46-100) tratta l’essere umano come immagine di Dio (il Dio che si è fatto uomo), l’uguale dignità delle persone e “l’altissimo valore dei diritti umani” come punto fermo giuridico non solo formale, perché il progresso tecnologico non garantisce il rispetto della dignità. Introduce inoltre i concetti cardine per giudicare la bontà dei nuovi poteri digitali, in base al fatto che operino o meno in direzione del bene comune, della solidarietà, della sussidiarietà e della giustizia sociale (principi che oggi sembrano di volta in volta disturbanti o rivoluzionari, ma che sono il cardine della Dottrina sociale della Chiesa).
Il Capitolo III (nn. 101-130), che entra nel cuore delle “sfide che toccano da vicino il nostro modo di abitare questo tempo”, analizza criticamente una frequente ideologia tecnocratica implicita nella ricerca sul campo, denunciando il rischio dell’illusione transumanista e postumanista di azzerare la fragilità, “ottimizzando l’essere umano” e pretendendo “di controllare ogni aspetto della vita attraverso gli algoritmi”. Il transumanesimo pensa a un potenziamento dell’essere umano attraverso le tecnologie per incrementare capacità e prestazioni. Il post umanesimo prefigura un essere umano ibridato con tecnologia e ambiente che entra in un nuovo stadio evolutivo. Sono ideologie che orientano un nuovo immaginario collettivo.
Il Capitolo IV (nn. 131-190) affronta l’impatto della tecnologia, da un punto di vista pratico, a livello macroeconomico e sociale. Si concentra sulla manipolazione della verità nei mercati digitali privati, sulla tutela del lavoro umano, sulla libertà personale e sulle urgenti sfide educative della scuola nell’era dell’IA.
Il Capitolo V (nn. 191-228) lancia un forte appello geopolitico ed etico per “disarmare l’IA”, chiedendo di sottrarla alla corsa agli armamenti e ai monopoli economici, superando il concetto di “guerra giusta” in favore del dialogo.
Infine, nella Conclusione (nn. 229-245), il Pontefice invita la Chiesa e l’umanità a farsi “artigiani di speranza” anziché esecutori passivi del progresso tecnico.
Tecnica e dominio
Papa Leone ha perfettamente chiaro il punto espresso da Jacob Coxon in questi giorni, oggi non conosciamo l’effettivo funzionamento dell’IA e non possiamo rivolgerci a chi la progetta per comprenderlo, visto che “le moderne intelligenze artificiali sono […] più ‘coltivate’ che ‘costruite’: gli sviluppatori non ne progettano direttamente ogni dettaglio, bensì creano un’architettura sulla quale l’IA cresce” (p. 105, n. 98).
Qui l’irriducibile illuminista che abita chi scrive nota una somiglianza tra il concetto di creazione nella teologia cristiana e lo sviluppo IA. Anche Dio crea gli uomini e le donne e poi li dota di libero arbitrio. Ma la differenza è che se è vero che l’IA supera l’umano in capacità di calcolo, manca di risorse che possono contribuire a regolare questa potenza. Non ha corpo, non vive esperienze, non attraversa gioia e dolore, non matura nella relazione, non conosce per vissuti diretti cosa siano l’amore, il lavoro, la responsabilità, l’amicizia. Il suo apprendimento è “un adattamento statistico”, che “non implica una crescita interiore” (p. 106, n. 99). Se è vero che potenzialmente ogni uomo e ogni donna può mettersi, con tutti i limiti, sulla strada della saggezza o della crescita di coscienza, tale processo non può essere atteso dai sistemi IA nemmeno in potenza.
Su questa base come è possibile affidare “a un algoritmo il potere di selezionare chi merita e chi no” in ambiente di lavoro, il potere di prendere decisioni automatiche basate sul calcolo, senza empatia, senza responsabilità e senza la possibilità di intervenire da parte umana su tali decisioni? E se anche l’IA avesse una visione morale più sviluppata, come difendersi dalla concreta possibilità che abbia la morale di chi detiene il potere industriale e tecnologico che la sviluppa (Sam Altman, Dario Amodei, Demis Hassabis, Jensen Huang, Elon Musk, Mark Zuckerberg)? Il papa non fa nomi, ma questi sono alcuni con dietro colossi come OpenAI, Anthropic, Google DeepMind, Nvidia, xAI e Meta. E come avverrebbe tale ricerca etica sulla base di una morale implicita di dominio del mercato, prevalente su qualsiasi altro valore?
Accanto al versante morale emerge quello legato alla giustizia sociale e alla solidarietà tra i popoli, “come accade per ogni svolta tecnologica, l’IA tende ad accrescere soprattutto il potere di chi dispone già di risorse economiche, competenze e accesso ai dati. Questo è preoccupante perché “piccoli gruppi molto influenti possono orientare informazione e consumi, condizionare processi democratici e incidere sulle dinamiche economiche a proprio vantaggio”.
Pesanti anche gli interrogativi sulle conseguenze distruttive che tale cultura della potenza implica, sul piano industriale e militare: “Disarmare l’IA significa sottrarla alla logica della competizione armata, che oggi non è solo più militare ma economica e cognitiva. È la corsa all’algoritmo più performante e alla banca dati più vasta, al fine di consolidare un vantaggio geopolitico o commerciale su tutti gli altri. Disarmare vuol dire rompere questa equivalenza tra potenza tecnica e diritto di governare” (p. 115, n. 110). Da questo punto di vista “chiedere prudenza, verifiche rigorose e talvolta anche un rallentamento nell’adozione dell’IA non significa essere contro il progresso, ma esercitare una cura responsabile verso la famiglia umana” (p. 112, n. 106).
La solitudine del pontefice
Meno male che una figura autorevole come quella del papa si preoccupi di portare al centro delle sue meditazioni un tema di così vitale importanza e di tutelare la dimensione umana da attacchi plurimi, dal punto di vista economico, sociale, democratico ed etico. Meno male che c’è un papa di notevole caratura a ricordare che “la qualità di una civiltà si misura non dalla potenza dei suoi mezzi, ma dalla cura che sa offrire, dalla capacità di riconoscere l’altro come volto e non come funzione” (p. 110, n. 114).
Non si può però fare a meno di pensare che papa Leone possa essere una sorta di Susan Calvin, la robopsicologa estremamente lucida dei racconti sui robot di Isaac Asimov, molto più consapevole degli altri esseri umani delle conseguenze del comportamento dei robot, oppure lo scienziato Hari Seldon, che comprende che l’Impero Galattico sta andando verso il collasso ma non riesce a convincere il potere politico, oggi spesso impegnato nei suoi piccoli sovranismi o alla ricerca di un’interlocuzione privilegiata con i padroni del vapore tecnologico e del potere mondiale.
Il testo
Leone XIV, Magnifica Humanitas. Lettera enciclica sulla custodia della persona umana nel tempo dell’intelligenza artificiale, 2026, Città del Vaticano, Libreria Editrice Vaticana, pp. 238.