«L’uomo, non il superuomo sia il fine»

(Jonas 1997, 154).

1. La “Seconda Grande Trasformazione” e il redesign della società moderna

La dottrina sociale della Chiesa nasce, com’è noto, come risposta alle varie “rivoluzioni” che caratterizzano il mondo moderno (scientifica, politica, industriale, demografica) e nel loro insieme realizzano la “Grande Trasformazione”: infatti aveva previsto Adam Smith che il radicale cambiamento di produrre e distribuire i beni avrebbe trasformato di conseguenza la cultura e la struttura socio-politica dell’intero ambiente di vita. E come Polanyi coniò tale termine per descrivere il fatto che «non è più l’economia ad essere inserita nei rapporti sociali, ma sono i rapporti sociali ad essere inseriti nel sistema economico» (Polanyi 1974, 113), così oggi questa forza trasformatrice viene esercitata dalle nuove tecnologie, non a caso gestite dalle grandi aziende del Big Tech (Alphabet, Apple, Meta, Amazon, Microsoft, ma anche le cinesi Alibaba, Xiaomi e altre) che forniscono l’infrastruttura della “Seconda Grande Trasformazione”.

Mentre la divisione del lavoro ha caratterizzato il passaggio alla società industriale moderna, la divisione del sapere segna quello alla società digitale: il modello “wikipedia” indica iconicamente la nuova realtà di produrre e usufruire del sapere in un meccanismo open source che da un lato ha rimosso i classici gatekeeper del sapere, mentre dall’altro ha reso tutti consumatori e produttori di informazioni allo stesso momento (prosumer). Quest’ultimi – quali nuovi soggetti della consumosfera digitale – sono quei consumatori che attraverso la loro – spesso inconsapevole – messa a disposizione dei dati creano i presupposti per un’articolazione del tutto nuovo del mercato capitalistico.

Così ci troviamo di fronte a una rivoluzione o meglio trasformazione digitale della società, che chiede senz’altro un aggiornamento di quei principi della giustizia sociale – dignità personale, solidarietà, sussidiarietà, bene comune – elaborati nella tradizione dei documenti della dottrina sociale della Chiesa sin dal 1891. La competenza per sostenere questo confronto le deriva dalla considerazione che la trasformazione digitale non è una dinamica disruptiva, ma viene accolta da una società strutturalmente (forse non psicologicamente o eticamente) predisposta a tale avanguardia tecnologica: qualche interprete la ritiene infatti come ultima conseguenza del mondo moderno stesso. Così la dottrina sociale della Chiesa oggi è chiamata a rispondere a questo redesign della società in atto per l’impiego onnipervasivo delle nuove tecnologie: nella vita onlife (Floridi 2020, 77), non ha più senso il termine “offline”, in quanto non esiste ambito della vita – anche di chi non utilizza le nuove tecnologie – che non si trovi già (o nel prossimo futuro) trasformato all’interno dell’infosfera dalle nuove tecnologie dell’Intelligenza Artificiale e del digitale. Per questo motivo, già nel 2016 l’assemblea generale dell’ONU si è espressa favorevolmente per definire l’accesso all’internet un diritto dell’uomo.

2. Il transumanesimo e la sfida antropologica

Formulando tale diritto, si è statuito senz’altro un segnale forte per l’istituzione dei diritti umani, formulati per proteggere la dignità irriducibile della persona umana, come criterio etico nei confronti delle nuove tecnologie, che secondo il programma del transumanesimo sono chiamate a realizzare il «passaggio da una visione del mondo antropocentrica a una datocentrica» (Harari 2018, 476). Questo pensiero, che realizza il superamento dell’essere umano grazie alla fusione non solo delle sue relazioni sociali, ma anche della sua natura biologica con le tecnologie – creando la figura del cyborg –, vede così l’umanità finalmente in grado di prendere in mano e programmare la propria evoluzione che non è più lasciata al disegno divino (provvidenza) o al caso della natura (evoluzione). In questo modo, il transumanesimo prende definitivamente il posto delle religioni e delle ideologie politiche, nonché dei vari “programmi” umanistici inseguiti nella storia della cultura occidentale: Yuval Harari afferma infatti – adoperando un vocabolario religioso – che per «ottenere l’immortalità, la beatitudine eterna e i divini poteri della creazione, abbiamo bisogno di elaborare immensi quantitativi di dati, di gran lunga superiori alle capacità del cervello umano. Quindi gli algoritmi lo faranno al posto nostro» (ivi, 482).

Si realizza così lo storico giudizio di Jacques Ellul che la tecnica moderna è «desacralizzante» in quanto «dimostra che il mistero non esiste»? In altre parole, la tecnologia rende la religione superflua? Così sembrano suggerire anche studi recenti che rilevano una riduzione di religiosità in società – emblematicamente sarebbero gli Stati Uniti – che hanno fortemente introdotto tecnologie di Intelligenza Artificiale. Proprio con il transumanesimo si completa dunque la dinamica, iniziata nell’illuminismo, di destituire la religione dalla sua competenza per l’essere umano, affidandolo in tutte le sue dimensioni sempre di più ai potenziali interpretativi e risolutivi della tecnologia.

In questo modo, il transumanesimo formula come programma le conseguenze post-antropologiche della trasformazione digitale della realtà, in cui il corpo assume un ruolo sempre più secondario a ciò che è la realtà: la comunicazione senza presenza fisica grazie alle tecnologie digitali, lo scambio e il trasferimento di informazioni senza discorso, il lavoro staccato dalle fatiche fisiche grazie alla robotica ecc. E se evidentemente qualsiasi innovazione culturale-tecnologica realizza sempre anche questa dinamica, i transumanisti affermano che il cyborg con il suo superamento dei limiti del corpo biologico è il destino inevitabile dell’essere umano.

Secondo tale narrativa, le istituzioni liberal-democratiche apparterrebbero al passato mentre il progresso dipende ormai solo dalle nuove tecnologie digitali. Le questioni intorno all’identità della persona si trasferiscono così dal loro luogo originario nel corpo umano sempre di più verso la dimensione generale dell’Intelligenza Artificiale. E nota bene le attuali tendenze verso un culto del corpo – la sua ottimizzazione tramite sport, alimentazione, wellness e cura – non sono affatto una controindicazione di tale analisi, quanto un fenomeno che si comprende del tutto all’interno di tali dinamiche transumane (Puzio 2022, 295): a volte come controreazione che condivide lo stesso narcisismo del soggetto contemporaneo che adopera le nuove tecnologie per “rispecchiarvisi” da solo in esse, a volte anche come espressione della stessa intenzione di superamento transumano della limitatezza del corpo biologico.

In altre parole, ogni futurologia odierna – quale ad esempio è il transumanesimo – è in fondo una visione circa l’uomo che incide sull’oggi e porta per questo la società verso una trasformazione. Ammettendo che certamente non si tratta di una prospettiva deterministica, lo stesso Harari invita chiunque non ritenga questo un futuro auspicabile o concepibile per l’essere umano a «pensare e […] comportar[si] in modi nuovi che eviteranno il verificarsi di queste particolari possibilità» (Harari 2018, 483). Occorre dunque un accertamento e una consapevolizzazione su che cos’è (oppure chi è o dov’è) l’uomo per comprendere come effettivamente pensare e comportarsi – come decisori privati e pubblici – al fine di garantire la dignità della persona nell’infosfera. Riprendendo da Kant la distinzione della domanda antropologica nei suoi tre aspetti del 1) Che cosa posso sapere?, 2) Che cosa devo fare?, 3) Che cosa mi è dato sperare?, non solo ci si rende conto che il redesign digitale della società muta sensibilmente le condizioni del sapere, dell’agire morale e delle speranze, per cui cambia i presupposti interpretativi la questione circa il presupposto antropologico della società (e che si articola attraverso la comprensione che l’essere umano odierno ha di se stesso, nel suo rapporto a sé, agli altri, al mondo e all’assoluto), ma ci indicano anche le linee del confronto di tale sfida con la dottrina sociale della Chiesa che ha impostato la questione etica da sempre sulla base di un’antropologia e quindi di una chiara consapevolezza di queste dimensioni dell’uomo e della donna.

3. Orizzonti computazionali del “pensare” e dell’“agire”

Mentre con la domanda «le macchine possono pensare?» Alan Turing (1912-1954) ha formulato nel 1950 il paradigma della computazione dell’intelligenza umana con meccanismi digitali, di seguito si affermò – con riferimenti che risalgono fino al pensiero di Gottfried Wilhelm von Leibniz (1646-1716) – la prospettiva di arrivare ad una riproduzione artificiale anche delle scelte etico-pratiche dell’essere umano e quindi alla possibilità di riprodurre azioni morali. Secondo tale paradigma, tutto – non solo i pensieri astratti, ma anche le scelte umane – è rappresentabile come informazione, cioè in una logica di calcolo binario con le sole cifre 0 e 1. Nel caso si dovesse rispondere non solo affermativamente alla domanda di Turing, ma anche assegnare alla macchina l’autonomia morale del suo agire, avremmo raggiunto il tanto sperato livello transumano di “Intelligenza Artificiale forte” o “generale” che comunemente è indicato quando si parla di «superintelligenza» (Nick Bostrom) o «singolarità» (Ray Kurzweil).

Sebbene molti ritengono superato il Test di Turing con l’arrivo di ChatGPT, ciò però non basta per rispondere affermativamente alla sua domanda, proprio perché – come ha evidenziato John Searle – anche se l’Intelligenza Artificiale sa riprodurre perfettamente il linguaggio umano non dispone di semantica e cioè non comprende il significato delle informazioni in codice binario con cui calcola la combinazione delle parole. Luciano Floridi ha ulteriormente plausibilizzato la differenza tra i due tipi di intelligenza attraverso la teoria che nel caso dell’Intelligenza Artificiale non si tratta di una sintesi tra intelligenza umana e tecnologia digitale, ma piuttosto di uno «scollamento» tra la prima e le azioni «che sarebbero chiamati intelligenti se un essere umano si comportasse così» (cit. in Floridi 2020, 34). L’Intelligenza Artificiale ci sorprende infatti con la capacità di realizzare tali azioni completamente senza l’impiego di intelligenza, e nella misura in cui dagli umani essa viene utilizzata proprio per questo, essa esercita il potere della trasformazione o del redesign della realtà. Gli algoritmi, dunque, non hanno minimamente il compito di spiegare l’intelligenza umana e l’enigma della coscienza umana, compito che spetterebbe per Faggin casomai alla fisica quantistica, senza che però essa possa mai comprenderla in quanto si tratta di un fenomeno «irriducibile»: pertanto un’emergenza di coscienza dalla complessità delle tecnologie digitali non sarebbe da aspettarsi in quanto essa debba essere cercata piuttosto a monte che non a valle delle evoluzioni tecnologiche (Faggin 2022): esperienza interiore e coscienza, dunque, non sono affatto fenomeni algoritmici.

Allo stesso modo, abbracciare la complessità di una decisione etica in un calcolo di una macchina, anche con la prospettiva di voler computerizzare la morale, sembra un compito alquanto riduttivo di affrontare ciò che succede all’interno di una presa di coscienza responsabile da parte del soggetto umano. Eppure, bisogna affrontare il fatto che i sistemi informativi prendono decisioni già automaticamente sulla base di algoritmi (automated decision making), dimostrando come la nuova tecnologia sostituisce processi caratterizzanti il mondo della vita. Quale scuola secondaria devono frequentare i ragazzi, con quale frequenza devono girare le pattuglie di polizia, di chi sospettare di frode di servizi sociali? Circa tali questioni già oggi a New York decidono sistemi automated decision making. Ampiamente diffusi sono sistemi di riconoscimento dei dati biometrici e l’utilizzo di tali sistemi per l’allocazione di risorse sociali, quale ad esempio i posti limitati delle università e il loro utilizzo nell’ambito medico. La questione su come “operazionalizzare” in questi ambiti i criteri etici della dignità della persona, è senz’altro uno dei compiti più urgenti, e non a caso l’Unione Europea ha approvato il 13 marzo 2024 l’AI Act, la prima legislazione mondiale circa l’Intelligenza Artificiale e i sistemi automated decision making, vietando l’utilizzo di tecnologie che ledono la dignità della persona come ad esempio la sorveglianza dei suoi dati biometrici ai posti di lavoro.

Mentre dunque il pericolo non sta nel fatto che le macchine potranno pensare e agire moralmente come gli esseri umano, ciò che avviene è senz’altro lo sciogliersi della distinzione categoriale tra naturale e artificiale, che ha garantito una distanza tra l’essere umano e la tecnologia, permettendo così in passato l’affermazione dell’etica della tecnologia: ormai i meccanismi artificial-intelligenti segnano l’ambiente dell’essere umano, in cui egli svolge ciò che per lui è pensare e agire, ridisegnando di conseguenza anche ciò che sono le istituzioni principali della società – dai diritti alla democrazia, dal libero mercato al lavoro.

Secondo Shoshana Zuboff, infatti, ciò che succede nella trasformazione digitale è infatti il progetto di “automatizzare” i cittadini: siccome – come è stato già accennato – le nuove infrastrutture capaci di registrare capillarmente la realtà sono in mani private, cioè gli attori che le gestiscono – i titoli di alcune aziende del Big Tech superano il PIL di Stati come l’Italia e i “Magnifici 7 di Wall Street” superano nel loro valore il PIL della Germania, del Giappone e dell’India messe insieme – tendono a indirizzare i comportamenti non solo consumistici, ma anche sociali degli individui. Come ha “dimostrato” Cambridge Analytica, questi meccanismi possono essere sfruttati anche per indirizzare l’opinione democratica, determinando delle elezioni o votazioni su temi sensibili. Così il capitalismo industriale basato sulla divisione del sapere è diventato sempre di più un «capitalismo della sorveglianza» in cui secondo Zuboff i suoi attori principali «si sono impossessati della divisione dell’apprendimento nella società» (Zuboff 2019, 369). In questa prospettiva, sembra realizzarsi ciò che Papa Francesco ha chiamato nella Fratelli tutti le «ombre di un mondo chiuso» che rende impossibile una comune progettualità e un comune prendersi cura della casa comune (cap. I) in cui «il sogno di costruire insieme la giustizia e la pace sembra un’utopia di altri tempi» (Fratelli tutti, 2020, 30).

3. Orizzonti antropologici ed etici per la “speranza”

Papa Francesco esprime la speranza eticamente vincolante che ai «progressi continui» della tecnologia nonché «alla crescita delle innovazioni scientifiche e tecnologiche corrispondesse anche una sempre maggiore equità e inclusione sociale» (Fratelli tutti, 31), indicando così i grandi rischi sociali ed etici connessi con la realizzazione delle nuove tecnologie. Per quanto le nuove tecnologie trasformeranno le nostre realtà, non ci risolveranno i problemi etici della giustizia sociale come invece è l’attesa del transumanesimo. Queste speranze nascono dall’entusiasmo che «il Verbo si è fatto macchina», come ha parafrasato Bodei osservando che con le nuove tecnologie «la ragione e il linguaggio, oggettivati in forma di algoritmo, abitano in corpi non umani, creando una “umanità aumentata”» (Bodei 2019, 297). E considerando che per Kant la piena realizzazione della ragion pratica nel mondo fisico costituiva il «sommo bene» o la «felicità», allora per il transumanesimo tale speranza sembra finalmente realizzabile. Nota bene che Kant identificò tale speranza con l’impegno morale-culturale dell’umanità e avrebbe escluso che possa diventare un programma di evoluzione tecnologica.

Così non meraviglia che lo stesso Kant poteva identificarla addirittura con il «regno di Dio» – anche se compreso in chiave morale-razionale –, ed è stato di conseguenza Marx a individuarne la portata politica di tale speranza trasformandola in rivoluzione sociale. Benedetto XVI nell’enciclica Spe salvi (2007) non solo ha analizzato acutamente questa immanentizzazione (leggi: strumentalizzazione) della «speranza» cristiana in programma politico che misconosce «i limiti che sono propri della natura umana» (Spe salvi, 20, 35), ma ha dato in questo modo anche la chiave per comprendere il rischio della trasformazione culturale-antropologica delle nuove tecnologie. La dottrina sociale della Chiesa si oppone, al contrario, alla strumentalizzazione politica o economica della fragilità e della limitatezza dell’essere umano grazie alle possibilità delle nuove tecnologie, difendendo con i suoi principi sociali l’invalicabile a priori antropologico.

L’esperienza della contingenza della propria esistenza, che sta alla base dell’ermeneutica religiosa della speranza di salvezza, si evince quindi in questo contesto come originaria e radicalizza la testimonianza della dottrina sociale della Chiesa a favore della dignità umana. E se è vero che in questa prospettiva i limiti fanno positivamente parte della natura umana biologica, allora si comprende il rischio che le nuove tecnologie – che ridisegnando la società realizzano la dinamica del loro superamento – accentuano la dinamica già insita nella società moderna ossia che «[l]a libertà senza precedenti che la nostra società offre ai suoi membri è corredata da un’impotenza senza precedenti» (Leo Strauss).

L’abbattimento dei limiti nel superamento della natura limitata dell’essere umano quale unica sede della sua irriducibile dignità, si esprime non a caso nella perdita dell’alterità. Solo chi si riconosce in modo costruttivo dotato di limiti – perché sono esse che costituiscono l’identità – può trovare nell’altro o nell’altra una realtà positiva per l’affermazione del sé. Dunque quella dinamica che è la base di ogni etica sociale e che nella mentalità narcisa della società contemporanea è sempre meno tollerata. Nel transumanesimo, infatti, non può essere concepita un’alterità: tutto sta in relazione ed è interconnesso. Le identità diventano dunque momenti emergenti all’interno di un generale flusso di dati, ma non sono costituite positivamente al di fuori di essi come invece richiederebbe il riconoscimento incondizionato dell’altro nella sua dignità. Solo in quest’ottica, però, l’altro – anche nelle sue fragilità e nei suoi limiti – diventa il luogo della speranza perché rimanda all’assolutamente altro, ossia Dio. Sta in questa dinamica, tecnologicamente irriproducibile, la comprensione della dignità umana secondo la dottrina sociale della Chiesa. Nessuna ottimizzazione dell’uomo tramite le nuove tecnologie – che rimediano giustamente alle sue fragilità – può ovviare a questa fragilità originaria e costitutiva – accolta positivamente – che si esprime in quell’esperienza di contingenza che rimanda ogni individuo ad un’alterità. Non a caso, Giovanni Paolo II sottolineava che l’Intelligenza Artificiale non è una «ragione che consente all’uomo di pensarsi come creatura, di discernere ciò che è bene, vero e buono, di orientare grazie all’atto volontario la sua vita e di giungere al suo termine» (Alla Pontificia Accademia delle Scienze, 28 ottobre 1994, 8).

5. Conclusione: l’approccio del Magistero sociale per affrontare la sfida dell’Intelligenza Artificiale

Ripetutamente Papa Francesco ha espresso la sua preoccupazione del «rischio che l’uomo venga tecnologizzato, invece che la tecnica umanizzata: a cosiddette “macchine intelligenti” vengono frettolosamente attribuite capacità che sono propriamente umane» (Alla pontificia Accademia della Vita, 28 febbraio 2019). Per questo, egli ha sottolineato l’importanza di accompagnare lo sviluppo tecnologico con «un’etica fondata su una visione del bene comune, un’etica di libertà, responsabilità e fraternità, capace di favorire il pieno sviluppo delle persone in relazione con gli altri e con il creato» (Al seminario “Il bene comune nell’era digitale”, 27 settembre 2019). Ripetutamente egli ha avanzato questa sua richiesta di sottoporre lo sviluppo tecnologico a principi etici incentrati sulla dignità umana con il termine coniato da Paolo Benanti “algoretica” (Benanti 2018).

Assumendosi la responsabilità della sua autorità morale universale, di fronte ad una trasformazione sociale verso un «mondo delle interfacce robotizzate, dove le tecnologie mettono in atto la loro volontà e proteggono i potenti da ogni sfida» (Zuboff 2019, 240), il Pontefice ha cercato di dare operazionalità concreta a tale esigenza etica con la formulazione di sei criteri base nel «Rome Call for AI Ethics» del 28 febbraio 2020, firmato dal Vaticano insieme a rappresentanti di Microsoft, IBM, FAO e del Governo italiano, e condiviso anche dalle religioni abramitiche tre anni dopo.

Con questi criteri e l’impegno per un’etica universale delle nuove tecnologie, si cerca di garantire anche per l’Intelligenza Artificiale la convinzione di Giovanni Paolo II che «la tecnica è indubbiamente un’alleata dell’uomo. Essa gli facilita il lavoro, lo perfeziona, lo accelera e lo moltiplica» (Laborem exercens, 1981, 5): ma proprio ciò è diventata una sfida in quanto ormai «[l]a specializzazione propria della tecnologia implica una notevole difficoltà ad avere uno sguardo d’insieme» (Laudato si’, 2015, 110).

Oltre le sfide etico-sociali per la dignità della persona e di conseguenza per ogni campo concreto della dottrina sociale della Chiesa – dal lavoro all’economia, dalla democrazia all’inclusione sociale ecc. – a livello metodologico la “Seconda Grande Trasformazione” cambia la struttura del destinatario principale ossia della società: la folla della società industriale si trasforma sempre di più nello «sciame digitale» (Han 2015, 22). Alla massa, divisa in classi e rappresentabili da partiti popolari (di destra o sinistra), si sostituisce un mero insieme di individui narcisisticamente auto-centrati. Lontano da dissolversi nella massa, l’individuo dello sciame si «esprime in modo anonimo, ma di norma ha un profilo e lavora senza posa all’ottimizzazione di sé. Invece di essere “Nessuno”, è insistentemente Qualcuno che si espone e ambisce all’attenzione» (ivi, p. 23). Nello sciame, tutti i legami sono effimeri, spontanei, precari. L’uomo e la donna dello sciame, di fronte alla sfida di ricostruire le relazioni e di aprirsi all’altro, devono essere valorizzati a partire da un appello di incondizionata accoglienza, come quella del buon Samaritano, che non a caso sta al centro dell’enciclica Fratelli tutti e che indica, secondo il Magistero di Papa Francesco, il punto di partenza per la dottrina sociale della Chiesa nel mondo dopo la modernità.