Dal papa un monito alla politica: «Disarmare l'intelligenza artificiale»

C'è una parola nell'enciclica Magnifica Humanitas che Leone XIV ha pubblicato e che ha tutto il sapore di un gesto coraggioso, quasi inaspettato da un documento papale. La parola è disarmare. «Disarmare l'IA - scrive il Papa - significa sottrarla alla logica della competizione armata, che oggi non è più solo militare ma economica e cognitiva». Non è poco. Ho riletto quella frase tre o quattro volte. Non perché fosse difficile da capire, al contrario è cristallina, ma perché raramente si sente dire una cosa del genere con tanta precisione da chi abita i palazzi del potere, religioso o politico che sia. La corsa all'algoritmo più performante e alla banca dati più vasta come nuova forma di guerra. I monopoli dell'intelligenza artificiale come nuova asimmetria tra inclusi ed esclusi. I dati degli utenti, i nostri dati, come bene comune da sottrarre ai privati che oggi li controllano. Non è il solito appello vago all'etica dell'innovazione. È qualcosa di più scomodo.

Scrivo di intelligenza artificiale ormai da qualche anno, con la sensazione di parlare di qualcosa che molti ancora percepivano come futuribile. Più fantascienza che realtà. Discutevamo di come scongiurare la disoccupazione da automazione e robotica, quando in Italia si cominciava appena a discutere di 5G, in quel periodo sospeso che precedeva la pandemia. Poi ho scritto del doomscrolling, della dipendenza da scrolling compulsivo e del modo in cui i nostri cervelli vengono letteralmente riprogrammati dalla sequenza infinita di notifiche progettata per tenerci incollati. Ogni volta la sensazione era la stessa: siamo davanti a qualcosa di enorme, e stiamo facendo finta che basti regolamentarlo un po' ai margini.

L'enciclica di Leone XIV va esattamente in quella direzione, ma con una forza argomentativa che fa un certo effetto leggere in un documento della Santa Sede. «Non serve un'IA più morale se questa morale è decisa da pochi». In questo senso disarmare l'AI non significa spegnerla, ma indirizzarla verso principi diversi da quelli che oggi guidano il mondo. Invece che verso il profitto fine a se stesso, lo sfruttamento di individui e risorse, la corsa tecnologica al riarmo, verso l'inclusione, la sostenibilità, la creazione di benessere e opportunità per tutti. Sono concetti che potrebbero stare benissimo in un dibattito politico, in un'aula parlamentare, in un programma politico della sinistra democratica.

E invece li troviamo in una lettera indirizzata al mondo intero da un Papa che sceglie di chiamarsi Leone XIV, richiamando esplicitamente Leone XIII e la Rerum Novarum del 1891. Il parallelismo non è casuale. Allora c'era la questione operaia: capitale contro lavoro, fabbriche che divoravano persone, un sistema economico che produceva ricchezza per pochi e miseria per molti. Oggi c'è la questione digitale. Non identica, ma speculare. Chi possiede i dati, le infrastrutture, la capacità di calcolo, in sostanza chi controlla l'intelligenza artificiale, ha un potere che nessun governo eletto democraticamente riesce ancora a bilanciare davvero.

Il passaggio che mi ha colpito di più, però, non è quello sulla governance tecnologica. È quello sul limite. «L'umano non fiorisce malgrado il limite, ma spesso attraverso il limite». In anni di scrolling, di ottimizzazione, di metriche di performance applicate anche alle nostre vite private, questa è la cosa più rivoluzionaria che si possa dire. Il transumanesimo, quella corrente di pensiero che immagina l'essere umano potenziato, ibridato con la macchina, affrancato dalla fragilità e dalla morte, è diventato l'ideologia di riferimento non di qualche setta stravagante, ma della Silicon Valley. Di chi costruisce i sistemi che usiamo ogni giorno. Il Papa lo dice chiaramente: se l'essere umano è trattato come materiale da perfezionare, diventa più facile accettare che alcuni vengano considerati meno utili, meno desiderabili, meno degni. Chi ha avuto l'opportunità di vivere la politica dal basso, nei municipi, nelle sezioni di partito, nelle assemblee di quartiere, conosce benissimo come funziona questo meccanismo. Quando l'efficienza diventa l'unica misura del valore, i più fragili vengono per primi sacrificati. L'algoritmo che decide chi merita il credito, chi passa il colloquio di lavoro, chi riceve il sussidio, non ha colpa, non ha responsabilità, non ha compassione. E soprattutto: non si può contestare. "L'ingiustizia si fa silenziosa", scrive il Papa. È esattamente quello che ho visto accadere, in scala ridotta, in tanti provvedimenti di certi governi che passavano come tecnici e neutri e invece riflettevano precise scelte politiche.

C'è un'ultima cosa che voglio dire, e riguarda il tono generale di questo documento. Non è un'enciclica pessimista. È anzi, nonostante tutto, un atto di speranza. Leone XIV cita Viktor Frankl, cita Beethoven e Picasso, ricorda il percorso secolare che ha portato alla Dichiarazione universale dei diritti umani. Vuole dirci che le conquiste morali sono sempre il frutto di cammini lunghi e faticosi, fatti di sconfitte e di battute d'arresto, ma rappresentano reali cambi di paradigma.

È il tipo di argomento che trovo sempre più necessario in un tempo in cui la velocità del cambiamento tecnologico produce una sorta di vertigine collettiva, una sensazione che non ci sia più modo di intervenire, che le decisioni vengano prese altrove da forze che non controlliamo. Invece no. La politica può ancora fare il suo lavoro. Le comunità possono ancora partecipare e contribuire alle decisioni. I dati possono essere trattati come beni comuni. L'IA può essere disarmata.

Non è garantito che succeda. Ma è possibile. E questa settimana, il Papa lo ricorda ad alta voce a tutto il mondo, per chiamarci ad una presa di coscienza collettiva. «Nel tempo dell'intelligenza artificiale, in cui la dignità umana rischia di essere oscurata da nuove forme di disumanizzazione, abbiamo il dovere urgente di restare profondamente umani». Raccogliere questa sfida è il compito di chi governa: tradurre le riflessioni filosofiche del Papa in scelte concrete della politica, capaci di cambiare davvero le cose.