Papa Leone XIV ci lanciò un manifesto di 42.305 parole. O meglio, su due miliardi di cattolici. Il documento si intitola “Magnifica Humanitas”—”Magnifica Umanità” se hai bisogno della traduzione. È un’enciclica, il che significa che ha un grande peso per i fedeli anche se non è vincolante per il diritto canonico.
Non si è limitato a pubblicarlo online e a dimenticarlo. No, il Papa si è presentato personalmente alla presentazione. Accanto a lui c’era Chris Olah, il fondatore di Anthropic. Sembrava surreale. Come una scena di un film che non è stato ancora girato.
Questa è la prima importante guida del Papa da quando è entrato in carica. E lui è andato dritto alla gola. Ha ripreso il suo nome regale a maggio, in parte perché Papa Leone XIII ha affrontato la Rivoluzione Industriale con la Rerum Novarum. Questo Papa? Vuole affrontare quello algoritmico. Vede una nuova sfida per la dignità umana e il lavoro. Quindi ha scritto 42.000 parole.
Perché questo dramma extra?
“Oggi è solo l’inizio”, ha detto Chris Olah durante l’evento. Ha ammesso che c’è un punto cieco tra i costruttori. Vedono ciò che costruiscono, non necessariamente ciò che creano. Da qui la necessità di “voci morali che gli incentivi non possono piegare”. Una collaborazione. Uno di silicio. Uno dell’anima.
Ecco cosa dice effettivamente la Santa Sede.
L’intelligenza artificiale non sta liberando il lavoro. Lo sta svuotando.
La Chiesa pensa da secoli al lavoro. Sanno una o due cose sulle fabbriche sfruttatrici. Leo collega la “Magnifica Humanitas” direttamente a quei documenti precedenti. La preoccupazione non riguarda solo i robot che prendono posti di lavoro. Si tratta di dequalificazione.
L’intelligenza artificiale toglie via l’imbarcazione. Aggiunge la sorveglianza. I lavoratori diventano punti dati anziché artigiani. Il Papa cita se stesso – in un certo senso – attraverso il testo, rifiutando le proposte di vendita. Sì, l’automazione promette “grandi miglioramenti per tutti”. In realtà?
“In realtà, però, i ‘nuovi modi’ di lavorare non sono necessariamente migliori.”
Aspetta, lasciamelo ripetere. I “nuovi modi” non sono necessariamente migliori. Il testo mette in guardia dal seducente bagliore dell’efficienza. Quando il lavoro diventa un semplice inserimento di dati per le macchine, perdiamo qualcosa di vitale. No, perdiamo la dimensione umana. Diventiamo ingranaggi di una macchina a cui non importa se l’ingranaggio si rompe.
Smettila di adorare la tecnologia. Soprattutto per i bambini.
Il Papa ha definito l’attuale entusiasmo per l’intelligenza artificiale la nuova Torre di Babele. Ricordi la storia della Bibbia? Gli esseri umani costruiscono una torre per raggiungere Dio. Dio ha confuso la loro lingua, li ha dispersi. Si trattava di un’ambizione incontrollata. Leo dice che dobbiamo moderare questa spinta.
Non è l’unico a preoccuparsi degli schermi. Ma lo inquadra diversamente. Non è solo una questione di tempo trascorso davanti allo schermo. Riguarda l’erosione della mente. Cita la letteratura psichiatrica, chiaramente. L’esposizione digitale precoce e senza supervisione distrugge il sonno, la capacità di attenzione e il controllo emotivo.
“E talvolta – aggiunge l’enciclica – con conseguenze tragiche”.
Ha colpito duramente le scuole. L’intelligenza artificiale svaluta il pensiero critico lì. Porta una “forza disumanizzante” nelle aule. Stiamo esternalizzando la curiosità. Questo è pericoloso.
“La convergenza dell’automazione… sta rapidamente trasformando la struttura stessa del lavoro.”
Vi sembra uno sfogo luddista? No, sembra più una supplica. Mantieni l’umanità. Non lasciare che sia lo strumento a dettare l’insegnante.
Una “Nuova schiavitù” costruita su terre rare e sangue.
È qui che il documento diventa più oscuro. Mentre la Chiesa emetteva una condanna formale della storica tratta transatlantica degli schiavi, Leo contemporaneamente chiamava la produzione tecnologica una nuova forma di quel peccato.
Leggilo di nuovo. Nuovo. Modulo. Schiavitù.
Indica i bambini che estraggono metalli delle terre rare in condizioni pericolose. I loro corpi sono “sfregiati, feriti e logori”. Rompono la roccia in modo che i server possano canticchiare.
«Questa realtà interpella profondamente la coscienza morale del nostro tempo», scrive il Papa. Lo sfida perché compriamo i dispositivi. Vogliamo un’interfaccia utente fluida. Non vogliamo pensare alle mani sfregiate che in Congo o altrove hanno estratto il cobalto.
Ma va oltre. Alla guerra.
Il Leone collega l’intelligenza artificiale direttamente alla guerra moderna. Le aziende private traggono profitto dal conflitto. Sistemi di intelligenza artificiale che prendono “decisioni letali”. Richiede “i più rigorosi vincoli etici” sulla tecnologia armata. Non possiamo lasciare che siano gli algoritmi a scegliere chi vive o chi muore. La tentazione è quella di alzare le spalle. Pensare che il problema sia troppo grande per ognuno di noi.
“Può emergere una tentazione sottile… vale a dire il pensiero che i problemi siano troppo grandi e siano troppo piccoli.”
Ma la responsabilità non è ridimensionata. Nessuno ottiene un passaggio. Non l’ingegnere di Palo Alto. Non il vescovo di Roma. Non l’utente di Brooklyn.
“Abbiamo tutti le nostre aree di azione.”
È una richiesta pesante. Dovremmo notare la catena di approvvigionamento. L’aula. Il mercato del lavoro. Il tutto mentre scorriamo i nostri feed. Facile? NO.
