Le pape Léon XIV nous a lancé un manifeste de 42 305 mots. Ou plutôt sur deux milliards de catholiques. Le document s’intitule « Magnifica Humanitas » – « Magnifique Humanité » si vous avez besoin de la traduction. Il s’agit d’une encyclique, ce qui signifie qu’elle a un poids important pour les fidèles même si elle n’est pas contraignante en droit canonique.
Il ne s’est pas contenté de le publier en ligne et de l’oublier. Non, le Pape est venu personnellement à la présentation. À côté de lui se tenait Chris Olah, le fondateur d’Anthropic. Cela avait l’air surréaliste. Comme une scène d’un film qui n’a pas encore été tourné.
Il s’agit de la première orientation majeure du pape depuis son entrée en fonction. Et il est allé droit à la gorge. Il a choisi son nom royal en mai, en partie parce que le pape Léon XIII s’est attaqué à la révolution industrielle avec Rerum Novarum. Ce pape ? Il veut s’attaquer à la question algorithmique. Il voit un nouveau défi pour la dignité humaine et le travail. Il a donc écrit 42 000 mots.
Pourquoi ce drame supplémentaire ?
“Aujourd’hui, ce n’est que le début”, a déclaré Chris Olah lors de l’événement. Il a admis qu’il existe un angle mort parmi les constructeurs. Ils voient ce qu’ils construisent, pas nécessairement ce qu’ils créent. D’où la nécessité de « voix morales que les incitations ne peuvent pas plier ». Une collaboration. Un en silicium. Celui de l’âme.
Voici ce que dit réellement le Saint-Siège.
L’IA ne libère pas le travail. Cela le creuse.
L’Église réfléchit au travail depuis des siècles. Ils s’y connaissent en ateliers clandestins. Leo relie « Magnifica Humanitas » directement à ces documents antérieurs. L’inquiétude ne concerne pas seulement les robots qui prennent des emplois. Il s’agit de déqualification.
L’IA supprime l’engin. Cela ajoute de la surveillance. Les travailleurs deviennent des points de données plutôt que des artisans. Le Pape se cite – en quelque sorte – à travers le texte, rejetant l’argumentaire de vente. Oui, l’automatisation promet « de grandes améliorations pour tout le monde ». En réalité ?
“Mais en réalité, les ‘nouvelles méthodes’ de travail ne sont pas nécessairement meilleures.”
Attendez, laissez-moi répéter ça. Les « nouvelles voies » ne sont pas nécessairement meilleures. Le texte met en garde contre l’éclat séduisant de l’efficacité. Lorsque le travail devient une simple saisie de données pour les machines, nous perdons quelque chose de vital. Non, nous perdons l’échelle humaine. Nous devenons des engrenages dans une machine qui ne se soucie pas de savoir si l’engrenage casse.
Arrêtez d’adorer la technologie. Surtout pour les enfants.
Le Pape a qualifié l’enthousiasme actuel pour l’IA de nouvelle Tour de Babel. Vous vous souvenez de l’histoire biblique ? Les humains construisent une tour pour atteindre Dieu. Dieu a confondu leur langage, les a dispersés. Il s’agissait d’une ambition incontrôlée. Leo dit que nous devons tempérer cette motivation.
Il n’est pas le seul à s’inquiéter des écrans. Mais il le formule différemment. Ce n’est pas seulement une question de temps passé devant un écran. Il s’agit de l’érosion de l’esprit. Il cite clairement la littérature psychiatrique. Une exposition numérique précoce et non supervisée détruit le sommeil, la capacité d’attention et le contrôle émotionnel.
“Et parfois”, ajoute l’encyclique, “avec des conséquences tragiques”.
Il a frappé fort les écoles. L’IA y dévalorise la pensée critique. Cela apporte une « force déshumanisante » dans les salles de classe. Nous externalisons la curiosité. C’est dangereux.
“La convergence de l’automatisation… transforme rapidement la structure même du travail.”
Cela ressemble-t-il à une diatribe luddite ? Non, cela ressemble plus à un plaidoyer. Gardez l’humanité. Ne laissez pas l’outil dicter l’enseignant.
Un “Nouvel Esclavage” bâti sur des terres rares et du sang.
C’est ici que le document devient le plus sombre. Tandis que l’Église condamnait formellement la traite transatlantique historique des esclaves, Léon qualifiait simultanément la fabrication technologique de nouvelle forme de ce péché.
Relisez-le. Nouveau. Formulaire. Esclavage.
Il montre du doigt les enfants qui extraient des métaux des terres rares dans des conditions dangereuses. Leurs corps sont « marqués, blessés et usés ». Ils cassent la roche pour que les serveurs puissent fredonner.
“Cette réalité interpelle profondément la conscience morale de notre temps”, écrit le Pape. Cela le remet en question parce que nous achetons les appareils. Nous voulons une interface utilisateur fluide. Nous ne voulons pas penser aux mains cicatrisées au Congo ou ailleurs qui ont extrait le cobalt.
Mais il va plus loin. À la guerre.
Leo relie l’IA directement à la guerre moderne. Les entreprises privées profitent du conflit. Les systèmes d’IA prennent des « décisions mortelles ». Il exige « les contraintes éthiques les plus rigoureuses » sur les technologies militarisées. Nous ne pouvons pas laisser les algorithmes choisir qui vit ou meurt. La tentation est de hausser les épaules. Penser que le problème est trop grave pour chacun d’entre nous.
“Une tentation subtile peut émerger… à savoir la pensée que les problèmes sont trop grands et trop petits.”
Mais la responsabilité n’est pas échelonnée. Personne n’obtient de laissez-passer. Pas l’ingénieur de Palo Alto. Pas l’évêque de Rome. Pas l’utilisateur de Brooklyn.
“Nous avons tous nos propres domaines d’action.”
C’est une demande lourde. Nous sommes censés remarquer la chaîne d’approvisionnement. La salle de classe. Le marché du travail. Le tout en faisant défiler nos flux. Facile? Non.
