Paus Leo XIV liet een manifest van 42.305 woorden op ons vallen. Of beter gezegd, op twee miljard katholieken. Het document is getiteld “Magnifica Humanitas” – “Magnificent Humanity” als u de vertaling nodig heeft. Het is een encycliek, wat betekent dat het voor de gelovigen een grote betekenis heeft, ook al is het geen bindend kerkelijk recht.
Hij heeft het niet zomaar online gezet en vergeten. Nee, de paus kwam persoonlijk opdagen voor de presentatie. Naast hem stond Chris Olah, de oprichter van Anthropic. Het zag er surrealistisch uit. Als een scène uit een film die nog niet is opgenomen.
Dit is de eerste belangrijke leidraad van de paus sinds zijn aantreden. En hij ging regelrecht naar de keel. Hij koos zijn regeringsnaam in mei deels omdat paus Leo XIII de industriële revolutie aanpakte met Rerum Novarum. Deze paus? Hij wil de algoritmische aanpak aanpakken. Hij ziet een nieuwe uitdaging voor de menselijke waardigheid en arbeid. Dus schreef hij 42.000 woorden.
Waarom dit extra drama?
“Vandaag is nog maar het begin”, zei Chris Olah tijdens het evenement. Hij gaf toe dat er een blinde vlek bestaat onder bouwers. Ze zien wat ze bouwen, niet noodzakelijkerwijs wat ze creëren. Vandaar de behoefte aan ‘morele stemmen die de prikkels niet kunnen ombuigen’. Een samenwerking. Eén van silicium. Eén van ziel.
Dit is wat de Heilige Stoel feitelijk zegt.
AI bevrijdt arbeid niet. Het holt het uit.
De Kerk denkt al eeuwenlang na over werk. Ze weten het een en ander over sweatshops. Leo koppelt “Magnifica Humanitas” rechtstreeks aan die eerdere documenten. De zorg gaat niet alleen over robots die banen overnemen. Het gaat over deskillen.
AI haalt het vaartuig weg. Het voegt toezicht toe. Werknemers worden datapunten in plaats van ambachtslieden. De paus citeert zichzelf – min of meer – door de tekst en verwerpt het verkooppraatje. Ja, automatisering belooft ‘grote verbeteringen voor iedereen’. In werkelijkheid?
“In werkelijkheid zijn de ‘nieuwe manieren’ van werken echter niet noodzakelijkerwijs beter.”
Wacht, laat me dat herhalen. De ‘nieuwe manieren’ zijn niet noodzakelijkerwijs beter. De tekst waarschuwt voor de verleidelijke gloed van efficiëntie. Wanneer werk louter gegevensinvoer voor machines wordt, verliezen we iets essentieels. Nee, we verliezen menselijke schaal. We worden versnellingen in een machine die het niet uitmaakt als de versnelling kapot gaat.
Stop met het aanbidden van de technologie. Vooral voor kinderen.
De paus noemde het huidige AI-enthousiasme de nieuwe Toren van Babel. Ken je het bijbelverhaal nog? Mensen bouwen een toren om God te bereiken. God verwarde hun taal en verstrooide ze. Het ging over ongecontroleerde ambitie. Leo zegt dat we die drang moeten temperen.
Hij is niet de enige die zich zorgen maakt over schermen. Maar hij formuleert het anders. Het gaat niet alleen om schermtijd. Het gaat over de erosie van de geest. Hij citeert duidelijk psychiatrische literatuur. Vroege, onbewaakte digitale blootstelling verwoest slaap, aandachtsspanne, emotionele controle.
‘En soms’, voegt de encycliek toe, ‘met tragische gevolgen.’
Hij heeft de scholen hard aangepakt. AI devalueert daar het kritisch denken. Het brengt een ‘ontmenselijkende kracht’ in klaslokalen. We besteden nieuwsgierigheid uit. Dat is gevaarlijk.
“De convergentie van automatisering… transformeert snel de structuur van het werken.”
Klinkt dit als een luddieten tirade? Nee, het leest meer als een pleidooi. Behoud de menselijkheid. Laat de tool de leraar niet dicteren.
Een ‘nieuwe slavernij’ gebouwd op zeldzame aarde en bloed.
Hier wordt het document het donkerst. Terwijl de Kerk de historische transatlantische slavenhandel formeel veroordeelde, noemde Leo tegelijkertijd technische productie als een nieuwe vorm van die zonde.
Lees dat nog eens. Nieuw. Formulier. Slavernij.
Hij wijst op kinderen die onder gevaarlijke omstandigheden zeldzame aardmetalen delven. Hun lichamen zijn ‘littekens, gewond en versleten’. Ze breken rotsen zodat de servers kunnen neuriën.
“Deze realiteit daagt het morele geweten van onze tijd ernstig uit”, schrijft de paus. Het daagt het uit omdat we de apparaten kopen. We willen een soepele gebruikersinterface. We willen niet denken aan de met littekens bedekte handen in Congo of elders die het kobalt hebben uitgegraven.
Maar hij gaat verder. Naar oorlog.
Leo koppelt AI rechtstreeks aan moderne oorlogsvoering. Particuliere bedrijven die profiteren van conflicten. AI-systemen nemen ‘dodelijke beslissingen’. Hij eist “de meest strenge ethische beperkingen” op bewapende technologie. We kunnen algoritmen niet laten kiezen wie leeft of sterft. De verleiding is om de schouders op te halen. Te denken dat het probleem voor ons allemaal te groot is.
‘Er kan een subtiele verleiding ontstaan… namelijk de gedachte dat de problemen te groot en te klein zijn.’
Maar de verantwoordelijkheid is niet geschaald. Niemand krijgt een pas. Niet de ingenieur in Palo Alto. Niet de bisschop in Rome. Niet de gebruiker in Brooklyn.
‘We hebben allemaal onze eigen actiegebieden.’
Het is een zwaar verzoek. We worden verondersteld de toeleveringsketen op te merken. Het klaslokaal. De arbeidsmarkt. Terwijl we door onze feeds scrollen. Eenvoudig? Nee.
