El Papa León XIV nos lanzó un manifiesto de 42.305 palabras. O mejor dicho, sobre dos mil millones de católicos. El documento se titula “Magnifica Humanitas”—”Magnificent Humanity” si necesita la traducción. Es una encíclica, lo que significa que tiene un gran peso para los fieles incluso si no es ley canónica vinculante.
No lo publicó simplemente en línea y lo olvidó. No, el Papa se presentó personalmente a la presentación. Junto a él estaba Chris Olah, el fundador de Anthropic. Parecía surrealista. Como una escena de una película que aún no se ha rodado.
Esta es la primera orientación importante del Papa desde que asumió el cargo. Y fue directo a la garganta. Escogió su nombre de reinado en mayo en parte porque el Papa León XIII abordó la Revolución Industrial con Rerum Novarum. ¿Este Papa? Quiere abordar el algorítmico. Ve un nuevo desafío para la dignidad humana y el trabajo. Entonces escribió 42.000 palabras.
¿Por qué el drama extra?
“Hoy es sólo el comienzo”, dijo Chris Olah en el evento. Admitió que hay un punto ciego entre los constructores. Ven lo que construyen, no necesariamente lo que crean. De ahí la necesidad de “voces morales que los incentivos no puedan doblegar”. Una colaboración. Uno de silicio. Uno de alma.
Esto es lo que realmente dice la Santa Sede.
La IA no libera el trabajo. Lo está vaciando.
La Iglesia lleva siglos pensando en el trabajo. Saben un par de cosas sobre las fábricas clandestinas. Leo vincula “Magnifica Humanitas” directamente con esos documentos anteriores. La preocupación no es sólo que los robots acaparen puestos de trabajo. Se trata de descualificación.
La IA despoja a la nave. Añade vigilancia. Los trabajadores se convierten en puntos de datos en lugar de artesanos. El Papa se cita a sí mismo (más o menos) a través del texto, rechazando el argumento de venta. Sí, la automatización promete “grandes mejoras para todos”. ¿En realidad?
“En realidad, sin embargo, las ‘nuevas formas’ de trabajar no son necesariamente mejores.”
Espera, déjame repetir eso. Las “nuevas formas” no son necesariamente mejores. El texto advierte contra el brillo seductor de la eficiencia. Cuando el trabajo se convierte en una mera entrada de datos para las máquinas, perdemos algo vital. No, perdemos escala humana. Nos convertimos en engranajes de una máquina a la que no le importa si el engranaje se rompe.
Deja de adorar a la tecnología. Especialmente para niños.
El Papa llamó al actual entusiasmo por la IA la nueva Torre de Babel. ¿Recuerdas la historia bíblica? Humanos construyendo una torre para llegar a Dios. Dios confundió su lengua, los dispersó. Se trataba de una ambición desenfrenada. Leo dice que debemos moderar ese impulso.
No es el único al que le preocupan las pantallas. Pero él lo plantea de otra manera. No se trata sólo de pasar tiempo frente a la pantalla. Se trata de la erosión de la mente. Cita claramente literatura psiquiátrica. La exposición digital temprana y sin supervisión arruina el sueño, la capacidad de atención y el control emocional.
“Y a veces”, añade la encíclica, “con consecuencias trágicas”.
Golpeó duramente a las escuelas. Allí la IA devalúa el pensamiento crítico. Trae una “fuerza deshumanizadora” a las aulas. Estamos subcontratando la curiosidad. Eso es peligroso.
“La convergencia de la automatización… está transformando rápidamente la estructura misma del trabajo”.
¿Suena esto como una perorata ludita? No, se parece más a una súplica. Mantenga la humanidad. No dejes que la herramienta dicte al maestro.
Una “Nueva Esclavitud” construida sobre tierras raras y sangre.
Aquí es donde el documento se vuelve más oscuro. Mientras la Iglesia emitía una condena formal de la histórica trata transatlántica de esclavos, Leo simultáneamente nombró a la fabricación tecnológica como una nueva forma de ese pecado.
Lee eso de nuevo. Nuevo. Forma. Esclavitud.
Señala a los niños que extraen metales de tierras raras en condiciones peligrosas. Sus cuerpos están “cicatrices, heridos y desgastados”. Rompen rocas para que los servidores puedan tararear.
“Esta realidad desafía profundamente la conciencia moral de nuestro tiempo”, escribe el Papa. Lo desafía porque compramos los dispositivos. Queremos una interfaz de usuario fluida. No queremos pensar en las manos llenas de cicatrices que en el Congo o en otros lugares extrajeron el cobalto.
Pero él va más allá. A la guerra.
Leo vincula la IA directamente con la guerra moderna. Empresas privadas que se benefician del conflicto. Sistemas de IA que toman “decisiones letales”. Exige “las restricciones éticas más rigurosas” a la tecnología armada. No podemos dejar que los algoritmos elijan quién vive o muere. La tentación es encogerse de hombros. Pensar que el problema es demasiado grande para cualquiera de nosotros.
“Puede surgir una tentación sutil… es decir, la idea de que los problemas son demasiado grandes y demasiado pequeños”.
Pero la responsabilidad no se escala. Nadie consigue un pase. No el ingeniero de Palo Alto. No el obispo de Roma. No el usuario de Brooklyn.
“Todos tenemos nuestras propias áreas de acción”.
Es una petición pesada. Se supone que debemos prestar atención a la cadena de suministro. El aula. El mercado laboral. Todo mientras te desplazas por nuestros feeds. ¿Fácil? No.
