Папа Лев XIV обрушив на нас маніфест обсягом 42 305 слів. Або, точніше, на два мільярди католиків. Документ носить назву Magnifica Humanitas – Чудова людяність, якщо потрібна розшифровка. Це енцикліка, що означає серйозну вагу для віруючих, навіть якщо вона є обов’язковим канонічним правом.
Він не просто виклав її в мережу та забув. Ні, Папа особисто з’явився на презентацію. Поруч із ним стояв Кріс Олах, засновник Anthropic. Сцена виглядала сюрреалістично. Як кадр із фільму, який ще не зняли.
Це перше велике повчання Папи з часу вступу на посаду. І він пішов одразу у справі. Він вибрав своє ім’я у травні partly тому, що Лев XIII брався за Індустріальну революцію з Rerum Novarum. Цей Папа хоче взятися за алгоритмічну. Він бачить новий виклик для людської гідності та праці. Тому він написав 42 тисячі слів.
Навіщо такий драматизм?
“Сьогодні лише початок”, – сказав Кріс Олах на заході. Він визнав наявність сліпих зон серед розробників. Вони бачать те, що роблять руками, але не обов’язково те, що народжується в результаті. Звідси потреба у «моральних голосах, які неможливо викривити стимулами». Співробітництво. Одного з кремнію. Іншого – з душі.
Ось про що насправді говорить Святий Престол.
ІІ не звільняє працю. Він вихолощує його.
Церква розмірковує про працю вже сторіччя. Вона розуміється на потогінних фабриках. Лев пов’язує Magnifica Humanitas з більш ранніми документами. Занепокоєння стосується не лише того, що роботи заберуть робочі місця. Мова про втрату кваліфікації.
ІІ стирає майстерність. Він додає стеження. Робітники стають точками даних, а чи не ремісниками. Папа цитує себе — частково через текст, відкидаючи рекламні обіцянки. Так, автоматизація обіцяє «великі покращення для всіх». Насправді?
«Однак на практиці нові способи роботи не обов’язково краще».
Зачекайте, дайте повторити. “Нові способи” не обов’язково краще. Текст попереджає про чарівний блиск ефективності. Коли робота перетворюється на просте введення даних для машин, ми втрачаємо щось життєво важливе. Ні, ми втрачаємо людський масштаб. Ми стаємо шестернями у механізмі, якому все одно, чи зламається шестерня.
Перестаньте вклонитися технологіям. Особливо заради дітей.
Папа назвав поточний ентузіазм щодо ІІ новою Вавилонською вежею. Пам’ятаєте біблійну історію? Люди будували вежу, щоб дістатися Бога. Бог заплутав їхню мову, розкидав. Це було про неприборкане честолюбство. Лев каже, що нам треба стримувати цей порив.
Він не єдиний, хто дбає про екрани. Але він формулює це інакше. Не просто про час біля екранів. Це про ерозію розуму. Він посилається на психіатричну літературу, очевидно. Раннє, неконтрольоване цифрове вплив руйнує сон, концентрацію уваги, емоційний контроль.
“І іноді”, – додає енцикліка, – “з трагічними наслідками”.
Він сильно вдарив у школи. ІІ знецінює критичне мислення там. Він несе в класи «знеособливу силу». Ми аутсорсінгуємо цікавість. Це небезпечно.
«Збіг процесів автоматизації… стрімко трансформує саму структуру праці».
Звучить як скиглення луддіта? Ні, це скоріше схоже на благання. Збережіть людяність. Не дозволяйте інструменту диктувати умови вчителю.
«Нове рабство» з рідкісних земель та крові.
Ось де документ стає похмурішим. Хоча Церква винесла формальне засудження історичної трансатлантичної работоргівлі, Лев одночасно назвав виробництво технологій новою формою цього гріха.
Прочитайте ще раз. Нову. Форму. Рабства.
Він вказує на дітей, які видобувають рідкісноземельні метали в небезпечних умовах. Їхні тіла «посічені шрамами, поранені та зношені». Вони розбивають камінь, щоб сервери могли гудіти.
“Ця реальність глибоко кидає виклик моральної совісті нашого часу”, – пише Папа. Тому що ми купуємо пристрої. Ми хочемо плавний інтерфейс. Ми не хочемо думати про посічені шрами руки в Конго або в інших місцях, які викопували кобальт.
Але він іде далі. До війни.
Лев пов’язує ІІ безпосередньо із сучасною війною. Приватні компанії, які заробляють конфлікти. Системи ІІ, які ухвалюють «смертоносні рішення». Він вимагає «найсуворіших етичних обмежень» на воєнізовані технології. Ми не можемо дозволяти алгоритмам вирішувати хто живе, а хто вмирає. Спокуса похитати плечима. Подумати, що проблема надто велика для нас.
«Може виникнути тонка спокуса… а саме думка, що проблеми надто великі, а ми надто малі».
Але відповідальність не масштабується. Ніхто не отримує відстрочки. Ні інженер у Пало-Альто. Ні єпископ у Римі. Ні користувач у Брукліні.
“У кожного з нас є своя сфера дій”.
Це важкий запит. Ми повинні помічати ланцюжок постачання. Класна кімната. Ринок праці. Все це прокручуючи стрічку новин. Чи легко? Ні.
