Папа Лев XIV обрушил на нас манифест объемом 42 305 слов. Или, точнее, на двух миллиардов католиков. Документ носит название «Magnifica Humanitas» — «Великолепная человечность», если нужна расшифровка. Это энциклика, что означает серьезный вес для верующих, даже если она не является обязательным каноническим правом.
Он не просто выложил её в сеть и забыл. Нет, Папа лично явился на презентацию. Рядом с ним стоял Крис Олах, основатель Anthropic. Сцена выглядела сюрреалистично. Как кадр из фильма, который еще не сняли.
Это первое крупное наставление Папы со времени вступления в должность. И он пошел сразу по делу. Он выбрал свое имя в мае partly потому, что Лев XIII брался за Индустриальную революцию с Rerum Novarum. Этот Папа хочет взяться за алгоритмическую. Он видит новый вызов для человеческого достоинства и труда. Поэтому он написал 42 тысячи слов.
Зачем такой драматизм?
«Сегодня лишь начало», — сказал Крис Олах на мероприятии. Он признал наличие слепых зон среди разработчиков. Они видят то, что создают руками, но не обязательно то, что рождается в итоге. Отсюда потребность в «моральных голосах, которые невозможно искривить стимулами». Сотрудничество. Одного — из кремния. Другого — из души.
Вот о чем на самом деле говорит Святой Престол.
ИИ не освобождает труд. Он выхолащивает его.
Церковь размышляет о труде уже столетия. Она знает толк в потогонных фабриках. Лев связывает «Magnifica Humanitas» с более ранними документами. Беспокойство касается не только того, что роботы заберут рабочие места. Речь о потере квалификации.
ИИ стирает мастерство. Он добавляет слежку. Рабочие становятся точками данных, а не ремесленниками. Папа цитирует себя — отчасти — через текст, отвергая рекламные обещания. Да, автоматизация обещает «великие улучшения для всех». На самом деле?
«Однако на практике «новые способы» работы не обязательно лучше».
Подождите, дайте повторить. «Новые способы» не обязательно лучше. Текст предупреждает об очаровательном блеске эффективности. Когда работа превращается в простое ввод данных для машин, мы теряем нечто жизненно важное. Нет, мы теряем человеческий масштаб. Мы становимся шестеренками в механизме, которому все равно, сломается ли шестеренка.
Перестаньте поклониться технологиям. Особенно ради детей.
Папа назвал текущий энтузиазм по поводу ИИ новой Вавилонской башней. Помните библейскую историю? Люди строили башню, чтобы добраться до Бога. Бог запутал их язык, разбросал. Это было о неукротимом честолюбии. Лев говорит, что нам нужно сдерживать этот порыв.
Он не единственный, кто беспокоится о экранах. Но он формулирует это иначе. Речь не просто о времени у экранов. Это об эрозии разума. Он ссылается на психиатрическую литературу, очевидно. Раннее, неконтролируемое цифровое воздействие разрушает сон, концентрацию внимания, эмоциональный контроль.
«И иногда», — добавляет энциклика, — «с трагическими последствиями».
Он сильно ударил по школам. ИИ обесценивает критическое мышление там. Он несет в классы «обезличивающую силу». Мы аутсорсингуем любопытство. Это опасно.
«Совпадение процессов автоматизации… стремительно трансформирует саму структуру труда».
Звучит как нытье луддита? Нет, это скорее похоже на мольбу. Сохраните человечность. Не позволяйте инструменту диктовать условия учителю.
«Новое рабство» из редких земель и крови.
Вот где документ становится мрачнее. Хотя Церковь вынесла формальный осуждение исторической трансатлантической работорговли, Лев одновременно назвал производство технологий новой формой этого греха.
Прочтите еще раз. Новую. Форму. Рабства.
Он указывает на детей, добывающих редкоземельные металлы в опасных условиях. Их тела «иссечены шрамами, ранены и изношены». Они разбивают камень, чтобы серверы могли гудеть.
«Эта реальность глубоко бросает вызов моральной совести нашего времени», — пишет Папа. Потому что мы покупаем устройства. Мы хотим плавного интерфейса. Мы не хотим думать об иссеченных шрамами руках в Конго или в других местах, которые выкапывали кобальт.
Но он идет дальше. До войны.
Лев связывает ИИ напрямую с современной войной. Частные компании, зарабатывающие на конфликтах. Системы ИИ, принимающие «смертоносные решения». Он требует «самых строгих этических ограничений» на военизированные технологии. Мы не можем позволять алгоритмам решать, кто живет, а кто умирает. Искушение покачать плечами. Подумать, что проблема слишком велика для нас.
«Может возникнуть тонкое искушение… а именно мысль, что проблемы слишком велики, а мы слишком малы».
Но ответственность не масштабируется. Никто не получает отсрочки. Ни инженер в Пало-Альто. Ни епископ в Риме. Ни пользователь в Бруклине.
«У каждого из нас есть своя сфера действий».
Это тяжелый запрос. Мы должны замечать цепочку поставок. Классную комнату. Рынок труда. Все это прокручивая ленту новостей. Легко? Нет.
