Papież Leon XIV wystosował przeciwko nam manifest zawierający 42 305 słów. A dokładniej dwa miliardy katolików. Dokument nazywa się „Magnifica Humanitas” – „Wspaniała ludzkość”, jeśli potrzebne jest dekodowanie. Jest to encyklika, co oznacza, że ma dla wiernych poważne znaczenie, nawet jeśli nie obowiązuje prawa kanonicznego.
Nie tylko wrzucił to do Internetu i o tym zapomniał. Nie, Papież przyszedł na prezentację osobiście. Obok niego stał Chris Olah, założyciel Anthropic. Scena wyglądała surrealistycznie. Jak kadr z jeszcze nie nakręconego filmu.
To pierwsze ważne polecenie Papieża od czasu objęcia urzędu. I od razu przeszedł do rzeczy. Wybrał swoje imię w maju, częściowo dlatego, że Leon XIII stawił czoła rewolucji przemysłowej wraz z Rerum Novarum. Ten papież chce zająć się algorytmiką. Widzi nowe wyzwanie dla godności człowieka i pracy. Napisał więc 42 tysiące słów.
Dlaczego taki dramat?
„Dzisiaj to dopiero początek” – powiedział Chris Olah podczas wydarzenia. Zauważył słabe punkty wśród deweloperów. Widzą to, co tworzą własnymi rękami, ale niekoniecznie to, co na końcu się rodzi. Stąd potrzeba „głosów moralnych, których nie można zniekształcić bodźcami”. Współpraca. Jedna jest wykonana z silikonu. Kolejny – z duszy.
O tym właśnie mówi Stolica Apostolska.
Sztuczna inteligencja nie wyzwala pracy. Kastruje go.
Kościół od wieków myśli o pracy. Zna się na pracy w sweatshopach. Lew łączy Magnifica Humanitas z wcześniejszymi dokumentami. Problem nie dotyczy tylko tego, że roboty zabierają miejsca pracy. Mówimy o utracie kwalifikacji.
AI wymazuje umiejętności. Dodaje monitoring. Pracownicy stają się punktami danych, a nie rzemieślnikami. Papież cytuje siebie – częściowo – w tekście, odrzucając obietnice reklamowe. Tak, automatyzacja obiecuje „wielkie ulepszenia dla wszystkich”. Naprawdę?
„Jednak w praktyce „nowe sposoby” działania niekoniecznie są lepsze”.
Czekaj, powtórzę. „Nowe sposoby” niekoniecznie są lepsze. Tekst ostrzega przed kuszącym blaskiem wydajności. Kiedy praca staje się jedynie wprowadzaniem danych do maszyn, tracimy coś istotnego. Nie, tracimy ludzką skalę. Stajemy się trybikami w maszynie, której nie obchodzi, czy trybik się zepsuje.
Przestań kłaniać się technologii. Zwłaszcza ze względu na dzieci.
Papież nazwał obecny entuzjazm dla sztucznej inteligencji nową Wieżą Babel. Pamiętacie historię biblijną? Ludzie zbudowali wieżę, aby dotrzeć do Boga. Bóg pomieszał ich język i rozproszył go. Chodziło o niepohamowaną ambicję. Leo mówi, że musimy powstrzymać ten impuls.
Nie tylko on martwi się o ekrany. Ale on przedstawia to inaczej. Nie chodzi tylko o czas ekranowy. Chodzi o erozję umysłu. Odwołuje się oczywiście do literatury psychiatrycznej. Wczesna, niekontrolowana ekspozycja na urządzenia cyfrowe niszczy sen, koncentrację i kontrolę emocjonalną.
„A czasami – dodaje encyklika – „z tragicznymi konsekwencjami”.
Mocno uderzyło to w szkoły. AI dewaluuje tam krytyczne myślenie. Wnosi do sal lekcyjnych „siłę depersonalizującą”. Zlecamy ciekawość. To niebezpieczne.
„Zbieg procesów automatyzacji… szybko zmienia samą strukturę pracy.”
Brzmi jak marudzenie luddyty? Nie, to raczej prośba. Zachowaj swoje człowieczeństwo. Nie pozwól, aby narzędzie dyktowało warunki nauczycielowi.
„Nowe niewolnictwo” z pierwiastków ziem rzadkich i krwi.
W tym miejscu dokument staje się ciemniejszy. Chociaż Kościół formalnie potępił historyczny transatlantycki handel niewolnikami, Leon jednocześnie nazwał produkcję technologiczną nową formą tego grzechu.
Przeczytaj to jeszcze raz. Nowy. Formularz. Niewolnictwo.
Wskazuje na dzieci wydobywające metale ziem rzadkich w niebezpiecznych warunkach. Ich ciała są „pobliźnione, poranione i zniszczone”. Rozbijają kamień, żeby serwery mogły nucić.
„Ta rzeczywistość stanowi głębokie wyzwanie dla sumienia moralnego naszych czasów” – pisze Papież. Ponieważ kupujemy urządzenia. Chcemy płynnego interfejsu. Nie chcemy myśleć o pokrytych bliznami rękach w Kongo czy gdzie indziej, które kopały kobalt.
Ale on idzie dalej. Przed wojną.
Lev łączy sztuczną inteligencję bezpośrednio z nowoczesnymi działaniami wojennymi. Prywatne firmy zarabiające na konfliktach. Systemy AI podejmujące „śmiertelne decyzje”. Domaga się „najsurowszych ograniczeń etycznych” dla technologii zbrojonych. Nie możemy pozwolić, aby algorytmy decydowały o tym, kto przeżyje, a kto umrze. Pokusa polega na potrząśnięciu ramionami. Pomyśleć, że problem jest dla nas za duży.
„Może istnieć subtelna pokusa… a mianowicie przekonanie, że problemy są za duże, a my za mali”.
Ale odpowiedzialność nie ma skali. Nikt nie otrzymuje ułaskawienia. Nie jest też inżynierem w Palo Alto. Ani biskupa w Rzymie. Ani użytkownik z Brooklynu.
„Każdy z nas ma swoją sferę działania”.
To trudna prośba. Musimy zwrócić uwagę na łańcuch dostaw. Fajny pokój. Rynek pracy. Wszystko to podczas przewijania aktualności. Łatwo? NIE.
