Papež Lev XIV na nás rozpoutal manifest o 42 305 slovech. Nebo přesněji dvě miliardy katolíků. Dokument se nazývá „Magnifica Humanitas“ – „Magnificent Humanity“, pokud je potřeba dekódování. Je to encyklika, což znamená, že má pro věřící vážnou váhu, i když to není závazné kanonické právo.
Nejen, že to dal online a zapomněl na to. Ne, papež přišel na prezentaci osobně. Vedle něj stál Chris Olah, zakladatel Anthropic. Scéna vypadala neskutečně. Jako snímek z filmu, který ještě nebyl natočen.
Toto je první velký pokyn papeže od nástupu do úřadu. A šel rovnou k věci. Své jméno si vybral v květnu částečně proto, že Lev XIII. přijal průmyslovou revoluci s Rerum Novarum. Tento papež chce převzít algoritmus. Vidí novou výzvu pro lidskou důstojnost a práci. Napsal tedy 42 tisíc slov.
Proč takové drama?
“Dnes je jen začátek,” řekl Chris Olah na akci. Přiznal slepá místa mezi vývojáři. Vidí, co tvoří rukama, ale ne nutně to, co se nakonec zrodí. Z toho plyne potřeba „morálních hlasů, které nelze zkreslit pobídkami“. Spolupráce. Jedna je vyrobena ze silikonu. Další – z duše.
To je to, o čem Svatý stolec skutečně mluví.
AI neosvobozuje práci. Osvobodí ho.
Církev přemýšlela o práci po staletí. Vyzná se v manufakturách. Lev spojuje Magnifica Humanitas s dřívějšími dokumenty. Obavy se netýkají jen robotů, kteří berou práci. Mluvíme o ztrátě kvalifikace.
AI maže dovednosti. Přidává dohled. Pracovníci se stávají spíše datovými body než řemeslníky. Papež prostřednictvím textu cituje sám sebe – částečně – odmítá reklamní sliby. Ano, automatizace slibuje „skvělá zlepšení pro každého“. Vážně?
„V praxi však ‚nové způsoby‘, jak věci dělat, nejsou nutně lepší.“
Počkejte, zopakuji. „Nové způsoby“ nejsou nutně lepší. Text varuje před svůdným leskem efektivity. Když se práce stane pouhým zadáváním dat pro stroje, ztratíme něco životně důležitého. Ne, ztrácíme lidské měřítko. Stáváme se kolečky ve stroji, kterému je jedno, jestli se kolečko rozbije.
Přestaňte se klanět technologii. Hlavně kvůli dětem.
Papež nazval současné nadšení pro AI novou babylonskou věží. Pamatujete si biblický příběh? Lidé postavili věž, aby dosáhli Boha. Bůh zmátl jejich jazyk a rozptýlil ho. Bylo to o nespoutané ctižádosti. Leo říká, že musíme tento impuls omezit.
Není jediný, kdo se o obrazovky obává. Ale on to říká jinak. Nejde jen o čas strávený na obrazovce. Jde o erozi mysli. Zjevně odkazuje na psychiatrickou literaturu. Předčasné, nekontrolované digitální vystavení ničí spánek, koncentraci a emoční kontrolu.
“A někdy,” dodává encyklika, “s tragickými následky.”
Školy to tvrdě zasáhlo. AI zde znehodnocuje kritické myšlení. Vnáší do tříd „odosobňující sílu“. Zadáváme zvědavost. Je to nebezpečné.
“Koincidence automatizačních procesů… rychle mění samotnou strukturu práce.”
Zní to jako kňučení luddistů? Ne, je to spíš prosba. Zachovejte si lidskost. Nenechte nástroj diktovat podmínky učitele.
„Nové otroctví“ ze vzácných zemin a krve.
Zde dokument ztmavne. Ačkoli církev formálně odsoudila historický transatlantický obchod s otroky, Leo současně nazval technologickou výrobu novou formou tohoto hříchu.
Přečtěte si to znovu. Nový. Formulář. Otroctví.
Poukazuje na děti těžící kovy vzácných zemin v nebezpečných podmínkách. Jejich těla jsou „zjizvená, zraněná a opotřebovaná“. Rozbijí kámen, aby si obsluhovači mohli bzučet.
„Tato realita hluboce zpochybňuje morální svědomí naší doby,“ píše papež. Protože kupujeme přístroje. Chceme hladké rozhraní. Nechceme myslet na zjizvené ruce v Kongu nebo jinde, které kopaly kobalt.
Ale jde dál. Před válkou.
Lev propojuje umělou inteligenci přímo s moderním válčením. Soukromé společnosti vydělávají peníze na konfliktech. Systémy AI, které dělají „smrtelná rozhodnutí“. Požaduje „nejpřísnější etická omezení“ na zbrojní technologie. Nemůžeme dovolit, aby algoritmy rozhodovaly o tom, kdo bude žít a kdo zemře. Pokušení je potřást rameny. Myslet si, že problém je pro nás příliš velký.
“Může tam být jemné pokušení… totiž myšlenka, že problémy jsou příliš velké a my jsme příliš malí.”
Odpovědnost se ale neškáluje. Nikdo nedostane odklad. Ani jeden není inženýr v Palo Alto. Ani biskup v Římě. Uživatel v Brooklynu také ne.
“Každý z nás má svou vlastní oblast působnosti.”
To je těžký požadavek. Musíme si všímat dodavatelského řetězce. Chladná místnost. Trh práce. To vše při procházení novinek. Snadno? Žádný.
