Rychlý rozvoj umělé inteligence (AI) probíhá závratným tempem, přesto zůstávají potenciální katastrofické důsledky z velké části nevyřešeny. Jak se do vývoje AI nalévají biliony dolarů, vyvstává kritická otázka: kolik bychom měli utratit, abychom zabránili „apokalypse AI“? Nový výzkum naznačuje, že odpověď je šokující: alespoň 1 % celosvětového HDP ročně – zhruba 300 miliard dolarů – jen na zmírnění existenčních rizik.
Toto číslo, navržené stanfordským ekonomem Charlesem Jonesem, je výrazně vyšší než současné náklady na bezpečnost, které sotva překračují 100 milionů dolarů ročně. Jonesova analýza, která přináší paralely s přípravami na pandemii, naznačuje, že i podle nejkonzervativnějších odhadů potenciální škody způsobené nekontrolovaným vývojem umělé inteligence ospravedlňují masivní investice do bezpečnostních opatření. Ty by mohly zahrnovat financování předních počítačových vědců, právníků vyvíjejících mezinárodní kontrolní mechanismy a významný výpočetní výkon pro monitorování a udržení pokročilých systémů.
Naléhavost akce
Debata se v kritickém okamžiku vyhrotí. S růstem schopností umělé inteligence bude předpovídání budoucích výsledků stále obtížnější. Otázka, kolik utratit za zmírňování rizik, se zpočátku zdála „příliš otevřená“ pro standardní ekonomickou analýzu, ale potenciální sázky vyžadují okamžitou pozornost. Jonesovy simulace ukazují, že utratit alespoň 1 % HDP je ve většině scénářů oprávněné a některé modely naznačují ještě vyšší čísla – až 8 % – pokud se vezme v úvahu blaho budoucích generací.
Současný přístup je zcela nedostatečný. I když se určité finanční prostředky vynakládají na sladění umělé inteligence s lidskými hodnotami a pochopení jejích rozhodovacích procesů, tyto snahy jsou nedostatečně financovány. Globální komunita utrácí jen zlomek toho, co nyní ekonomové považují za nezbytné, aby se předešlo katastrofickým následkům.
Beyond the Risks: Ekonomická budoucnost AI
Debata přesahuje pouhé přežití. Vzestup umělé inteligence přetváří globální ekonomiku a ovlivňuje zaměstnanost, daně a energetickou politiku. Na nedávné konferenci diskutovali ekonomové o tom, jak budou vlády vybírat příjmy, když roboti a umělá inteligence ovládnou trh práce. Pravděpodobné řešení: přechod od daní z práce k daním ze spotřeby a kapitálu, včetně poplatků za počítače a roboty.
čínský faktor
Mezitím se Čína stává světovým lídrem v oblasti obnovitelné energie, tažený jak obavami o energetickou bezpečnost, tak průmyslovou politikou. Zatímco se Spojené státy hašteří kvůli energetické politice, Čína vyváží cenově dostupné solární panely, elektrická vozidla a baterie do zemí s nedostatkem energie, čímž posiluje svůj ekonomický a geopolitický vliv. Tento trend poukazuje na rostoucí mezeru: USA by mohly zaostávat v inovacích v oblasti čisté energie, pokud budou nadále upřednostňovat fosilní paliva před rozvojem obnovitelných zdrojů.
Podstata otázky
Náklady na udržování AI v bezpečí jsou vysoké, ale potenciální důsledky nečinnosti jsou ještě větší. Ekonomové se nyní shodují, že značné investice do zmírňování rizik jsou oprávněné, ale současné výdaje zůstávají žalostně nedostatečné. Budoucnost světové ekonomiky a možná i celého lidstva závisí na tom, zda vlády a korporace dbají tohoto varování.
