Více než 600 zaměstnanců společnosti Google poslalo otevřený dopis generálnímu řediteli Sundaru Pichaiovi, v němž ho vyzvali, aby odmítl potenciální smlouvu s ministerstvem obrany USA. Zaměstnanci – včetně vyšších ředitelů a viceprezidentů z Google DeepMind a Google Cloud – zvedají poplach ohledně možnosti použití modelu umělé inteligence Gemini při skrytých vojenských operacích.
Srdce konfliktu: Bezpečnost vs. operační agilita
Jádrem sporu je neshoda ohledně rozsahu AI. Podle organizátorů dopisu se Google snažil do smluv zahrnout ochranná opatření, která by zabránila použití technologie k vytvoření autonomních zbraní nebo domácího hromadného sledování.
Pentagon však údajně prosazuje mnohem širší jazyk, který vyžaduje, aby AI byla k dispozici pro “všechny zákonné účely”.
Pro zaměstnance je toto rozlišení zásadní:
– Pozice zaměstnanců: Argumentují tím, že “tajné pracovní zátěže” jsou ze své podstaty neprůhledné, takže není možné sledovat, zda se technologie používá k profilování lidí nebo cílení na civilisty.
– Pozice Pentagonu: Ministerstvo obrany usiluje o “provozní flexibilitu”, která by jim umožnila používat nástroje podle potřeby bez omezujících smluvních překážek.
Rostoucí trend etických konfliktů v Big Tech
Tato vnitřní vzpoura ve společnosti Google není izolovaným incidentem; odráží prohlubující se propast mezi rychlým pokrokem AI a etickými hranicemi stanovenými vývojovými společnostmi. Technologický průmysl se stále více ocitá mezi skálou a tvrdým místem: lukrativní státní zakázky a morální standardy vlastních zaměstnanců.
Situace připomíná nedávný významný střet zahrnující Anthropic, další přední startup s umělou inteligencí. Generální ředitel společnosti Anthropic Dario Amodei odmítl poskytnout Pentagonu neomezený přístup ke svým systémům s odkazem na obavy, že AI by mohla být použita k podkopání demokratických hodnot nebo k plnění úkolů, pro které tato technologie ještě není dostatečně bezpečná. Toto odmítnutí vedlo k přímé konfrontaci s americkou vládou, což vedlo k exekutivnímu příkazu prezidenta Donalda Trumpa zakazujícího používání chatbota Anthropic Claude ve vládních ministerstvech.
Lekce z minulosti: The Shadow of the Maven Project
Současný protest v Googlu má vážné historické důsledky. V roce 2018 podobná vlna nespokojenosti zaměstnanců donutila Google stáhnout se z Project Maven, iniciativy Pentagonu, která používala AI k analýze záběrů z dronů.
Současná skupina zaměstnanců požaduje nejen zrušení jedné konkrétní zakázky, ale zásadní změnu firemní politiky. Mezi jejich požadavky patří:
1. Oficiální zrušení jakýchkoli iniciativ, jako je projekt Maven.
2. Stanovte a veřejně prosazujte jasné zásady, které stanoví, že společnost Google a její dodavatelé nikdy nevytvoří technologii pro válčení.
„Chceme, aby umělá inteligence prospívala lidstvu, nikoli aby byla používána nehumánním nebo hrubě škodlivým způsobem,“ uvedli zaměstnanci ve svém dopise.
Závěr
Spor ve společnosti Google zdůrazňuje zásadní napětí ve věku AI: Zatímco vojenské a zpravodajské agentury se snaží integrovat pokročilé modely do své práce, inženýři, kteří tyto modely vytvářejí, stále více požadují transparentnost a etické rámce, aby zabránili zneužití.
