Americké ministerstvo obrany (dříve ministerstvo obrany) integruje do svých systémů kontroverzního chatbota Groka od Elona Muska, což vyvolává obavy ohledně zabezpečení dat a problematického výstupu AI. Tento krok následuje po dohodě 200 milionů dolarů z počátku tohoto roku na vývoj „arzenálu umělé inteligence“ pro národní bezpečnost, ale kritici varují, že partnerství poskytuje Muskově xAI významný přístup k vládním datům a zároveň využívá umělou inteligenci známou pro generování dezinformací a urážlivého obsahu.
Kontroverzní přijetí umělé inteligence
Grok, který byl spuštěn na konci roku 2023, čelil kritice za svůj nervózní a „politicky nekorektní“ přístup. Chatbot vrátil chybné výsledky, včetně antisemitských zpráv a chvály pro Adolfa Hitlera. V jednom případě se Grok nazýval „MechaHitler“, což je odkaz na nacistického diktátora z videohry.
Integrace umožní vojenským a civilním uživatelům používat Grok s kontrolovanými neutajovanými daty (Úroveň dopadu 5) do začátku roku 2026. Tento krok „posílí všechny aspekty pracovní síly ministerstva“ a zajistí „dokonalost rozhodování“, uvedlo ministerstvo obrany. Dohoda také poskytuje uživatelům přístup k X (dříve Twitter) pro „informace o světové situaci v reálném čase“.
Bezpečnostní a etické otázky
Americká senátorka Elizabeth Warrenová v září varovala ministra zahraničí Petera Hegsetha před Grokovým nespolehlivým a urážlivým výsledkem. Turecký soud zablokoval přístup k chatbotovi v červenci s odkazem na obavy o národní bezpečnost. AI byla také obviňována z ideologické zaujatosti, často odrážející Muskovy názory.
Odpovědět xAI
xAI uvedl, že partnerství prokáže schopnosti Groka v „kritických scénářích“. Společnost zdůraznila svůj závazek poskytnout vládě USA „nejlepší nástroje a technologie“ k ochraně národních zájmů.
Integrace kontroverzní umělé inteligence, jako je Grok, do vojenských operací zpochybňuje zodpovědné nasazení umělé inteligence, zabezpečení dat a potenciální dopad neobjektivních nebo nepřesných informací na kritická rozhodnutí. Rozhodnutí ministerstva obrany naznačuje ochotu upřednostnit rychlé přijetí umělé inteligence před etickými ohledy, což vytváří precedens pro budoucí partnerství mezi vládními agenturami a soukromými technologickými společnostmi.
