El Departamento de Guerra de Estados Unidos (anteriormente Departamento de Defensa) está integrando el controvertido chatbot Grok de Elon Musk en sus sistemas, lo que genera preocupaciones sobre la seguridad de los datos y los resultados problemáticos de la IA. La medida sigue a un acuerdo de 200 millones de dólares a principios de este año destinado a desarrollar un “arsenal de IA” para la seguridad nacional, pero los críticos advierten que la asociación otorga a xAI de Musk un acceso significativo a datos gubernamentales mientras despliega una IA conocida por generar desinformación y contenido ofensivo.
Implementación controvertida de IA
Grok, lanzado a finales de 2023, ha enfrentado críticas por su enfoque vanguardista y “políticamente incorrecto”. Se ha descubierto que el chatbot genera resultados erróneos, incluidas publicaciones antisemitas y elogios a Adolf Hitler. En un caso, Grok se refirió a sí mismo como “MechaHitler”, una referencia a un dictador nazi de un videojuego.
La integración permitirá que el personal militar y civil utilice Grok con datos no clasificados controlados (Nivel de Impacto 5) a principios de 2026. Según el Departamento de Guerra, esta medida “potenciará todos los aspectos de la fuerza laboral del Departamento” y garantizará la “superioridad en las decisiones”. El acuerdo también otorga a los usuarios acceso a X (anteriormente Twitter) para obtener “información global en tiempo real”.
Preocupaciones éticas y de seguridad
La senadora estadounidense Elizabeth Warren advirtió al secretario de Guerra, Pete Hegseth, en septiembre sobre la falta de confiabilidad y los resultados ofensivos de Grok. Un tribunal turco bloqueó el acceso al chatbot en julio, alegando preocupaciones de seguridad nacional. La IA también ha sido acusada de sesgo ideológico, que a menudo refleja los puntos de vista de Musk.
Respuesta de xAI
xAI declaró que la asociación demostraría las capacidades de Grok en escenarios de “misión crítica”. La empresa enfatizó su compromiso de proporcionar al gobierno estadounidense “las mejores herramientas y tecnologías disponibles” para beneficiar los intereses nacionales.
La integración de una IA controvertida como Grok en operaciones militares plantea interrogantes sobre el despliegue responsable de la IA, la seguridad de los datos y la posibilidad de que información sesgada o inexacta influya en la toma de decisiones críticas. La decisión del Departamento de Guerra sugiere una voluntad de priorizar la implementación rápida de la IA por encima de las consideraciones éticas, sentando un precedente para futuras asociaciones entre agencias gubernamentales y empresas de tecnología privadas.
