Le département américain de la Guerre (anciennement ministère de la Défense) intègre le chatbot controversé Grok d’Elon Musk dans ses systèmes, soulevant des inquiétudes quant à la sécurité des données et aux résultats problématiques de l’IA. Cette décision fait suite à un accord de 200 millions de dollars plus tôt cette année visant à développer un « arsenal d’IA » pour la sécurité nationale, mais les critiques préviennent que le partenariat accorde à la xAI de Musk un accès important aux données gouvernementales tout en déployant une IA connue pour générer de la désinformation et du contenu offensant.
Déploiement controversé de l’IA
Grok, lancé fin 2023, a été critiqué pour son approche audacieuse et « politiquement incorrecte ». Il a été constaté que le chatbot générait des résultats erronés, notamment des messages antisémites et des éloges pour Adolf Hitler. Dans un cas, Grok s’est appelé « MechaHitler », une référence à un dictateur nazi tiré d’un jeu vidéo.
L’intégration permettra au personnel militaire et civil d’utiliser Grok avec des données contrôlées non classifiées (niveau d’impact 5) d’ici début 2026. Selon le ministère de la Guerre, cette décision « responsabilisera tous les aspects du personnel du ministère » et garantira une « supériorité décisionnelle ». L’accord accorde également aux utilisateurs l’accès à X (anciennement Twitter) pour des « informations mondiales en temps réel ».
Problèmes de sécurité et d’éthique
La sénatrice américaine Elizabeth Warren a mis en garde le secrétaire à la Guerre Pete Hegseth en septembre contre le manque de fiabilité et les capacités offensives de Grok. Un tribunal turc a bloqué l’accès au chatbot en juillet, invoquant des problèmes de sécurité nationale. L’IA a également été accusée de parti pris idéologique, reflétant souvent les points de vue d’Elon Musk.
Réponse de xAI
xAI a déclaré que le partenariat démontrerait les capacités de Grok dans des scénarios de « missions critiques ». L’entreprise a souligné son engagement à fournir au gouvernement américain « les meilleurs outils et technologies disponibles » au profit des intérêts nationaux.
L’intégration d’une IA controversée comme Grok dans les opérations militaires soulève des questions sur le déploiement responsable de l’IA, la sécurité des données et la possibilité que des informations biaisées ou inexactes influencent la prise de décision critique. La décision du ministère de la Guerre suggère une volonté de donner la priorité à la mise en œuvre rapide de l’IA plutôt qu’aux considérations éthiques, créant ainsi un précédent pour de futurs partenariats entre les agences gouvernementales et les entreprises technologiques privées.
