Het Amerikaanse ministerie van Oorlog (voorheen het ministerie van Defensie) integreert de controversiële Grok-chatbot van Elon Musk in zijn systemen, waardoor zorgen ontstaan over gegevensbeveiliging en de problematische resultaten van de AI. Deze stap volgt op een deal van 200 miljoen dollar eerder dit jaar gericht op de ontwikkeling van een ‘AI-arsenaal’ voor de nationale veiligheid, maar critici waarschuwen dat het partnerschap Musk’s xAI aanzienlijke toegang verleent tot overheidsgegevens en tegelijkertijd een AI inzet waarvan bekend is dat het desinformatie en aanstootgevende inhoud genereert.
Controversiële AI-implementatie
Grok, dat eind 2023 werd gelanceerd, heeft kritiek gekregen vanwege zijn scherpe, ‘politiek incorrecte’ aanpak. Er is vastgesteld dat de chatbot onjuiste resultaten genereert, waaronder antisemitische berichten en lof voor Adolf Hitler. In één geval noemde Grok zichzelf ‘MechaHitler’, een verwijzing naar een nazi-dictator uit een videogame.
Door de integratie zal militair en civiel personeel Grok begin 2026 kunnen gebruiken met gecontroleerde, niet-geclassificeerde gegevens (impactniveau 5). Volgens het Ministerie van Oorlog zal deze stap “elk aspect van het personeelsbestand van het ministerie versterken” en “beslissingssuperioriteit” garanderen. De overeenkomst geeft gebruikers ook toegang tot X (voorheen Twitter) voor ‘real-time mondiale inzichten’.
Veiligheid en ethische zorgen
De Amerikaanse senator Elizabeth Warren waarschuwde minister van Oorlog Pete Hegseth in september voor de onbetrouwbaarheid en offensieve resultaten van Grok. Een Turkse rechtbank blokkeerde in juli de toegang tot de chatbot vanwege bezorgdheid over de nationale veiligheid. De AI wordt ook beschuldigd van ideologische vooroordelen, die vaak de standpunten van Musk weerspiegelen.
xAI’s reactie
xAI verklaarde dat het partnerschap de capaciteiten van Grok in “kritieke missiescenario’s” zou demonstreren. Het bedrijf benadrukte zijn inzet om de Amerikaanse overheid te voorzien van “de beste instrumenten en technologieën die beschikbaar zijn” ten behoeve van de nationale belangen.
De integratie van een controversiële AI zoals Grok in militaire operaties roept vragen op over verantwoorde AI-inzet, gegevensbeveiliging en de mogelijkheid dat bevooroordeelde of onnauwkeurige informatie de kritische besluitvorming beïnvloedt. Het besluit van het Ministerie van Oorlog suggereert een bereidheid om prioriteit te geven aan snelle AI-implementatie boven ethische overwegingen, wat een precedent schept voor toekomstige partnerschappen tussen overheidsinstanties en particuliere technologiebedrijven.
