Ik stond buiten een enorm gebouw van glas en baksteen in Fort Worth, Texas. Binnen verzamelden duizenden agenten zich voor wat de brochures ‘de toekomst van het politiewerk’ noemden. Ik kon niet naar binnen. Maar de verhalen lekten uit. En wat eruit kwam was verontrustend. AI helpt niet alleen de politie; het is in beweging om het hart van de Amerikaanse wetshandhaving te veroveren.
De pitch op de Technology Conference van de International Association of Chiefs of Police was eenvoudig. Automatiseer het drukke werk. Laat machines het papierwerk afhandelen, zodat agenten zich kunnen concentreren op ‘zinvol’ werk. Maar bij de politie is dat ‘drukke werk’ de juridische basis die zaken bij elkaar houdt. Het automatiseren van politierapporten of zaakbeoordelingen bespaart niet alleen tijd. Het verandert de uitkomst van het leven van mensen.
De zwarte doos op de beat
Kijk rond in de showroomvloer. Je ziet gezichtsherkenningscamera’s. Geautomatiseerde kentekenplaatlezers. Drones. Detectie van geweerschoten. Chatbots voor niet-dringende 911-lijnen. Hulpmiddelen voor het schrijven van rapporten.
Naarmate buurten de feitelijke aanwezigheid van de menselijke politie verliezen, wordt de industrie geautomatiseerd. Het besluitvormingsproces wordt overgelaten aan algoritmen. Tech-startups verkopen AI als een ‘geautomatiseerde luchtverkeersleiding’-systeem. Het is een gecentraliseerd digitaal brein. Het verwerkt gegevens (vaak verzameld door dezelfde bedrijven die deze verkopen) en helpt afdelingen bij het delegeren van middelen.
Niet iedereen koopt het.
“Veel ervan zijn verkoopgimmicks die niet echt waarmaken wat de belofte is.”
– Abrem Ayana, politiekapitein, Brookhaven, GA
Zonder federaal toezicht heeft de politie geen andere keuze dan de verkopers te vertrouwen.
Tientallen jaren geleden gebruikten afdelingen vroege technologie zoals CompStat en PredPol. Ze beloofden een onpartijdige, datagestuurde politiezorg. Ze faalden. In plaats daarvan verergerden ze de raciale vooroordelen. Maar toen zaten er tenminste mensen aan het stuur. Mensen zouden ter verantwoording kunnen worden geroepen. Mensen kunnen het op begrijpelijke wijze mis hebben.
Deze nieuwe golf van AI in het politiewerk belooft mislukkingen uit het verleden te herstellen door het systeem te overspoelen met realtime, objectieve gegevens. Voorstanders zeggen dat het de kloof overbrugt. Critici zeggen dat het de transparantie aantast terwijl het vertrouwen van het publiek al aan het wankelen is.
Verdrinken in gegevens
Jason Truppi, voormalig cybercriminaliteitsagent van de FBI, zegt dat de politie aan het verdrinken is.
Hij draagt een slimme bril van Meta Ray-Ban. Hij praat snel. Zijn zinnen zijn doorspekt met bedrijfsjargon. In 2020 was hij medeoprichter van ForceMetrics. Het bedrijf biedt ‘Velocity’, een door AI aangedreven beslissingsondersteuningsplatform. Het beweert overweldigende gegevens om te zetten in heldere inzichten.
Truppi noemt oude politiesystemen ‘verouderd’. Twintig jaar aan noodlogboeken, voorwaardelijke vrijlatingsdossiers en bodycambeelden hebben geleid tot een overdaad aan informatie.
“We gebruiken het ‘P-woord’ helemaal niet, omdat het [predictive policing] heeft gefaald”, zei Truppi.
Velocity is een Real-Time Crime Center (RTCC). De NYPD heeft het concept twintig jaar geleden overgenomen. Traditioneel verzamelden menselijke analisten gegevens van 911-oproepen, CCTV en licentielezers. Ze gaven agenten een samenvatting voordat ze ter plaatse kwamen. Minder verrassing. Minder kans dat het misgaat – ‘lef en wapens’, zoals het eufemisme van de industrie luidt.
Maar de zondvloed is te groot. Alleen al in 2019 verzamelde de NYPD elke week twee jaar lang bodycambeelden. Mensen kunnen dat niet analyseren. Niet zinvol.
Moderne RTCC’s zoals Velocity gebruiken AI om patronen in de chaos te vinden. Het doel? Beter situatiebewustzijn. Truppi wijt recente tragedies in de interacties tussen politie en burgers aan een gebrek aan een ‘datagedreven aanpak’.
De realitycheck
Nina Loshkajian is niet overtuigd.
Ze is fellow bij NYU’s Center on Race, Inequality, and Law.
“De realiteit is dat de politie al jaren gebruik maakt van voorspellende… Deze algoritmische systemen hebben geweld niet kunnen voorkomen… we mogen ons niet laten misleiden.”
Truppi’s bedrijf concurreert met giganten als Motorola Solutions en Axon. Axon (voorheen Taser) kocht begin 2024 surveillancebedrijf Fusus om Axon Fusus te lanceren. Ze maken al verdovingswapens, lichaamscamera’s en kentekenplaatlezers. Ze hebben zelfs een AI-chatbot en drone-programma.
Axon en Motorola proberen de stapel te monopoliseren. Van dataverzameling op plaats delict tot strategie op hoog niveau via AI.
Politiekorpsen tekenen vaak meerjarige contracten. Ze krijgen gratis proefversies. Ze maken gebruik van ‘sole-source inkoop’, waardoor de concurrentie wordt uitgeschakeld. Je tekent één keer en je zit vast.
De goudkoorts
Het geld stroomt binnen.
Eind 2023 lanceerde Axon het ‘AI Era Plan’. Betaal één jaarlijkse vergoeding. Ontvang de huidige AI-tools en wat ze daarna lanceren.
Tussen het eerste kwartaal van 2024 en het eerste kwartaal van 2025 stegen de abonnementen met 140 procent. Axon’s president Joshua Isner zei tegen investeerders: “Wij zijn vastbesloten om het AI-bedrijf in de openbare veiligheid te worden.” De AI-inkomsten stegen met 700 procent.
Andrew Guthrie Ferguson, hoogleraar rechten aan de GWU, ziet een goudkoorts.
“We zien een goudkoorts… met de belofte dat het hun werk gemakkelijker zal maken.”
Beleggers merkten het. Op de IACP-conferentie bestond 25 procent van de showroombezoekers uit aandelenbedrijven. Het waren geen politieagenten. Ze wilden wedden op de technologie.
En het verkooppraatje werkt.
Het papierwerkprobleem
Waarom koopt de politie?
Omdat ze een hekel hebben aan papierwerk.
Uit een onderzoek van Axon blijkt dat officieren 40 procent van hun dienst besteden aan het schrijven van rapporten. Het verkeer stopt. Klachten over geluidsoverlast. Alledaagse dingen.
“We hebben ons niet aangemeld om achter een toetsenbord te zitten”, zegt John Mackey, een sergeant uit Colorado. Zijn afdeling maakt gebruik van Field Notes, een AI-rapportagetool van Truleo.
De Draft One-tool van Axon belooft dit op te lossen. Het is gebouwd op een aangepaste ChatGPT. Axon beweert dat het ‘vrij van hallucinaties’ is. Ze hebben de creativiteitsknop op nul gezet.
Zet de boerderij niet in op die bewering. Zelfs OpenAI en Google kampen met hallucinaties. Eerder dit jaar genereerde Draft One een rapport waarin stond dat een officier in een kikker was veranderd. Audio van De prinses en de kikker die ter plaatse speelde, bracht de AI waarschijnlijk in verwarring.
Het is grappig. Totdat het niet meer zo is.
De verantwoordelijkheid verdwijnt
Echte uitkomsten van AI-rapporten kunnen dodelijk zijn.
Als een mens een rapport schrijft, kun je hem in de rechtbank aan een kruisverhoor onderwerpen. Je kunt je afvragen waarom ze specifieke details hebben opgenomen. Je kunt hun gemoedstoestand beoordelen. Je kunt hun oordeel onder de loep nemen.
Dat kun je niet doen met een black-box-algoritme.
Erger nog, Draft One had oorspronkelijk geen audittraject. Nadat u het rapport had ingediend, was de oorspronkelijke AI-generatie verdwenen. Geen cloudkopie. Geen versiegeschiedenis.
Noah Spitzer-Williams, de productmanager van Axon, gaf tijdens een rondetafelgesprek toe dat het platform de originelen niet door het ontwerp heeft bewaard. “Het laatste wat we willen is het creëren van kopzorgen rond openbaarmaking.”
Met andere woorden: als een AI-hallucinatie in een rechtszaak terecht zou komen, konden advocaten en rechters niet bewijzen dat deze door AI werd gegenereerd. De menselijke officier heeft net getekend. Het werd hun woord tegen… niets. Voorkomen.
Dat veranderde in december. Na druk heeft Axon Draft One bijgewerkt. Nu kunnen afdelingen het originele AI-verhaal behouden.
Brandon Garrett, professor in de rechten van Duke, is nog steeds op zijn hoede.
“Het idee dat je gegevens zou verzinnen… voor gebruik in de rechtszaal is gevaarlijk.”
Generatieve modellen verzinnen dingen. Dat is hoe ze werken. Het gebruik van die output in een gerechtelijk proces is een fundamentele strijd met een eerlijk proces. De technologie ontwikkelt zich sneller dan de wet kan bijhouden. En terwijl de leidinggevenden hun omzetgroei van 700 procent tellen, blijven de mensen aan de ontvangende kant van deze rapporten raden wat waar is en wat door een machine is bedacht.
