Je me tenais devant un immense bâtiment de verre et de briques à Fort Worth, au Texas. À l’intérieur, des milliers de policiers se sont rassemblés pour ce que les brochures appellent « l’avenir du maintien de l’ordre ». Je ne pouvais pas entrer. Mais les histoires ont fuité. Et ce qui en est ressorti était troublant. L’IA n’aide pas seulement les flics ; il est en train de s’emparer du cœur des forces de l’ordre américaines.
Le discours présenté lors de la conférence de l’Association internationale des chefs de police sur la technologie était simple. Automatisez le travail chargé. Laissez les machines gérer la paperasse afin que les agents puissent se concentrer sur un travail « significatif ». Mais dans le domaine policier, ce « travail fastidieux » constitue l’échafaudage juridique qui maintient les affaires ensemble. L’automatisation des rapports de police ou des examens de dossiers ne permet pas seulement de gagner du temps. Cela change le sort de la vie des gens.
La boîte noire sur le rythme
Regardez autour de vous dans la salle d’exposition. Vous verrez des caméras de reconnaissance faciale. Lecteurs de plaques d’immatriculation automatisés. Des drones. Détection de coups de feu. Chatbots pour les lignes 911 non urgentes. Outils de rédaction de rapports.
À mesure que les quartiers perdent la présence humaine réelle de la police, l’industrie gagne en automatisation. Le processus de prise de décision est confié à des algorithmes. Les startups technologiques vendent l’IA comme un système de « contrôle automatisé du trafic aérien ». C’est un cerveau numérique centralisé. Il traite les données, souvent collectées par les mêmes entreprises qui les vendent, et aide les services à déléguer des ressources.
Tout le monde ne l’achète pas.
« Il s’agit en grande partie de stratagèmes commerciaux qui ne tiennent pas réellement leurs promesses. »
— Abrem Ayana, capitaine de police, Brookhaven, Géorgie
Sans surveillance fédérale, les flics n’ont d’autre choix que de faire confiance aux vendeurs.
Il y a des décennies, les ministères utilisaient les premières technologies comme CompStat et PredPol. Ils ont promis une police impartiale et fondée sur les données. Ils ont échoué. Au lieu de cela, ils ont exacerbé les préjugés raciaux. Mais au moins, les humains étaient alors aux commandes. Les humains pourraient être tenus responsables. Les humains pourraient se tromper de manière compréhensible.
Cette nouvelle vague d’IA dans le maintien de l’ordre promet de réparer les échecs passés en inondant le système de données objectives en temps réel. Les partisans disent que cela comble le fossé. Les critiques affirment que cela nuit à la transparence alors que la confiance du public s’effiloche déjà.
Noyade dans les données
Jason Truppi, ancien agent de cybercriminalité du FBI, affirme que les flics se noient.
Il porte des lunettes intelligentes Meta Ray-Ban. Il parle vite. Ses phrases sont parsemées de jargon corporatif. En 2020, il a cofondé ForceMetrics. La société propose « Velocity », une plateforme d’aide à la décision basée sur l’IA. Il prétend transformer des données volumineuses en informations claires.
Truppi qualifie les anciens systèmes de police de « désuets ». Deux décennies de registres d’urgence, de dossiers de libération conditionnelle et d’images de caméras corporelles ont créé une surcharge d’informations.
« Nous n’utilisons pas du tout le « mot P » parce que la police prédictive a échoué », a déclaré Truppi.
Velocity est un centre de criminalité en temps réel (RTCC). Le NYPD a adopté le concept il y a vingt ans. Traditionnellement, les analystes humains regroupaient les données des appels au 911, des vidéosurveillance et des lecteurs de licences. Ils ont donné un résumé aux policiers avant leur arrivée sur les lieux. Moins de surprise. Moins de risques que les choses tournent mal : « du courage et des armes », comme le dit l’euphémisme de l’industrie.
Mais le déluge est trop grand. Rien qu’en 2019, la police de New York a collecté deux années d’images de caméras corporelles chaque semaine. Les humains ne peuvent pas analyser cela. Pas de manière significative.
Les RTCC modernes comme Velocity utilisent l’IA pour trouver des modèles dans le chaos. Le but ? Meilleure connaissance de la situation. Truppi attribue les récentes tragédies dans les interactions entre la police et les civils à l’absence d’une « approche fondée sur les données ».
Le test de la réalité
Nina Loshkajian n’est pas convaincue.
Elle est membre du Center on Race, Inequality, and Law de NYU.
“La réalité est que les services de police utilisaient déjà des systèmes prédictifs… depuis des années… Ces systèmes algorithmiques n’empêchaient pas les violences… nous ne devrions pas nous laisser tromper.”
L’entreprise de Truppi est en concurrence avec des géants comme Motorola Solutions et Axon. Axon (anciennement Taser) a racheté la société de surveillance Fusus début 2024 pour lancer Axon Fusus. Ils fabriquent déjà des pistolets paralysants, des caméras corporelles et des lecteurs de plaques d’immatriculation. Ils ont même un programme de chatbot et de drone IA.
Axon et Motorola tentent de monopoliser la pile. De la collecte de données sur les scènes de crime à la stratégie de haut niveau via l’IA.
Les services de police signent souvent des contrats pluriannuels. Ils bénéficient d’essais gratuits. Ils ont recours à un « approvisionnement auprès d’un fournisseur unique », ce qui élimine la concurrence. Vous signez une fois et vous êtes enfermé.
La ruée vers l’or
L’argent afflue.
Fin 2023, Axon a lancé le « AI Era Plan ». Payez une cotisation annuelle. Obtenez les outils d’IA actuels et tout ce qu’ils lanceront ensuite.
Entre le premier trimestre 2024 et le premier trimestre 2025, les abonnements ont bondi de 140 %. Le président d’Axon, Joshua Isner, a déclaré aux investisseurs : « Nous sommes déterminés à devenir la société d’IA en matière de sécurité publique. » Les revenus de l’IA ont augmenté de 700 pour cent.
Andrew Guthrie Ferguson, professeur de droit au GWU, voit une ruée vers l’or.
« Nous assistons à une ruée vers l’or… avec la promesse que cela facilitera leur travail. »
Les investisseurs l’ont remarqué. Lors de la conférence de l’IACP, 25 pour cent des participants au showroom étaient des sociétés de capitaux. Ce n’étaient pas des flics. Ils cherchaient à miser sur la technologie.
Et l’argumentaire de vente fonctionne.
Le problème de la paperasse
Pourquoi les flics achètent-ils ?
Parce qu’ils détestent la paperasse.
Une étude d’Axon montre que les agents consacrent 40 % de leur temps à rédiger des rapports. La circulation s’arrête. Plaintes liées au bruit. Des trucs banals.
“Nous ne nous sommes pas inscrits pour nous asseoir derrière un clavier”, a déclaré John Mackey, un sergent du Colorado. Son département utilise Field Notes, un outil de rapport d’IA de Truleo.
L’outil Draft One d’Axon promet de résoudre ce problème. Il est construit sur un ChatGPT modifié. Axon prétend qu’il est « sans hallucinations ». Ils ont réduit la créativité à zéro.
Ne pariez pas la ferme sur cette affirmation. Même OpenAI et Google sont aux prises avec des hallucinations. Plus tôt cette année, Draft One a généré un rapport indiquant qu’un officier s’était transformé en grenouille. L’audio de La Princesse et la Grenouille joué sur la scène a probablement dérouté l’IA.
C’est drôle. Jusqu’à ce que ce ne soit pas le cas.
La responsabilité disparaît
Les résultats réels des rapports d’IA peuvent être mortels.
Lorsqu’un humain rédige un rapport, vous pouvez le contre-interroger au tribunal. Vous pouvez demander pourquoi ils ont inclus des détails spécifiques. Vous pouvez évaluer leur état d’esprit. Vous pouvez scruter leur jugement.
Vous ne pouvez pas faire cela avec un algorithme de boîte noire.
Pire encore, Draft One n’avait à l’origine aucune piste d’audit. Une fois le rapport soumis, la génération originale de l’IA avait disparu. Pas de copie cloud. Pas d’historique des versions.
Noah Spitzer-Williams, chef de produit d’Axon, a admis lors d’une table ronde que la plate-forme n’avait pas sauvegardé les originaux de par sa conception. « La dernière chose que nous voulons, c’est créer des maux de tête en matière de divulgation. »
En d’autres termes, si une hallucination de l’IA aboutissait à une affaire judiciaire, les avocats et les juges n’auraient aucun moyen de prouver qu’elle était générée par l’IA. L’officier humain vient de signer. C’est devenu leur parole contre… rien. Éviter.
Cela a changé en décembre. Après pression, Axon a mis à jour Draft One. Les départements peuvent désormais conserver le récit original de l’IA.
Brandon Garrett, professeur de Duke Law, se méfie toujours.
“L’idée selon laquelle vous inventeriez des données… pour les utiliser devant les tribunaux est dangereuse.”
Les modèles génératifs inventent les choses. C’est comme ça qu’ils fonctionnent. L’utilisation de ce résultat dans un processus judiciaire constitue un conflit fondamental avec une procédure régulière. La technologie évolue plus vite que la loi ne peut rattraper son retard. Et tandis que les dirigeants comptent sur une croissance de 700 % de leurs revenus, les destinataires de ces rapports se retrouvent à deviner ce qui est vrai et ce qui a été imaginé par une machine.
