Mi trovavo fuori da un enorme edificio di vetro e mattoni a Fort Worth, in Texas. All’interno, migliaia di poliziotti si sono riuniti per quello che gli opuscoli chiamavano “il futuro della polizia”. Non potevo entrare. Ma le storie sono trapelate. E quello che ne venne fuori fu inquietante. L’intelligenza artificiale non aiuta solo i poliziotti; si sta muovendo per conquistare il cuore delle forze dell’ordine americane.
Il discorso alla conferenza sulla tecnologia dell’Associazione internazionale dei capi della polizia era semplice. Automatizza il lavoro intenso. Lascia che siano le macchine a gestire le pratiche burocratiche in modo che gli agenti possano concentrarsi sul lavoro “significativo”. Ma nella polizia, quel “lavoro impegnativo” è l’impalcatura legale che tiene insieme i casi. Automatizzare i rapporti della polizia o le revisioni dei casi non fa solo risparmiare tempo. Cambia il risultato della vita delle persone.
La scatola nera del beat
Guardati intorno nel pavimento dello showroom. Vedrai telecamere per il riconoscimento facciale. Lettori di targhe automatizzati. Droni. Rilevamento di colpi di arma da fuoco. Chatbot per linee di emergenza non di emergenza. Strumenti per la stesura di report.
Man mano che i quartieri perdono l’effettiva presenza umana della polizia, l’industria guadagna automazione. Il processo decisionale viene affidato agli algoritmi. Le startup tecnologiche stanno vendendo l’intelligenza artificiale come un sistema di “controllo automatizzato del traffico aereo”. È un cervello digitale centralizzato. Elabora i dati, spesso raccolti dalle stesse aziende che li vendono, e aiuta i dipartimenti a delegare le risorse.
Non tutti lo stanno comprando.
“Molti sono espedienti di vendita che in realtà non mantengono la promessa.”
— Abrem Ayana, capitano della polizia, Brookhaven, GA
Senza la supervisione federale, i poliziotti non hanno altra scelta che fidarsi dei venditori.
Decenni fa, i dipartimenti utilizzavano le prime tecnologie come CompStat e PredPol. Hanno promesso una polizia imparziale e basata sui dati. Hanno fallito. Invece, hanno esacerbato i pregiudizi razziali. Ma almeno allora gli esseri umani erano al posto di guida. Gli esseri umani potrebbero essere ritenuti responsabili. Gli esseri umani potrebbero sbagliarsi in modi comprensibili.
Questa nuova ondata di intelligenza artificiale nelle attività di polizia promette di correggere i fallimenti del passato inondando il sistema con dati oggettivi in tempo reale. I sostenitori dicono che colma il divario. I critici affermano che mina la trasparenza quando la fiducia del pubblico è già indebolita.
Annegamento nei dati
Jason Truppi, ex agente del crimine informatico dell’FBI, afferma che i poliziotti stanno annegando.
Indossa gli occhiali intelligenti Meta Ray-Ban. Parla velocemente. Le sue frasi sono infarcite di gergo aziendale. Nel 2020 ha co-fondato ForceMetrics. L’azienda offre “Velocity”, una piattaforma di assistenza decisionale basata sull’intelligenza artificiale. Sostiene di trasformare dati schiaccianti in intuizioni chiare.
Truppi definisce i sistemi di polizia tradizionali “antiquati”. Due decenni di registri di emergenza, file sulla libertà vigilata e filmati di body cam hanno creato un sovraccarico di informazioni.
“Non usiamo affatto la ‘parola P’, perché [la polizia predittiva] ha fallito”, ha detto Truppi.
Velocity è un centro anticrimine in tempo reale (RTCC). La polizia di New York ha adottato il concetto vent’anni fa. Tradizionalmente, gli analisti umani aggregavano i dati provenienti dalle chiamate ai servizi di emergenza, dalle telecamere a circuito chiuso e dai lettori di licenze. Hanno fornito agli agenti un riepilogo prima di arrivare sulla scena. Meno sorpresa. Meno possibilità che le cose vadano male: “coraggio e armi”, come dice l’eufemismo del settore.
Ma il diluvio è troppo grande. Solo nel 2019, la polizia di New York ha raccolto due anni di riprese con body cam ogni settimana. Gli esseri umani non possono analizzarlo. Non in modo significativo.
I moderni RTCC come Velocity utilizzano l’intelligenza artificiale per trovare schemi nel caos. L’obiettivo? Migliore consapevolezza della situazione. Truppi attribuisce la colpa delle recenti tragedie nelle interazioni tra polizia e civili alla mancanza di un “approccio basato sui dati”.
Il confronto con la realtà
Nina Loshkajian non è convinta.
È membro del Center on Race, Inequality, and Law della New York University.
“La realtà è che i dipartimenti di polizia utilizzano già la predizione… da anni… Questi sistemi algoritmici non impediscono la violenza… non dovremmo lasciarci ingannare.”
L’azienda di Truppi compete con colossi come Motorola Solutions e Axon. Axon (ex Taser) ha acquistato la società di sorveglianza Fusus all’inizio del 2024 per lanciare Axon Fusus. Producono già pistole stordenti, telecamere per il corpo e lettori di targhe. Hanno anche un chatbot AI e un programma drone.
Axon e Motorola stanno cercando di monopolizzare lo stack. Dalla raccolta dati sulle scene del crimine alla strategia di alto livello tramite l’intelligenza artificiale.
I dipartimenti di polizia firmano spesso contratti pluriennali. Ottengono prove gratuite. Usano il “appalto esclusivo”, che elimina la concorrenza. Firmi una volta e sei bloccato.
La corsa all’oro
I soldi stanno arrivando.
Alla fine del 2023, Axon ha lanciato il “Piano Era AI”. Paga una quota annuale. Ottieni gli attuali strumenti di intelligenza artificiale e tutto ciò che verrà lanciato successivamente.
Tra il primo trimestre del 2024 e il primo trimestre del 2025, gli abbonamenti sono aumentati del 140%. Il presidente di Axon, Joshua Isner, ha detto agli investitori: “Siamo determinati a diventare l’azienda di intelligenza artificiale nella pubblica sicurezza”. I ricavi dell’intelligenza artificiale sono cresciuti del 700%.
Andrew Guthrie Ferguson, professore di diritto alla GWU, vede una corsa all’oro.
“Stiamo assistendo a una corsa all’oro… con la promessa che renderà il loro lavoro più semplice.”
Gli investitori se ne sono accorti. Alla conferenza IACP, il 25% dei partecipanti allo showroom erano società di partecipazione. Non erano poliziotti. Stavano cercando di scommettere sulla tecnologia.
E la proposta di vendita sta funzionando.
Il problema delle scartoffie
Perché i poliziotti comprano?
Perché odiano le scartoffie.
Uno studio Axon mostra che gli agenti spendono il 40% dei loro turni per scrivere rapporti. Il traffico si ferma. Reclami sul rumore. Roba banale.
“Non ci siamo iscritti per sederci dietro una tastiera”, ha detto John Mackey, un sergente del Colorado. Il suo dipartimento utilizza Field Notes, uno strumento di reporting AI di Truleo.
Lo strumento Draft One di Axon promette di risolvere questo problema. È basato su un ChatGPT modificato. Axon afferma che è “privo di allucinazioni”. Hanno abbassato il quadrante della creatività a zero.
Non scommettere la fattoria su questa affermazione. Anche OpenAI e Google lottano con le allucinazioni. All’inizio di quest’anno, Draft One ha generato un rapporto secondo cui un ufficiale si era trasformato in una rana. L’audio di La principessa e il ranocchio riprodotto sulla scena probabilmente ha confuso l’IA.
È divertente. Fino a quando non lo è più.
La responsabilità svanisce
I risultati reali dei report dell’intelligenza artificiale possono essere mortali.
Quando un essere umano scrive un rapporto, puoi controinterrogarlo in tribunale. Puoi chiedere perché hanno incluso dettagli specifici. Puoi valutare il loro stato d’animo. Puoi esaminare il loro giudizio.
Non puoi farlo con un algoritmo a scatola nera.
Peggio ancora, la prima bozza originariamente non aveva una traccia di controllo. Una volta inviato il rapporto, la generazione originale dell’IA era scomparsa. Nessuna copia cloud. Nessuna cronologia delle versioni.
Noah Spitzer-Williams, product manager di Axon, ha ammesso in una tavola rotonda che la piattaforma non salvava gli originali in base alla progettazione. “L’ultima cosa che vogliamo è creare grattacapi in termini di divulgazione”.
In altre parole, se un’allucinazione derivante dall’intelligenza artificiale finisse in un caso legale, avvocati e giudici non avrebbero modo di dimostrare che sia stata generata dall’intelligenza artificiale. L’ufficiale umano ha appena firmato. È diventata la loro parola contro… niente. Evitare.
La situazione è cambiata a dicembre. Dopo la pressione, Axon ha aggiornato la Draft One. Ora i dipartimenti possono mantenere la narrativa originale dell’IA.
Brandon Garrett, professore di Duke Law, è ancora diffidente.
“L’idea di inventare dati… da utilizzare in tribunale è pericolosa.”
I modelli generativi inventano le cose. È così che funzionano. Usare questo risultato in un processo giudiziario è uno scontro fondamentale con il giusto processo. La tecnologia si muove più velocemente di quanto la legge possa recuperare. E mentre i dirigenti contano la crescita dei ricavi del 700%, le persone che ricevono questi rapporti si chiedono cosa sia vero e cosa sia stato inventato da una macchina.
