Me encontraba frente a un enorme edificio de ladrillo y vidrio en Fort Worth, Texas. En el interior, miles de policías se reunieron para lo que los folletos llamaban “el futuro de la policía”. No pude entrar. Pero las historias se filtraron. Y lo que salió fue inquietante. La IA no sólo ayuda a los policías; está avanzando para apoderarse del corazón de las fuerzas del orden estadounidenses.
El discurso en la Conferencia de Tecnología de la Asociación Internacional de Jefes de Policía fue simple. Automatiza el trabajo pesado. Deje que las máquinas se encarguen del papeleo para que los agentes puedan concentrarse en un trabajo “significativo”. Pero en el ámbito policial, ese “trabajo intenso” es el andamiaje legal que mantiene unidos los casos. Automatizar los informes policiales o las revisiones de casos no sólo ahorra tiempo. Cambia el resultado de la vida de las personas.
La caja negra en el ritmo
Mire alrededor del piso de la sala de exposición. Verás cámaras de reconocimiento facial. Lectores automatizados de matrículas. Drones. Detección de disparos. Chatbots para líneas 911 que no sean de emergencia. Herramientas para la redacción de informes.
A medida que los vecindarios pierden presencia policial humana real, la industria gana en automatización. El proceso de toma de decisiones se está entregando a los algoritmos. Las nuevas empresas tecnológicas están vendiendo la IA como un sistema de “control automatizado del tráfico aéreo”. Es un cerebro digital centralizado. Procesa datos (a menudo recopilados por las mismas empresas que los venden) y ayuda a los departamentos a delegar recursos.
No todo el mundo lo está comprando.
“Muchos de ellos son trucos de ventas que en realidad no cumplen lo que se promete”.
— Abrem Ayana, capitán de policía, Brookhaven, GA
Sin supervisión federal, los policías no tienen más remedio que confiar en los vendedores.
Hace décadas, los departamentos utilizaban tecnologías tempranas como CompStat y PredPol. Prometieron una vigilancia policial imparcial y basada en datos. Fallaron. Más bien, exacerbaron los prejuicios raciales. Pero al menos entonces los humanos estaban en el asiento del conductor. Los humanos podrían ser considerados responsables. Los humanos podrían estar equivocados de maneras comprensibles.
Esta nueva ola de IA en la vigilancia policial promete solucionar fallas pasadas inundando el sistema con datos objetivos en tiempo real. Los defensores dicen que cierra la brecha. Los críticos dicen que erosiona la transparencia cuando la confianza pública ya se está desgastando.
Ahogándose en datos
Jason Truppi, ex agente de delitos cibernéticos del FBI, dice que los policías se están ahogando.
Lleva gafas inteligentes Meta Ray-Ban. Habla rápido. Sus frases están salpicadas de jerga corporativa. En 2020, cofundó ForceMetrics. La empresa ofrece “Velocity”, una plataforma de asistencia para la toma de decisiones impulsada por IA. Pretende convertir datos abrumadores en conocimientos claros.
Truppi califica de “anticuados” los sistemas policiales heredados. Dos décadas de registros de emergencia, expedientes de libertad condicional y grabaciones de cámaras corporales han creado una sobrecarga de información.
“No usamos la ‘palabra P’ en absoluto, porque [la vigilancia policial predictiva] falló”, dijo Truppi.
Velocity es un centro contra el crimen en tiempo real (RTCC). La policía de Nueva York adoptó el concepto hace veinte años. Tradicionalmente, los analistas humanos agregaban datos de llamadas al 911, CCTV y lectores de licencias. Les dieron a los oficiales un resumen antes de llegar al lugar. Menos sorpresa. Menos posibilidades de que las cosas vayan mal: “tripas y armas”, como dice el eufemismo de la industria.
Pero el diluvio es demasiado grande. Solo en 2019, la policía de Nueva York recopiló dos años de imágenes de cámaras corporales cada semana. Los humanos no pueden analizar eso. No de manera significativa.
Los RTCC modernos como Velocity utilizan IA para encontrar patrones en el caos. ¿El objetivo? Mejor conciencia situacional. Truppi culpa de las recientes tragedias en las interacciones entre policías y civiles a la falta de un “enfoque basado en datos”.
La verificación de la realidad
Nina Loshkajian no está convencida.
Es miembro del Centro sobre Raza, Desigualdad y Derecho de la Universidad de Nueva York.
“La realidad es que los departamentos de policía ya habían estado usando sistemas predictivos… durante años… Estos sistemas algorítmicos no previnieron la violencia… no deberíamos dejarnos engañar”.
La empresa de Truppi compite con gigantes como Motorola Solutions y Axon. Axon (antes Taser) compró la empresa de vigilancia Fusus a principios de 2024 para lanzar Axon Fusus. Ya fabrican pistolas paralizantes, cámaras corporales y lectores de matrículas. Incluso tienen un programa de drones y chatbot con IA.
Axon y Motorola están intentando monopolizar la pila. Desde la recopilación de datos en la escena del crimen hasta la estrategia de alto nivel mediante IA.
Los departamentos de policía suelen firmar contratos de varios años. Obtienen pruebas gratuitas. Utilizan “adquisiciones de fuente única”, lo que elimina la competencia. Firmas una vez y estás bloqueado.
La fiebre del oro
El dinero está llegando a raudales.
A finales de 2023, Axon lanzó el “Plan de la Era de la IA”. Paga una tarifa anual. Obtenga herramientas de IA actuales y todo lo que lancen a continuación.
Entre el primer trimestre de 2024 y el primer trimestre de 2025, las suscripciones aumentaron un 140 por ciento. El presidente de Axon, Joshua Isner, dijo a los inversores: “Estamos decididos a convertirnos en la empresa de inteligencia artificial en seguridad pública”. Los ingresos por IA crecieron un 700 por ciento.
Andrew Guthrie Ferguson, profesor de derecho en GWU, ve una fiebre del oro.
“Estamos viendo una fiebre del oro… con la promesa de que les facilitará el trabajo”.
Los inversores lo notaron. En la conferencia de la IACP, el 25 por ciento de los asistentes a la sala de exposición eran empresas de capital. No eran policías. Buscaban apostar por la tecnología.
Y el argumento de venta está funcionando.
El problema del papeleo
¿Por qué compran los policías?
Porque odian el papeleo.
Un estudio de Axon muestra que los oficiales dedican el 40 por ciento de su turno a redactar informes. El tráfico se detiene. Quejas de ruido. Cosas mundanas.
“No nos inscribimos para sentarnos detrás de un teclado”, dijo John Mackey, un sargento de Colorado. Su departamento utiliza Field Notes, una herramienta de informes de inteligencia artificial de Truleo.
La herramienta Draft One de Axon promete solucionar este problema. Está construido sobre un ChatGPT modificado. Axon afirma que está “libre de alucinaciones”. Bajaron el dial de creatividad a cero.
No apueste la granja por esa afirmación. Incluso OpenAI y Google luchan contra las alucinaciones. A principios de este año, Draft One generó un informe que decía que un oficial se había convertido en una rana. El audio de La princesa y el sapo reproducido en la escena probablemente confundió a la IA.
Es gracioso. Hasta que no lo sea.
La responsabilidad desaparece
Los resultados reales de los informes de IA pueden ser mortales.
Cuando un humano escribe un informe, puede interrogarlo en el tribunal. Puede preguntar por qué incluyeron detalles específicos. Puedes evaluar su estado de ánimo. Puedes examinar su juicio.
No puedes hacer eso con un algoritmo de caja negra.
Peor aún, el Borrador Uno originalmente no tenía pista de auditoría. Una vez que envió el informe, la generación de IA original desapareció. Sin copia en la nube. Sin historial de versiones.
Noah Spitzer-Williams, gerente de producto de Axon, admitió en una mesa redonda que la plataforma no guardaba los originales por diseño. “Lo último que queremos es crear dolores de cabeza por la divulgación”.
En otras palabras, si una alucinación de IA terminaba en un caso legal, los abogados y jueces no tenían forma de demostrar que fue generada por IA. El oficial humano acaba de despedirse. Se convirtió en su palabra contra… nada. Evitar.
Eso cambió en diciembre. Después de la presión, Axon actualizó el Draft One. Ahora los departamentos pueden conservar la narrativa original de la IA.
Brandon Garrett, profesor de Derecho de Duke, todavía se muestra cauteloso.
“La idea de que estarías inventando datos… para utilizarlos en los tribunales es peligrosa”.
Los modelos generativos inventan cosas. Así es como funcionan. Usar ese resultado en un proceso judicial es un choque fundamental con el debido proceso. La tecnología avanza más rápido de lo que la ley puede alcanzarla. Y mientras los ejecutivos cuentan el crecimiento de sus ingresos del 700 por ciento, las personas que reciben estos informes se quedan adivinando qué es verdad y qué fue ideado por una máquina.
