Ich stand vor einem riesigen Gebäude aus Glas und Ziegeln in Fort Worth, Texas. Drinnen versammelten sich Tausende von Polizisten für das, was in den Broschüren als „die Zukunft der Polizeiarbeit“ bezeichnet wurde. Ich konnte nicht hineingehen. Aber die Geschichten drangen nach draußen. Und was dabei herauskam, war beunruhigend. KI hilft nicht nur Polizisten; Es geht darum, das Herz der amerikanischen Strafverfolgungsbehörden zu erobern.
Der Pitch auf der Konferenz der International Association of Chiefs of Police Technology war einfach. Automatisieren Sie die geschäftige Arbeit. Lassen Sie Maschinen den Papierkram erledigen, damit sich die Beamten auf die „sinnvolle“ Arbeit konzentrieren können. Aber bei der Polizeiarbeit ist diese „fleißige Arbeit“ das juristische Gerüst, das die Fälle zusammenhält. Die Automatisierung von Polizeiberichten oder Fallprüfungen spart nicht nur Zeit. Es verändert den Ausgang des Lebens der Menschen.
Die Black Box im Takt
Schauen Sie sich im Ausstellungsraum um. Sie werden Gesichtserkennungskameras sehen. Automatisierte Kennzeichenleser. Drohnen. Schusserkennung. Chatbots für Nicht-Notrufnummern. Tools zum Verfassen von Berichten.
Da die Polizeipräsenz in den Nachbarschaften abnimmt, gewinnt die Branche an Automatisierung. Der Entscheidungsprozess wird Algorithmen überlassen. Tech-Startups verkaufen KI als „automatisiertes Flugsicherungssystem“. Es ist ein zentralisiertes digitales Gehirn. Es verarbeitet Daten – die oft von denselben Unternehmen gesammelt werden, die sie verkaufen – und hilft Abteilungen bei der Delegierung von Ressourcen.
Nicht jeder kauft es.
„Vieles davon sind Verkaufstricks, die nicht halten, was sie versprechen.“
– Abrem Ayana, Polizeihauptmann, Brookhaven, GA
Ohne staatliche Aufsicht bleibt der Polizei nichts anderes übrig, als den Verkäufern zu vertrauen.
Vor Jahrzehnten nutzten Abteilungen frühe Technologien wie CompStat und PredPol. Sie versprachen eine unvoreingenommene, datengesteuerte Polizeiarbeit. Sie haben versagt. Stattdessen verschärften sie die rassistischen Vorurteile. Aber zumindest saßen damals die Menschen auf dem Fahrersitz. Menschen könnten zur Verantwortung gezogen werden. Menschen könnten auf verständliche Weise falsch liegen.
Diese neue Welle von KI in der Polizeiarbeit verspricht, vergangene Fehler zu beheben, indem das System mit objektiven Echtzeitdaten überflutet wird. Befürworter sagen, es schließe die Lücke. Kritiker sagen, es untergräbt die Transparenz, wenn das Vertrauen der Öffentlichkeit bereits schwindet.
Ertrinken in Daten
Jason Truppi, ehemaliger FBI-Agent für Cyberkriminalität, sagt, dass Polizisten ertrinken.
Er trägt eine Meta-Ray-Ban-Datenbrille. Er redet schnell. Seine Sätze sind gespickt mit Unternehmensjargon. Im Jahr 2020 war er Mitbegründer von ForceMetrics. Das Unternehmen bietet „Velocity“ an, eine KI-gestützte Entscheidungsunterstützungsplattform. Es behauptet, überwältigende Daten in klare Erkenntnisse umzuwandeln.
Truppi bezeichnet die alten Polizeisysteme als „antiquiert“. Zwei Jahrzehnte Notfallprotokolle, Bewährungsakten und Bodycam-Aufnahmen haben zu einer Informationsflut geführt.
„Wir verwenden das ‚P-Wort‘ überhaupt nicht, weil es [vorausschauende Polizeiarbeit] versagt hat“, sagte Truppi.
Velocity ist ein Real-Time Crime Center (RTCC). Das NYPD hat das Konzept vor zwanzig Jahren übernommen. Traditionell sammelten menschliche Analysten Daten von Notrufen, Videoüberwachung und Führerscheinlesern. Sie gaben den Beamten eine Zusammenfassung, bevor sie am Tatort eintrafen. Weniger Überraschung. Geringere Chancen, dass die Dinge schiefgehen – „Mut und Waffen“, wie der Industrie-Euphemismus lautet.
Aber die Sintflut ist zu groß. Allein im Jahr 2019 sammelte das NYPD jede Woche zwei Jahre lang Bodycam-Aufnahmen. Der Mensch kann das nicht analysieren. Nicht sinnvoll.
Moderne RTCCs wie Velocity nutzen KI, um Muster im Chaos zu finden. Das Ziel? Besseres Situationsbewusstsein. Truppi macht das Fehlen eines „datengesteuerten Ansatzes“ für die jüngsten Tragödien bei der Interaktion zwischen Polizei und Zivilisten verantwortlich.
Der Realitätscheck
Nina Loshkajian ist nicht überzeugt.
Sie ist Fellow am Center on Race, Inequality, and Law der NYU.
„Die Realität ist, dass Polizeibehörden bereits seit Jahren prädiktive Maßnahmen eingesetzt haben … Diese algorithmischen Systeme haben Gewalt nicht verhindert … wir sollten uns nicht täuschen lassen.“
Truppis Unternehmen konkurriert mit Giganten wie Motorola Solutions und Axon. Axon (ehemals Taser) kaufte Anfang 2024 das Überwachungsunternehmen Fusus, um Axon Fusus auf den Markt zu bringen. Sie stellen bereits Elektroschocker, Körperkameras und Nummernschildlesegeräte her. Sie haben sogar einen KI-Chatbot und ein Drohnenprogramm.
Axon und Motorola versuchen, den Stack zu monopolisieren. Von der Datenerfassung an Tatorten bis hin zur hochrangigen Strategie mittels KI.
Polizeibehörden schließen oft mehrjährige Verträge ab. Sie erhalten kostenlose Testversionen. Sie nutzen die „Alleinbeschaffung“, die den Wettbewerb ausschaltet. Sie unterschreiben einmal und schon sind Sie angemeldet.
Der Goldrausch
Das Geld strömt herein.
Ende 2023 startete Axon den „AI Era Plan“. Zahlen Sie eine Jahresgebühr. Holen Sie sich aktuelle KI-Tools und alles, was sie als Nächstes auf den Markt bringen.
Zwischen dem ersten Quartal 2024 und dem ersten Quartal 2025 stiegen die Abonnements um 140 Prozent. Axons Präsident Joshua Isner sagte den Investoren: „Wir sind entschlossen, das KI-Unternehmen im Bereich der öffentlichen Sicherheit zu werden.“ Der KI-Umsatz stieg um 700 Prozent.
Andrew Guthrie Ferguson, Juraprofessor an der GWU, sieht einen Goldrausch.
„Wir erleben einen Goldrausch … mit dem Versprechen, dass dies ihre Arbeit erleichtern wird.“
Investoren bemerkten es. Auf der IACP-Konferenz waren 25 Prozent der Showroom-Besucher Aktienfirmen. Sie waren keine Polizisten. Sie wollten auf die Technologie wetten.
Und das Verkaufsgespräch funktioniert.
Das Papierkram-Problem
Warum kaufen Polizisten?
Weil sie Papierkram hassen.
Eine Axon-Studie zeigt, dass Beamte 40 Prozent ihrer Schicht damit verbringen, Berichte zu schreiben. Der Verkehr stoppt. Beschwerden wegen Lärm. Alltägliches Zeug.
„Wir haben uns nicht angemeldet, um hinter einer Tastatur zu sitzen“, sagte John Mackey, ein Sergeant aus Colorado. Seine Abteilung nutzt Field Notes, ein KI-Berichtstool von Truleo.
Das Draft One-Tool von Axon verspricht, dieses Problem zu beheben. Es basiert auf einem modifizierten ChatGPT. Axon behauptet, es sei „halluzinationsfrei“. Sie haben den Kreativitätsregler auf Null gestellt.
Verwetten Sie die Farm nicht auf diese Behauptung. Sogar OpenAI und Google kämpfen mit Halluzinationen. Anfang dieses Jahres erstellte Draft One einen Bericht, in dem es hieß, ein Beamter habe sich in einen Frosch verwandelt. Der Ton von Die Prinzessin und der Frosch, der am Tatort abgespielt wurde, verwirrte wahrscheinlich die KI.
Es ist lustig. Bis es nicht mehr so ist.
Verantwortung verschwindet
Echte Ergebnisse aus KI-Berichten können tödlich sein.
Wenn ein Mensch einen Bericht schreibt, können Sie ihn vor Gericht ins Kreuzverhör nehmen. Sie können fragen, warum sie bestimmte Details enthalten. Sie können ihren Geisteszustand beurteilen. Sie können ihr Urteil hinterfragen.
Mit einem Black-Box-Algorithmus ist das nicht möglich.
Schlimmer noch, Draft One hatte ursprünglich keinen Prüfpfad. Sobald Sie den Bericht eingereicht haben, war die ursprüngliche KI-Generation verschwunden. Keine Cloud-Kopie. Kein Versionsverlauf.
Noah Spitzer-Williams, Axons Produktmanager, gab in einer Diskussionsrunde zu, dass die Plattform Originale nicht absichtlich speicherte. „Das Letzte, was wir wollen, ist, Offenlegungsprobleme zu verursachen.“
Mit anderen Worten: Wenn eine KI-Halluzination zu einem Gerichtsverfahren führte, hatten Anwälte und Richter keine Möglichkeit zu beweisen, dass sie von der KI erzeugt wurde. Der menschliche Offizier hat sich gerade abgemeldet. Es wurde ihr Wort gegen … nichts. Vermeiden.
Das änderte sich im Dezember. Aufgrund des Drucks aktualisierte Axon Draft One. Jetzt können Abteilungen die ursprüngliche KI-Erzählung beibehalten.
Brandon Garrett, ein Duke-Rechtsprofessor, ist immer noch vorsichtig.
„Die Vorstellung, dass Sie Daten erfinden würden, um sie vor Gericht zu verwenden, ist gefährlich.“
Generative Modelle erfinden Dinge. So funktionieren sie. Die Verwendung dieser Ergebnisse in einem Gerichtsverfahren stellt einen grundsätzlichen Widerspruch zum ordnungsgemäßen Verfahren dar. Die Technologie schreitet schneller voran, als das Gesetz aufholen kann. Und während die Führungskräfte ihr 700-prozentiges Umsatzwachstum zählen, müssen die Empfänger dieser Berichte raten, was wahr ist und was sich eine Maschine ausgedacht hat.
