Stałem przed ogromnym budynkiem ze szkła i cegły w Fort Worth w Teksasie. Wewnątrz tysiące funkcjonariuszy policji gromadziło się na konferencji, którą w broszurach nazywano „przyszłością organów ścigania”. Nie miałem tam dostępu, ale plotki wyciekły. I to, co do mnie dotarło, było niepokojące. Sztuczna inteligencja nie tylko pomaga policjantom; zaczyna chwytać samo serce amerykańskich organów ścigania.
Prezentacja na konferencji technologicznej Międzynarodowego Stowarzyszenia Szefów Policji (IACP) była prosta: Zautomatyzować rutynę. Pozwól maszynom wykonać formalności, aby funkcjonariusze mogli skupić się na „znaczącej” pracy. Jednak w policji to właśnie ta „rutyna” stanowi filar prawny, na którym opierają się sprawy. Automatyzacja raportów policyjnych lub przeglądania spraw to nie tylko oszczędność czasu. To zmieniające się wyniki mają wpływ na życie ludzi.
Czarna skrzynka na stacji patrolowej
Rozejrzyj się po podłodze wystawy. Zobaczysz kamery rozpoznające twarz. Automatyczne czytniki tablic rejestracyjnych. Drony. Systemy wykrywania strzałów. Chatboty dla linii innych niż alarmowe. Narzędzia do pisania raportów.
W miarę jak zmniejsza się faktyczna obecność ludzkiej policji w dzielnicach, branża zwiększa się automatyzacja. Proces decyzyjny delegowany jest do algorytmów. Startupy technologiczne sprzedają sztuczną inteligencję jako system „automatycznej kontroli ruchu lotniczego”. To scentralizowany cyfrowy mózg. Przetwarza dane — często gromadzone przez te same firmy, które je sprzedają — i pomaga działom w alokacji zasobów.
Nie wszyscy są skłonni przyjąć takie oferty.
„W dużej mierze to chwyty marketingowe, które nie spełniają obietnic”.
- Ebrem Ayana, kapitan policji, Brookhaven, Georgia
Bez nadzoru federalnego funkcjonariusze policji nie mają innego wyjścia, jak tylko zaufać dostawcom.
Dziesiątki lat temu wydziały korzystały z wczesnych technologii, takich jak CompStat i PredPol. Obiecali bezstronną policję opartą na danych. Nie udało im się. Zamiast tego zaostrzyli uprzedzenia rasowe. Ale wtedy kierownica nadal była w rękach ludzi. Ludzie mogliby składać roszczenia. Ludzie mogą popełniać błędy w sposób, który rozumiemy.
Nowa fala AI w policji obiecuje skorygować błędy z przeszłości poprzez dostarczanie do systemu obiektywnych danych w czasie rzeczywistym. Zwolennicy twierdzą, że to wypełnia lukę. Krytycy twierdzą, że podważa to przejrzystość w czasie, gdy zaufanie publiczne jest już nadwyrężone.
Tonięcie w danych
Jason Truppi, były agent FBI ds. cyberprzestępczości, twierdzi, że gliniarze toną.
Nosi inteligentne okulary Meta Ray-Ban. Mówi szybko. Jego zdania są pełne korporacyjnego żargonu. W 2020 roku był współzałożycielem ForceMetrics. Firma oferuje „Velocity” – platformę wspomagania decyzji opartą na sztucznej inteligencji. Twierdzi, że przekształca przytłaczającą ilość danych w jasne spostrzeżenia.
Trouppi nazywa przestarzałe systemy policyjne „ankami”. Dwie dekady rejestrów połączeń, akt dotyczących zwolnienia warunkowego i nagrań z kamer ciała spowodowały przeciążenie informacyjne.
„W ogóle nie używamy słowa «policja predykcyjna», ponieważ [przewidywanie przestępczości] się nie udało” – powiedział Trouppi.
Velocity to Centrum Przestępczości w Czasie Rzeczywistym (RTCC). Koncepcja została przyjęta przez NYPD dwadzieścia lat temu. Tradycyjnie analitycy zbierali dane z połączeń pod numer 911, kamer CCTV i czytników tablic rejestracyjnych. Przed przybyciem na miejsce przekazali funkcjonariuszom odprawę. Mniej niespodzianek. Jest mniejsze ryzyko, że coś pójdzie nie tak – branżowy eufemizm to „odwaga i broń”.
Ale przepływ jest zbyt duży. Tylko w 2019 roku nowojorska policja gromadziła nagrania z kamer osobistych z dwóch lat co tydzień. Ludzie nie potrafią tego analizować. Bez znaczenia.
Nowoczesne RTCC, takie jak Velocity, wykorzystują sztuczną inteligencję do znajdowania wzorców w chaosie. Cel? Lepsza świadomość sytuacyjna. Trouppi za niedawne tragedie w interakcjach policja-obywatele obwinia brak „podejścia opartego na danych”.
Realistyczne szacunki
Nina Loshkanjian nie jest przekonana.
Jest pracownikiem naukowym w Center on Race, Inequality and the Law na Uniwersytecie Nowojorskim (NYU).
„Rzeczywistość jest taka, że policja już od lat korzysta z funkcji przewidywania… Te systemy algorytmiczne nie zapobiegły przemocy… nie powinniśmy dać się zwieść.”
Firma Trouppi konkuruje z takimi gigantami jak Motorola Solutions i Axon. Axon (dawniej Taser) kupił firmę Fusus zajmującą się monitoringiem wideo na początku 2024 r., aby wprowadzić na rynek produkt Axon Fusus. Produkują już paralizatory, kamery ciała i czytniki tablic rejestracyjnych. Mają nawet chatbota i program dronów AI.
Axon i Motorola chcą zmonopolizować cały stos. Od wywiadu na miejscu zbrodni po planowanie strategiczne wysokiego szczebla z wykorzystaniem sztucznej inteligencji.
Policjanci często podpisują kontrakty wieloletnie. Dostają bezpłatne okresy próbne. Stosują „zamówienia z jednego źródła”, co eliminuje konkurencję. Podpisujesz raz i jesteś związany.
Gorączka złota
Napłynęły przepływy pieniężne.
Pod koniec 2023 roku Axon uruchomił „Plan ery sztucznej inteligencji”. Zapłać opłatę roczną. Uzyskaj aktualne narzędzia AI i wszelkie nowe produkty, które wypuszczają.
Między pierwszym kwartałem 2024 r. a pierwszym kwartałem 2025 r. subskrypcje wzrosły o 140 proc. Prezes Axon Joshua Isner powiedział inwestorom: „Postanowiliśmy zostać firmą zajmującą się sztuczną inteligencją zajmującą się bezpieczeństwem publicznym”. Przychody ze sztucznej inteligencji wzrosły o 700 procent.
Andrew Guthrie Ferguson, profesor prawa na Uniwersytecie George’a Washingtona (GWU), widzi gorączkę złota.
„Obserwujemy gorączkę złota… z obietnicą, że ułatwi im to pracę”.
Inwestorzy to zauważyli. Na konferencji IACP 25 procent odwiedzających halę wystawową pochodziło z firm kapitałowych. To nie byli funkcjonariusze policji. Szukali okazji, aby postawić na tę technologię.
A narracja sprzedaży działa.
Problem z papierkową robotą
Dlaczego policjanci kupują?
Ponieważ nienawidzą papierkowej roboty.
Badanie firmy Axon pokazuje, że funkcjonariusze spędzają 40 procent czasu pracy na pisaniu raportów. Przystanki transportowe. Skargi na hałas. Nudna rutyna.
„Nie zapisaliśmy się, żeby siedzieć za klawiaturą” – powiedział John McKee, sierżant z Kolorado. Jego dział korzysta z Field Notes, narzędzia Truleo do pisania raportów opartego na sztucznej inteligencji.
Narzędzie Axon Draft One obiecuje to naprawić. Jest zbudowany na zmodyfikowanej wersji ChatGPT. Axon twierdzi, że jest „wolny od halucynacji”. Przekręcili pokrętło kreatywności do zera.
Nie powinieneś stawiać zakładów na podstawie tego stwierdzenia. Nawet OpenAI i Google zmagają się z halucynacjami. Na początku tego roku Draft One opublikował raport mówiący, że funkcjonariusz zamienił się w żabę. Nagranie dźwiękowe sceny z muzyką z „Księżniczki i żaby” prawdopodobnie zmyliło sztuczną inteligencję.
To jest zabawne. Jak dotąd nie stało się to poważnym problemem.
Odpowiedzialność znika
Konsekwencje raportów generowanych przez sztuczną inteligencję w świecie rzeczywistym mogą być śmiertelne.
Kiedy dana osoba napisze raport, możesz przesłuchać ją w sądzie. Możesz się zastanawiać, dlaczego podał pewne szczegóły. Można ocenić jego stan psychiczny. Możesz krytycznie odnosić się do jego wyroku.
Nie można tego zrobić za pomocą algorytmu czarnej skrzynki.
Co gorsza, Draft One od początku nie miał ścieżki audytu. Po przesłaniu raportu oryginalna generacja AI zniknęła. Brak kopii w chmurze. Brak historii wersji.
Noah Spitzer-Williams, menedżer produktu w firmie Axon, przyznał podczas okrągłego stołu, że platforma nie celowo zachowywała oryginały. „Ostatnią rzeczą, jakiej chcemy, jest wywoływanie bólu głowy związanego z ujawnianiem informacji”.
Innymi słowy, gdyby halucynacje związane ze sztuczną inteligencją zakończyły się sprawą sądową, prawnicy i sędziowie nie mieliby możliwości udowodnienia, że została ona wygenerowana przez sztuczną inteligencję. Oficer po prostu podpisał. Nie było nic przeciwko jego słowu… nic. Przeciw pustce.
To się zmieniło w grudniu. Pod presją Axon zaktualizował Draft One. Działy mogą teraz zachować oryginalną narrację AI.
Brandon Garrett, profesor prawa na Duke University, nadal jest ostrożny.
„Pomysł, że mógłbyś [sfałszować] dane… na potrzeby wykorzystania w sądzie, jest niebezpieczny.”
Modele generatywne zmyślają. Taka jest zasada ich pracy. Wykorzystanie tego ustalenia w postępowaniu sądowym jest zasadniczo sprzeczne z prawem do rzetelnego procesu. Technologia rozwija się szybciej, niż prawo jest w stanie nadążyć. I choć menedżerowie liczą, że ich przychody wzrosły o 700 procent, ludzie, na których spadają te raporty, zastanawiają się, co jest prawdą, a co wymyśliła maszyna.
