Stál jsem před obrovskou skleněnou a cihlovou budovou ve Fort Worth v Texasu. Uvnitř se scházely tisíce policistů na konferenci, kterou brožury nazvali „budoucnost vymáhání práva“. Neměl jsem tam přístup, ale prosakovaly zvěsti. A to, co mi přišlo, bylo znepokojivé. AI nepomáhá jen policistům; začíná chytat samotné srdce amerického vymáhání práva.
Prezentace na technologické konferenci Mezinárodní asociace náčelníků policie (IACP) byla jednoduchá: Automatizujte rutinu. Nechte stroje dělat papírování, aby se policisté mohli soustředit na „smysluplnou“ práci. Ale v policii je to právě tato „rutina“, která je právním pilířem, na kterém případy spočívají. Automatizace policejních zpráv nebo přezkoumání případů není jen o úspoře času. Jsou to změny výsledků, které ovlivňují životy lidí.
Černá skříňka na hlídkové stanici
Rozhlédněte se po výstavní ploše. Uvidíte kamery pro rozpoznávání obličeje. Automatické čtečky SPZ. Drony. Systémy detekce výstřelů. Chatboti pro jiné než tísňové linky 911. Nástroje pro psaní zpráv.
Vzhledem k tomu, že skutečná přítomnost lidské policie ve čtvrtích klesá, průmysl zvyšuje automatizaci. Rozhodovací proces je delegován na algoritmy. Technologické startupy prodávají AI jako systém „automatizovaného řízení letového provozu“. Toto je centralizovaný digitální mozek. Zpracovává data – často shromážděná stejnými společnostmi, které je prodávají – a pomáhá oddělením přidělovat zdroje.
Ne každý je nakloněn přijmout tyto nabídky.
„Většina z toho jsou marketingové triky, které nesplňují svůj slib.“
- Ebrem Ayana, policejní kapitán, Brookhaven, Georgia
Bez federálního dohledu nemají policisté jinou možnost, než dodavatelům důvěřovat.
Před desítkami let používala oddělení rané technologie jako CompStat a PredPol. Slíbili nezaujatou policii založenou na datech. Neuspěli. Místo toho prohloubili rasové předsudky. Jenže pak byl volant stále v rukou lidí. Lidé by mohli vznášet nároky. Lidé mohou dělat chyby způsobem, kterému rozumíme.
Nová vlna AI v policejní práci slibuje, že napraví minulé chyby tím, že bude systém zásobovat objektivními daty v reálném čase. Zastánci říkají, že překlenuje propast. Kritici tvrdí, že to podkopává transparentnost v době, kdy je důvěra veřejnosti již napjatá.
Topí se v datech
Jason Truppi, bývalý agent FBI pro počítačovou kriminalitu, říká, že policisté se topí.
Nosí chytré brýle Meta Ray-Ban. Mluví rychle. Jeho věty jsou plné firemního žargonu. V roce 2020 spoluzaložil ForceMetrics. Společnost nabízí „Velocity“, platformu pro pomoc při rozhodování s umělou inteligencí. Tvrdí, že převádí drtivé množství dat na jasné poznatky.
Trouppi nazývá zastaralé policejní systémy „starožitnosti“. Dvě desetiletí protokolů hovorů, souborů s podmíněným propuštěním a záznamů z kamer těla vytvořily zahlcení informacemi.
“Vůbec nepoužíváme slovo ‘prediktivní policie’, protože [predikce zločinu] selhala,” řekl Trouppi.
Velocity je Real Time Crime Center (RTCC). Tento koncept byl přijat NYPD před dvaceti lety. Lidští analytici tradičně sbírali data z hovorů 911, CCTV kamer a čteček SPZ. Před příjezdem na místo poskytli policistům instruktáž. Méně překvapení. Je menší šance, že se něco pokazí – průmyslový eufemismus pro to znamená „gut and guns“.
Ale proud je příliš velký. Jen v roce 2019 shromáždila newyorská policie dva roky záznamů z tělesné kamery každý týden. Lidé to nedokážou analyzovat. Není smysluplné.
Moderní RTCC jako Velocity používají AI k nalezení vzorů v chaosu. Cíl? Lepší situační povědomí. Trouppi obviňuje nedávné tragédie v interakci mezi policií a občany z nedostatku „přístupu založeného na datech“.
Realistický odhad
Nina Loshkanjian není přesvědčena.
Je výzkumnou pracovnicí Centra pro rasu, nerovnost a právo na New York University (NYU).
„Skutečnost je taková, že policejní útvary již předpovědi používají… léta… Tyto algoritmické systémy nezabránily násilí… neměli bychom se nechat zmást.“
Trouppiho společnost konkuruje gigantům, jako jsou Motorola Solutions a Axon. Společnost Axon (dříve Taser) koupila společnost Fusus pro video dohled na začátku roku 2024, aby uvedla na trh produkt Axon Fusus. Vyrábějí už paralyzéry, kamery na tělo a čtečky SPZ. Mají dokonce AI chatbota a program pro drony.
Axon a Motorola se snaží monopolizovat celý stack. Od zpravodajství o místě činu až po strategické plánování na vysoké úrovni s umělou inteligencí.
Policejní útvary často podepisují víceleté smlouvy. Dostávají bezplatné zkušební verze. Používají „zadávání zakázek z jednoho zdroje“, které eliminuje konkurenci. Jednou podepíšete a jste vázáni.
Zlatá horečka
Nahrnuly se peněžní toky.
Na konci roku 2023 Axon spustil „plán AI Era“. Zaplaťte roční poplatek. Získejte aktuální nástroje umělé inteligence a všechny nové produkty, které vydávají.
Mezi prvním čtvrtletím roku 2024 a prvním čtvrtletím roku 2025 vzrostlo předplatné o 140 procent. Prezident společnosti Axon Joshua Isner řekl investorům: “Rozhodli jsme se stát se společností pro veřejnou bezpečnost AI.” Příjmy z AI vzrostly o 700 procent.
Andrew Guthrie Ferguson, profesor práva na George Washington University (GWU), vidí zlatou horečku.
“Jsme svědky zlaté horečky… s příslibem, že jim to usnadní práci.”
Investoři si toho všimli. Na konferenci IACP bylo 25 procent návštěvníků výstavní haly z akciových společností. To nebyli policisté. Hledali příležitost vsadit na tuto technologii.
A prodejní vyprávění funguje.
Problém s papírováním
Proč policajti kupují?
Protože nesnáší papírování.
Studie společnosti Axon ukazuje, že důstojníci tráví 40 procent své směny psaním zpráv. Doprava se zastaví. Stížnosti na hluk. Nudná rutina.
“Nepřihlásili jsme se, abychom seděli za klávesnicí,” řekl John McKee, seržant z Colorada. Jeho oddělení používá Field Notes, nástroj pro psaní zpráv s umělou inteligencí od společnosti Truleo.
Nástroj Axon Draft One slibuje, že to napraví. Je postaven na upravené verzi ChatGPT. Axon tvrdí, že je „prostý halucinací“. Otočili knoflík kreativity na nulu.
Na základě tohoto prohlášení byste neměli uzavírat sázky. Dokonce i OpenAI a Google bojují s halucinacemi. Začátkem tohoto roku vygeneroval první návrh zprávu, že se důstojník proměnil v žábu. Zvukový záznam ze scény s hudbou z Princezny a žabáka pravděpodobně zmátl AI.
To je legrační. Zatím se z toho nestal vážný problém.
Odpovědnost mizí
Důsledky zpráv generovaných umělou inteligencí v reálném světě mohou být smrtelné.
Když člověk napíše zprávu, můžete ho křížově vyslechnout u soudu. Možná se divíte, proč zahrnul určité detaily. Můžete posoudit jeho psychický stav. Můžete být kritičtí k jeho úsudku.
Nemůžete to udělat s algoritmem černé skříňky.
Aby toho nebylo málo, první návrh neměl pro začátek žádnou auditní stopu. Jakmile odešlete zprávu, původní generace AI zmizela. Žádná kopie v cloudu. Žádná historie verzí.
Noah Spitzer-Williams, produktový manažer společnosti Axon, u kulatého stolu přiznal, že platforma záměrně nezachovává originály. “Poslední věc, kterou chceme, je způsobit bolest hlavy při odhalení.”
Jinými slovy, pokud by halucinace umělé inteligence skončila soudním sporem, právníci a soudci by neměli žádný způsob, jak prokázat, že byla vytvořena umělou inteligencí. Lidský důstojník prostě podepsal. Proti jeho slovu nebylo nic… nic. Proti prázdnotě.
To se změnilo v prosinci. Pod tlakem Axon aktualizoval Draft One. Oddělení nyní mohou zachovat původní příběh AI.
Brandon Garrett, profesor práva na Duke University, je stále ostražitý.
“Představa, že byste si [vymysleli] data… pro použití u soudu, je nebezpečná.”
Generativní modely tvoří věci. To je princip jejich práce. Použití tohoto nálezu v soudním sporu je zásadně v rozporu s právem na spravedlivý proces. Technologie se vyvíjí rychleji, než zákon stíhá. A zatímco manažeři počítají své příjmy až o 700 procent, lidé, na které tyto zprávy padají, se ptají, co je pravda a co si stroj vymyslel.
