Я стоял у огромного стеклянно-кирпичного здания в Форт-Уорте, штат Техас. Внутри тысячи сотрудников полиции собирались на конференцию, которую в брошюрах называли «будущим правоохранительной деятельности». Мне не было туда входа, но слухи просачивались наружу. И то, что дошло до меня, вызывало беспокойство. ИИ не просто помогает полицейским; он начинает захватывать самое сердце американской правоохранительной системы.
Презентация на Технологической конференции Международной ассоциации начальников полиции (IACP) была простой: автоматизируйте рутину. Пусть машины занимаются бумажной работой, чтобы офицеры могли сосредоточиться на «смысловой» работе. Но в полиции именно эта «рутина» является правовой опорой, на которой держатся дела. Автоматизация полицейских отчетов или проверки дел — это не просто экономия времени. Это изменение исходов, влияющее на жизни людей.
Черный ящик на патрульном участке
Оглянитесь по сторонам на выставочном полу. Вы увидите камеры распознавания лиц. Автоматические считыватели государственных номеров. Дроны. Системы обнаружения выстрелов. Чат-боты для неаварийных линий 911. Инструменты для написания отчетов.
По мере того как в районах снижается реальное присутствие людей-полицейских, отрасль наращивает автоматизацию. Процесс принятия решений передается алгоритмам. Технологические стартапы продают ИИ как систему «автоматического управления воздушным движением». Это централизованный цифровой мозг. Он обрабатывает данные — часто собранные теми же компаниями, которые их продают, — и помогает департаментам распределять ресурсы.
Не все склонны принимать эти предложения.
«Большая часть этого — маркетинговые gimmicks, которые не оправдывают возлагаемых на них надежд».
— Эбрем Айяна, капитан полиции, Брукхейвен, штат Джорджия
В отсутствие федерального надзора у полицейских нет иного выбора, кроме как доверять поставщикам.
Десятилетия назад департаменты использовали ранние технологии, такие как CompStat и PredPol. Они обещали непредвзятую, основанную на данных полицию. Они потерпели неудачу. Вместо этого они усугубили расовые предубеждения. Но тогда руль все еще находился в руках людей. Людям можно было предъявить претензии. Люди могли ошибаться понятным нам образом.
Новая волна ИИ в полицейской деятельности обещает исправить прошлые ошибки, заполнив систему объективными данными в реальном времени. Сторонники говорят, что это устраняет разрыв. Критики утверждают, что это подрывает прозрачность, когда общественное доверие и так трещит по швам.
Тонем в данных
Джасон Труппи, бывший агент ФБР по киберпреступлениям, говорит, что полицейские тонут.
Он носит умные очки Meta Ray-Ban. Говорит быстро. Его предложения изобилуют корпоративным жаргоном. В 2020 году он соосновал компанию ForceMetrics. Компания предлагает «Velocity» — платформу помощи в принятии решений на базе ИИ. Она заявляет, что превращает подавляющий массив данных в четкие идеи.
Труппи называет устаревшие полицейские системы «антиквариатом». Два десятилетия журналов вызовов, файлов об условно-досрочном освобождении и видеозаписей с боди-камер создали информационную перегрузку.
«Мы вообще не используем слово „Предиктив“ (predictive policing), потому что оно [прогнозирование преступлений] потерпело неудачу», — сказал Труппи.
Velocity — это Центр криминальной аналитики в реальном времени (RTCC). Концепцию приняли в NYPD двадцать лет назад. Традиционно человеческие аналитики собирали данные из вызовов 911, видеокамер CCTV и считывателей номеров. Они предоставляли офицерам сводку до прибытия на место. Меньше неожиданностей. Меньше шансов, что все пойдет наперекосяк — в отраслевой эвфемизм это называют «кишки и оружие».
Но поток слишком огромен. Только за 2019 год NYPD собирал два года видеозаписей с боди-камер каждую неделю. Люди не могут анализировать это. Не осмысленно.
Современные RTCC, такие как Velocity, используют ИИ для поиска паттернов в хаосе. Цель? Лучшая ситуационная осведомленность. Труппи винит недавние трагедии во взаимодействии полиции и граждан в отсутствии «подхода, основанного на данных».
Реалистичная оценка
Нина Лошканджиан не убеждена.
Она является научным сотрудником в Центре расы, неравенства и права Нью-Йоркского университета (NYU).
«Реальность такова, что полицейские департаменты уже использовали прогнозирование… годами… Эти алгоритмические системы не предотвратили насилие… нас не должны обмануть».
Компания Труппи конкурирует с гигантами, такими как Motorola Solutions и Axon. Axon (бывшая Taser) купила компанию по видеонаблюдению Fusus в начале 2024 года, чтобы запустить продукт Axon Fusus. Они уже производят электрошокеры, боди-камеры и считыватели номеров. У них даже есть программа ИИ-чатботов и дронов.
Axon и Motorola стремятся монополизировать весь стек. От сбора данных на месте преступления до стратегического планирования высокого уровня с помощью ИИ.
Полицейские департаменты часто подписывают многолетние контракты. Они получают бесплатные пробные периоды. Они используют «закупки у единственного поставщика», что исключает конкуренцию. Вы подписываете один раз, и вы привязаны.
Золотая лихорадка
Денежные потоки хлынули.
В конце 2023 года Axon запустил «План эры ИИ». Заплатите ежегодный взнос. Получите текущие инструменты ИИ и все новые продукты, которые они выпустят.
Между первым кварталом 2024 года и первым кварталом 2025 года количество подписок выросло на 140 процентов. Президент Axon Джошуа Иснер заявил инвесторам: «Мы решили стать ИИ-компанией в сфере общественной безопасности». Выручка от ИИ выросла на 700 процентов.
Эндрю Гатри Фергюсон, профессор права в Университете Джорджа Вашингтона (GWU), видит золотую лихорадку.
«Мы наблюдаем золотую лихорадку… с обещанием, что это сделает их работу проще».
Инвесторы заметили это. На конференции IACP 25 процентов посетителей выставочного зала представляли акционерные фонды. Это были не полицейские. Они искали возможность поставить на эту технологию.
И продающий нарратив работает.
Проблема бумажной работы
Почему полицейские покупают?
Потому что они ненавидят бумажную работу.
Исследование Axon показывает, что офицеры тратят 40 процентов своей смены на написание отчетов. Остановки транспорта. Жалобы на шум. Скучная рутина.
«Мы не подписывались на то, чтобы сидеть за клавиатурой», — сказал Джон Макки, сержант из Колорадо. Его департамент использует Field Notes, инструмент для написания отчетов на базе ИИ от компании Truleo.
Инструмент Axon Draft One обещает исправить это. Он построен на модифицированной версии ChatGPT. Axon заявляет, что он «свободен от галлюцинаций». Они выкрутили ручку креативности на ноль.
Не стоит делать ставки на основе этого заявления. Даже OpenAI и Google struggle с галлюцинациями. В начале этого года Draft One сгенерировал отчет, в котором говорилось, что офицер превратился в лягушку. Аудиозапись с места происшествия с музыкой из мультфильма Принцесса и лягушка, вероятно, сбила ИИ с толку.
Это смешно. Пока это не становится серьезной проблемой.
Подотчетность исчезает
Реальные последствия отчетов, созданных ИИ, могут быть смертельными.
Когда отчет пишет человек, вы можете подвергнуть его перекрестному допросу в суде. Вы можете спросить, почему он включил определенные детали. Вы можете оценить его психологическое состояние. Вы можете критически оценить его суждение.
Вы не можете сделать этого с алгоритмом-черным ящиком.
Хуже того, у Draft One изначально не было журнала аудита. Как только вы отправляли отчет, исходная генерация ИИ исчезала. Никакой копии в облаке. Никакой истории версий.
Ной Спитцер-Уильямс, менеджер по продукту Axon, признал на круглом столе, что платформа не сохраняла оригиналы намеренно. «Последнее, чего мы хотим, — это создать головную боль с раскрытием информации».
Иными словами, если галлюцинация ИИ попадала в судебное дело, у адвокатов и судей не было способа доказать, что она была сгенерирована ИИ. Человеческий офицер просто ставил подпись. Становилось его слову против… ничего. Против пустоты.
Это изменилось в декабре. Под давлением Axon обновил Draft One. Теперь департаменты могут сохранять исходный нарратив ИИ.
Брандон Гарретт, профессор права в Университете Дьюка, все еще настороже.
«Идея о том, что вы будете [сочинять] данные… чтобы использовать их в суде, опасна».
Генеративные модели выдумывают вещи. Таков принцип их работы. Использование этого вывода в судебном процессе фундаментально противоречит праву на надлежащую правовую процедуру. Технологии движутся быстрее, чем закон успевает за ними поспевать. И пока руководители считают свою выручку с ростом на 700 процентов, люди, на которых падают эти отчеты, остаются гадать, что правда, а что было выдумано машиной.
