Saya berdiri di luar sebuah bangunan besar yang terbuat dari kaca dan batu bata di Fort Worth, Texas. Di dalam, ribuan polisi berkumpul untuk apa yang disebut brosur sebagai “masa depan kepolisian.” Saya tidak bisa masuk. Tapi ceritanya bocor. Dan apa yang terjadi sungguh meresahkan. AI tidak hanya membantu polisi; hal ini bergerak untuk merebut hati penegakan hukum Amerika.
Presentasi pada Konferensi Teknologi Asosiasi Internasional Kepala Kepolisian sederhana saja. Otomatiskan kesibukan. Biarkan mesin menangani dokumen sehingga petugas dapat fokus pada pekerjaan yang “bermakna”. Namun dalam kepolisian, “kesibukan” tersebut merupakan perancah hukum yang menyatukan kasus-kasus. Mengotomatiskan laporan polisi atau peninjauan kasus tidak hanya menghemat waktu. Ini mengubah hasil kehidupan masyarakat.
Kotak Hitam yang Sedang Irama
Lihatlah sekeliling lantai showroom. Anda akan melihat kamera pengenal wajah. Pembaca plat nomor otomatis. Drone. Deteksi tembakan. Chatbots untuk jalur 911 non-darurat. Alat penulisan laporan.
Ketika lingkungan kehilangan kehadiran polisi manusia, industri mendapatkan otomatisasi. Proses pengambilan keputusan diserahkan kepada algoritma. Startup teknologi menjual AI sebagai sistem “pengendalian lalu lintas udara otomatis”. Ini adalah otak digital terpusat. Ini memproses data—sering kali dikumpulkan oleh perusahaan yang sama yang menjualnya—dan membantu departemen mendelegasikan sumber daya.
Tidak semua orang membelinya.
“Banyak di antaranya merupakan gimmick penjualan yang tidak benar-benar memenuhi janjinya.”
— Abrem Ayana, Kapten Polisi, Brookhaven, GA
Tanpa pengawasan federal, polisi tidak punya pilihan selain mempercayai vendor.
Beberapa dekade yang lalu, departemen menggunakan teknologi awal seperti CompStat dan PredPol. Mereka menjanjikan kebijakan yang tidak memihak dan berbasis data. Mereka gagal. Sebaliknya, mereka justru memperburuk bias rasial. Tapi setidaknya manusialah yang memegang kendali saat itu. Manusia bisa dimintai pertanggungjawaban. Manusia bisa saja salah dalam hal yang bisa dimengerti.
Gelombang baru AI dalam kepolisian ini menjanjikan perbaikan kegagalan di masa lalu dengan membanjiri sistem dengan data objektif dan real-time. Para pendukung mengatakan hal ini menjembatani kesenjangan tersebut. Kritikus mengatakan hal ini mengikis transparansi ketika kepercayaan publik sudah terkikis.
Tenggelam dalam Data
Jason Truppi, mantan agen kejahatan dunia maya FBI, mengatakan polisi sedang tenggelam.
Dia memakai kacamata pintar Meta Ray-Ban. Dia berbicara cepat. Kalimat-kalimatnya dibumbui dengan jargon perusahaan. Pada tahun 2020, ia ikut mendirikan ForceMetrics. Perusahaan ini menawarkan “Velocity,” sebuah platform bantuan keputusan yang didukung AI. Ia mengklaim dapat mengubah data yang sangat banyak menjadi wawasan yang jelas.
Truppi menyebut sistem kepolisian lama “kuno.” Catatan darurat selama dua dekade, file pembebasan bersyarat, dan rekaman kamera tubuh telah menciptakan informasi yang berlebihan.
“Kami tidak menggunakan ‘kata P’ sama sekali karena [pemolisian prediktif] gagal,” kata Truppi.
Kecepatan adalah Pusat Kejahatan Real-Time (RTCC). NYPD mengadopsi konsep tersebut dua puluh tahun yang lalu. Secara tradisional, analis manusia mengumpulkan data dari panggilan 911, CCTV, dan pembaca lisensi. Mereka memberikan ringkasan kepada petugas sebelum mereka tiba di tempat kejadian. Kurang mengejutkan. Lebih sedikit kemungkinan terjadinya hal-hal yang tidak diinginkan—“nyali dan senjata,” seiring dengan eufemisme industri.
Tapi banjirnya terlalu besar. Pada tahun 2019 saja, NYPD mengumpulkan rekaman body-cam selama dua tahun setiap minggu. Manusia tidak bisa menganalisisnya. Tidak secara berarti.
RTCC modern seperti Velocity menggunakan AI untuk menemukan pola dalam kekacauan. Tujuannya? Kesadaran situasional yang lebih baik. Truppi menyalahkan tragedi yang terjadi baru-baru ini dalam interaksi polisi-sipil karena kurangnya “pendekatan berbasis data.”
Pemeriksaan Realita
Nina Loshkajian tidak yakin.
Dia adalah peneliti di Pusat Ras, Ketimpangan, dan Hukum NYU.
“Kenyataannya adalah departemen kepolisian telah menggunakan sistem prediksi… selama bertahun-tahun… Sistem algoritmik ini tidak mencegah kekerasan… kita tidak boleh tertipu.”
Perusahaan Truppi bersaing dengan raksasa seperti Motorola Solutions dan Axon. Axon (sebelumnya Taser) membeli perusahaan pengawasan Fusus pada awal tahun 2024 untuk meluncurkan Axon Fusus. Mereka sudah membuat senjata bius, kamera tubuh, dan pembaca plat nomor. Mereka bahkan memiliki program chatbot dan drone AI.
Axon dan Motorola mencoba memonopoli tumpukan tersebut. Dari pengumpulan data di TKP hingga strategi tingkat tinggi melalui AI.
Departemen kepolisian sering kali menandatangani kontrak multi-tahun. Mereka mendapatkan uji coba gratis. Mereka menggunakan “pengadaan sumber tunggal,” yang menghilangkan persaingan. Anda masuk sekali, dan Anda terkunci.
Demam Emas
Uang mengalir masuk.
Pada akhir tahun 2023, Axon meluncurkan “Rencana Era AI.” Bayar satu biaya tahunan. Dapatkan alat AI terkini dan apa pun yang diluncurkan selanjutnya.
Antara Q1 2024 dan Q1 2025, jumlah langganan melonjak 140 persen. Presiden Axon Joshua Isner mengatakan kepada investor, “Kami bertekad untuk menjadi perusahaan AI dalam keselamatan publik.” Pendapatan AI tumbuh 700 persen.
Andrew Guthrie Ferguson, profesor hukum di GWU, melihat adanya demam emas.
“Kami sedang menyaksikan demam emas… yang diyakini akan membuat pekerjaan mereka lebih mudah.”
Investor memperhatikan. Pada konferensi IACP, 25 persen peserta showroom adalah perusahaan ekuitas. Mereka bukan polisi. Mereka ingin bertaruh pada teknologinya.
Dan promosi penjualan berhasil.
Masalah Dokumen
Mengapa polisi membeli?
Karena mereka benci dokumen.
Sebuah studi Axon menunjukkan petugas menghabiskan 40 persen dari shift mereka untuk menulis laporan. Lalu lintas berhenti. Keluhan kebisingan. Hal-hal duniawi.
“Kami tidak mendaftar untuk duduk di belakang papan tombol,” kata John Mackey, seorang sersan Colorado. Departemennya menggunakan Catatan Lapangan, alat laporan AI dari Truleo.
Alat Draft One Axon berjanji untuk memperbaikinya. Itu dibangun di atas ChatGPT yang dimodifikasi. Axon mengklaim itu “bebas halusinasi.” Mereka menurunkan kecepatan kreativitas ke nol.
Jangan pertaruhkan peternakan pada klaim tersebut. Bahkan OpenAI dan Google berjuang melawan halusinasi. Awal tahun ini, Draf Satu membuat laporan yang mengatakan seorang petugas telah berubah menjadi katak. Audio dari The Princess and the Frog yang diputar di tempat kejadian mungkin membingungkan AI.
Itu lucu. Sampai tidak.
Akuntabilitas Hilang
Hasil nyata dari laporan AI bisa berakibat fatal.
Saat manusia menulis laporan, Anda dapat memeriksa silangnya di pengadilan. Anda dapat bertanya mengapa mereka menyertakan detail spesifik. Anda dapat menilai keadaan pikiran mereka. Anda dapat meneliti penilaian mereka.
Anda tidak dapat melakukannya dengan algoritma kotak hitam.
Parahnya, Draf Pertama awalnya tidak memiliki jejak audit. Setelah Anda mengirimkan laporan, generasi AI asli telah hilang. Tidak ada salinan awan. Tidak ada riwayat versi.
Noah Spitzer-Williams, manajer produk Axon, mengakui dalam diskusi meja bundar bahwa platform tersebut tidak sengaja menyimpan dokumen asli. “Hal terakhir yang kami inginkan adalah menciptakan kesulitan dalam pengungkapan informasi.”
Dengan kata lain, jika halusinasi AI berakhir dalam kasus hukum, pengacara dan hakim tidak memiliki cara untuk membuktikan bahwa halusinasi tersebut disebabkan oleh AI. Petugas manusia baru saja keluar. Itu menjadi kata-kata mereka yang menentang… tidak ada apa-apa. Menghindari.
Itu berubah pada bulan Desember. Setelah mendapat tekanan, Axon memperbarui Draft One. Kini departemen dapat mempertahankan narasi AI aslinya.
Brandon Garrett, seorang profesor Hukum Duke, masih waspada.
“Gagasan bahwa Anda mengarang data… untuk digunakan di pengadilan adalah hal yang berbahaya.”
Model generatif memperbaiki keadaan. Begitulah cara kerjanya. Menggunakan hasil tersebut dalam proses peradilan merupakan suatu benturan mendasar dengan proses hukum. Teknologi bergerak lebih cepat dibandingkan dengan kemampuan hukum. Dan sementara para eksekutif menghitung pertumbuhan pendapatan mereka sebesar 700 persen, orang-orang yang menerima laporan ini dibiarkan menebak-nebak apa yang benar dan apa yang diimpikan oleh sebuah mesin.
