Seorang pria Florida ditangkap secara salah karena mencoba memikat seorang anak secara ilegal setelah polisi mengandalkan a pengenalan wajah pertandingan yang tidak akurat, menurut gugatan yang diajukan pada hari Rabu, meskipun dia tinggal lebih dari 300 mil dari tempat kejadian dan mengatakan dia belum pernah menginjakkan kaki di kota tempat kejahatan itu terjadi.
Robert Dillon, seorang pemburu komersial berusia 52 tahun dari Fort Myers, ditangkap setelah FACES—sistem pengenalan wajah yang dioperasikan oleh Kantor Sheriff Pinellas County Florida—mencocokkan wajahnya dengan foto seorang pria di layar komputer yang diambil dengan ponsel. Sistem ini menghasilkan “93 persen kecocokan pada fitur wajah,” menurut catatan investigasi polisi. Skor yang dihasilkannya mewakili seberapa mirip dua gambar menurut algoritma. Bukan seberapa besar kemungkinan mereka menampilkan orang yang sama.
FACES menyimpan puluhan juta foto mug Florida dan foto SIM dan merupakan salah satu database pengenalan wajah polisi yang paling lama beroperasi di Amerika Serikat.
Persatuan Kebebasan Sipil Amerika, yang mengajukan gugatan tersebut, mengatakan Dillon ditangkap di rumahnya di depan istrinya, ditahan semalaman di sel yang dingin, dan diangkut dengan mobil van yang dikurung dan tidak menyala. Dia menjanjikan hak atas truknya untuk membuat ikatan. Penangkapan tersebut terjadi saat puncak musim kepiting batu, menyebabkan dia terlambat membayar sewa dan hampir kehilangan rumahnya. Fotonya tetap online selama hampir satu tahun, dihapus dari situs web daerah hanya setelah seorang reporter TV turun tangan.
Orang asing mendekati Dillon di depan umum untuk menanyakan kasusnya, kata pengaduan tersebut, dan dia tidak lagi merasa nyaman berbicara dengan anak-anak.
Insiden itu terjadi sesaat sebelum tengah malam pada tanggal 2 November 2023, di sebuah McDonald’s di Pantai Jacksonville, di mana seorang pria diduga mendekati seorang gadis di bawah 12 tahun dan berulang kali memintanya untuk pergi bersamanya. Dia menolak. Setelah dia mendekatinya untuk kedua kalinya, dia memanggil ibunya. Pria itu pergi sebelum polisi tiba.
Pengaduan tersebut memaparkan beberapa fakta yang menunjukkan Dillon dan tidak pernah sampai ke hakim yang menandatangani surat perintah penangkapannya. Seorang manajer di McDonald’s mengatakan kepada penyelidik bahwa tersangka adalah “pelanggan tetap” yang dia lihat di sana beberapa kali. Menurut pengaduan, Dillon belum pernah mengunjungi Pantai Jacksonville, yang tinggal ratusan mil jauhnya.
Seorang petugas polisi Pantai Jacksonville yang ditugaskan untuk menangani kasus ini mengirimkan buletin upaya untuk mengidentifikasi ke lembaga-lembaga sekitarnya pada bulan November itu menggunakan foto ponsel dari rekaman pengawasan McDonald’s. Seorang sersan di Kantor Sheriff Jacksonville (JSO) memeriksa gambar tersebut melalui FACES dan mengirimkan kembali “93 persen kecocokan” ke nama Dillon. Petugas investigasi kemudian meminta penggeledahan pembaca pelat nomor untuk dua kendaraan yang terdaftar milik Dillon, meliputi hari-hari sekitar kejadian. Tidak ada satu pun yang muncul di wilayah tersebut, menurut pengaduan, yang mengatakan bahwa hasil tersebut dihilangkan dari permohonan surat perintah.
Enam bulan berlalu tanpa penyelidikan lebih lanjut, kata pengaduan tersebut. Pada Juli 2024, petugas menyerahkan surat perintah tersebut. Seorang hakim menandatanganinya, dan Dillon ditangkap pada bulan berikutnya. Dia menyewa pengacara pembela pidana dan, pada bulan Oktober itu, mengaku tidak bersalah. Kantor Kejaksaan Negeri membatalkan semua dakwaan beberapa minggu kemudian. Namun petugas investigasi dipromosikan pada akhir tahun.
“Saya tidak akan pernah bisa melupakan betapa takut dan khawatirnya saya, bertanya-tanya apakah saya akan pulang menemui istri dan anak perempuan saya lagi,” kata Dillon dalam pernyataan yang dibagikan oleh pengacaranya. “Lebih dari setahun kemudian, saya masih memikirkan kembali bagian-bagian hidup saya, semua karena polisi mengandalkan teknologi berbahaya ini daripada melakukan pekerjaan mereka dan benar-benar melakukan penyelidikan.”
Gugatan tersebut menyebutkan nama petugas investigasi dan sersan JSO secara individual, dan juga menargetkan Kota Pantai Jacksonville, Sheriff Jacksonville, dan Sheriff Pinellas County dalam kapasitas resmi mereka. Mereka meminta ganti rugi dan hukuman, dan meminta pengadilan untuk memerintahkan ketiga lembaga tersebut merombak kebijakan pengenalan wajah mereka.
“Karena proses pengadilan yang tertunda, kami tidak dapat berkomentar lebih jauh mengenai insiden tersebut,” kata juru bicara Kantor Sheriff Jacksonville kepada WIRED dalam sebuah pernyataan. Kantor Sheriff Pinellas County tidak segera menanggapi permintaan komentar.
Sheriff Jacksonville TK Waters mengatakan kepada stasiun berita lokal Action News Jax setelah kasus tersebut dibatalkan bahwa serangan pengenalan wajah saja bukan merupakan kemungkinan penyebab di kantornya: “Jika Anda datang kepada saya dengan serangan pengenalan wajah dan itu kemungkinan penyebabnya, saya mungkin akan mengeluarkan Anda dari kantor saya,” katanya.
FACES telah dioperasikan oleh Kantor Sheriff Pinellas County sejak tahun 2001, menjadikannya salah satu sistem pengenalan wajah polisi tertua di negara tersebut. Puncaknya pada tahun 2021, puluhan juta foto mug Florida dan foto SIM dapat diakses lebih dari 260 agensi—termasuk FBI Dan ES. Untuk menggunakan sistem ini, penyelidik mengunggah gambar tersangka, sistem membandingkannya dengan galeri, dan mengembalikan daftar peringkat kemungkinan kecocokan.
Sistem ini telah lama beroperasi dengan sedikit pengawasan. Sebuah studi tahun 2016 oleh Pusat Privasi dan Teknologi Hukum Georgetown menemukan bahwa Kantor Sheriff Pinellas County tidak melakukan audit tentang bagaimana database dicari dan tidak memerlukan kecurigaan yang masuk akal untuk menjalankan kueri. Ketika ditanya apakah kantor tersebut mengaudit penggeledahan atas penyalahgunaan, Sheriff Bob Gualtieri menjawab, “Tidak, tidak juga.” Agensi Florida juga memilikinya menggunakan FACES untuk memindai pengunjuk rasa damaimenurut laporan oleh Sun Sentinel dan Pulitzer Center.
ACLU mengatakan kasus Dillon adalah salah satu dari setidaknya 15 penangkapan salah yang diketahui di Amerika Serikat terkait dengan teknologi pengenalan wajah. Awal tahun ini, Kantor Sheriff Jacksonville yang sama secara salah menangkap seorang pria Carolina Utara dalam penyelidikan pencurian mobil. Menurut Action News Jax, dia menghabiskan hampir tiga bulan di penjara setelah kecocokan 85 persen menyebabkan penangkapannya. Pada saat dakwaan dicabut, dia telah kehilangan rumah, pekerjaan, dan hak asuh kedua anaknya.
“Tidak seorang pun boleh kehilangan kebebasan atau takut meninggalkan rumah karena algoritma yang salah,” kata Nate Wessler, wakil direktur Proyek Pidato, Privasi, dan Teknologi ACLU, yang meminta departemen kepolisian Florida untuk melakukan perbaikan dan menerapkan tindakan pengamanan untuk mencegah penangkapan yang salah di masa depan.
“Polisi di seluruh negeri sudah waspada,” tambah Wessler. “Teknologi pengenalan wajah yang tidak dapat diandalkan merugikan banyak orang, dan kami akan terus berjuang untuk meminta pertanggungjawaban mereka atas pelanggaran ini.”
