Verifikasi usia adalah mengonsumsi internet. Dari larangan media sosial di Australia hingga pembatasan pornografi setengah dari negara bagian ASbagi banyak orang, keharusan membuktikan usia mereka untuk mengakses situs web menjadi suatu hal yang sulit kebutuhan sehari-hari. Namun salah satu teknologi utama yang mendasari banyak pemeriksaan usia ini akan merambah ke dunia offline—dengan potensi konsekuensi yang mengubah hidup orang-orang yang usianya dapat diprediksi oleh AI.
Mulai tahun depan, pemerintah Inggris berencana memperkenalkan estimasi usia wajah—di mana AI memindai wajah Anda dan menunjukkan berapa umur Anda—untuk membantu menentukan usia pencari suaka yang tiba di perbatasan Inggris. Langkah ini diyakini merupakan pertama kalinya sistem estimasi usia wajah (FAE) digunakan dengan cara ini. Banyak pencari suaka yang tiba di Inggris tidak memiliki dokumen yang membuktikan usia mereka, dan jika anak-anak salah digolongkan sebagai orang dewasa, mereka dapat dicabut perlindungan hukumnya dan ditempatkan di pusat penahanan khusus orang dewasa.
Investigasi oleh WIRED dan Laporan Mercusuarbekerja sama dengan The Independent, telah memperoleh laporan internal pemerintah Inggris yang merinci pengujian teknologi FAE. Hal ini menunjukkan bagaimana sistem tersebut sering salah mengira anak-anak sebagai orang dewasa dan tampaknya mengandung masalah bias yang serius, yang secara langsung berdampak pada kelompok migran terbesar yang harus menjalani penilaian usia pada tahun 2025, menurut data dari Kementerian Dalam Negeri. Investigasi ini menimbulkan pertanyaan tentang efektivitas teknologi tersebut dan apakah teknologi tersebut harus diterapkan dalam skenario berisiko tinggi seperti itu.
Temuan ini juga muncul ketika pemerintahan Trump yang kedua dan pemerintahan di seluruh dunia semakin mengadopsi kebijakan anti-migran sambil mengeluarkan miliaran dolar untuk teknologi pengawasan yang sering digunakan terhadap orang-orang rentan yang hanya memiliki sedikit pengetahuan tentang penggunaannya, cara kerjanya, atau cara mereka menentangnya.
Dokumen Home Office yang bocor yang diperoleh Lighthouse Reports sebagian besar merinci kinerja “terbaik” dari tujuh algoritma estimasi usia wajah yang diuji oleh departemen tersebut tahun lalu, meskipun tidak secara langsung menyebutkan nama perusahaan di belakangnya. Laporan tersebut menemukan bahwa sistem tersebut memiliki kinerja yang jauh lebih buruk ketika digunakan untuk memperkirakan usia masyarakat Afrika Sub-Sahara dibandingkan dengan kelompok lain. Warga Afrika Sub-Sarahan adalah kelompok migran terbesar yang memasuki Inggris setelah melintasi Selat Inggris dengan perahu kecil dalam beberapa tahun terakhir dan mendapat lebih banyak penilaian usia pada tahun 2025 dibandingkan kelompok migran dari wilayah lain, menurut data Home Office. Bagi perempuan Afrika Sub-Sahara, usia yang diperkirakan oleh sistem meleset rata-rata 4,6 tahun, yang berarti bahwa seorang anak perempuan berusia 13,5 tahun dapat dinilai sebagai orang dewasa berusia 18 tahun.
Penyelidikan juga menemukan bahwa Kementerian Dalam Negeri, yang mengawasi imigrasi dan kepolisian Inggris, membubarkan komite ilmiah yang dirancang untuk memberikan saran mengenai metode estimasi usia yang lebih luas saat mereka menjajaki pengenalan AI. “Kami sangat ingin menyoroti kekurangan dalam estimasi usia wajah, namun kesempatan ini tidak diberikan kepada kami, dan kemudian komite tersebut ditutup,” kata Tim Cole, seorang profesor statistik medis emeritus di Institut Kesehatan Anak University College London dan mantan anggota komite. Cole menggambarkan pemindaian wajah sebagai “sangat tidak akurat.”
Selain laporan internal dan kekhawatiran anggota komite ilmiah, hasil pengujian bertahun-tahun dari Institut Standar dan Teknologi Nasional AS menunjukkan bahwa keakuratan sistem FAE sering kali bergantung pada ras orang yang dianalisis dan kualitas foto yang diambil.
“Kami menerapkan proses yang ketat untuk memverifikasi usia seseorang dan berupaya memodernkannya melalui pengujian teknologi estimasi usia wajah yang cepat dan efektif,” kata juru bicara Kementerian Dalam Negeri menanggapi temuan tersebut. Juru bicara tersebut menambahkan bahwa komite tersebut dibubarkan karena membutuhkan “bidang keahlian yang berbeda”.
Meskipun Departemen Dalam Negeri mengatakan pemindaian wajah dirancang untuk menjadi alat “tambahan” bagi petugas perbatasan dan tidak akan “menggantikan atau mengesampingkan penilaian manusia,” namun mereka tidak menjawab pertanyaan tentang bagaimana mereka berencana menggunakan teknologi tersebut di lingkungan dunia nyata. “Jika ada ketidakpastian,” kata juru bicara tersebut, “individu akan selalu diperlakukan seperti anak-anak sampai penilaian lebih lanjut dilakukan.”
Memperluas Estimasi
Pemerintah Inggris pertama kali mengumumkan rencananya untuk menggunakan estimasi usia wajah bersamaan dengan penilaian staf perbatasan untuk menilai migran pada bulan Juli 2025. Sejak itu, Kementerian Dalam Negeri telah menunda peluncuran sistem tersebut hingga tahun 2027, pepatah mereka akan menggunakan “teknologi AI mutakhir” untuk “menindak klaim palsu” dengan tujuan menghentikan “orang dewasa yang mencoba mempermainkan sistem.”
Selama lima tahun terakhir, pemindaian wajah AI telah muncul sebagai komponen kunci dari program verifikasi usia online yang kontroversial, karena anggota parlemen telah mewajibkan platform media sosial, situs porno, dan beberapa pengecer memeriksa usia penggunanya. Itu juga telah terjadi diujicobakan di beberapa bar dan toko di Inggris. Estimasi usia wajah bekerja dengan menganalisis fitur wajah seseorang—dengan sistem dasar yang dilatih pada jutaan wajah yang diberi label usia—untuk menghasilkan perkiraan usia. Dalam uji laboratorium terkontrol, algoritma terbaik dapat memprediksi usia seseorang dalam waktu sekitar 2,5 tahun.
Namun, hasilnya bisa sangat bervariasi tergantung pada algoritme, jenis kelamin seseorang, detail demografis, dan faktor lainnya. Gambar berkualitas buruk, seperti gambar dengan pencahayaan buruk, dapat menurunkan kinerja sistem secara drastis. (Contohnya: Orang-orang telah menipu beberapa sistem menggunakan gambar karakter dari video game.) Kementerian Dalam Negeri tampaknya telah menyadari potensi masalah pada teknologi tersebut dan masih terus melanjutkan programnya.
Laporan Home Office yang bocor dan dibuat pada bulan April 2025, yang diselesaikan sebelum pemerintah membeli teknologi pemindaian wajah, merinci pengujian tujuh algoritma FAE terhadap lebih dari 2,5 juta gambar. Namun, laporan internal mengatakan bahwa “algoritme berkinerja terbaik” yang tidak disebutkan namanya memiliki “penyimpangan besar” ketika diuji pada gambar orang Afrika Sub-Sahara. Rata-rata, sistem tersebut juga cenderung memperkirakan bahwa anak berusia 17 tahun akan berusia di atas 18 tahun, dan kinerjanya lebih buruk pada perempuan.
Puluhan ribu orang mengajukan permohonan suaka ke Inggris setiap tahunnya, dan banyak di antaranya yang tiba di negara tersebut setelahnya berbahayaperjalanan yang menuntut secara fisik perahu kecil melintasi Selat Inggris. Saat ini, petugas perbatasan yang meragukan usia seseorang yang mengaku berusia di bawah 18 tahun dapat menilai penampilan fisik, jawaban pertanyaan wawancara, dan sikap umum, untuk mengambil keputusan awal mengenai usia mereka. Perkiraan usia awal ini dibuat pada “pertemuan pertama”, kata Home Office panduan. Sejak tahun 2010, 40 persen orang yang menghadapi penilaian usia telah digolongkan sebagai orang dewasa, menurut pejabat resmi. statistik.
Laporan Home Office yang bocor mengatakan bahwa temuannya terutama didasarkan pada pengujian yang menggunakan gambar berkualitas tinggi yang diambil dari orang-orang yang terdokumentasi, dan itu mungkin berarti bahwa tingkat akurasi algoritme akan menjadi lebih buruk dalam praktiknya. Kantor Pusat telah ditunjukkan bahwa teknologi FAE akan membantu petugas imigrasi yang melakukan penilaian usia saat bekerja pada saat pertama kali bertemu.
Menurut laporan internal, beberapa foto yang diambil pada pertemuan awal yang termasuk dalam data pengujian “secara rutin lebih buruk” daripada foto tindak lanjut dari orang yang sama. Kualitas fotonya tampaknya sangat buruk sehingga laporan tersebut tidak dapat menentukan apakah hal tersebut atau kondisi fisik pencari suaka pada saat kedatangan lebih berdampak pada hasil estimasi usia algoritma. Pengujian NIST sendiri menemukan bahwa pada banyak algoritma estimasi usia, foto berkualitas rendah biasanya menyebabkan kesalahan yang lebih besar. Laporan internal tersebut menyimpulkan bahwa masih banyak yang perlu dilakukan untuk mempelajari dampak stres yang dialami para pencari suaka sebelum tiba di tempat tujuan.
“Anak-anak yang mencari suaka sering kali mengalami trauma yang tak terbayangkan,” kata Martha Dark, salah satu direktur eksekutif kelompok hak asasi manusia Foxglove. “Mereka tidak boleh menjadi subjek uji coba teknologi eksperimental yang mengandung ketidakakuratan dan bias rasis.” Foxglove, bersama 61 organisasi lainnya, mengirimkan surat terbuka kepada pemerintah Inggris pada hari Kamis meminta Kementerian Dalam Negeri untuk membatalkan rencananya untuk menggunakan alat tersebut.
Tidak jelas apakah sistem cacat yang disebutkan dalam laporan tersebut dibeli oleh pemerintah Inggris, namun pada bulan Mei tahun ini pemerintah menghabiskan lebih dari $400.000 pada teknologi pemindaian wajah dari perusahaan Jerman Cognitec. (Perusahaan ini adalah salah satu dari tujuh algoritme yang diuji, namun tidak jelas yang mana.) Analisis WIRED dan Lighthouse Reports terhadap data publik tentang sistem estimasi usia wajah Cognitec menemukan bahwa sistem Cognitec salah mengklasifikasikan anak berusia 16 tahun ke atas sebanyak dua kali lipat dibandingkan dengan anak berusia 18 tahun ke atas ketika sistem diuji pada kumpulan data foto berkualitas rendah yang diambil saat melintasi perbatasan dibandingkan dengan foto visa berkualitas lebih tinggi. Datanya, dari NIST skor estimasi wajahjuga menunjukkan perbedaan kinerja secara demografis, termasuk bahwa anak-anak berusia 16 tahun dari Afrika Barat lebih cenderung diklasifikasikan sebagai berusia 18 tahun ke atas dibandingkan anak-anak berusia 16 tahun di Eropa Timur.
Seorang juru bicara Cognitec mengatakan mereka tidak dapat mengomentari pekerjaan mereka dengan Kementerian Dalam Negeri; namun, mereka menunjukkan bahwa “perbedaan demografis” dalam kinerja berlaku untuk semua algoritma pemindaian wajah. “Alasan bias sangat kompleks dan sering kali terkait dengan masalah kualitas gambar,” kata juru bicara tersebut.
“Bias algoritma Cognitec rendah dibandingkan dengan algoritma lain dengan akurasi keseluruhan yang serupa, dan yakinlah bahwa kami secara tekun dan terus-menerus berupaya mengurangi bias dengan mengembangkan metodologi pengujian spesifik, merancang fungsi kerugian dalam pelatihan jaringan kami, dan dengan mendiversifikasi data pelatihan dan pengujian,” kata juru bicara tersebut.
Tes Stres
Sekalipun keakuratannya dapat ditingkatkan, teknologi jarang dioperasikan sesuai dengan keinginan penciptanya. Bug, kelemahan teknis, dan kesalahan pengguna berarti sistem sering kali menghasilkan kesalahan. Jika dibarengi dengan keputusan-keputusan sensitif yang dapat mengubah kehidupan masyarakat, risiko-risiko tersebut dapat menjadi lebih buruk.
Selama bertahun-tahun, menurut sebelumnya laporan dari Kepala Inspektur Perbatasan dan Imigrasi Independen Inggris, perkiraan usia yang dilakukan oleh Departemen Dalam Negeri mengandung sejumlah masalah. Ada beberapa contoh pencatatan yang “buruk”, penilaian visual yang “asal-asalan”, dan terkadang kurangnya penjelasan dari staf perbatasan tentang proses yang ada. Staf yang melakukan penilaian usia tidak diberikan pelatihan khusus untuk tugas tersebut hingga tahun 2023, menurut laporan inspeksi terakhir.
“Mengambil keputusan usia dini adalah pekerjaan yang sulit dan kompleks, dengan petugas imigrasi yang bekerja dalam situasi yang penuh tantangan, seringkali berada di bawah tekanan untuk segera memproses banyak pendatang baru,” kata Kementerian Dalam Negeri dalam sebuah pernyataan. panduan yang baru diterbitkan tentang potensi penggunaan AI estimasi usia wajah. “Hal ini memungkinkan petugas imigrasi untuk menguji penilaian mereka terhadap perkiraan teknologi.”
Namun dalam laporan yang bocor tahun lalu, Kementerian Dalam Negeri mengatakan bagaimana teknologi pemindaian wajah akan digunakan dalam “konteks operasional” masih dieksplorasi. Laporan tersebut, yang sebelumnya ditolak pemerintah untuk dipublikasikan dalam bentuk permintaan catatan, juga menyoroti pengujian yang menemukan bahwa “penuaan sementara” yang berkaitan dengan trauma dan “stres dalam perjalanan” tampaknya berdampak pada keakuratan sistem estimasi usia wajah, sehingga menimbulkan pertanyaan lebih lanjut tentang penggunaan teknologi dalam proses suaka.
WIRED, Lighthouse Reports, dan Independent mengajukan pertanyaan rinci kepada Kementerian Dalam Negeri tentang bagaimana petugas perbatasan akan berinteraksi dengan perkiraan usia wajah, apakah staf akan diberikan pelatihan khusus yang mengatasi kelemahan dalam sistem, dan apakah akan ada standar khusus yang diperlukan mengenai di mana dan kapan foto yang akan digunakan dalam sistem akan diambil. Kami juga bertanya kepada Kementerian Dalam Negeri tentang langkah apa pun yang diambil untuk mengurangi disparitas wajah dan gender yang teridentifikasi dalam teknologi ini. ilmu pengetahuan.
Kementerian Dalam Negeri tidak secara langsung menjawab pertanyaan-pertanyaan ini namun mengatakan Laboratorium Fisika Nasional Inggris telah ditugaskan untuk melakukan “tinjauan independen” terhadap pengujian sistem dan melihat hasil uji cobanya. Hal ini juga terjadi secara terbuka dibahas menggunakan “ambang batas” usia—seperti mengonfigurasi sistem untuk mengidentifikasi apakah seseorang berusia di bawah 20 tahun—untuk mengurangi margin wilayah. Tidak jelas apakah pendekatan ini akan diambil atau berapa batasannya.
Sementara itu, para ahli khawatir bahwa penggunaan teknologi estimasi usia wajah di perbatasan akan “tidak manusiawi” bagi orang-orang yang terkena dampaknya dan dapat menjadi hal yang normal bagi staf. “Seiring berjalannya waktu, ada risiko nyata bahwa hal ini akan mengakar,” kata Anna Bacciarelli, peneliti senior di Human Rights Watch. “Ada begitu banyak risiko di setiap komponen sistem ini sehingga tidak layak untuk dikatakan bahwa Anda menggunakan AI untuk mengatasi migrasi.”
Pelaporan tambahan oleh Holly Bancroft dari The Independent.
