“Saya salah diidentifikasi sebagai pencuri melalui teknologi pengenalan wajah.”

Sarah membutuhkan coklat – saat itulah – jadi dia mampir ke Home Bargains.

“Dalam waktu kurang dari satu menit, seorang pekerja toko mendekati saya dan berkata, 'Kamu adalah seorang pencuri, kamu harus meninggalkan toko.'”

Sarah – yang ingin tetap anonim – dituduh secara keliru setelah ditandai oleh sistem pengenalan wajah yang disebut Facewatch.

Dia mengatakan bahwa setelah tasnya digeledah, dia dibawa keluar dari toko dan diberitahu bahwa dia dilarang memasuki semua toko yang menggunakan teknologi ini.

“Saya menangis dan menangis sepanjang perjalanan pulang…dan saya berpikir, 'Oh, apakah hidup saya akan sama lagi? “Saya akan terlihat sebagai pengutil, padahal saya tidak pernah mencuri.”

Facewatch kemudian menulis surat kepada Sarah dan mengakui bahwa dia telah melakukan kesalahan.

Facewatch digunakan di beberapa toko di Inggris – termasuk Budgens, Sports Direct, dan Costcutter – untuk mengidentifikasi pengutil.

Perusahaan tersebut menolak mengomentari kasus Sarah kepada BBC, namun mengatakan bahwa teknologinya membantu mencegah kejahatan dan melindungi pekerja garis depan. Home Bargains juga menolak berkomentar.

Bukan hanya pengecer yang beralih ke teknologi.

Pada suatu hari yang basah di Bethnal Green, London timur, kami bergabung dengan polisi saat mereka memarkir sebuah van putih yang dimodifikasi di jalan raya.

Kamera yang dipasang di atapnya mengambil ribuan gambar wajah orang.

Jika mereka cocok dengan orang-orang yang ada dalam daftar pengawasan polisi, petugas akan berbicara dengan mereka dan mungkin menangkap mereka.

Referensi yang tidak menyenangkan terhadap teknologi mirip dengan proses di kasir supermarket – di mana wajah Anda menjadi kode batang.

Pada hari kami syuting, Polisi Metropolitan mengatakan mereka telah melakukan enam penangkapan dengan bantuan teknologi.

Ini termasuk dua orang yang melanggar ketentuan perintah pencegahan kekerasan seksual, seorang pria yang dicari karena melukai tubuh secara serius dan satu orang yang dicari karena menyerang petugas polisi.

Lindsay Chiswick, direktur intelijen Kepolisian Metropolitan, mengatakan kepada BBC bahwa kecepatan teknologi sangat bermanfaat.

“Teknologi ini membutuhkan waktu kurang dari satu detik untuk menghasilkan gambar biometrik wajah seseorang, mengevaluasinya berdasarkan daftar pantauan yang dipersonalisasi, dan secara otomatis menghapusnya jika tidak ada kecocokan.”

BBC berbicara dengan beberapa orang yang dihubungi oleh polisi dan mengonfirmasi bahwa mereka telah diidentifikasi dengan benar oleh sistem – dan sebagai hasilnya, 192 orang telah ditangkap sepanjang tahun ini.

Namun kelompok kebebasan sipil khawatir bahwa keakuratannya belum sepenuhnya terkonfirmasi, dan merujuk pada kasus seperti yang dialami Sean Thompson.

Thompson, yang bekerja untuk kelompok advokasi pemuda Streetfathers, tidak terlalu memikirkan hal itu ketika dia berjalan melewati sebuah van putih di dekat Jembatan London pada bulan Februari.

Namun dalam beberapa detik, polisi mendekatinya dan memberitahunya bahwa dia adalah buronan.

“Dan saat itulah saya mendapat dorongan di bahu saya dan mengatakan bahwa saat itulah saya diinginkan.”

Dia diminta diambil sidik jarinya dan ditahan selama 20 menit. Ia mengatakan bahwa ia baru dibebaskan setelah menyerahkan salinan paspornya.

Tapi itu adalah kasus kesalahan identitas.

“Saya merasa diganggu…Saya diperlakukan bersalah sampai terbukti tidak bersalah,” katanya.

BBC mengetahui bahwa kesalahan tersebut mungkin disebabkan oleh kemiripan keluarga. Polisi Metropolitan menolak berkomentar.

Silkie Carlo, direktur Big Brother Watch, telah memfilmkan polisi dalam beberapa penerapan pengenalan wajah. Dia ada di sana pada malam polisi menangkap Sean Thompson.

“Pengalaman saya, dalam memantau pengenalan wajah langsung selama bertahun-tahun, [is that] “Sebagian besar masyarakat tidak begitu mengetahui apa itu pengenalan wajah langsung,” katanya.

Dia mengatakan bahwa wajah siapa pun yang dipindai secara efektif merupakan bagian dari barisan polisi digital.

“Jika mereka membunyikan alarm pertandingan, polisi akan datang, mungkin menangkap mereka, menginterogasi mereka dan meminta mereka membuktikan bahwa mereka tidak bersalah.”

Penggunaan pengenalan wajah oleh polisi semakin meningkat.

Antara tahun 2020 dan 2022, Kepolisian Metropolitan menggunakan pengenalan wajah langsung sebanyak sembilan kali. Tahun berikutnya jumlahnya menjadi 23.

Sudah di tahun 2024 ini sudah dipakai sebanyak 67 kali sehingga jelas arah perjalanannya.

Para pendukung mengatakan kesalahan dalam identitas jarang terjadi.

Polisi Metropolitan mengatakan satu dari setiap 33.000 orang yang lewat di depan kamera mereka salah identifikasi.

Namun jumlah kesalahannya jauh lebih tinggi setelah seseorang melaporkannya. Satu dari 40 peringatan pada tahun ini merupakan hasil positif palsu.

Michael Birtwistle, kepala penelitian di Ada Lovelace Institute Research Group, percaya bahwa teknologi ini masih sangat baru sehingga undang-undangnya belum diterapkan.

“Saya pikir hal ini seperti Wild West saat ini,” katanya. “Hal ini menciptakan ketidakpastian hukum mengenai apakah penggunaan yang ada saat ini ilegal atau tidak.”

Di Bethnal Green, meskipun beberapa orang yang dihubungi BBC merasa prihatin dengan penggunaan teknologi, mayoritas mendukungnya – jika teknologi membantu memberantas kejahatan.

Hal ini membawa kita pada pertanyaan lain mengenai teknologi: Akankah teknologi membantu dalam jangka panjang?

Ketika masyarakat sudah terbiasa melihat mobil van berwarna putih diparkir di jalan-jalan utama yang ramai, akankah orang-orang yang mengetahui bahwa mereka sedang dicari polisi akan dengan bijak mendekati kamera dan menghindarinya? Akankah para pengutil menyembunyikan wajah mereka?

Carlo mengatakan masyarakat perlu mewaspadai pengenalan wajah yang menjadi hal yang normal.

“Jika polisi mengatakan ini tidak apa-apa, ini adalah sesuatu yang bisa kita lakukan secara rutin, jadi mengapa tidak memasangnya di jaringan kamera tetap?”

Ini adalah masa depan distopia yang ditakuti oleh para aktivis kebebasan sipil – sebuah negara dengan pengawasan massal ala Tiongkok.

Para pendukungnya menganggap prediksi buruk tersebut berlebihan.

Jelas juga bahwa ada banyak orang yang rela wajah mereka dipindai – jika itu berarti jalanan lebih aman.