Uji coba teknologi pengenalan wajah Foodstuffs menyangkut Komisaris Privasi

Komisaris Privasi mengatakan dia khawatir dengan uji coba teknologi pengenalan wajah selama enam bulan yang saat ini dilakukan di sejumlah toko North Island New World dan Pak'nSave.

Komisaris Privasi Michael Webster akan meluncurkan penyelidikan sehubungan dengan uji coba teknologi pengenalan wajah (FRT) di Foodstuffs North Island, sebagai upaya raksasa supermarket tersebut untuk memerangi perilaku berbahaya yang berulang.

Dua puluh lima toko New World dan Pak'nSave di North Island akan menguji coba teknologi ini selama enam bulan ke depan, mulai hari ini.

Saat ini, para pelaku masuk tanpa izin dari masing-masing toko, dan merupakan tanggung jawab staf untuk mengingat setiap orang.

Uji coba FRT berarti setiap orang yang memasuki salah satu toko yang berpartisipasi akan dipindai wajahnya dan dicocokkan dengan database foto pelanggar.

Basis data tersebut akan terdiri dari orang-orang yang diidentifikasi oleh supermarket sebagai orang yang berulang kali melakukan perilaku berbahaya, termasuk mengutil, menyerang staf atau pelanggan secara verbal atau fisik, melanggar pemberitahuan pelanggaran, pencurian atau perampokan.

Gambar-gambar tersebut, yang dapat diperoleh dari rekaman keamanan, cukup canggih untuk mengenali wajah-wajah yang tersembunyi di balik tutup kepala, kacamata, dan wig.

Informasi rinci tentang kejahatan mereka dan durasi pemberitahuan pelanggaran segera diberikan kepada pihak keamanan. Jika terdapat kecocokan, maka dapat diambil tindakan, termasuk melarang atau mengeluarkan mereka dari toko, memantau mereka saat berbelanja, atau dalam beberapa kasus, menelepon polisi.

Jika tidak ada kecocokan yang jelas, foto tersebut akan dihapus dalam hitungan detik.

Data tidak akan dibagikan antar toko atau digunakan untuk tujuan lain apa pun.

Penasihat umum Foodstuffs North Island Julian Benefield kemarin mengatakan kepada Seven Sharp bahwa mereka “melihat peningkatan besar dalam statistik kejahatan ritel baru-baru ini”.

“Pada kuartal terakhir tahun lalu saja, kita menyaksikan 4.719 kecelakaan,” ujarnya. “Sepertiga dari mereka adalah pelaku berulang.”

Foodstuffs North Island telah membuat “sejumlah besar perubahan” pada uji coba tersebut – berdasarkan masukan dari Kantor Komisaris Privasi – untuk mengurangi risiko privasi, serta meningkatkan wawasan mengenai dampaknya terhadap pelanggan, kata Webster.

Dia menambahkan bahwa meskipun Foodstuffs North Island “pantas mendapat pujian atas kesediaannya untuk melakukan perubahan yang meningkatkan privasi”, uji coba ini “bukannya tanpa risiko mengingat efektivitas teknologi dan protokol operasional yang belum diuji di lingkungan supermarket”.

Signage untuk pengalaman FRT akan mulai muncul di toko-toko yang berpartisipasi mulai minggu depan.

“Janji keuntungan besar”

Webster mengatakan penuntutan dilakukan setelah Komisaris Privasi meminta Foodstuffs North Island untuk memberikan bukti bahwa teknologi biometrik seperti FRT adalah cara yang dapat dibenarkan untuk mengurangi kejahatan ritel.

Data uji coba akan digunakan oleh Foodstuffs North Island untuk menentukan apakah akan menerapkan teknologi ini lebih lanjut.

“Warga Selandia Baru berhak membeli susu dan roti tanpa memindai wajah mereka kecuali hal itu benar-benar dibenarkan,” kata Webster.

“Kami tidak menerima sidik jari dan verifikasi di depan pintu sebelum berbelanja – ini mungkin terdengar konyol – namun FRT adalah proses biometrik serupa yang lebih cepat, otomatis, terjadi dalam sepersekian detik, dan membuat templat untuk membandingkan wajah Anda sekarang dan di masa depan.”

Dia mengatakan bahwa meskipun “mereka ingin orang-orang aman saat berbelanja dan bekerja,” masih ada pertanyaan “apakah teknologi akan efektif dalam menghentikan perilaku kekerasan atau mencegah bahaya.”

“Ini juga bukan soal FRT atau tidak sama sekali. Ada pilihan lain yang tersedia untuk menangani kejahatan ritel, jadi Foodstuffs North Island perlu menemukan data kuat yang membuktikan bahwa tindakan tersebut berhasil dan diperlukan.”

Komisaris Privasi mengatakan dia sangat prihatin dengan bias dan keakuratan, dan mencatat bahwa evaluasi global terhadap program FRT yang paling akurat sekalipun telah menunjukkan bahwa pencocokan palsu lebih mungkin terjadi pada orang kulit berwarna, terutama perempuan.

“Saya sangat prihatin dengan dampak hal ini bagi pembeli Māori, Pasifika, India, dan Asia, terutama karena program ini belum dilatih untuk warga Selandia Baru,” katanya.

“Saya tidak ingin melihat orang-orang dilarang masuk ke supermarket lokal dan dituduh secara tidak benar.”

Webster mengatakan bahwa meskipun Foodstuffs North Island telah berkonsultasi dengan Kantor Komisaris Privasi dalam jangka waktu yang lama, kantor tersebut tidak serta merta mendukung penggunaan FRT.

“Saya akan mencari bukti setelah uji coba enam bulan bahwa penggunaan FRT menghasilkan perbedaan praktis dan statistik terhadap kejadian kejahatan ritel di supermarket Foodstuff North Island dibandingkan dengan opsi lain yang tidak terlalu mengganggu privasi,” katanya.

“Tugas saya adalah melindungi privasi warga Selandia Baru, dan kami perlu memastikan, dalam kasus seperti uji coba FRT ini, bahwa warga Selandia Baru dapat percaya bahwa informasi pribadi mereka digunakan sangat penting untuk pekerjaan mereka, dan bahwa privasi terkait risiko dikelola.”

“Melindungi privasi adalah hal mendasar untuk memastikan martabat, keselamatan, dan penentuan nasib sendiri manusia. Ini adalah bagian mendasar dari apa yang membuat kita menjadi masyarakat yang bebas dan demokratis. Teknologi baru menjanjikan manfaat yang sangat besar. Misi saya adalah memastikan kita tidak melakukan hal tersebut.” Kami tidak secara tidak sengaja melepaskan hak privasi kami.”

Saat persidangan dan penyelidikan berlangsung, Webster akan mempertimbangkan apakah tindakan lebih lanjut diperlukan untuk melindungi privasi pembeli.

Siapa pun yang secara tidak sengaja terpengaruh oleh pengalaman tersebut dapat menyampaikan permasalahan privasinya kepada Kantor Komisaris Privasi.