Bagaimana foto bulan madu seorang pembuat film British Columbia membantu melatih teknologi pengenalan wajah yang kontroversial

Ketika Brett Gaylor memposting foto bulan madunya di situs berbagi foto populer 15 tahun lalu, dia tidak pernah membayangkan bahwa foto itu akan digunakan untuk melatih perangkat lunak pengenalan wajah yang digunakan secara ilegal di Kanada oleh RCMP.

Mereka mungkin pernah. Dan ketika pembuat film dokumenter mengejutkan yang berbasis di Victoria, British Columbia, mengetahui bahwa dia mulai membuat film tentang bagaimana hal itu terjadi dan apa artinya bagi hak privasi orang Kanada.

2:06Investigasi privasi telah menemukan bahwa perusahaan teknologi AS melanggar aturan Kanada dengan menggunakan alat pengenalan wajah

“Saya agak ingin melacak rantai pasokan pengenalan wajah. Karena pengenalan wajah adalah sejenis kecerdasan buatan, jadi dibutuhkan jutaan gambar untuk dapat belajar mengenali wajah.”

Jadi mereka menggunakan gambar yang mereka temukan di internet sebagai cara untuk meningkatkan sistem AI ini.

Melalui penelitiannya, Gaylor mengetahui bahwa foto yang dia unggah ke Flickr diunduh dan digabungkan menjadi kumpulan data besar, termasuk yang populer disebut MegaFace, yang dibuat oleh University of Washington.

1:51Pengamat privasi meminta pemerintah daerah untuk memperkuat undang-undang mereka

Di sana, bersama dengan foto jutaan orang lainnya, telah digunakan untuk melatih kecerdasan buatan dalam pengenalan wajah untuk perusahaan termasuk Clearview AI yang berbasis di AS, bersama dengan pemerintah China, katanya.

“Jadi, secara kecil-kecilan, foto saya yang sedang berbulan madu ini terlibat dalam sistem yang telah digunakan di seluruh dunia, seolah-olah untuk dapat mengidentifikasi penjahat, tetapi dengan cara yang benar-benar melanggar banyak kebebasan sipil,” dia berkata.

Pada hari Rabu, Komisaris Privasi Kanada Daniel Terrain mengatakan Royal Canadian Mounted Police telah melanggar hukum dengan menggunakan informasi dari Clearview AI tanpa memastikan kepatuhan terhadap hukum privasi.

“Menggunakan [facial recognition technology] Oleh Royal Canadian Mounted Police untuk menggeledah gudang besar warga Kanada yang tidak bersalah atas kecurigaan kejahatan yang merupakan pelanggaran privasi yang serius, ”kata Terrain dalam laporannya.

“Organisasi pemerintah tidak dapat mengumpulkan informasi pribadi dari agen pihak ketiga jika agen pihak ketiga telah mengumpulkan informasi secara tidak sah.”

Diumumkan tahun lalu bahwa perusahaan akan berhenti menawarkan layanan pengenalan wajah di Kanada sebagai tanggapan atas penyelidikan privasi.

Gaylor kini telah memproduksi film pendek interaktif berjudul Khusus Tentang pengenalan wajah dan apa yang dia pelajari ketika dia mengungkapkan topik tentang bagaimana fotonya berkontribusi pada perkembangan teknologi.

Film ini memungkinkan pemirsa untuk melihat bagaimana teknologi bekerja dengan mengaktifkan webcam di perangkat mereka, untuk membantu penonton melihat kecerdasan buatan dan pengenalan wajah sebagai sesuatu yang nyata, bukan teoretis.

Gaylor mengatakan film itu juga menimbulkan pertanyaan tentang privasi dan kebutuhan untuk mengatur teknologi baru ini seiring perkembangannya.

“Anda tidak dapat memberikan persetujuan untuk sesuatu yang Anda tidak tahu akan terjadi. Itu tidak mungkin. Sebaliknya, yang perlu kita lakukan adalah membuat kerangka hukum yang melarang penggunaan tertentu.”

File oleh Kylie Stanton dan Jun Hwa