Bagaimana aktor kehilangan suaranya karena kecerdasan buatan

Greg Marston, pengisi suara Inggris dengan pengalaman lebih dari 20 tahun, baru-baru ini menemukan suaranya sendiri untuk digunakan dalam demo online.

Marston adalah salah satu dari banyak suara di situs tersebut Seorang revisionisyang menyediakan alat AI yang mengonversi teks menjadi ucapan dalam 40 bahasa, dengan nada, status, dan gaya yang berbeda.

Karena dia tidak ingat menyetujui suaranya direproduksi menggunakan kecerdasan buatan, dia menghubungi perusahaan. Revoicer memberitahunya bahwa mereka telah membeli suaranya dari IBM.

Pada tahun 2005, Marston menandatangani kontrak dengan IBM untuk pekerjaan yang telah dia daftarkan di sistem satnav. Pada usia 18 tahun, standar industri, Marston menandatangani hak vokalnya untuk selama-lamanya, bahkan sebelum AI generatif ada. Sekarang, IBM memiliki lisensi untuk menjual suaranya kepada pihak ketiga yang dapat mengkloningnya menggunakan kecerdasan buatan dan menjualnya untuk tujuan komersial apa pun. IBM mengatakan “menyadari keprihatinan yang diajukan oleh Tuan Marston” dan “membahasnya secara langsung dengan dia”.

“[Marston] “Dia menandatangani dokumen tetapi tidak ada kesepakatan bahwa dia akan direproduksi dengan teknik tak terduga setelah 20 tahun,” kata Mathilde Pavis, pengacara artis yang berspesialisasi dalam teknik reproduksi digital.

Ribuan artis dan pengisi suara menghadapi dilema yang sama seperti Marston saat perusahaan berlomba untuk mengkomersialkan sistem AI generatif — sistem kecerdasan buatan yang dapat dengan cepat menghasilkan teks, gambar, dan konten mirip manusia.

Selama setahun terakhir, teknologi sintesis audio menjadi lebih akurat, tersedia lebih luas, dan lebih mudah diproduksi, yang mengarah ke model bisnis baru seputar kloning AI. Seniman yang karyanya bergantung pada suara dan wajah mereka menemukan penghidupan mereka terancam oleh kontrak yang berpotensi eksploitatif, taktik pengikisan data, dan dugaan penipuan, yang mengarah pada pengikisan cepat atas karya dan hak mereka.

Pavis mengatakan dia telah menerima setidaknya 45 pertanyaan terkait AI sejak Januari, termasuk kasus aktor yang mendengar suara mereka dalam penipuan telepon seperti panggilan asuransi palsu atau iklan buatan AI. Equity, serikat pekerja industri seni pertunjukan dan hiburan Inggris, bekerja dengan Pavis dan mengatakan telah menerima banyak keluhan tentang penipuan dan eksploitasi AI dalam enam bulan terakhir.

“Kami melihat semakin banyak anggota menggunakan suara, gambar, dan penampilan mereka untuk membuat penawaran yang sama sekali baru menggunakan teknologi AI, baik dengan atau tanpa persetujuan,” kata Liam Budd, petugas industri media baru di Equity. “Tidak ada perlindungan jika Anda adalah bagian dari kumpulan data ribuan atau jutaan orang yang suara atau gambarnya telah dihapus oleh pengembang AI.”

Laurence Bouvard, pengisi suara yang berbasis di London untuk buku audio, iklan, dan serial radio, telah menemukan banyak contoh perilaku eksploitatif. Baru-baru ini ada peringatan di Facebook tentang aktor palsu, di mana situs AI meminta aktor untuk membaca resep atau baris obrolan yang sebenarnya hanya sarana untuk mengorek data suara mereka untuk model AI.

Beberapa mengiklankan pekerjaan pengisi suara reguler tetapi menyelipkan klausa sintesis AI ke dalam kontrak, sementara yang lain di muka tetapi menawarkan harga murah untuk hak permanen atas suara aktor. Posting pekerjaan baru-baru ini di pasar pekerjaan kreatif Mandy.com, misalnya, Deskripsi pertunjukan setengah hari Skrip lima menit untuk merekam video presenter AI yang dibuat oleh D-ID Technologies.

“Teknologi ini telah digunakan untuk membantu perusahaan seperti Microsoft dengan video pelatihan mereka,” kata iklan rekrutmen tersebut. Dia menambahkan, “Dialog disensor, jadi teknologi tidak dapat digunakan untuk mengatakan sesuatu yang eksplisit atau ofensif.”

Sebagai imbalan atas citra dan kemiripan aktor tersebut, perusahaan menawarkan kepada individu biaya tetap sebesar £600. D-ID mengatakan itu membayar “harga pasar yang wajar.” Dia menambahkan bahwa iklan tertentu telah ditarik dan “tidak mencerminkan pembayaran akhir”.

“Perlu diingat bahwa tanpa data pelatihan, AI tidak akan ada,” kata Bovard pada acara baru-baru ini yang diselenggarakan oleh Kongres Serikat Pekerja di Westminster. Namun, tanpa meminta izin atau memberikan kompensasi yang memadai. . . Perusahaan AI mengekstraksi suara, kinerja, dan kemiripan kami, dan melatih algoritme mereka pada data kami untuk menghasilkan produk yang seharusnya menggantikan kami.”

Dia menambahkan, “Di bawah undang-undang saat ini, tidak ada yang bisa kami lakukan. Ini bukan hanya tentang melindungi pekerjaan: ini juga tentang melindungi apa artinya menjadi seorang seniman.”

Marcus Houghton, yang telah menjadi pengisi suara selama tiga dekade, sedang menyusun daftar sintesis kinerja atau perusahaan AI dan menemukan lebih dari 60, banyak di antaranya dengan pendanaan modal ventura yang signifikan. Misalnya, bulan ini ElevenLabs yang berbasis di London mengumpulkan $19 juta dalam putaran yang dijalankan bersama oleh Andreessen Horowitz, dengan peserta termasuk salah satu pendiri Instagram Mike Krieger dan salah satu pendiri Oculus Brendan Iribe.

“Anda harus melihatnya apa adanya: transfer keuangan grosir dari sektor kreatif ke sektor teknologi. Ini sangat jelas: uang berpindah dari pot kita ke pot mereka,” kata Hutton. “Ada risiko setiap kali seorang pemain masuk ke mikrofon atau kamera bahwa mereka dapat didiskualifikasi dari hak AI mereka.”

ElevenLabs mengatakan sedang bekerja dengan pengisi suara dan perwakilan mereka untuk memahami bagaimana platform seperti milik mereka dapat menciptakan lebih banyak peluang komersial untuk sektor ini. Perusahaan mengatakan, “Kami percaya bahwa perusahaan AI dan komunitas kreatif dapat bekerja sama untuk memastikan bahwa teknologi ini menghasilkan … keuntungan baru, sekaligus memungkinkan pembuat konten untuk menghasilkan konten yang lebih baik dan lebih dapat diakses secara global.”

Sekitar 94 persen dari mereka yang bekerja di industri kreatif berpenghasilan kurang dari £33.280 setahun, rata-rata upah penuh waktu di Inggris, menurut sebuah survei oleh Equity. Tingkat upah ini membuat mereka rentan dalam negosiasi apa pun. Dalam industri yang sudah menggunakan kontrak yang tidak bermoral terhadap artis, pengenalan kecerdasan buatan telah melemahkan posisi mereka, menurut pengacara Paves.

Revoicer, perusahaan suara bertenaga AI, mengatakan suara Marston berasal dari layanan cloud text-to-speech IBM. Startup membelinya dari IBM, “seperti ribuan pengembang lainnya,” dengan tarif $20 per juta karakter audio yang diucapkan, atau kira-kira 16 jam.

Secara hukum, seniman memiliki sedikit jalan lain. Undang-undang privasi data adalah satu-satunya undang-undang yang mencakup AI, dan pemerintah Inggris Raya telah menyatakan keinginannya untuk mengatur kekayaan intelektual secara ringan agar AI dapat berkembang.

“itu [UK] Undang-undang hak cipta belum tersentuh secara besar-besaran selama setidaknya 25 tahun. Itu sudah ada sebelum internet, kata pengisi suara Hutton. “Satu-satunya hak yang dimiliki pelaku saat ini adalah persetujuan. Tapi dalam pekerjaan kami, Anda harus setuju. Jika Anda tidak setuju, Anda tidak bekerja dan tidak makan. Jadi ini adalah posisi negosiasi yang sangat asimetris. ”

Ekuitas, di mana Hutton dan Bouvard adalah anggotanya, mengadvokasi hak-hak baru untuk dikodekan menjadi undang-undang, secara tegas menjadi kontrak jangka terbatas, daripada standar industri yang melarang hak selamanya. Ini juga menuntut agar undang-undang memasukkan perlunya persetujuan eksplisit jika suara atau tubuh artis akan direproduksi oleh kecerdasan buatan. Dua minggu lalu, serikat pekerja mengeluarkan “perangkat” yang menyediakan klausul model dan kontrak penggunaan AI yang dapat dirujuk oleh artis dan agen mereka.

“Saya seorang aktor pekerja fungsional. . . . . . mungkin salah satu generasi terakhir dari aktor pekerja sehari-hari yang mampu membeli rumah atau membesarkan anak tanpa menjadi sangat terkenal,” kata Houghton. membuat frustrasi, tapi saya tidak bisa melihat bagaimana ini bisa berkelanjutan lagi.” .