Perusahaan teknologi besar, mohon jangan bergerak terlalu cepat dan merusak artis

“Pesona.”

Beberapa bulan yang lalu, inilah yang saya sampaikan kepada tim editorial AdExchanger tentang bagaimana perasaan saya mencoba ChatGPT, DALL-E, dan alat AI produktif lainnya.

Meskipun AI generatif terlihat seperti keajaiban – AI ini bersifat instan, mudah, dan mampu melampaui kemampuan manusia dalam satu batasan! – Banyak hasil teknologi hebat yang dibangun di atas bahu para inovator yang telah mendedikasikan hidup mereka untuk keahlian mereka.

Setelah menghadiri Meja Bundar Virtual FTC. Tentang dampak AI generatif pada bidang kreatif pada Rabu lalu, yang membuat saya bertanya-tanya ketika melihat kreativitas yang dihasilkan oleh AI adalah pekerjaan yang mengandalkannya.

Para pembuat konten menegaskan bahwa pembuat LLM mengambil pendekatan “meminta toleransi, bukan izin”, dengan menggunakan teknologi pencarian web untuk mencerna, mencerna, dan memperbarui konten kreatif asli. Perusahaan-perusahaan ini mengambil teks, gambar, audio, dan video dari para pembuat konten – dan tidak memberikan imbalan apa pun kepada mereka. Pembuat konten marah, kaget, dan prihatin ketika melihat karyanya diambil tanpa sepengetahuannya.

Hal ini sangat menjengkelkan ketika program seperti ChatGPT menyarankan pengguna meminta karya seni “sesuai gaya” pencipta yang karyanya mereka plagiat.

“Dalam kecerobohan dan kecerobohan saat ini dalam meluncurkan produk AI baru, kita menyaksikan apa yang secara halus disebut sebagai ‘pelatihan’ atau ‘pembelajaran’ AI, namun kenyataannya adalah penyalinan karya seni secara ilegal dalam skala besar,” FTC dikatakan. Peserta meja bundar Jane Jacobsen, direktur eksekutif Artists Rights Alliance.

Tanda dolar di mata mereka

Gagasan untuk mengakui, membayar, atau memberikan kesempatan kepada pembuat konten untuk mengatakan ya mungkin akan hilang begitu saja saat Anda terjebak dalam perlombaan untuk mendapatkan keamanan. Miliaran investasi Dari modal ventura (VC) hingga membangun dan meluncurkan startup Anda Keuntungan yang tidak senonoh Salah satu perusahaan tertarik untuk menggunakan alat Anda sendiri.

Dan perlombaan baru saja dimulai: bulan Juni Laporan Intelijen Bloomberg Pasar AI diperkirakan akan tumbuh hingga $1,3 triliun pada tahun 2032.

Masuk akal bahwa ketika banyak pencipta membuka tirai AI, apa yang mereka lihat jelas merupakan keserakahan dan eksploitasi terhadap aspek-aspek pribadi yang lebih intens dari identitas mereka. Suara mereka. Mereka menghabiskan waktu untuk mengasah keterampilan mereka. Tubuh mereka kehilangan pekerjaan.

Tubuh asli mereka.

Semakin banyak model yang diminta untuk menyetujui pemindaian seluruh tubuh yang menghasilkan model 3D tubuh atau wajah mereka, menurut Sarah Ziff, peserta meja bundar FTC dan pendiri serta CEO Model Alliance. Zev menunjukkan bahwa ini adalah permintaan yang mengkhawatirkan, mengingat maraknya deepfake.

Tim Friedlander, presiden dan pendiri National Association of Voice Actors, mengatakan dibutuhkan “tiga detik bagi sumber suara untuk menciptakan reproduksi suara yang realistis,” yang dapat “menipu konsumen agar percaya bahwa ada suara resmi yang berkomunikasi dengan mereka.” Bukti A: Baru-baru ini, Tom Hanks, YouTuber populer MrBeast, dan pembawa acara pagi Gayle King harus memberitahu pengikut mereka untuk mengabaikannya. Iklan penipuan Menunjukkan kemiripan tanpa izin yang dihasilkan oleh kecerdasan buatan.

Beberapa komunitas pemodelan juga mengkhawatirkan bentuk pemalsuan lainnya: perusahaan akan menggunakan model yang dihasilkan AI untuk mendukung inisiatif DEI.

“Ada risiko nyata bahwa AI dapat digunakan untuk menipu investor dan konsumen agar percaya bahwa sebuah perusahaan menerapkan praktik perekrutan yang adil dan merata serta beragam dan inklusif, padahal sebenarnya tidak,” kata Ziff.

Bisa dikatakan penipuan semacam ini sudah terjadi. Dia menghadapi Levi Reaksi serius Tahun ini adalah saat dia akan menggunakannya Model yang dihasilkan AI Untuk mewakili berbagai warna kulit dan tipe tubuh daripada menggunakan model manusia yang beragam.

Apa yang kita berutang satu sama lain

Seperti yang dicatat oleh sejumlah peserta FTC Roundtable, kumpulan data yang digunakan untuk melatih sistem AI memiliki kelemahan yang sangat besar. Misalnya, Neil Clarke, pendiri dan editor majalah fiksi ilmiah dan fokus fantasi Clarkesworld, mencatat bahwa kumpulan data Books3 berisi setidaknya salinan bajakan 183.000 buku berhak cipta. Karena video dan postingan blog di YouTube dan TikTok yang “membuat klaim palsu tentang menghasilkan keuntungan dari ChatGPT”, termasuk melalui pendapatan iklan, Clarkesworld dibanjiri dengan pengiriman sketsa spam yang dihasilkan AI.

“Kami menghubungi YouTube dan pihak lain dengan harapan dapat menghapus video-video ini. Namun tidak ada yang merespons,” kata Clark.

Artis dan ilustrator Carla Ortiz, yang telah mengerjakan beberapa film Marvel untuk mengembangkan tampilan dan nuansanya, mengatakan bahwa tubuh karyanya disimpan di Laion-5B, sebuah kumpulan data yang berisi 5,8 miliar pasang teks dan gambar bersama dengan catatan medis pribadi dan data non-publik. -pornografi suka sama suka. Gambar anak-anak dan foto media sosial. Nama Ortiz juga telah digunakan ribuan kali dalam klaim pembuatan gambar seiring upaya orang untuk menciptakan kembali gaya khasnya.

Peluncuran awal model AI telah merugikan komunitas kreatif, termasuk seniman, fotografer, penulis, editor, penerjemah, komposer, musisi, aktor, model, dan pengembang perangkat lunak. Industri periklanan tidak bisa seperti Swiss dalam masalah ini. Lagi pula, banyak pemasar telah menghabiskan sebagian besar waktu setahun terakhir untuk bereksperimen dengan alat-alat ini untuk segala hal mulai dari bertukar pikiran tentang ide hingga menulis teks iklan dan membuat versi kampanye yang kreatif.

Paling tidak, mereka yang berkecimpung dalam industri periklanan harus mempertimbangkan apakah mereka melakukan eksploitasi terhadap pencipta. Lebih baik lagi, mendukung pembuat konten dalam menuntut agar model AI komersial hanya berlangganan kumpulan data dan mengungkapkan dari mana data mereka berasal dan bagaimana data tersebut digunakan. Persetujuan aktif dan antusias Itu suatu keharusan.

Hanya dengan melindungi seniman masyarakat dapat menyadari – dan mendapatkan manfaat penuh dari – potensi luar biasa dari AI generatif.

Jika merek, agensi, dan profesional pemasaran lainnya memilih untuk mengganti materi iklan dengan alat yang sama yang mengumpulkan data dan mencuri bisnis mereka, mereka pasti dapat melihat peningkatan efisiensi dalam jangka pendek.

Namun dalam jangka panjang, keputusan kolektif untuk mengabaikan orang-orang kreatif dapat menghasilkan masyarakat di mana tidak ada lagi orang yang ingin menjadi kreatif. Yang tersisa bagi kita hanyalah prosesi salinan biasa dari apa yang dulunya mungkin berisi percikan kejeniusan.

“Pemikiran berbasis data“Ditulis oleh komunitas media dan berisi ide-ide baru tentang revolusi digital di media.

Untuk lebih banyak artikel oleh Hannah Yu, klik di sini.