Teknologi video baru yang didukung AI: “Ini menimbulkan banyak pertanyaan”

Alat AI mutakhir yang dapat membuat video palsu membuat para ahli khawatir akan generasi baru misinformasi.

Perusahaan San Francisco Luma telah merilis “Mesin Impian” yang memungkinkan siapa pun membuat video realistis dengan pesan singkat atau foto.

Warga Auckland Tengah, James Leach, berpendapat bahwa hasilnya sangat meyakinkan.

“Jika Anda tidak memberitahu saya bahwa itu palsu, saya tidak akan percaya,” katanya.

“Saya khawatir dengan apa yang akan dilihat orang-orang di media sosial. Jika Anda melihat hal-hal yang terjadi seperti Trump dan Brexit, jumlah orang yang terpengaruh oleh apa yang mereka anggap sebagai kebenaran di media sosial… hal-hal seperti… [Dream Machine] “Akan memperburuk keadaan.”

Warga Bobby Jones lainnya mengatakan mudah ditipu jika Anda tidak tahu apa yang harus dicari.

“Ada indikator yang sangat jelas [that it’s AI] “Tapi saya rasa banyak orang akan mudah jatuh cinta padanya, apalagi jika mereka belum paham cara mengenali video AI,” tambahnya.

“Ibu saya akan berkata, 'Lihat video menakjubkan tentang hal menakjubkan ini,' dan saya akan berkata, 'Sangat jelas bahwa ini adalah kecerdasan buatan jika Anda melihatnya.'” [closer]“.”

Namun dia mengatakan teknologi berkembang pesat, dan video sintetis semakin sulit diidentifikasi.

“Masalahnya adalah [the AI] Dia menambahkan: “Situasinya terus membaik, dan secara politik Anda dapat melakukan apa saja. Wajah Chris Luxon sangat menonjol di depan publik, dan ada video dia berbicara dan melakukan sesuatu.”

“Anda bisa memaksanya melakukan apa saja dengan kecerdasan buatan, dan itu sangat berbahaya bagi seorang tokoh politik.”

Meskipun OpenAI mengumumkan model generatif serupa tahun lalu, Mesin Impian Luma adalah yang pertama dirilis ke publik.

Andrew Linsen, dosen ilmu komputer di Universitas Victoria, mengatakan ini adalah langkah besar.

“Ini adalah teknologi yang sangat mengesankan, dan sangat penting karena ini adalah teknologi pertama yang tersedia secara gratis,” katanya.

“Kami melihat model Sora terbaru dari OpenAI, dan mereka memblokirnya dari akses publik karena mereka mengkhawatirkannya. Jadi melihat model Luma ini sangat menarik dan menimbulkan beberapa tantangan.”

Dia mengatakan teknologi telah berkembang pesat dalam beberapa tahun terakhir.

“Belum lama ini kita melihat video yang terlihat sangat aneh, pemandangan yang sangat tidak realistis, sedangkan sekarang semakin sulit untuk menemukan sesuatu yang diciptakan oleh kecerdasan buatan,” kata Dr Linsen.

Namun dia khawatir hal itu bisa berbahaya.

“Disinformasi atau misinformasi… terutama di media sosial di mana kita melihat ruang gaung dan banyak berita palsu, dan serangan terhadap informasi semacam ini [brings] “Tantangan besar terhadap apa yang kita percayai sebagai masyarakat,” katanya.

“Ini menimbulkan banyak pertanyaan.”

Penulis dan peneliti disinformasi Byron Clark mengatakan pelaku kejahatan dapat menggunakan AI Luma dalam berbagai cara.

“Orang-orang bisa membuat video tentang politisi dan berkata, 'Ini adalah video yang baru ditemukan bertahun-tahun yang lalu,' dan itu bisa saja salah,” katanya.

“Mereka bisa memproduksi video zona perang, gambar bencana alam… segala macam hal bisa terjadi.”

Ketika misinformasi terus mendominasi media sosial, Clark mengatakan semakin sulit mempercayai kebenaran.

“Semakin banyak video yang dibuat oleh AI kami, semakin sulit untuk mengetahui mana yang asli dan mana yang palsu,” katanya.

“Jadi menurut saya risiko lainnya adalah kita akan mendapatkan gambar dan video nyata yang dituduh diproduksi oleh kecerdasan buatan, yang merupakan bentuk disinformasi lainnya.”

Dr. Linsen mengatakan ada beberapa manfaat dari teknologi perintis ini, namun ia yakin dampak negatifnya lebih besar daripada positifnya.

“Beberapa orang berbicara tentang hal-hal seperti sejarah resusitasi… dan potensi penerapan medis seputar visualisasi kanker dan sebagainya,” jelasnya.

“Tetapi menurut saya banyak dari penerapan positif ini tidak dibuat-buat, sementara konsekuensi negatifnya lebih jelas dan cepat terjadi.”

Dia mengatakan penting bagi warga Selandia Baru untuk memiliki tingkat skeptisisme yang tinggi terhadap internet.

“Meragukan semua yang Anda baca dan lihat adalah keterampilan yang semakin penting, dan itu akan menjadi semakin penting.”

Contoh video AI pendek yang dibuat melalui Luma: