OpenAI menemukan bahwa kampanye propaganda Rusia dan Tiongkok telah menggunakan teknologinya

OpenAI menghapus akun yang terkait dengan operasi propaganda yang diketahui di Rusia, Tiongkok, dan Iran; Perusahaan kampanye politik Israel; dan kelompok yang sebelumnya tidak diketahui berasal dari Rusia yang oleh peneliti perusahaan tersebut dijuluki sebagai “tata bahasa yang buruk”. Kelompok tersebut menggunakan teknologi OpenAI untuk menulis postingan, menerjemahkannya ke berbagai bahasa, dan membuat perangkat lunak yang membantu mereka memposting secara otomatis di media sosial.

Tak satu pun dari kelompok ini mampu mendapatkan banyak perhatian; Akun media sosial yang terkait dengan mereka menjangkau beberapa pengguna dan berhasil “Mereka hanya segelintir pengikut,” kata Ben Nimmo, penyelidik utama tim intelijen dan investigasi OpenAI. Namun, laporan OpenAI menunjukkan bahwa para advokat yang telah aktif selama bertahun-tahun di media sosial menggunakan teknologi AI untuk meningkatkan kampanye mereka.

“Kami telah melihat mereka menghasilkan teks dalam ukuran lebih besar dan dengan kesalahan lebih sedikit dibandingkan proses yang biasanya ditangani,” Nimmo, yang sebelumnya bekerja pada operasi pelacakan pengaruh Meta, mengatakan dalam pengarahan dengan wartawan. Nimmo mengatakan ada kemungkinan kelompok lain masih menggunakan alat OpenAI tanpa sepengetahuan perusahaan.

“Ini bukan waktunya untuk berpuas diri. Sejarah menunjukkan bahwa operasi pengaruh yang telah menghabiskan waktu bertahun-tahun tidak menghasilkan apa-apa bisa tiba-tiba meledak jika tidak ada yang mencarinya.

Pemerintah, partai politik, dan kelompok aktivis telah menggunakan media sosial untuk mencoba mempengaruhi kebijakan selama bertahun-tahun. Menyusul kekhawatiran mengenai pengaruh Rusia pada pemilihan presiden tahun 2016, platform media sosial mulai memberikan perhatian lebih besar terhadap bagaimana mereka dapat menggunakan posisi mereka untuk mempengaruhi pemilih. Perusahaan pada umumnya melarang pemerintah dan kelompok politik menutupi upaya terkoordinasi untuk mempengaruhi pengguna, dan iklan politik harus mengungkapkan siapa yang membayar mereka.

Ketika alat AI yang dapat menghasilkan teks, gambar, dan bahkan video yang realistis menjadi lebih umum tersedia, para peneliti disinformasi telah menyuarakan kekhawatiran bahwa akan semakin sulit untuk mendeteksi dan merespons informasi palsu atau operasi pengaruh terselubung secara online. Ratusan juta orang memberikan suaranya dalam pemilu di seluruh dunia tahun ini, dan deepfake yang dihasilkan oleh AI sudah mulai populer.

OpenAI, Google, dan perusahaan AI lainnya sedang mengerjakan teknologi untuk mengidentifikasi deepfake yang dibuat menggunakan alat mereka sendiri, namun teknologi tersebut masih belum terbukti. Beberapa pakar AI percaya bahwa detektor deepfake tidak akan pernah sepenuhnya efektif.

Awal tahun ini, sebuah kelompok yang berafiliasi dengan Partai Komunis Tiongkok memposting rekaman audio yang dibuat oleh AI yang menunjukkan seorang kandidat dalam pemilu Taiwan yang diduga mendukung kandidat lain. Namun, politisi tersebut, pemilik Foxconn Terry Gou, tidak mendukung politisi lainnya.

Pada bulan Januari, pemilih utama di New Hampshire menerima robocall yang mengaku berasal dari Presiden Biden, tetapi segera diketahui bahwa hal tersebut didukung oleh kecerdasan buatan. Pekan lalu, seorang aktivis Partai Demokrat yang mengaku ditugaskan melakukan robocall didakwa atas tuduhan penindasan pemilih dan meniru identitas seorang kandidat.

Laporan OpenAI merinci bagaimana kelima kelompok tersebut menggunakan teknologi perusahaan dalam upaya mereka mempengaruhi operasi. Spamoflage, sebuah kelompok yang diketahui sebelumnya berasal dari Tiongkok, menggunakan teknologi OpenAI untuk meneliti aktivitas di media sosial dan menulis postingan dalam bahasa Tiongkok, Korea, Jepang, dan Inggris, kata perusahaan itu. Sebuah kelompok Iran yang dikenal sebagai Konsorsium Media Virtual Internasional juga menggunakan teknologi OpenAI untuk membuat artikel yang dipublikasikan di situsnya.

Grup Bad Grammar yang sebelumnya tidak dikenal menggunakan teknologi OpenAI untuk membantu membuat perangkat lunak yang dapat memposting secara otomatis ke aplikasi perpesanan Telegram. Bad Grammar kemudian menggunakan teknologi OpenAI untuk membuat postingan dan Komentar dalam bahasa Rusia dan Inggris berpendapat bahwa Amerika Serikat tidak seharusnya mendukung Ukraina, menurut laporan itu.

Laporan tersebut juga menemukan bahwa sebuah perusahaan kampanye politik Israel bernama Stoic menggunakan OpenAI untuk membuat postingan pro-Israel tentang perang Gaza dan menargetkannya kepada orang-orang di Kanada, Amerika Serikat dan Israel, kata OpenAI. Pada hari Rabu, pemilik Facebook Meta juga mempublikasikan tindakan Stoic, dengan mengatakan pihaknya telah menghapus 510 akun Facebook dan 32 akun Instagram yang digunakan oleh grup tersebut. Perusahaan mengatakan kepada wartawan bahwa beberapa akun telah diretas, sementara yang lain milik orang palsu.

Akun-akun tersebut sering berkomentar di halaman individu atau organisasi media terkenal, menyamar sebagai mahasiswa Amerika yang pro-Israel, orang Amerika keturunan Afrika, dan lain-lain. Meta mengatakan komentar tersebut mendukung militer Israel dan memperingatkan warga Kanada bahwa “Islam radikal” mengancam nilai-nilai liberal di sana.

Kecerdasan buatan berperan dalam menyusun beberapa komentar, yang menurut pengguna Facebook sebenarnya aneh dan di luar konteks. Perusahaan tersebut mengatakan operasinya buruk, hanya menarik sekitar 2.600 pengikut sah.

Meta bertindak setelah Laboratorium Penelitian Forensik Digital Dewan Atlantik Menemukan jaringan sambil mengikuti proses serupa yang diidentifikasi oleh peneliti dan publikasi lain.

Selama setahun terakhir, para peneliti disinformasi menyatakan bahwa chatbot yang didukung AI dapat digunakan untuk melakukan percakapan yang panjang dan mendetail dengan orang-orang tertentu secara online, dalam upaya untuk mempengaruhi mereka ke arah tertentu. Alat AI juga dapat menyerap sejumlah besar data tentang individu dan menyesuaikan pesan langsung kepada mereka.

OpenAI belum menemukan kegunaan AI yang lebih canggih, kata Nimmo. Dia menambahkan: “Ini adalah sebuah evolusi, bukan revolusi.” “Semua ini tidak berarti kita mungkin tidak akan melihatnya di masa depan.”

Joseph Main berkontribusi pada laporan ini.