Eksekutif tersebut memberi tahu pertemuan PBB pertama bahwa teknologi besar tidak dapat dipercaya untuk memastikan keamanan AI

UNITED NATIONS (AP) — Segelintir perusahaan teknologi besar yang memimpin perlombaan untuk mengkomersialkan kecerdasan buatan tidak dapat dipercaya untuk menjamin keamanan sistem yang belum kita pahami dan rentan terhadap “perilaku kacau atau tak terduga”, sebuah perusahaan kecerdasan buatan kata CEO pada pertemuan pertama kepada Dewan Keamanan PBB tentang ancaman dari kecerdasan buatan terhadap perdamaian dunia pada hari Selasa.

Inilah sebabnya, kata Jack Clark, salah satu pendiri perusahaan AI Anthropic Dunia harus bersatu untuk mencegah penyalahgunaan teknologi.

Clark, yang mengatakan perusahaannya berusaha sekuat tenaga untuk melatih chatbot AI-nya untuk menekankan keselamatan dan kehati-hatian, mengatakan hal paling berguna yang dapat dilakukannya sekarang “adalah bekerja mengembangkan cara untuk menguji kemampuan, penyalahgunaan, dan potensi kelemahan keamanan dari sistem ini. .” Clark pergi. OpenAI, pencipta chatbot ChatGPT terbaik, untuk membentuk Anthropic, yang produk AI pesaingnya disebut Claude.

James Patterson, Suzanne Collins, dan Margaret Atwood termasuk di antara ribuan penulis yang mendukung surat terbuka dari Grup Penulis yang mendesak perusahaan AI untuk mendapatkan izin sebelum memasukkan karya berhak cipta ke dalam teknologi mereka.

Platform Meta, perusahaan induk Facebook, telah membangun platform AI untuk menyaingi ChatGPT dan Google Bard, tetapi dibutuhkan pendekatan yang berbeda: membuatnya gratis.

Badan teknologi Perserikatan Bangsa-Bangsa mengumpulkan sekelompok robot yang secara fisik menyerupai manusia untuk konferensi pers.

Pada bulan Juni, Recording Academy mengumumkan serangkaian perubahan pada Grammy Awards mendatang untuk mencerminkan industri musik yang berkembang dengan lebih baik, termasuk protokol AI baru.

Tapi meski AI akan membawa manfaat yang sangat besar, pemahamannya tentang biologi, misalnya, mungkin juga menggunakan sistem AI yang bisa menghasilkan senjata biologis, katanya.

Clarke juga memperingatkan tentang “potensi ancaman terhadap perdamaian, keamanan, dan stabilitas global” dari dua karakteristik utama sistem AI – potensi penyalahgunaan dan ketidakpastiannya “serta kerapuhan yang melekat pada perkembangannya oleh sekelompok kecil aktor.”

Clark menekankan bahwa perusahaan teknologi di seluruh dunialah yang memiliki komputer canggih, kumpulan data besar, dan modal untuk membangun sistem AI, sehingga tampaknya mereka akan terus menentukan pengembangannya.

Dalam video pengarahan badan PBB yang paling kuat itu, Clarke juga menyatakan harapannya agar aksi global itu berhasil.

Dia mengatakan dia didorong untuk melihat banyak negara menekankan pentingnya pengujian dan evaluasi keselamatan dalam proposal mereka untuk kecerdasan buatan, termasuk Uni Eropa, China, dan Amerika Serikat.

Namun, saat ini, tidak ada standar atau bahkan praktik terbaik tentang “bagaimana menguji sistem perbatasan ini untuk hal-hal seperti diskriminasi, pelecehan, atau keamanan”, sehingga menyulitkan pemerintah untuk menetapkan kebijakan dan memungkinkan sektor swasta menikmati keuntungan informasi. , dia berkata.

“Setiap pendekatan regulasi yang masuk akal akan dimulai dengan memiliki kemampuan untuk mengevaluasi sistem AI untuk kemampuan atau kelemahan tertentu,” kata Clark. “Setiap pendekatan yang gagal akan dimulai dengan ide kebijakan besar yang tidak didukung oleh pengukuran dan penilaian yang efektif.”

Dengan penilaian sistem AI yang kuat dan andal, katanya, “pemerintah dapat meminta pertanggungjawaban perusahaan, dan perusahaan dapat memperoleh kepercayaan dunia tempat mereka ingin menerapkan sistem AI mereka.” Tetapi jika tidak ada penilaian yang solid, katanya, “kita menghadapi risiko pengambilalihan peraturan keamanan global dan penyerahan masa depan kepada sekelompok kecil pelaku sektor swasta.”

Eksekutif AI lainnya, seperti CEO OpenAI Sam Altman, juga menyerukan regulasi. Tetapi para skeptis mengatakan peraturan bisa menjadi keuntungan bagi pengusaha kaya yang dipimpin oleh OpenAI, Google dan Microsoft, karena pemain yang lebih kecil terkena biaya tinggi untuk membuat model bahasa besar mereka mematuhi batasan peraturan.

Sekretaris Jenderal Perserikatan Bangsa-Bangsa, António Guterres, mengatakan bahwa Perserikatan Bangsa-Bangsa adalah “tempat yang ideal” untuk mengadopsi standar global guna memaksimalkan manfaat AI dan mengurangi risikonya.

Dewan memperingatkan munculnya kebidanan Kecerdasan buatan dapat memiliki konsekuensi yang sangat serius bagi perdamaian dan keamanan internasionalmenyatakan potensi penggunaannya oleh teroris, penjahat, dan pemerintah yang menyebabkan “tingkat kematian dan kehancuran yang mengerikan, trauma yang meluas, dan kerusakan psikologis yang mendalam pada skala yang tak terbayangkan”.

Sebagai langkah pertama untuk menyatukan negara-negara tersebut, Guterres mengatakan dia menunjuk dewan penasehat AI tingkat tinggi yang akan melaporkan opsi tata kelola AI global pada akhir tahun.

Sekretaris Jenderal PBB juga mengatakan bahwa dia menyambut baik seruan beberapa negara untuk membentuk badan PBB baru guna mendukung upaya global untuk mengelola kecerdasan buatan, “terinspirasi oleh model-model seperti Badan Energi Atom Internasional, Organisasi Penerbangan Sipil Internasional, atau Intergovernmental Panel Perubahan Iklim.”

“Perserikatan Bangsa-Bangsa harus memainkan peran sentral dalam membangun kerangka kerja seputar AI untuk pembangunan dan tata kelola guna memastikan perdamaian dan keamanan global,” kata Profesor Zheng Yi, direktur Laboratorium Kecerdasan Kognitif Akademi Ilmu Pengetahuan Tiongkok, kepada dewan tersebut.

Zeng, yang juga memimpin lembaga pemikir Sino-Inggris tentang etika dan tata kelola AI, menyarankan agar Dewan Keamanan mempertimbangkan untuk membentuk kelompok kerja untuk mempertimbangkan tantangan jangka pendek dan jangka panjang yang ditimbulkan oleh AI terhadap perdamaian dan keamanan internasional.

Dalam pengarahan videonya, Zeng menekankan bahwa sistem AI generatif modern adalah “semua alat pemrosesan informasi yang tampak cerdas” tetapi tidak memiliki pemahaman nyata, dan karena itu “tidak terlalu cerdas”.

Dia memperingatkan bahwa “kecerdasan buatan tidak boleh berpura-pura menjadi manusia”, dan menegaskan bahwa manusia nyata harus mempertahankan kendali terutama atas semua sistem senjata.

Menteri Luar Negeri Inggris James Cleverly, yang memimpin pertemuan sementara Inggris memegang kursi kepresidenan bulan ini, mengatakan bahwa musim gugur ini Inggris akan mempertemukan para pemimpin dunia untuk pertemuan global besar pertama tentang keamanan AI.

“Tidak ada negara yang akan terpengaruh oleh AI, jadi kita harus melibatkan dan melibatkan koalisi aktor internasional seluas-luasnya dari semua sektor,” katanya. “Tujuan bersama kami adalah melihat risiko AI dan menentukan bagaimana kami dapat menguranginya melalui tindakan terkoordinasi.”

——

Penulis teknologi Associated Press, Frank Pajak, berkontribusi pada laporan ini dari Boston