PhD AI berbondong-bondong ke perusahaan teknologi besar. Itu sebabnya hal ini bisa menjadi berita buruk bagi inovasi terbuka

Ilmu pengetahuan terbuka adalah landasan kemajuan teknologi. Kita memerlukan lebih banyak ide, lebih banyak ide yang beragam, yang tersedia lebih luas, bukan lebih sedikit. Organisasi yang saya pimpin, Kemitraan untuk AI, merupakan sebuah eksperimen yang berorientasi pada misi dalam inovasi terbuka, menyatukan para akademisi, masyarakat sipil, mitra industri, dan pembuat kebijakan untuk mengatasi salah satu permasalahan tersulit – memastikan bahwa teknologi memberikan manfaat bagi banyak orang. Tidak sedikit.

Mengingat model terbuka, kita tidak bisa melupakan peran hulu yang berpengaruh dari pendanaan publik untuk ilmu pengetahuan dan publikasi terbuka penelitian akademis.

Kebijakan Sains dan Inovasi Nasional sangat penting bagi ekosistem terbuka. Dalam bukunya, negara wirausahaEkonom Mariana Mazzucato mengemukakan bahwa pendanaan publik untuk penelitian menanamkan benih kekayaan intelektual yang tumbuh menjadi perusahaan teknologi yang berbasis di AS. Mulai dari Internet hingga iPhone dan algoritma Google AdWords, sebagian besar teknologi AI saat ini telah menerima dorongan dari pendanaan awal pemerintah untuk penelitian baru dan terapan.

Demikian pula, publikasi penelitian secara terbuka, yang dinilai oleh rekan sejawat melalui tinjauan etika, sangat penting bagi kemajuan ilmu pengetahuan. Misalnya, penerapan ChatGPT tidak akan mungkin terjadi tanpa akses terhadap penelitian yang dipublikasikan secara publik oleh para peneliti tentang model transformator. Menarik untuk dibaca, sebagaimana tercantum dalam Indeks Kecerdasan Buatan StanfordJumlah Ph.D. Jumlah lulusan yang bekerja di bidang akademis telah menurun selama dekade terakhir, sementara jumlah lulusan yang terjun ke dunia industri meningkat, dengan peningkatan lebih dari dua kali lipat yang masuk ke dunia industri pada tahun 2021.

Penting juga untuk diingat bahwa keterbukaan tidak berarti transparansi. Meskipun transparansi bukan merupakan tujuan akhir, transparansi merupakan kebutuhan mendasar untuk mencapai akuntabilitas.

Transparansi memerlukan pengungkapan yang tepat waktu, komunikasi yang jelas dengan khalayak yang relevan, dan standar dokumentasi yang jelas. menyukai Pedoman PAI untuk Menerapkan Model Basis Aman Dia menjelaskan bahwa langkah-langkah yang diambil sepanjang siklus hidup model memungkinkan pengawasan dan kemampuan audit eksternal yang lebih besar sekaligus melindungi daya saing. Hal ini mencakup transparansi mengenai jenis data pelatihan, pengujian dan penilaian, pelaporan insiden, sumber pekerjaan, uji tuntas hak asasi manusia, dan penilaian dampak lingkungan. Mengembangkan standar dokumentasi dan pengungkapan sangat penting untuk memastikan keamanan dan akuntabilitas AI tingkat lanjut.

Terakhir, seperti yang ditunjukkan oleh penelitian kami, menyadari perlunya bersikap terbuka dan menciptakan ruang bagi beragam perspektif untuk membentuk masa depan AI sangatlah mudah – namun hal ini jauh lebih sulit untuk dilakukan. Memang benar bahwa dengan lebih sedikit hambatan untuk masuk, ekosistem terbuka menjadi lebih inklusif bagi para pelaku dari latar belakang yang tidak biasa terlihat di Silicon Valley. Benar juga bahwa alih-alih berfokus pada kekuasaan dan kekayaan, ekosistem terbuka membuka jalan bagi lebih banyak pemain untuk berbagi manfaat ekonomi dari AI.

Namun kita harus melakukan lebih dari sekedar membuka jalan.

Kita harus berinvestasi untuk memastikan bahwa komunitas yang paling terkena dampak kerusakan algoritmik, serta komunitas yang secara historis terpinggirkan, dapat berpartisipasi penuh dalam pengembangan dan penerapan AI yang bermanfaat bagi mereka sekaligus melindungi data dan privasi mereka. Hal ini berarti berfokus pada keterampilan dan pendidikan, namun juga berarti merancang ulang siapa yang mengembangkan sistem AI dan bagaimana sistem tersebut dievaluasi. Saat ini, melalui laboratorium swasta dan pemerintah, inovasi AI yang dipimpin oleh masyarakat sedang diujicobakan di seluruh dunia.

Memastikan keamanan tidak berarti memihak antara model terbuka dan tertutup. Sebaliknya, hal ini adalah tentang membangun penelitian nasional dan sistem inovasi terbuka yang mengembangkan bidang inovasi dan integritas ilmiah yang fleksibel. Hal ini tentang menciptakan ruang bagi pasar gagasan yang kompetitif untuk meningkatkan kesejahteraan. Hal ini tentang memastikan bahwa pembuat kebijakan dan masyarakat memiliki visi yang jelas mengenai pengembangan teknologi baru ini agar dapat mengeksplorasi potensi dan risikonya dengan lebih baik. Ini tentang menyadari bahwa peraturan lalu lintas yang jelas memungkinkan kita semua bergerak lebih cepat dan aman. Yang terpenting, jika AI ingin memenuhi janjinya, hal ini adalah tentang menemukan cara yang berkelanjutan, penuh hormat, dan efektif untuk mendengarkan suara-suara baru dan berbeda dalam percakapan AI.

Rebecca Finley Dia adalah CEO perusahaan Kemitraan di bidang kecerdasan buatan.

Lebih banyak komentar yang harus dibaca diposting olehnya keberuntungan:

Pendapat yang diungkapkan dalam ulasan Fortune.com adalah sepenuhnya milik penulisnya dan tidak mencerminkan pendapat atau keyakinan tersebut keberuntungan.