Perusahaan teknologi besar ingin mengatur AI. Negara-negara lain di Silicon Valley merasa skeptis.

Bagi para pembangkang ini, kesediaan para pemain AI terbesar, seperti Google, Microsoft, dan OpenAI, pembuat ChatGPT, untuk menerapkan peraturan hanyalah sebuah taktik sinis dari perusahaan-perusahaan tersebut untuk mempertahankan keunggulan mereka sebagai pemimpin saat ini. Dia menarik tangga di belakang mereka. Kekhawatiran para pemimpin teknologi semakin besar minggu lalu, ketika Presiden Biden menandatangani perintah eksekutif yang berisi rencana agar pemerintah menetapkan pedoman pengujian dan persetujuan untuk model AI – algoritma yang mendasari alat AI “generatif” seperti chatbots dan pembuat gambar. .

“Kita masih dalam tahap awal penerapan AI generatif, dan penting bagi pemerintah untuk tidak memilih pemenang terlebih dahulu dan menghentikan persaingan dengan menerapkan peraturan memberatkan yang hanya dapat dipenuhi oleh perusahaan besar,” kata Gary Tan, presiden Y. Combinator, inkubator startup berbasis di San Francisco yang membantu mengembangkan perusahaan termasuk Airbnb dan DoorDash ketika mereka masih dalam tahap awal. Tan mengatakan diskusi saat ini belum cukup mencakup suara-suara dari usaha kecil, yang menurutnya merupakan kunci untuk mendorong persaingan dan merancang cara-cara yang lebih aman untuk memanfaatkan AI.

Perusahaan seperti startup AI yang berpengaruh, Anthropic dan OpenAI, memiliki hubungan erat dengan perusahaan teknologi besar, dan mereka telah menerima investasi dalam jumlah besar.

“Mereka tidak mewakili sebagian besar orang yang telah berkontribusi pada industri ini,” kata Martin Casado, partner umum di perusahaan modal ventura Andreessen Horowitz, yang telah melakukan investasi awal di Facebook, Slack, dan Lyft. Sebagian besar insinyur dan pengusaha AI mengamati diskusi peraturan dari jauh, berfokus pada perusahaan mereka daripada mencoba melobi politisi, katanya.

“Banyak orang yang ingin membangun, mereka inovatif, dan mereka adalah mayoritas yang diam,” kata Casado. Dia mengatakan perintah eksekutif menunjukkan kepada orang-orang ini bahwa peraturan mungkin akan datang lebih cepat dari yang diharapkan.

Perusahaan modal ventura Casado mengirim surat kepada Biden yang menguraikan kekhawatirannya. Perjanjian tersebut ditandatangani oleh para pemimpin AI terkemuka, termasuk CEO Replit Amjad Massad dan Arthur Mensch dari Mistral, serta para pemimpin teknologi yang lebih mapan seperti Tobi Lutke, CEO perusahaan e-commerce Shopify, yang men-tweet: “Mengatur AI adalah ide yang buruk,” dia dikatakan. Perintah eksekutif diumumkan.

Mewajibkan perusahaan AI untuk melapor kepada pemerintah mungkin akan membuat pengembangan teknologi baru menjadi lebih sulit dan mahal, kata Casado. Hal ini juga dapat berdampak pada komunitas open source, kata Casado dan Andrew Ng, pionir penelitian AI yang membantu mendirikan Lab AI Google.

Ketika banyak perusahaan berupaya meluncurkan dan memonetisasi alat AI baru sejak OpenAI meluncurkan ChatGPT hampir setahun yang lalu, pemerintah harus memikirkan cara untuk meresponsnya. Sejumlah dengar pendapat di kongres telah membahas topik ini, dan rancangan undang-undang telah diusulkan di badan legislatif federal dan negara bagian. Uni Eropa sedang berupaya untuk mengubah peraturan AI yang telah berjalan selama beberapa tahun, dan Inggris sedang mencoba menampilkan dirinya sebagai negara yang ramah terhadap inovasi AI, dan baru-baru ini menjadi tuan rumah pertemuan besar para pemimpin pemerintahan dan bisnis untuk membahas teknologi tersebut.

Sepanjang diskusi, perwakilan dari perusahaan-perusahaan AI yang paling berpengaruh mengatakan secara terbuka bahwa teknologi tersebut menghadirkan risiko yang serius, dan mereka tertarik pada regulasi. Menerapkan peraturan yang baik dapat mencegah dampak buruk, mendorong lebih banyak investasi pada AI dan membuat masyarakat lebih nyaman dengan kemajuan teknologi yang pesat, kata perusahaan tersebut. Pada saat yang sama, menjadi bagian dari pembahasan peraturan memberikan pengaruh kepada para pemimpin bisnis terhadap jenis peraturan yang dikembangkan.

“Jika teknologi ini salah, maka bisa jadi benar-benar salah,” kata Sam Altman, CEO OpenAI, pada sidang kongres pada bulan Mei. Anggota parlemen, termasuk Pemimpin Mayoritas Senat Charles E. Schumer (D.N.Y.), mengatakan mereka ingin mengatur AI sejak dini, daripada mengambil pendekatan yang lebih longgar seperti yang dilakukan pemerintah terhadap media sosial.

OpenAI menetapkan ambisinya untuk bersaing dengan perusahaan teknologi besar

Beberapa hari setelah perintah eksekutif Biden, perwakilan pemerintah yang menghadiri KTT Keamanan AI yang diselenggarakan di Inggris menandatangani pernyataan yang mendukung gagasan untuk memberikan peran kepada pemerintah dalam menguji model AI.

“Sejauh ini, satu-satunya pihak yang menguji keamanan model AI baru adalah perusahaan yang mengembangkannya. Kita tidak boleh bergantung pada mereka untuk menilai pekerjaan rumah mereka, karena banyak dari mereka setuju,” kata Perdana Menteri Inggris Rishi Sunak dalam sebuah pernyataan.

Baik Demis Hassabis, CEO divisi AI DeepMind Google, dan Dario Amodei, CEO Anthropic, menambahkan dukungan mereka terhadap pernyataan tersebut. Juru bicara Google dan Anthropic tidak berkomentar. Seorang juru bicara Microsoft menolak berkomentar tetapi merujuk pada JKesaksian yang agresif Dari wakil presiden dan presiden perusahaan, Brad Smith, ia mendukung gagasan pemberian lisensi AI oleh badan pemerintah yang independen.

Seorang juru bicara OpenAI menolak berkomentar namun merujuk pada cuitan Altman yang menyatakan bahwa meskipun ia mendukung peraturan perusahaan AI yang lebih mapan yang mengerjakan model AI yang kuat, pemerintah harus berhati-hati agar tidak merugikan persaingan.

Banyak terobosan besar dalam teknologi selama beberapa dekade terakhir terjadi karena pengembang telah menyediakan teknologi mereka untuk digunakan orang lain secara gratis. Kini, perusahaan menggunakan model AI sumber terbuka untuk membuat alat AI mereka sendiri tanpa harus membayar Google, OpenAI, atau Anthropic untuk akses ke model mereka.

Dengan bekerja kerasnya para pelobi perusahaan teknologi besar di Washington, perusahaan-perusahaan ini mungkin dapat mempengaruhi peraturan demi kepentingan mereka – dengan mengorbankan perusahaan-perusahaan kecil, kata Ng.

Kritik terhadap kerangka peraturan yang baru muncul juga mengatakan bahwa peraturan tersebut didasarkan pada kekhawatiran berlebihan mengenai risiko AI. Para pemimpin AI yang berpengaruh, termasuk eksekutif dari OpenAI, Microsoft, Google, dan Anthropic, telah memperingatkan bahwa AI menimbulkan risiko yang setara dengan pandemi atau senjata nuklir terhadap masyarakat manusia. Banyak peneliti dan pengusaha AI terkemuka mengatakan bahwa teknologi ini berkembang begitu pesat sehingga mungkin akan segera melampaui kecerdasan manusia dan mulai mengambil keputusan sendiri.

Kekhawatiran ini, yang muncul secara menonjol pada KTT AI di Inggris, memberi perlindungan bagi pemerintah untuk mengeluarkan peraturan, kata Ng, yang kini menyesal tidak mengatasi kekhawatiran “risiko eksistensial” dengan lebih tegas. “Saya merasa sulit untuk melihat bagaimana umat manusia bisa punah,” katanya.