Pengungkap fakta mengatakan OpenAI secara ilegal mencegah karyawan berbagi risiko

Surat tersebut menyatakan bahwa OpenAI memaksa karyawan untuk menandatangani perjanjian karyawan yang mengharuskan mereka melepaskan hak federal atas kompensasi pelapor. Perjanjian ini juga mengharuskan karyawan OpenAI untuk mendapatkan persetujuan terlebih dahulu dari perusahaan jika mereka ingin mengungkapkan informasi kepada otoritas federal. OpenAI tidak membuat pengecualian terhadap klausul non-pencemaran nama baik karyawannya untuk mengungkapkan pelanggaran sekuritas SEC.

Perjanjian luas ini melanggar undang-undang dan peraturan federal yang sudah lama berlaku yang dimaksudkan untuk melindungi pelapor yang ingin mengungkapkan informasi yang memberatkan tentang perusahaan mereka secara anonim dan tanpa rasa takut akan pembalasan, kata surat itu.

“Kontrak ini mengirimkan pesan bahwa kami tidak ingin… karyawan berbicara dengan regulator federal,” kata salah satu pengungkap fakta (whistleblower), yang berbicara tanpa menyebut nama karena takut akan pembalasan. “Saya tidak percaya perusahaan AI dapat membangun teknologi yang aman dan demi kepentingan publik jika mereka melindungi diri dari pengawasan dan pertentangan.”

Dalam sebuah pernyataan, Hannah Wong, juru bicara OpenAI, mengatakan: “Kebijakan pelapor kami melindungi hak karyawan untuk melakukan pengungkapan yang dilindungi. Selain itu, kami percaya diskusi yang cermat seputar teknologi ini sangat penting dan telah membuat perubahan signifikan pada proses penghentian kami kondisi.”

Surat pelapor muncul di tengah kekhawatiran bahwa OpenAI, yang dimulai sebagai… OpenAI, sebuah perusahaan nirlaba dengan misi altruistik, mengutamakan keuntungan dibandingkan keselamatan dalam menciptakan teknologinya. The Post melaporkan pada hari Jumat bahwa OpenAI segera merilis model terbaru dari kecerdasan buatan yang mendukung ChatGPT untuk memenuhi tanggal rilis Mei yang ditetapkan oleh para pemimpin perusahaan, meskipun ada kekhawatiran dari karyawan bahwa perusahaan tersebut “gagal” untuk mematuhi protokol pengujian keamanannya sendiri yang dikatakan akan menjaga keamanan. AI-nya melindungi dari bahaya besar, seperti mengajari pengguna cara membuat senjata biologis atau membantu peretas mengembangkan jenis serangan siber baru. Dalam sebuah pernyataan, juru bicara OpenAI Lindsey Held mengatakan perusahaannya “tidak lalai dalam proses keselamatan kami, meskipun kami menyadari bahwa peluncuran tersebut menimbulkan tekanan bagi tim kami.”

Perjanjian kerahasiaan yang ketat dari perusahaan teknologi telah lama menyusahkan para pekerja dan regulator. Selama gerakan #MeToo dan protes nasional sebagai tanggapan atas pembunuhan George Floyd, para pekerja telah memperingatkan bahwa perjanjian hukum tersebut membatasi kemampuan mereka untuk melaporkan pelanggaran seksual atau diskriminasi rasial. Pada saat yang sama, regulator telah menyatakan keprihatinannya bahwa istilah-istilah ini membungkam karyawan teknologi yang mungkin mengingatkan mereka akan perilaku buruk di lingkungan yang tidak jelas. Sektor teknologi mengalami peningkatan tekanan terhadap perusahaan, terutama sehubungan dengan tuduhan bahwa algoritma perusahaan mempromosikan konten yang akan merugikan pemilu, kesehatan masyarakat, dan keselamatan anak-anak.

Kemajuan pesat kecerdasan buatan telah mempertajam… Kekhawatiran para pembuat kebijakan terhadap kekuatan industri teknologi telah memicu gelombang seruan untuk melakukan regulasi. Di Amerika Serikat, sebagian besar perusahaan AI beroperasi dalam kekosongan hukum, dan para pembuat kebijakan mengatakan mereka tidak dapat secara efektif membuat kebijakan AI baru tanpa bantuan pelapor (whistleblower), yang dapat membantu menjelaskan potensi ancaman yang ditimbulkan oleh teknologi yang bergerak cepat.

“Kebijakan dan praktik OpenAI tampaknya berdampak buruk pada hak pelapor untuk berbicara dan menerima kompensasi yang pantas atas pengungkapan yang dilindungi,” kata Senator Chuck Grassley (R-Iowa) dalam sebuah pernyataan kepada The Post. “Agar pemerintah federal tetap selangkah lebih maju dari AI, NDA OpenAI harus berubah.”

Salinan surat yang ditujukan kepada Ketua SEC Gary Gensler telah dikirim ke Kongres. The Washington Post memperoleh surat pelapor dari kantor Grassley.

Keluhan resmi yang dirujuk Surat itu diajukan ke Komisi Sekuritas dan Bursa pada bulan Juni. Steven Kuhn, pengacara yang mewakili pelapor OpenAI, mengatakan SEC menanggapi keluhan tersebut.

Belum diketahui apakah Komisi Sekuritas dan Bursa telah memulai penyelidikan atas masalah ini. Agensi tidak menanggapi permintaan komentar.

Surat tersebut mengatakan SEC harus mengambil langkah-langkah “cepat dan agresif” untuk mengatasi perjanjian ilegal ini, karena perjanjian tersebut mungkin terkait dengan sektor AI yang lebih luas dan mungkin melanggar perintah eksekutif Gedung Putih pada bulan Oktober yang mewajibkan perusahaan AI untuk mengembangkan teknologi tersebut dengan aman.

“Inti dari setiap upaya tersebut adalah pengakuan bahwa orang dalam…harus bebas melaporkan kekhawatiran mereka kepada otoritas federal,” kata surat itu. “Staf berada pada posisi terbaik untuk mendeteksi dan memperingatkan jenis risiko yang dirujuk dalam Perintah Eksekutif, dan mereka juga berada pada posisi terbaik untuk membantu memastikan umat manusia mendapat manfaat dari AI, dibandingkan memberikan dampak sebaliknya.”

Perjanjian ini mengancam karyawan dengan tuntutan pidana jika mereka melaporkan pelanggaran hukum berdasarkan undang-undang rahasia dagang kepada otoritas federal, kata Cohn. Dia menambahkan bahwa karyawan diinstruksikan untuk menjaga kerahasiaan informasi perusahaan dan diancam dengan “hukuman berat” tanpa mengakui hak mereka untuk melaporkan informasi tersebut kepada pemerintah.

“Dalam hal pengawasan AI, kami masih berada di tahap awal,” kata Kuhn. “Kami membutuhkan karyawan untuk melangkah maju, dan kami membutuhkan OpenAI yang terbuka.”

SEC harus mewajibkan OpenAI untuk mengajukan setiap perjanjian ketenagakerjaan, pesangon, dan investasi yang berisi klausul kerahasiaan untuk memastikan mereka tidak melanggar undang-undang federal, kata surat itu. Regulator federal harus mewajibkan OpenAI untuk memberi tahu semua mantan dan karyawan saat ini tentang pelanggaran yang dilakukan perusahaan, serta hak mereka untuk melaporkan setiap pelanggaran hukum secara rahasia dan anonim kepada Komisi Sekuritas dan Bursa. SEC harus mendenda OpenAI untuk “setiap perjanjian yang tidak pantas” berdasarkan Undang-Undang SEC dan mengarahkan OpenAI untuk memperbaiki “efek buruk” dari praktiknya di masa lalu, menurut surat pelapor.

Beberapa karyawan teknologi, termasuk pelapor Facebook Frances Haugen, telah mengajukan pengaduan ke Komisi Sekuritas dan Bursa, yang membuat program pelapor setelah krisis keuangan tahun 2008.

Menolak penggunaan perjanjian kerahasiaan oleh Silicon Valley untuk “memonopoli informasi” merupakan perjuangan yang berlarut-larut, kata Chris Baker, seorang pengacara di San Francisco. Mereka memenangkan penyelesaian sebesar $27 juta untuk karyawan Google pada bulan Desember atas tuduhan bahwa raksasa teknologi tersebut menggunakan perjanjian kerahasiaan yang memberatkan untuk mencegah pelaporan pelanggaran (whistleblowing) dan aktivitas dilindungi lainnya. Dia mengatakan perusahaan-perusahaan teknologi kini semakin melakukan perlawanan dengan cara-cara cerdas untuk menghalangi pembicaraan.

“Pengusaha telah belajar bahwa kerugian akibat kebocoran terkadang jauh lebih besar dibandingkan biaya litigasi, sehingga mereka bersedia mengambil risiko,” tambah Baker.