Apa itu “AI yang bertanggung jawab” dan mengapa perusahaan teknologi besar menginvestasikan miliaran di dalamnya?

Ledakan kecerdasan buatan (AI) dan komputasi superintelijen telah menggemparkan dunia. Kritikus menggambarkan revolusi AI sebagai “peristiwa generasi” —yang akan mengubah dunia teknologi, pertukaran informasi, dan komunikasi selamanya.

AI generatif telah mendefinisikan kembali ukuran keberhasilan dan kemajuan di bidang ini, menciptakan peluang baru di semua sektor, mulai dari kedokteran hingga manufaktur. Munculnya AI generatif bersama dengan model pembelajaran mendalam telah memungkinkan untuk mengambil data mentah dan memintanya lahir Teks, gambar, dan media lainnya. Teknologi ini sangat bergantung pada pembelajaran mesin yang diawasi sendiri dari kumpulan data, yang berarti sistem ini dapat mengembangkan repertoarnya dan menjadi lebih mudah beradaptasi dan merespons dengan tepat saat diberi lebih banyak data.

Kevin Scott, Kepala Petugas Teknologi, Microsoft, Dia menulis Tentang bagaimana AI akan mengubah dunia, dia menjelaskan bahwa AI generatif akan membantu melepaskan kreativitas manusia, menyediakan cara baru untuk “melepaskan iterasi yang lebih cepat” dan menciptakan peluang baru dalam produktivitas: “Aplikasi ini berpotensi tidak ada habisnya, hanya dibatasi oleh kemampuan seseorang untuk membayangkan skenario dalam perangkat lunak bantuan produktivitas yang dapat diterapkan pada pekerjaan kognitif yang kompleks, baik itu mengedit video, menulis teks, merancang molekul baru untuk obat, atau membuat resep manufaktur dari model 3D.”

Microsoft dan Google berada di garis depan pengembangan ini dan telah membuat langkah luar biasa dalam teknologi AI dalam satu tahun terakhir. Microsoft Ini dengan mulus mengintegrasikan teknologi ke dalam fungsi penelitiannya, serta menciptakan platform bagi pengembang untuk berinovasi di bidang bermanfaat lainnya. Google Itu juga telah maju secara signifikan di bagian depan ini, menunjukkan janji besar dengan platform Bard dan API Palm-nya.

Namun, janji akan kemungkinan yang tak terbatas disertai dengan tanggung jawab yang sangat besar.

Secara khusus, kebangkitan AI generatif juga menimbulkan banyak kekhawatiran tentang cara terbaik untuk mengembangkan platform ini dengan cara yang adil, merata, dan aman.

Salah satu perhatian utama adalah menciptakan sistem yang dapat memberikan hasil yang adil dan sesuai. Beberapa tahun yang lalu, Amazon harus menyelesaikan a sistem kecerdasan buatan Bahwa perusahaan berusaha merampingkan proses perekrutan. Dalam upaya menghadirkan otomatisasi ke dalam perekrutan, perusahaan telah membangun sistem kecerdasan buatan yang dapat mengurutkan resume dari kandidat dan membantu mengidentifikasi talenta terbaik, berdasarkan data rekrutmen historis. Namun, masalah penting muncul: Karena sistem menggunakan pola berdasarkan data historis, dan mengingat industri teknologi secara historis didominasi laki-laki, sistem semakin memilih laki-laki untuk maju dalam proses perekrutan. Meskipun perekrut Amazon hanya menggunakan sistem ini untuk rekomendasi dan membuat keputusan akhir sendiri, mereka membatalkan seluruh program untuk memastikan transparansi dan keadilan penuh dalam proses selanjutnya.

Insiden ini menyoroti masalah yang berbeda untuk pengembang: sistem AI hanya sebaik data yang mereka latih.

Menyadari potensi masalah tersebut, Google sangat proaktif dalam pendekatannya terhadap pengembangan. Awal bulan ini di konferensi pengembang tahunan Google, para eksekutif mendedikasikan sebagian dari pidato utama mereka untuk “AI yang bertanggung jawabMeyakinkan masyarakat merupakan prioritas utama bagi perusahaan.

Faktanya, Google berusaha untuk transparan tentang hal itu Langkah-langkah keamanan, menjelaskan masalah utama dalam mengembangkan AI secara bertanggung jawab: “Pengembangan AI telah menciptakan peluang baru untuk meningkatkan kehidupan orang-orang di seluruh dunia, dari bisnis hingga perawatan kesehatan hingga pendidikan. Ini juga menimbulkan pertanyaan baru tentang cara terbaik untuk mencapai keadilan, keterjelasan , privasi dan keamanan.” dalam sistem ini. Sebagai akibat wajar dari teka-teki yang dihadapi Amazon, Google membahas pentingnya mengintegrasikan data, input, dan model yang digunakan untuk melatih sistem AI: “Model ML akan mencerminkan data yang mereka latih, jadi analisis data mentah Anda dengan hati-hati untuk pastikan Anda memahaminya. Dalam kasus di mana hal ini tidak memungkinkan, Misalnya, dengan metadata sensitif, pahami data input Anda sedekat mungkin sambil menghormati privasi, misalnya dengan menghitung ringkasan agregat anonim.” Selain itu, perusahaan menekankan bahwa pengguna harus: memahami keterbatasan model data, sering menguji sistem, dan memantau hasil dengan cermat untuk tanda-tanda bias atau kesalahan.

demikian pula, Microsoft Investasikan upaya yang signifikan dalam menegakkan standar AI yang bertanggung jawab: “Kami menerapkan prinsip kami dengan mengambil pendekatan yang berpusat pada orang untuk penelitian, pengembangan, dan penyebaran AI. Untuk mencapai ini, kami merangkul beragam perspektif, terus belajar, dan merespons dengan cepat seiring perkembangan teknologi kecerdasan Buatan.” Secara umum, perusahaan menyatakan bahwa tujuannya dengan teknologi kecerdasan buatan adalah untuk membuat dampak yang bertahan lama dan positif untuk memenuhi tantangan terbesar masyarakat, dan untuk berinovasi dengan cara yang bermanfaat dan aman.

Perusahaan inovatif lainnya di lapangan harus berinvestasi sama dalam mengembangkan sistem ini dengan cara yang bertanggung jawab. Mengembangkan dan mematuhi “AI yang bertanggung jawab” tidak diragukan lagi akan merugikan perusahaan teknologi miliaran dolar setiap tahun, karena mereka harus mengulang dan mengulang untuk menciptakan sistem yang adil dan andal. Meskipun ini mungkin tampak seperti biaya tinggi, itu pasti diperlukan. Kecerdasan buatan adalah teknologi yang sangat baru namun kuat – dan itu pasti akan menjungkirbalikkan banyak industri di tahun-tahun mendatang. Oleh karena itu, pondasi teknologi harus kuat. Perusahaan harus dapat menciptakan sistem ini dengan cara yang mendorong kepercayaan pengguna yang mendalam dan mengembangkan masyarakat dengan cara yang positif. Hanya dengan begitu potensi sebenarnya dari teknologi ini untuk menjadi berkah daripada kutukan bagi masyarakat akan terungkap.

Ikuti aku Twitter atau linkedin.