Google menarik kembali jawaban pencarian AI setelah menyuruh pengguna memakan lem

Liz Read, kepala departemen pencarian Google, berkata: Entri blog Pada Kamis sore, perusahaan mempersempit beberapa jawaban AI, yang disebutnya “Ikhtisar AI.” Perusahaan mengurangi penggunaan postingan media sosial sebagai sumber jawaban AI, menghentikan sementara beberapa jawaban mengenai topik terkait kesehatan, dan “menambahkan pembatasan insentif pada pertanyaan di mana ikhtisar AI terbukti tidak membantu,” kata Reed dalam postingan tersebut. . Reed mengatakan perusahaan telah melakukan lebih dari selusin perubahan teknis yang bertujuan untuk meningkatkan sistem.

Perubahan ini adalah contoh terbaru dari Google yang meluncurkan produk AI dengan meriah dan kemudian mundur setelah produk tersebut menjadi kacau. Februari lalu, perusahaan tersebut melarang pengguna mengambil foto orang menggunakan alat foto AI setelah komentator konservatif menuduhnya bias terhadap orang kulit putih.

Industri teknologi sedang berada dalam pergolakan revolusi AI, dimana startup dan raksasa teknologi sama-sama berusaha menemukan cara baru untuk memasukkan teknologi ke dalam produk mereka dan menghasilkan uang darinya. Banyak alat yang diluncurkan sebelum siap untuk ditayangkan, karena perusahaan bersaing untuk menjadi yang pertama memasarkan produk mereka dan menampilkan diri mereka sebagai perusahaan yang terdepan.

Google, yang karyawannya menemukan banyak alat AI canggih seperti ChatGPT, mencoba membuktikan kepada investor, konsumen, dan karyawannya sendiri bahwa Google masih menjadi pemain terpenting dalam industri ini. Pada I/O bulan ini, perusahaan membuat lebih dari 100 pengumuman berbeda terkait AI.

Yang terbesar adalah konfirmasi bahwa mereka akan mulai meluncurkan jawaban yang dihasilkan AI dalam hasil pencarian untuk sebagian besar penggunanya. Google telah menguji AI Answers selama setahun dengan sekelompok pengguna terpilih, namun menambahkannya ke lebih banyak hasil pencarian berarti kebanyakan orang kini akan mulai berinteraksi langsung dengan AI generatif pada alat yang mereka gunakan setiap hari.

Tekniknya bekerja dengan membaca website yang mungkin muncul di hasil pencarian Google lalu merangkumnya menjadi jawaban multi-paragraf. Penerbit telah keberatan, menuduh perusahaan tersebut merugikan bisnis mereka dengan mengambil konten mereka dan mengembalikannya ke pengguna secara langsung di hasil pencarian, sehingga membuat mereka kehilangan lalu lintas web yang penting.

Namun jurnalis, pakar mesin pencari, dan pengguna media sosial dengan cepat mulai menemukan permasalahan melalui jawabannya. Beberapa tanggapannya lucu dan ada pula yang mengganggu. Mereka juga muncul untuk pertanyaan sensitif, termasuk pertanyaan terkait kesehatan.

Salah satu jawaban, yang telah diperbaiki oleh Google, meminta orang untuk minum banyak air seni untuk membantu mengeluarkan batu ginjal. Yang lain mengatakan bahwa JFK lulus dari University of Wisconsin di Madison dalam enam tahun berbeda, tiga di antaranya setelah kematiannya.

Google mencoba menguji alat tersebut sebanyak mungkin sebelum meluncurkannya dalam skala yang lebih besar, namun Reed mengatakan bahwa peluncuran skala besar mengungkapkan banyak situasi di mana perusahaan tidak siap.

“Tidak ada jutaan orang yang menggunakan fitur ini,” kata Reed.