Mengapa memercayai AI dan mesin adalah masalah keseimbangan

Adopsi teknologi yang meluas memberi kita sebuah paradoks. Meskipun telah membuat kita sukses sebagai spesies, hal itu juga penuh dengan rintangan, baik yang nyata maupun yang dibayangkan. Saat ini, mesin yang mendukung AI secara langsung menjadi pusat dari kontradiksi ini. Kami terpaksa bertanya bagaimana mempertahankan kendali atas hal-hal yang sekarang dapat melakukan tugas manusia tradisional jauh lebih baik daripada yang kami bisa. Kita juga perlu menemukan cara untuk menghindari fokus pada hasil negatif tetapi tidak mungkin, alih-alih berfokus pada hasil yang lebih realistis.

Ada sejumlah besar data untuk mendukung fakta bahwa kendaraan yang dapat mengemudi sendiri lebih aman daripada yang dikemudikan oleh manusia di lingkungan yang terkendali, tetapi kami tetap memilih untuk fokus pada hasil yang paling buruk.

tenaga mesin

Alasan di balik ini rumit. Misalnya, kami buruk dalam memperbaiki Seberapa Dapat Dipercaya Teknologi Ketika dihadapkan pada pilihan untuk mempercayai sesuatu atau tidak, kita biasanya mengambil keputusan yang mutlak – ya atau tidak. Selain itu, sistem dan mesin AI tidak memiliki sifat dasar manusia seperti empati, pemahaman emosional, dan pengambilan keputusan kontekstual. Ini adalah kekuatan dan kelemahan terbesar mereka. Manusia dapat memasukkan emosi dan konteks yang kompleks ke dalam pilihan mereka; Algoritme AI harus didasarkan pada aturan dan pola yang telah ditentukan sebelumnya.

Masalah dengan ini bisa dilihat di bidang medis. Meskipun sistem bertenaga AI dapat menganalisis data medis dan membantu mendiagnosis penyakit dengan lebih akurat daripada manusia, kami cenderung bertanya-tanya apakah ‘robot dokter’ ini tidak memiliki kasih sayang dan empati yang dibawa oleh dokter manusia ke interaksi pasien, dan dengan demikian berpengaruh pada kualitas secara keseluruhan. perawatan. Apa yang dimulai dengan otomatisasi analisis data menjadi diskusi tentang tingkat daya yang ingin kami investasikan pada mesin.

tingkat akuntabilitas yang berbeda

Selain itu, manusia biasanya melebih-lebihkan kemampuannya sendiri. Sebagian dari masalahnya adalah kami tidak pernah menemukan cara yang sempurna untuk mengukur efektivitas manusia pada berbagai tugas, jadi kami tidak memiliki standar untuk mengukur kinerja alat berat sebagai perbandingan. Jika kita membuat model dengan akurasi 0,84, misalnya, 84 persennya akan benar. Tapi kami lebih cenderung menghabiskan waktu untuk membahas bagaimana membuatnya lebih dekat ke 1.0 daripada membandingkan kinerjanya dengan manusia dalam kondisi yang sama. Faktanya, kinerja manusia itu mungkin jauh lebih rendah dari 0,84, tetapi kita sering gagal mengenali falibilitas kita sendiri.

Selain itu, kurangnya kompas etis dalam sistem AI menyoroti perlunya pengawasan manusia dan pertimbangan etis untuk memastikan bahwa mereka diterapkan dan dikelola secara bertanggung jawab. Tanpa pemahaman dasar tentang etika, AI akan kesulitan menghadapi dilema yang rumit. Meskipun mobil self-driving dapat menawarkan manfaat seperti peningkatan keselamatan karena menghilangkan kesalahan pengemudi manusia, mereka menghadapi keputusan etis yang sulit saat menghadapi kecelakaan yang tidak dapat dihindari. Siapa yang harus Anda utamakan? Penumpang? pejalan kaki? atau keduanya?

Patuhi standar serupa

Kita dapat memaafkan manusia atas kesalahan yang sebenarnya, tetapi jika sebuah mesin membuat kesalahan, itu pasti tunduk pada tingkat akuntabilitas yang berbeda – dan ini membuat pengguna mempertanyakan keandalan dan efektivitas sistem AI.

Agar AI dapat dipercaya dan dipertahankan dengan standar yang lebih sebanding dengan manusia, AI harus dapat berinteraksi dengan metode yang telah dikembangkan manusia untuk membangun kepercayaan. Penjelasan dan alasan, memperbarui prediksi dalam menghadapi kesalahan, dan mempelajari konteks individu untuk pengguna yang berbeda adalah komponen utama dari ini. Hanya dengan mempertimbangkan faktor manusia dan pengalaman pengguna akhir serta akurasi model, kami dapat benar-benar membangun kepercayaan dan mewujudkan potensi penuh dari teknologi baru ini.