Siapa yang Mengontrol: Orang atau Teknologi?

Metafora umum dalam sastra dan budaya populer kita adalah ketika kreativitas mengambil nyawanya sendiri, dan tumbuh tak terkendali sehingga penciptanya tidak dapat mengelolanya. Dari era Frankenstein dan monsternya hingga contoh yang lebih modern seperti Ultron dalam “Avengers: Age of Ultron”, kita semua telah melihat versi cerita ini. Narasi ini berperan dalam dualitas kemungkinan tak terbatas dari inovasi manusia dan ketakutan akan konsekuensi yang tidak diinginkan.

Menariknya, meskipun ada “peringatan” dalam cerita-cerita ini, kita seringkali tidak dapat menyeimbangkan dikotomi ini. Seseorang tidak perlu melihat lebih jauh dari disinformasi yang meroket yang melanda dunia yang berlanjut melalui platform media sosial yang mungkin tidak bermaksud untuk konsekuensi seperti itu, tetapi tetap berkontribusi pada masalah tersebut. Sayangnya, kisaran dari konsekuensi yang tidak diinginkan ini seringkali sangat banyak. Memang, perdebatan seputar ketergantungan kita pada teknologi, dan dunia robotik kita yang semakin meningkat, seringkali bernada pasrah, sehingga semakin sulit untuk mengambil langkah-langkah yang diperlukan untuk menyeimbangkan dualitas ini.

Dalam review terbaru dari buku berjudul “Futureproof: 9 Rules for Humans in the Age of Automation,” James Fallows dari The New York Times
sekarang juga
Konfirmasi Kutipan berikut dari buku ini: “Adalah regulator, bukan robot, yang memutuskan batasan apa yang harus ditempatkan pada teknologi yang muncul seperti pengenalan wajah dan iklan digital bertarget.” Dengan kata lain, penting untuk tidak kehilangan rasa agensi dan kendali kita atas mesin, termasuk pengaruhnya terhadap masyarakat kita, tenaga kerja kita, atau kehidupan kita sehari-hari. Sebaliknya, sekarang saatnya untuk memeriksa kembali dan menghadapi hubungan manusia-mesin yang kompleks, menggunakannya untuk memandu daripada menginformasikan inovasi teknologi.

Dapatkan teknologi sejak awal

Dalam jajak pendapat Pew Research 2017, Peserta ditanya apakah mereka bersemangat atau prihatin dengan meningkatnya peran otomasi dalam berbagai aspek kehidupan, seperti kendaraan otonom, robotika untuk orang tua, dan, secara lebih umum, masa depan mesin yang melakukan pekerjaan yang sebelumnya dilakukan oleh manusia. Di setiap kategori, lebih banyak orang Amerika yang mengungkapkan keprihatinan daripada antusias. Survei Pew 2019 Ditemukan bahwa hampir dua kali lebih banyak orang Amerika yang percaya bahwa otomatisasi lebih berbahaya daripada kebaikan.

Sebagai seorang profesor yang berspesialisasi dalam otomatisasi, saya tidak diragukan lagi percaya pada manfaatnya, dan baru-baru ini saya menyoroti peran penting yang harus dimainkan komunitas saya dalam mengkomunikasikan manfaat ini kepada masyarakat umum. Tetapi masalahnya tidak terbatas pada komunikasi ilmiah. Yang terpenting, insinyur dan ilmuwan memikul tanggung jawab penting dalam menyeimbangkan maksud dan implikasi teknologi yang mereka kembangkan dengan sengaja. Saya telah membahas nilai universitas seperti universitas saya yang memerlukan kursus etika teknologi bagi para insinyur untuk memajukan cara berpikir ini. Dalam karya Codjo DojoPenulis Ottman Apatera mengajukan serangkaian pertanyaan yang harus dipikirkan oleh para profesional TI, serta bentuk inovasi apa, seperti: “Siapa yang berencana menggunakannya? Apa kegunaannya? Apa saja kasus terburuk skenario jika pemainnya buruk? ” [sic] Mereka mendapatkan teknologi, dan solusi aman apa yang dapat Anda terapkan untuk mengurangi atau mengeksposnya? “Jika lebih banyak dari kita yang dilatih untuk memikirkan proses ini, kita akan memiliki dasar untuk membuat keputusan ini.

Sensasi dan respons

Namun, manusia tidak bisa memprediksi masa depan. Bahkan penemu yang paling bermaksud baik pun dapat mengembangkan dan menerapkan teknologi yang memiliki efek berbeda dari yang dibayangkan. Melalui tebal dan tipis, ini adalah fakta – dan risiko – kekacauan. Namun, meskipun kita tidak seharusnya membatasi kecerdikan, kita juga tidak bergantung pada belas kasihannya.

Saat kami mempublikasikan teknologi baru, kami harus mengevaluasi bagaimana mereka diterapkan dan diterima di masyarakat. Memang, dasar dari sistem kontrol (bidang studi saya) memberikan model yang mungkin untuk bagaimana kita mungkin berpikir tentang masalah ini. Sistem kontrol umpan balik menggunakan proses pengumpulan pengukuran sistem, membandingkannya dengan hasil yang diinginkan, dan kemudian menentukan dan menerapkan tindakan baru sebagai tanggapan, untuk akhirnya mencapai hasil ini. Kita dapat menerapkan prinsip yang sama dalam skala yang lebih besar untuk menganalisis dan memengaruhi cara kita berhubungan dan menggunakan teknologi. Dengan kata lain, saat kita melihat bagaimana orang, dan masyarakat secara keseluruhan, menanggapi atau beradaptasi dengan teknologi baru, pemangku kepentingan – seperti insinyur, pembuat kebijakan, dan pemimpin bisnis – harus menunjukkan kesediaan mereka untuk menggunakan pengungkit yang kita miliki untuk memitigasi. hasil yang berbahaya.

Ini bisa berarti kemajuan atau pembaruan pada teknologi itu sendiri, serta kebijakan yang menyatukan teknologi dengan cara yang membantu meningkatkan hasil positif dan mengurangi hal negatif. Misalnya, desain dan penambahan sabuk pengaman dan segudang fitur keselamatan kendaraan teknis dianggap biasa oleh undang-undang untuk mengurangi kematian akibat kecelakaan. Hal penting yang harus disadari adalah bahwa dalam “putaran umpan balik” ini, yang menjadi pengambil keputusan adalah orang – bukan perangkat lunak atau teknologi. Kita tetap “mengendalikan” bagaimana teknologi membentuk hidup kita, masyarakat kita, dan bahkan kesejahteraan – selama kita mau.