Tampilan jarak dekat dari kelas: Kursus komputer menavigasi etika teknologi

“Mereka memikirkan bagaimana aturan-aturan ini berdampak pada proyek dan berdampak pada komunitas yang lebih luas,” kata Jeremiah Giordani, 25 tahun.

Meskipun Princeton menawarkan lusinan kursus ilmu komputer setiap semester, Arvind Narayanan, profesor ilmu komputer dan direktur Pusat Kebijakan Teknologi Informasi, mengidentifikasi apa yang disebutnya sebagai kesenjangan dalam kurikulum setelah menyadari bahwa tidak satupun dari kursus tersebut mencakup etika komputasi secara ekstensif.

Dia mulai mengubah hal tersebut dengan mata kuliahnya “Ethics in Computing,” yang baru di Princeton pada musim gugur ini.

Menurut Narayanan, 80% kursusnya adalah tentang penerapan prinsip-prinsip etika pada sistem tertentu, dan sisanya berfokus pada prinsip-prinsip itu sendiri. Misalnya, tugas pertama menugaskan siswa untuk melatih algoritme pembelajaran mesin untuk memaksimalkan akurasi sekaligus meminimalkan diskriminasi.

“Ini bukan sekedar menulis baris kode,” kata Jeremiah Giordani, 25, seorang jurusan ilmu komputer dan salah satu dari sekitar 100 siswa di kelas tersebut. “Mereka memikirkan bagaimana baris-baris kode ini berdampak pada proyek dan berdampak pada komunitas yang lebih luas.”

Narayanan mengatakan dia ingin para siswa memikirkan tentang alat-alat untuk perubahan politik, sekaligus memberikan “pengalaman langsung.”

Sepanjang semester, para mahasiswa bekerja dalam kelompok kecil untuk membahas berbagai masalah dengan topik yang bersinggungan dengan etika dan teknologi, mulai dari dampak diskriminatif dari pengambilan keputusan otomatis hingga dampak berbahaya dari konten media sosial yang ditargetkan. Tidak ada ujian tengah semester. Untuk tugas akhir yang dibawa pulang, siswa menganalisis aspek teknis dan etika dari studi kasus pilihan mereka.

Stephen Kelts, dosen di Center for Human Values ​​​​dan School of Public and International Affairs, memimpin simulasi perusahaan teknologi yang menghadapi dilema etika dalam beberapa prinsip; Misalnya, Ukraina justru menggunakan drone yang awalnya dirancang untuk mendeteksi lalu lintas sebagai alat pelacak dan senjata melawan pasukan Rusia.

Giordani mengatakan kursus tersebut mengubah pandangannya terhadap teknologi dan mendorongnya “untuk berpikir tidak hanya tentang apa itu teknologi, bagaimana cara kerjanya, dan bagaimana kita menerapkannya, tetapi juga apa konsekuensi dari penerapan ini.” [and] Bagaimana hal ini mempengaruhi berbagai bagian masyarakat kita? Ini adalah sesuatu yang menurut saya akan melekat pada saya untuk waktu yang sangat lama.”

Narayanan berharap Princeton pada akhirnya akan mengintegrasikan etika ke dalam sebagian besar kursus ilmu komputer di Princeton. Dia yakin ini adalah kesempatan yang terlewatkan untuk tidak membahas konsep etika dan rincian teknis. Sampai saat itu tiba, ia berupaya untuk memasukkan lebih banyak filsafat moral dan politik ke dalam jalur yang ada saat ini.

Tujuan utamanya adalah membantu siswa membangun keterampilan, karena “ingin bertindak secara etis saja tidak cukup, Anda harus tahu bagaimana melakukannya.”