Siapa yang akan dibunuh oleh mobil self-driving? Mesin, selamatkan sebanyak mungkin orang, tapi yang terpenting, selamatkan aku!

Jika situasi muncul di mana sistem otonom mobil harus membuat pilihan cepat tentang siapa yang harus dikorbankan jika terjadi kecelakaan yang akan segera terjadi, bagaimana reaksinya? Mengorbankan penumpang untuk menyelamatkan pejalan kaki? Jika perlu, bunuh seorang pejalan kaki untuk menyelamatkan, misalnya, keluarga dengan empat orang bepergian dengan mobil? Atau mungkin dia harus selalu melindungi dirinya sendiri terlebih dahulu?

Sementara lebih dari enam puluh perusahaan telah menerima izin pengujian pribadi di California saja, sulit untuk mengatakan bahwa industri ini siap menghadapi dilema etika. Saat ini, dia sedang berjuang dengan masalah yang lebih mendasar - operasi dan efisiensi navigasi sistem dan hanya menghindari tabrakan dan kejadian tak terduga. Dalam situasi seperti pembunuhan baru-baru ini terhadap pejalan kaki di Arizona, atau kecelakaan berikutnya (1), sejauh ini hanya tentang kegagalan sistem, dan bukan tentang semacam "pilihan etis" mobil.

Selamatkan orang kaya dan muda

Masalah pengambilan keputusan semacam ini bukanlah masalah abstrak. Pengemudi berpengalaman mana pun dapat mengesahkan ini. Tahun lalu, para peneliti dari MIT Media Lab menganalisis lebih dari empat puluh juta tanggapan dari responden dari seluruh dunia, yang mereka kumpulkan dalam penelitian yang diluncurkan pada tahun 2014. Sistem jajak pendapat yang mereka sebut "Mesin Etis", menunjukkan bahwa di berbagai tempat di sekitar dunia, pertanyaan serupa ditanyakan jawaban yang berbeda.

Kesimpulan yang paling umum dapat diprediksi. Dalam situasi ekstrim orang lebih suka menyelamatkan orang daripada merawat hewan, bertujuan untuk menyelamatkan nyawa sebanyak mungkin, dan cenderung lebih muda dari orang tua (2). Ada juga beberapa, tetapi kurang jelas, preferensi dalam hal menyelamatkan wanita daripada pria, orang yang berstatus lebih tinggi daripada orang yang lebih miskin, dan pejalan kaki daripada penumpang mobil..

2. Siapa yang harus diselamatkan mobil?

Karena hampir setengah juta responden mengisi kuesioner demografi, preferensi mereka dapat dikorelasikan dengan usia, jenis kelamin, dan keyakinan agama. Para peneliti menyimpulkan bahwa perbedaan ini tidak "secara signifikan mempengaruhi" keputusan orang, tetapi mencatat beberapa pengaruh budaya. Orang Prancis, misalnya, cenderung mempertimbangkan keputusan berdasarkan perkiraan jumlah kematian, sedangkan di Jepang penekanannya paling sedikit. Namun, di Negeri Matahari Terbit, kehidupan orang tua lebih dihargai daripada di Barat.

“Sebelum kami mengizinkan mobil kami membuat keputusan etis mereka sendiri, kami perlu melakukan debat global tentang ini. Ketika perusahaan yang bekerja pada sistem otonom mempelajari preferensi kami, maka mereka akan mengembangkan algoritme etis dalam mesin berdasarkan mereka, dan politisi dapat mulai memperkenalkan ketentuan hukum yang memadai, ”tulis para ilmuwan pada Oktober 2018 di Nature.

Salah satu peneliti yang terlibat dalam eksperimen Mesin Moral, Jean-Francois Bonnefont, menemukan preferensi untuk menyelamatkan orang-orang dengan status lebih tinggi (seperti eksekutif daripada tunawisma) menjadi hal yang mengkhawatirkan. Menurutnya, ini sangat terkait dengan tingkat ketimpangan ekonomi di suatu negara. Di mana ketidaksetaraan lebih besar, preferensi diberikan untuk mengorbankan orang miskin dan tunawisma.

Salah satu penelitian sebelumnya menunjukkan, khususnya, bahwa, menurut responden, mobil otonom harus melindungi sebanyak mungkin orang, bahkan jika itu berarti kehilangan penumpang. Namun, pada saat yang sama, responden menyatakan bahwa mereka tidak akan membeli mobil yang diprogram dengan cara ini. Para peneliti menjelaskan bahwa sementara orang merasa lebih etis untuk menyelamatkan lebih banyak orang, mereka juga mementingkan diri sendiri, yang bisa menjadi sinyal bagi produsen bahwa pelanggan akan enggan membeli mobil yang dilengkapi dengan sistem altruistik.. Beberapa waktu lalu, perwakilan perusahaan Mercedes-Benz mengatakan bahwa jika sistem mereka hanya menyelamatkan satu orang, mereka akan memilih pengemudi, bukan pejalan kaki. Gelombang protes publik memaksa perusahaan untuk mencabut pernyataannya. Tetapi penelitian dengan jelas menunjukkan bahwa ada banyak kemunafikan dalam kemarahan suci ini.

Ini sudah terjadi di beberapa negara. upaya pertama pada regulasi hukum di lapangan. Jerman telah mengeluarkan undang-undang yang mewajibkan mobil tanpa pengemudi untuk menghindari cedera atau kematian dengan cara apa pun. Undang-undang tersebut juga menyatakan bahwa algoritma tidak pernah dapat membuat keputusan berdasarkan karakteristik seperti usia, jenis kelamin, kesehatan, atau pejalan kaki.

Audi mengambil alih

Perancang tidak dapat memprediksi semua konsekuensi dari pengoperasian mobil. Realitas selalu dapat memberikan kombinasi variabel yang belum pernah diuji sebelumnya. Ini meruntuhkan keyakinan kita pada kemungkinan "memprogram secara etis" mesin sama sekali. Tampaknya bagi kami bahwa dalam situasi di mana kesalahan terjadi dan tragedi terjadi "karena kesalahan mobil", tanggung jawab harus ditanggung oleh pabrikan dan pengembang sistem.

Mungkin alasan ini benar, tetapi mungkin bukan karena itu salah. Melainkan, karena sebuah gerakan diperbolehkan yang tidak 2019% bebas dari kemungkinan membuatnya. Tampaknya itulah alasannya, dan tanggung jawab bersama tidak diabaikan oleh perusahaan, yang baru-baru ini mengumumkan bahwa mereka akan bertanggung jawab atas kecelakaan yang melibatkan A8 berusia 3 tahun saat menggunakan sistem Traffic Jam Pilot (XNUMX) otomatis di dalamnya.

3. Antarmuka Pilot Kemacetan Lalu Lintas Audi

Di sisi lain, ada jutaan orang yang mengendarai mobil dan juga melakukan kesalahan. Jadi mengapa mesin, yang secara statistik membuat kesalahan jauh lebih sedikit daripada manusia, sebagaimana dibuktikan oleh banyak kesalahan, didiskriminasi dalam hal ini?

Jika ada yang mengira bahwa dilema etika dan tanggung jawab dalam dunia kendaraan otonom itu sederhana, teruslah berpikir...