https://frosthead.com

Cabaran Etika Kereta Memandu Sendiri Akan Hadapi Setiap Hari

Banyak perbincangan dan pemikiran etika mengenai kereta memandu sendiri telah memberi tumpuan kepada dilema tragik, seperti hipotetikal di mana kereta terpaksa membuat keputusan sama ada untuk menjalankan kumpulan pelajar atau menjatuhkan tebing, membunuh penghuni sendiri. Tetapi pelbagai keadaan adalah kes-kes yang melampau.

Sebagai kemalangan yang paling baru - di mana kereta memandu sendiri membunuh pejalan kaki di Tempe, Arizona - menunjukkan, keadaan biasa, setiap hari di setiap salib, putaran dan persimpangan hadir lebih keras dan melampaui perihal etika.

Etika ekstrem

Sebagai seorang ahli falsafah yang bekerja dengan jurutera di Pusat Penyelidikan Automotif Stanford, pada mulanya saya terkejut bahawa kami menghabiskan perbincangan lab kami membincangkan apa yang saya fikir adalah satu pertanyaan yang mudah: Bagaimana hendak memandu kereta sendiri memandu salib?

Anggapan saya adalah bahawa kita akan berfikir tentang bagaimana kereta perlu membuat keputusan antara kehidupan penumpang dan kehidupan pejalan kaki. Saya tahu bagaimana untuk berfikir tentang dilema seperti ini kerana senario kemalangan ini menyerupai pengintip falsafah terkenal yang dikenali sebagai "masalah troli." Bayangkan sebuah troop yang melarikan diri akan melemparkan trek dan pasti akan memukul sekumpulan lima atau satu orang - adakah anda membunuh satu untuk menyelamatkan lima?

Walau bagaimanapun, ramai ahli falsafah kini meragui bahawa menyiasat persoalan semacam itu merupakan jalan penyelidikan yang bermanfaat. Sebagai contoh, Barbara Fried, seorang rakan sekerja di Stanford, berpendapat bahawa dilema tragis membuat orang percaya kecurigaan etika kebanyakannya timbul dalam keadaan yang melampau dan buruk.

Malah, pengasingan etika ada di mana-mana. Keadaan sehari-hari, lazimnya mengejutkan dan rumit, sering dengan cara yang halus. Sebagai contoh: Sekiranya bandar anda membelanjakan wang untuk program pencegahan diabetes atau lebih banyak pekerja sosial? Sekiranya Jabatan Kesihatan Awam tempatan anda menyewa inspektor lain untuk piawaian kebersihan restoran, atau meneruskan program yang menyediakan bekalan jarum dan suntikan percuma?

Soalan-soalan ini sangat sukar untuk dijawab kerana ketidakpastian tentang akibat - seperti siapa yang akan dipengaruhi dan sejauh mana tahapnya. Para ahli falsafah penyelesaian telah mencadangkan situasi yang melampau dan terdesak adalah sedikit bantuan di sini.

Masalahnya adalah sama dengan kereta memandu sendiri. Berfikir melalui situasi ekstrem dan senario kemalangan tidak dapat membantu menjawab soalan-soalan yang timbul dalam situasi biasa.

Cabaran pada salib

Orang boleh bertanya, apa yang boleh menjadi sangat sukar tentang situasi lalu lintas biasa seperti menghampiri salib, memandu melalui persimpangan, atau membuat giliran kiri. Walaupun penglihatan di salib adalah terhad dan kadang-kadang sukar untuk mengetahui sama ada pejalan kaki berdekatan sebenarnya mahu menyeberangi jalan, pemandu menghadapi ini setiap hari.

Tetapi untuk kereta memandu sendiri, keadaan biasa seperti itu menimbulkan cabaran dalam dua cara.

Mudah untuk manusia sering bererti keras untuk komputer. Mudah untuk manusia sering bererti keras untuk komputer. (XKCD, CC BY-SA)

Pertama, ada hakikat bahawa apa yang mudah bagi manusia sering sukar untuk mesin. Sama ada ia mengiktiraf muka atau menunggang basikal, kita baik pada persepsi dan tugas mekanikal kerana evolusi membina kemahiran ini untuk kita. Walau bagaimanapun, itu menjadikan kemahiran ini sukar untuk mengajar atau jurutera. Ini dikenali sebagai "Paradoks Moravec."

Kedua, pada masa depan di mana semua kereta adalah kereta memandu sendiri, perubahan kecil untuk memandu tingkah laku akan membuat perbezaan besar dalam agregat. Keputusan yang dibuat oleh jurutera hari ini, dengan kata lain, tidak akan menentukan bagaimana kereta memandu tetapi bagaimana semua kereta memandu. Algoritma menjadi dasar.

Jurutera mengajar komputer bagaimana mengenali wajah dan objek menggunakan kaedah pembelajaran mesin. Mereka boleh menggunakan pembelajaran mesin juga untuk membantu kereta memandu sendiri meniru bagaimana manusia memandu. Tetapi ini bukan satu penyelesaian: Ia tidak menyelesaikan masalah yang banyak keputusan mengenai keselamatan dan mobiliti dibuat oleh jurutera.

Selain itu, kereta memandu sendiri tidak boleh memandu seperti orang. Manusia sebenarnya bukan pemacu yang sangat baik. Dan mereka memandu dengan cara yang beretika secara beretika, memutuskan sama ada untuk menghasilkan salib, berdasarkan umur, kaum dan pendapatan pejalan kaki. Sebagai contoh, para penyelidik di Portland mendapati bahawa pejalan kaki hitam diluluskan oleh dua kali lebih banyak kereta dan terpaksa menunggu lebih lama daripada pejalan kaki putih sebelum mereka dapat menyeberang.

Kereta memandu sendiri harus memandu lebih selamat, dan lebih adil daripada orang.

Etika Mundane

Masalah etika mendalam apabila anda menghadiri konflik kepentingan yang muncul dalam situasi biasa seperti salib, bertukar dan persimpangan.

Sebagai contoh, reka bentuk kereta memandu sendiri perlu mengimbangi keselamatan orang lain - pejalan kaki atau penunggang basikal - dengan kepentingan penumpang kereta. Sebaik sahaja sebuah kereta berjalan lebih cepat daripada berjalan pantas, ia tidak dapat menghalang daripada menabrak kanak-kanak yang mungkin berjalan ke jalan pada detik terakhir. Tetapi berjalan pantas, tentu saja, terlalu perlahan. Setiap orang perlu pergi ke tempat. Jadi, bagaimanakah para jurutera menyerang keseimbangan antara keselamatan dan mobiliti? Dan kelajuan apa yang selamat?

Ada soalan etika lain yang muncul juga. Jurutera perlu melakukan pertukaran antara mobiliti dan kesan alam sekitar. Apabila ia digunakan di semua kereta di negara ini, perubahan kecil dalam pecutan yang dikawal oleh komputer, menikam dan membrek boleh memberi kesan besar ke atas penggunaan tenaga dan pelepasan pencemaran. Bagaimanakah para jurutera akan memperdagangkan kecekapan perjalanan dengan kesan alam sekitar?

Apakah masa depan lalu lintas?

Keadaan Mundane menimbulkan masalah kejuruteraan dan etika baru, tetapi mereka juga mengetuai orang untuk mempersoalkan andaian asas sistem lalu lintas.

Untuk diri sendiri, saya mula mempersoalkan sama ada kita memerlukan tempat yang dipanggil "pelepasan" sama sekali? Lagipun, kereta memandu sendiri berpotensi menjadikannya selamat untuk menyeberang jalan di mana sahaja.

Dan ia bukan hanya salji yang menjadi tidak perlu. Lampu lalu lintas di persimpangan juga boleh menjadi perkara yang lalu. Manusia memerlukan lampu isyarat untuk memastikan semua orang dapat menyeberang persimpangan tanpa kemalangan dan huru-hara. Tetapi kereta memandu sendiri boleh menyelaras di antara mereka dengan lancar.

Persoalan yang lebih besar di sini ialah: Memandangkan kereta memandu sendiri adalah lebih baik daripada pemandu manusia, kenapa kereta harus tertakluk kepada peraturan yang direka untuk kejatuhan manusia dan kesilapan manusia? Dan untuk memperluas percubaan pemikiran ini, pertimbangkan juga persoalan yang lebih umum: Jika kita, sebagai masyarakat, dapat merancang sistem lalu lintas kita dari awal, apa yang kita mahu ia kelihatan seperti?

Kerana soalan-soalan keras ini melibatkan semua orang di sebuah bandar atau dalam masyarakat, mereka memerlukan bandar atau masyarakat untuk bersetuju dengan jawapan. Itu bermakna mengimbangi kepentingan bersaing dengan cara yang berfungsi untuk semua orang - sama ada orang hanya berfikir tentang salib atau mengenai sistem lalu lintas secara keseluruhan.

Dengan kereta memandu sendiri, masyarakat boleh mengubah reka bentuk sistem lalu lintas mereka. Dari salib ke reka bentuk lalu lintas secara keseluruhan - ia adalah keadaan biasa yang menimbulkan pertanyaan yang sangat sukar. Keadaan yang melampau adalah gangguan.

Masalah troli tidak menjawab soalan-soalan keras ini.


Artikel ini pada asalnya diterbitkan di The Conversation. Perbualan

Johannes Himmelreich, Fakulti Etika Disiplin, Universiti Stanford McCoy Pusat Pengajian Etika dalam Masyarakat

Cabaran Etika Kereta Memandu Sendiri Akan Hadapi Setiap Hari