ใครจะถูกฆ่าโดยรถยนต์ที่ขับด้วยตนเอง? เครื่องจักรช่วยคนให้มากที่สุด แต่ที่สำคัญที่สุดช่วยฉันด้วย!

หากเกิดสถานการณ์ที่ระบบอัตโนมัติของรถยนต์ต้องตัดสินใจอย่างรวดเร็วว่าจะเสียสละใครในกรณีเกิดอุบัติเหตุที่ใกล้จะเกิดขึ้น ระบบควรตอบสนองอย่างไร? เสียสละผู้โดยสารเพื่อช่วยคนเดินเท้า? หากจำเป็นให้ฆ่าคนเดินถนนเพื่อสำรองเช่นครอบครัวสี่คนเดินทางด้วยรถยนต์? หรือบางทีเขาควรจะป้องกันตัวเองก่อนเสมอ?

ในขณะที่บริษัทมากกว่าหกสิบแห่งได้รับใบอนุญาตการทดสอบส่วนบุคคลในแคลิฟอร์เนียเพียงแห่งเดียวแล้ว ก็ยากที่จะบอกว่าอุตสาหกรรมนี้พร้อมที่จะเผชิญกับปัญหาด้านจริยธรรม ในขณะนี้ เขากำลังดิ้นรนกับปัญหาพื้นฐาน เช่น การทำงานและประสิทธิภาพการนำทางของระบบ และเพียงแค่หลีกเลี่ยงการชนและเหตุการณ์ที่ไม่คาดฝัน ในสถานการณ์อย่างเช่น การฆาตกรรมคนเดินถนนในรัฐแอริโซนา หรือการชนที่ตามมา (1) จนถึงตอนนี้ เป็นเพียงเกี่ยวกับความล้มเหลวของระบบ และไม่เกี่ยวกับ "ทางเลือกตามหลักจริยธรรม" ของรถบางประเภท

กอบกู้คนรวยและหนุ่ม

ประเด็นของการตัดสินใจในลักษณะนี้ไม่ใช่ปัญหาที่เป็นนามธรรม ผู้ขับขี่ที่มีประสบการณ์สามารถรับรองได้ ปีที่แล้ว นักวิจัยจาก MIT Media Lab ได้วิเคราะห์คำตอบกว่าสี่สิบล้านคำตอบจากผู้ตอบแบบสอบถามจากทั่วโลก ซึ่งพวกเขาได้รวบรวมไว้ในระหว่างการวิจัยที่เปิดตัวในปี 2014 ระบบการสำรวจที่พวกเขาเรียกว่า "Ethical Machine" แสดงให้เห็นว่าในหลายพื้นที่รอบๆ โลกคำถามที่คล้ายกันถูกถามคำตอบที่แตกต่างกัน

ข้อสรุปทั่วไปส่วนใหญ่สามารถคาดเดาได้ ในสถานการณ์ที่รุนแรง ผู้คนชอบการช่วยชีวิตคนในการดูแลสัตว์ โดยมีเป้าหมายเพื่อช่วยชีวิตคนให้มากที่สุด และมีแนวโน้มที่จะอายุน้อยกว่าคนชรา (2) นอกจากนี้ยังมีการตั้งค่าบางอย่าง แต่ไม่ชัดเจนในการช่วยเหลือผู้หญิงมากกว่าผู้ชาย คนที่มีสถานะสูงกว่าคนจนและคนเดินถนนมากกว่าผู้โดยสารรถยนต์.

2. รถควรเซฟใคร?

เนื่องจากมีผู้ตอบแบบสอบถามเกือบครึ่งล้านคนกรอกแบบสอบถามด้านประชากรศาสตร์ จึงเป็นไปได้ที่จะเชื่อมโยงความชอบของพวกเขากับอายุ เพศ และความเชื่อทางศาสนา นักวิจัยสรุปว่าความแตกต่างเหล่านี้ไม่ได้ "ส่งผลกระทบอย่างมีนัยสำคัญ" ต่อการตัดสินใจของผู้คน แต่สังเกตเห็นอิทธิพลทางวัฒนธรรมบางอย่าง ตัวอย่างเช่น ชาวฝรั่งเศสมีแนวโน้มที่จะชั่งน้ำหนักการตัดสินใจโดยพิจารณาจากจำนวนผู้เสียชีวิตโดยประมาณ ขณะที่ในประเทศญี่ปุ่นให้ความสำคัญน้อยที่สุด อย่างไรก็ตาม ในดินแดนอาทิตย์อุทัย ชีวิตของผู้สูงอายุนั้นมีค่ามากกว่าในตะวันตก

“ก่อนที่เราจะอนุญาตให้รถยนต์ของเราตัดสินใจอย่างมีจริยธรรม เราจำเป็นต้องมีการอภิปรายทั่วโลกเกี่ยวกับเรื่องนี้ เมื่อบริษัทที่ทำงานเกี่ยวกับระบบอิสระเรียนรู้เกี่ยวกับความชอบของเรา พวกเขาจะพัฒนาอัลกอริทึมทางจริยธรรมในเครื่องจักรโดยอิงจากสิ่งเหล่านี้ และนักการเมืองสามารถเริ่มแนะนำข้อกำหนดทางกฎหมายที่เพียงพอได้” นักวิทยาศาสตร์เขียนในเดือนตุลาคม 2018 ใน Nature

Jean-Francois Bonnefont หนึ่งในนักวิจัยที่เกี่ยวข้องกับการทดลอง Moral Machine พบว่าการให้ความช่วยเหลือผู้ที่มีสถานะสูงกว่า (เช่น ผู้บริหารที่ดูแลคนจรจัด) เป็นเรื่องที่น่าตกใจ ในความเห็นของเขา เรื่องนี้มีความเกี่ยวข้องอย่างมากกับ ระดับความไม่เท่าเทียมกันทางเศรษฐกิจในประเทศที่กำหนด. ในที่ที่มีความเหลื่อมล้ำมากกว่า ให้ความสำคัญกับการเสียสละคนจนและคนไร้บ้าน

จากการศึกษาก่อนหน้านี้แสดงให้เห็นโดยเฉพาะอย่างยิ่งว่า จากข้อมูลของผู้ตอบแบบสอบถาม รถยนต์ที่เป็นอิสระควรปกป้องผู้คนให้มากที่สุดเท่าที่จะเป็นไปได้ แม้ว่าจะหมายถึงการสูญเสียผู้โดยสารก็ตาม ในขณะเดียวกัน ผู้ตอบแบบสอบถามกล่าวว่าพวกเขาจะไม่ซื้อรถยนต์ที่ตั้งโปรแกรมไว้ในลักษณะนี้ นักวิจัยอธิบายว่า ในขณะที่ผู้คนพบว่าการช่วยชีวิตผู้คนมากขึ้นมีจริยธรรมมากกว่า พวกเขายังสนใจในตัวเองซึ่งอาจเป็นสัญญาณให้ผู้ผลิตทราบว่าลูกค้าจะไม่เต็มใจที่จะซื้อรถยนต์ที่ติดตั้งระบบที่เห็นแก่ผู้อื่น. ไม่นานมานี้ ตัวแทนของบริษัทเมอร์เซเดส-เบนซ์กล่าวว่าหากระบบของพวกเขาช่วยชีวิตคนเพียงคนเดียว พวกเขาจะเลือกคนขับ ไม่ใช่คนเดินถนน คลื่นของเสียงโวยวายสาธารณะบังคับให้บริษัทถอนการประกาศ แต่การวิจัยแสดงให้เห็นชัดเจนว่ามีความเจ้าเล่ห์ในพระพิโรธอันศักดิ์สิทธิ์นี้มาก

สิ่งนี้เกิดขึ้นแล้วในบางประเทศ ความพยายามครั้งแรกที่กฎระเบียบทางกฎหมาย ในสนาม เยอรมนีผ่านกฎหมายกำหนดให้รถยนต์ไร้คนขับหลีกเลี่ยงการบาดเจ็บหรือเสียชีวิตในทุกกรณี กฎหมายยังระบุด้วยว่าอัลกอริธึมไม่สามารถตัดสินใจโดยพิจารณาจากลักษณะเฉพาะ เช่น อายุ เพศ สุขภาพ หรือคนเดินถนน

Audi รับหน้าที่

ผู้ออกแบบไม่สามารถทำนายผลที่ตามมาจากการทำงานของรถได้ทั้งหมด ความเป็นจริงสามารถจัดเตรียมตัวแปรต่างๆ ที่ไม่เคยมีการทดสอบมาก่อนได้เสมอ สิ่งนี้บ่อนทำลายความเชื่อของเราในความเป็นไปได้ของ "การเขียนโปรแกรมอย่างมีจริยธรรม" กับเครื่องจักรเลย สำหรับเราดูเหมือนว่าในสถานการณ์ที่เกิดข้อผิดพลาดและโศกนาฏกรรมเกิดขึ้น "เนื่องจากความผิดพลาดของรถ" ผู้ผลิตและผู้พัฒนาระบบควรรับผิดชอบ

บางทีการให้เหตุผลนี้อาจถูกต้อง แต่อาจไม่ใช่เพราะมันผิด แต่เนื่องจากการเคลื่อนไหวได้รับอนุญาตซึ่งไม่ได้เป็นอิสระจาก 2019% จากความเป็นไปได้ที่จะสร้างมันขึ้นมา ดูเหมือนว่าจะเป็นเหตุผล และความรับผิดชอบร่วมกันไม่ได้ถูกปฏิเสธโดยบริษัท ซึ่งเพิ่งประกาศว่าจะรับผิดชอบต่ออุบัติเหตุที่เกี่ยวข้องกับ A8 อายุ 3 ขวบในขณะที่ใช้ระบบ Traffic Jam Pilot (XNUMX) อัตโนมัติในนั้น

3. อินเทอร์เฟซ Audi Traffic Jam Pilot

ในทางกลับกัน มีผู้คนนับล้านที่ขับรถและทำผิดพลาด เหตุใดจึงควรแยกแยะเครื่องจักรซึ่งทำผิดพลาดน้อยกว่ามนุษย์ในเชิงสถิติตามหลักฐานจากความผิดพลาดมากมายในเรื่องนี้?

หากใครคิดว่าอุปสรรคของจริยธรรมและความรับผิดชอบในโลกยานยนต์ไร้คนขับเป็นเรื่องง่าย ให้คิดต่อไป...