ผีของนักฆ่าเครื่องจักรยังคงดำเนินต่อไป ประธานาธิบดีปูตินเชื่ออะไร?

ผู้เสนอหุ่นยนต์ทหาร (1) โต้แย้งว่าอาวุธอัตโนมัติมีตัวเลือกมากขึ้นในการปกป้องชีวิตมนุษย์ เครื่องจักรสามารถเข้าใกล้ศัตรูได้มากกว่าทหาร และประเมินภัยคุกคามได้อย่างถูกต้อง และบางครั้งอารมณ์ก็ทำให้ไม่สามารถตัดสินใจได้อย่างถูกต้อง

ผู้สนับสนุนการใช้หุ่นยนต์นักฆ่าหลายคนเชื่ออย่างแรงกล้าว่าพวกเขาจะทำให้สงครามนองเลือดน้อยลงเพราะทหารจะเสียชีวิตน้อยลง พวกเขาสังเกตว่าหุ่นยนต์แม้จะไม่รู้สึกสงสาร แต่ก็มีภูมิคุ้มกันต่ออารมณ์เชิงลบของมนุษย์ เช่น ความตื่นตระหนก ความโกรธ และการแก้แค้น ซึ่งมักนำไปสู่อาชญากรรมสงคราม

นักเคลื่อนไหวด้านสิทธิมนุษยชนยังใช้ข้อโต้แย้งที่ว่ากองทัพได้นำไปสู่การลดจำนวนพลเรือนที่เสียชีวิตลงอย่างมากในช่วงครึ่งศตวรรษที่ผ่านมา และหุ่นยนต์ของกองทัพก็ช่วยให้กลไกในการบังคับใช้กฎหมายสงครามมีความเข้มงวดมากขึ้น พวกเขาอ้างว่าเครื่องจักรจะกลายเป็นศีลธรรมเมื่อติดตั้งซอฟต์แวร์ที่จะบังคับให้ปฏิบัติตามกฎหมายสงคราม

แน่นอน ผู้คนจำนวนมาก รวมทั้งคนดังมาก ไม่ได้แบ่งปันความคิดเห็นนี้มานานหลายปี ในเดือนเมษายน 2013 มีการรณรงค์ระดับนานาชาติภายใต้สโลแกน (2) ภายในกรอบการทำงาน องค์กรพัฒนาเอกชนเรียกร้องให้ห้ามใช้อาวุธอิสระโดยสมบูรณ์ ผู้เชี่ยวชาญจากหลายประเทศนั่งลงเพื่อหารือเกี่ยวกับหัวข้อนี้เป็นครั้งแรกในการประชุมสหประชาชาติว่าด้วยการลดอาวุธในเจนีวาในเดือนพฤษภาคม 2014 รายงานที่เผยแพร่ไม่กี่เดือนต่อมาโดยฮิวแมนไรท์วอทช์และนักวิทยาศาสตร์จากมหาวิทยาลัยฮาร์วาร์ด ระบุว่า กลุ่มที่เป็นอิสระจะเป็นอันตรายเกินไป พวกเขาเลือกเป้าหมายและสังหารผู้คนด้วยตนเอง ในขณะเดียวกันก็ไม่ชัดเจนว่าใครควรรับผิดชอบ

2. การสาธิตเป็นส่วนหนึ่งของแคมเปญ Stop Killer Robots

โดรนขนาดเล็กฝูงหนึ่งสามารถทำอะไรได้บ้าง

ข้อพิพาทเกี่ยวกับหุ่นยนต์นักฆ่า (ROU) เกิดขึ้นมาหลายปีแล้วและยังไม่จางหายไป หลายเดือนมานี้ทำให้เกิดความพยายามครั้งใหม่ในการหยุดหุ่นยนต์ทหาร และรายงานโครงการใหม่ๆ ประเภทนี้ ซึ่งบางโครงการกำลังได้รับการทดสอบในสภาพการสู้รบจริง

ในเดือนพฤศจิกายน 2017 วิดีโอแสดง ฝูงมรณะของมินิโดรน ., ในการกระทำที่น่ากลัว. ผู้ชมเห็นว่าเราไม่ต้องการเครื่องจักรสงครามหนัก รถถัง หรือขีปนาวุธที่ Predators ขว้างเพื่อสังหารหมู่และด้วยปืนกลอีกต่อไป หัวหน้าผู้อำนวยการ Stuart Russell ศาสตราจารย์ด้านปัญญาประดิษฐ์ที่ Berkeley กล่าวว่า:

-

ฤดูใบไม้ผลิที่ผ่านมา อาจารย์ห้าสิบคน มหาวิทยาลัยชั้นนำของโลกได้ลงนามอุทธรณ์ต่อสถาบันวิทยาศาสตร์และเทคโนโลยีขั้นสูงแห่งเกาหลี (KAIST) และพันธมิตร Hanwha Systems พวกเขาประกาศว่าจะไม่ร่วมมือกับมหาวิทยาลัยและเป็นเจ้าภาพแขกของ KAIST เหตุผลก็คือการสร้าง "อาวุธอิสระ" ที่ดำเนินการโดยทั้งสองสถาบัน KAIST ปฏิเสธรายงานของสื่อ

หลังจากนั้นไม่นานในสหรัฐอเมริกา พนักงาน Google มากกว่า 3 คน คัดค้านการทำงานของกองร้อยทหาร พวกเขากังวลว่า Google กำลังร่วมมือกับโครงการของรัฐบาลที่มีชื่อรหัสว่า Maven ซึ่งมีเป้าหมายที่จะใช้ AI เพื่อจดจำวัตถุและใบหน้าในวิดีโอโดรนทางการทหาร ผู้บริหารของบริษัทกล่าวว่าเป้าหมายของ Maven คือการช่วยชีวิตและช่วยเหลือผู้คนจากการทำงานที่น่าเบื่อหน่าย ไม่ใช่การรุกราน ผู้ประท้วงไม่เชื่อ

ส่วนต่อไปของการต่อสู้คือการประกาศ ผู้เชี่ยวชาญด้านปัญญาประดิษฐ์, รวม ทำงานในโครงการ Google และ อีลอน มัสก์. พวกเขาสัญญาว่าจะไม่พัฒนาหุ่นยนต์ พวกเขายังเรียกร้องให้รัฐบาลเพิ่มความพยายามในการควบคุมและจำกัดอาวุธเหล่านี้

ถ้อยแถลงระบุว่า ส่วนหนึ่ง "การตัดสินใจที่จะปลิดชีวิตมนุษย์ไม่ควรถูกใช้ด้วยเครื่องจักร" แม้ว่ากองทัพของโลกจะติดตั้งอุปกรณ์อัตโนมัติจำนวนมาก แต่บางครั้งมีความเป็นอิสระในระดับสูง ผู้เชี่ยวชาญหลายคนกลัวว่าในอนาคตเทคโนโลยีนี้อาจกลายเป็นระบบอัตโนมัติโดยสมบูรณ์ อนุญาตให้สังหารได้โดยไม่เกี่ยวข้องกับผู้ควบคุมและผู้บังคับบัญชาที่เป็นมนุษย์

ผู้เชี่ยวชาญยังเตือนด้วยว่าเครื่องจักรสังหารอัตโนมัติอาจมีอันตรายมากกว่า "อาวุธนิวเคลียร์ เคมี และชีวภาพ" เพราะไม่สามารถควบคุมได้ ในเดือนกรกฎาคมปีที่แล้ว จดหมายภายใต้การอุปถัมภ์ของสถาบันอนาคตแห่งชีวิต (FGI) ได้รับการลงนามโดยองค์กร 170 แห่งและบุคคล 2464 คน ในช่วงต้นปี 2019 กลุ่มนักวิทยาศาสตร์การแพทย์ในเครือ FLI เรียกร้องให้มีจดหมายฉบับใหม่ห้ามการพัฒนาอาวุธควบคุมด้วยปัญญาประดิษฐ์ (AI) อีกครั้ง

การประชุมสหประชาชาติเมื่อเดือนสิงหาคมปีที่แล้วใน Gniewo เกี่ยวกับกฎระเบียบทางกฎหมายที่เป็นไปได้ของ "หุ่นยนต์นักฆ่า" ทางทหารสิ้นสุดลงด้วยความสำเร็จ ... เครื่องจักร กลุ่มประเทศต่างๆ รวมทั้งสหรัฐอเมริกา รัสเซีย และอิสราเอล ได้ขัดขวางการทำงานเพิ่มเติมในการเริ่มการห้ามใช้อาวุธเหล่านี้ในระดับสากล (ร่างอนุสัญญาว่าด้วยการห้ามหรือจำกัดการใช้อาวุธทั่วไปบางประเภท CCW) ไม่ใช่เรื่องบังเอิญที่ประเทศเหล่านี้เป็นที่รู้จักในด้านการทำงานเกี่ยวกับระบบขั้นสูงของอาวุธอิสระและหุ่นยนต์

รัสเซียเน้นที่หุ่นยนต์ต่อสู้

ประธานาธิบดีวลาดิมีร์ ปูตินมักถูกยกมากล่าวถึงระบบ AI ทางการทหารและหุ่นยนต์ต่อสู้:

-.

พูดอย่างเปิดเผยเกี่ยวกับการพัฒนาอาวุธอิสระ เสนาธิการทั่วไปของกองทัพ พล.อ. วาเลรี เจราซิมอฟ บอกกับสำนักข่าวทหาร Interfax-AVN ว่าการใช้หุ่นยนต์จะเป็นหนึ่งในคุณสมบัติหลักของสงครามในอนาคต เขาเสริมว่ารัสเซียกำลังพยายาม ทำให้สนามรบเป็นไปโดยอัตโนมัติอย่างเต็มที่. ความคิดเห็นที่คล้ายกันนี้จัดทำโดยรองนายกรัฐมนตรี Dmitry Rogozin และรัฐมนตรีกระทรวงกลาโหม Sergei Shoigu Viktor Bondarev ประธานคณะกรรมการสภาสหพันธ์ด้านการป้องกันและความมั่นคงกล่าวว่ารัสเซียมุ่งมั่นที่จะพัฒนา เทคโนโลยีโรจูนี้จะช่วยให้เครือข่ายโดรนทำงานเป็นเอนทิตีเดียว

ไม่น่าแปลกใจหากเราจำได้ว่าเทเลแทงค์แรกได้รับการพัฒนาในสหภาพโซเวียตในช่วงทศวรรษที่ 30 พวกมันถูกใช้ในช่วงเริ่มต้นของสงครามโลกครั้งที่สอง วันนี้รัสเซียก็กำลังสร้าง หุ่นยนต์รถถัง กลายเป็นอิสระมากขึ้น

ปูตินเพิ่งส่งรัฐของตนไปซีเรีย ยานรบไร้คนขับ Uran-9 (3). อุปกรณ์ขาดการติดต่อกับจุดควบคุมภาคพื้นดิน มีปัญหากับระบบกันสะเทือน และอาวุธทำงานได้ไม่เต็มที่และไม่กระทบกับเป้าหมายที่กำลังเคลื่อนที่ ฟังดูไม่ซีเรียสนัก แต่หลายคนคิดว่าการกวาดล้างของซีเรียเป็นการทดสอบการต่อสู้ที่ดี ซึ่งจะช่วยให้รัสเซียสามารถปรับปรุงเครื่องจักรได้

Roscosmos ได้อนุมัติแผนเบื้องต้นเพื่อส่งหุ่นยนต์สองตัวไปยังสถานีอวกาศนานาชาติภายในเดือนสิงหาคมปีนี้ Fedor (4) ในสหภาพไร้คนขับ ไม่เหมือนโหลดแต่. เช่นเดียวกับในภาพยนตร์ RoboCop นั้น Fedor ถืออาวุธและแสดงให้เห็นถึงความเป็นนักแม่นปืนที่อันตรายถึงตายระหว่างการฝึกยิงปืน

คำถามคือ ทำไมหุ่นยนต์ในอวกาศถึงติดอาวุธ? มีข้อสงสัยว่าเรื่องนี้ไม่ใช่เฉพาะในการใช้งานภาคพื้นดินเท่านั้น ในขณะเดียวกัน Kalashnikov ผู้ผลิตอาวุธของรัสเซียได้แสดงให้เห็นภาพ หุ่นยนต์ Igorekซึ่งถึงแม้จะทำให้เกิดเสียงหัวเราะมากมาย แต่เป็นการส่งสัญญาณว่าบริษัทกำลังทำงานอย่างหนักกับยานเกราะต่อสู้อัตโนมัติ ในเดือนกรกฎาคม 2018 Kalashnikov ประกาศว่าเขากำลังสร้างอาวุธที่เขาใช้ตัดสินใจ "ยิงหรือไม่ยิง"

ข้อมูลนี้ควรเพิ่มรายงานที่ช่างปืนชาวรัสเซีย Digtyarev พัฒนาขนาดเล็ก รถถังอิสระ Nerekht ซึ่งสามารถเคลื่อนที่เข้าหาเป้าหมายอย่างเงียบ ๆ แล้วระเบิดด้วยพลังอันทรงพลังเพื่อทำลายอาคารอื่นหรือทั้งหมด เช่นกัน กองทัพรถถัง T14 ความภาคภูมิใจของกองทัพรัสเซีย ได้รับการออกแบบสำหรับการควบคุมระยะไกลที่เป็นไปได้และการขับขี่แบบไร้คนขับ สปุตนิกอ้างว่าวิศวกรทางทหารของรัสเซียกำลังทำงานเพื่อให้ T-14 เป็นยานเกราะขับเคลื่อนอัตโนมัติเต็มรูปแบบ

คำสั่งคัดค้าน

กองทัพสหรัฐฯ เองได้กำหนดขีดจำกัดที่ชัดเจนพอสมควรเกี่ยวกับระดับความเป็นอิสระของอาวุธของตน ในปี 2012 กระทรวงกลาโหมสหรัฐได้ออก Directive 3000.09 ซึ่งระบุว่ามนุษย์ควรมีสิทธิที่จะคัดค้านการกระทำของหุ่นยนต์ติดอาวุธ (ทั้งๆ ที่อาจจะมีข้อยกเว้นอยู่บ้าง) คำสั่งนี้ยังคงมีผลบังคับใช้ นโยบายปัจจุบันของเพนตากอนคือปัจจัยชี้ขาดในการใช้อาวุธควรเป็นบุคคลเสมอ และการตัดสินดังกล่าวควรเป็น สอดคล้องกับกฎแห่งสงคราม.

แม้ว่าชาวอเมริกันได้ใช้เครื่องบิน, Predator, Reaper และ supermachines อื่น ๆ อีกมากมายมาเป็นเวลาหลายสิบปีแล้ว พวกเขาไม่ใช่โมเดลอิสระและไม่ใช่โมเดลอัตโนมัติ พวกเขาถูกควบคุมโดยผู้ปฏิบัติงานจากระยะไกล บางครั้งจากระยะทางหลายพันกิโลเมตร การอภิปรายอย่างดุเดือดเกี่ยวกับเอกราชของเครื่องจักรประเภทนี้เริ่มต้นด้วยการเปิดตัวต้นแบบ โดรน X-47B (5) ซึ่งไม่เพียงแต่บินโดยอิสระเท่านั้น แต่ยังสามารถบินขึ้นจากเรือบรรทุกเครื่องบิน ลงจอดบนเรือบรรทุกเครื่องบิน และเติมน้ำมันในอากาศได้อีกด้วย ความหมายก็คือการยิงหรือวางระเบิดโดยไม่มีการแทรกแซงของมนุษย์ อย่างไรก็ตาม โครงการยังอยู่ระหว่างการทดสอบและทบทวน

5. การทดสอบ X-47B ไร้คนขับบนเรือบรรทุกเครื่องบินของอเมริกา

ในปี พ.ศ. 2003 กระทรวงกลาโหมได้เริ่มทดลองหุ่นยนต์คล้ายรถถังขนาดเล็ก SPOES พร้อมกับปืนกล ในปี 2007 เขาถูกส่งตัวไปอิรัก อย่างไรก็ตาม โปรแกรมสิ้นสุดลงหลังจากที่หุ่นยนต์เริ่มมีพฤติกรรมผิดปกติ ขยับปืนไรเฟิลอย่างไม่แน่นอน ด้วยเหตุนี้ กองทัพสหรัฐจึงละทิ้งการวิจัยเกี่ยวกับหุ่นยนต์ติดอาวุธภาคพื้นดินเป็นเวลาหลายปี

ในเวลาเดียวกัน กองทัพสหรัฐฯ ได้เพิ่มการใช้จ่ายในการดำเนินงานจาก 20 ล้านดอลลาร์ในปี 2014 เป็น 156 ล้านดอลลาร์ในปี 2018 งบประมาณนี้เพิ่มขึ้นเป็น 2019 ล้านดอลลาร์ในปี 327 ซึ่งเพิ่มขึ้นสะสม 1823% ในเวลาเพียงไม่กี่ปี ผู้เชี่ยวชาญกล่าวว่าในช่วงต้นปี 2025 กองทัพสหรัฐอาจมีสนามรบ ทหารหุ่นยนต์มากกว่ามนุษย์.

ล่าสุด กองทัพสหรัฐได้ประกาศและโต้เถียงกันมากมาย โครงการ ATLAS () - อัตโนมัติ ในสื่อถือเป็นการละเมิด Directive 3000.09 ดังกล่าว อย่างไรก็ตาม กองทัพสหรัฐฯ ปฏิเสธและรับรองว่าการกีดกันบุคคลออกจากวงจรการตัดสินใจนั้นหมดปัญหา

AI ตระหนักถึงฉลามและพลเรือน

อย่างไรก็ตาม ผู้ปกป้องอาวุธอิสระมีข้อโต้แย้งใหม่ ศ. Ronald Arkin นักวิทยาการหุ่นยนต์จากสถาบันเทคโนโลยีจอร์เจีย กล่าวในสิ่งพิมพ์ของเขาว่า ในสงครามสมัยใหม่ อาวุธที่ชาญฉลาดเป็นสิ่งจำเป็นเพื่อหลีกเลี่ยงการบาดเจ็บล้มตายของพลเรือน เนื่องจากเทคนิคการเรียนรู้ด้วยเครื่องสามารถช่วยแยกแยะความแตกต่างระหว่างนักสู้กับพลเรือน และเป้าหมายที่สำคัญและไม่สำคัญได้

ตัวอย่างของทักษะ AI ดังกล่าวคือการลาดตระเวนชายหาดของออสเตรเลีย โดรน ลิตเติ้ล ริปเปอร์ติดตั้งระบบ SharkSpotter ที่พัฒนาโดยมหาวิทยาลัยเทคโนโลยีซิดนีย์ ระบบนี้จะสแกนหาฉลามในน้ำโดยอัตโนมัติและแจ้งเตือนผู้ปฏิบัติงานเมื่อพบสิ่งไม่ปลอดภัย (6) สามารถระบุบุคคล โลมา เรือ กระดานโต้คลื่น และวัตถุในน้ำเพื่อแยกความแตกต่างจากฉลาม สามารถตรวจจับและระบุสายพันธุ์ต่างๆ ได้ประมาณ XNUMX ชนิดที่มีความแม่นยำสูง

6. ฉลามที่รู้จักในระบบ SharkSpotter

วิธีการเรียนรู้ของเครื่องขั้นสูงเหล่านี้เพิ่มความแม่นยำของการลาดตระเวนทางอากาศมากกว่า 90% สำหรับการเปรียบเทียบ ผู้ปฏิบัติงานที่เป็นมนุษย์ในสถานการณ์ที่คล้ายคลึงกันจะจดจำวัตถุในภาพถ่ายทางอากาศได้อย่างแม่นยำถึง 20-30% นอกจากนี้ การระบุตัวตนยังถูกตรวจสอบโดยมนุษย์ก่อนที่จะมีสัญญาณเตือน

ในสนามรบ ผู้ควบคุมเมื่อเห็นภาพบนหน้าจอ แทบจะไม่สามารถระบุได้ว่าผู้คนบนพื้นดินเป็นเครื่องบินรบที่มี AK-47 อยู่ในมือ หรือเช่น ชาวนาถือหอก Arkin ตั้งข้อสังเกตว่าผู้คนมักจะ "เห็นสิ่งที่พวกเขาต้องการเห็น" โดยเฉพาะอย่างยิ่งในสถานการณ์ที่ตึงเครียด ผลกระทบนี้มีส่วนทำให้เครื่องบินของอิหร่านตกโดยอุบัติเหตุโดย USS Vincennes ในปี 1987 แน่นอน ในความเห็นของเขา อาวุธที่ควบคุมโดย AI จะดีกว่า "สมาร์ทบอมบ์" ในปัจจุบันซึ่งไม่มีความรู้สึกจริงๆ เมื่อเดือนสิงหาคมที่ผ่านมา ขีปนาวุธนำวิถีของซาอุดิอาระเบียชนรถบัสที่เต็มไปด้วยเด็กนักเรียนในเยเมน คร่าชีวิตเด็กสี่สิบคน

“ถ้ารถโรงเรียนติดฉลากอย่างถูกต้อง การระบุรถในระบบอัตโนมัตินั้นค่อนข้างง่าย” Arkin in Popular Mechanics กล่าว

อย่างไรก็ตาม ข้อโต้แย้งเหล่านี้ดูเหมือนจะไม่โน้มน้าวให้นักรณรงค์ต่อต้านฆาตกรอัตโนมัติ นอกจากการคุกคามของหุ่นยนต์นักฆ่าแล้ว ยังต้องคำนึงถึงสถานการณ์ที่สำคัญอีกประการหนึ่งด้วย แม้แต่ระบบที่ "ดี" และ "เอาใจใส่" ก็ถูกแฮ็กและยึดครองโดยคนเลวได้ จากนั้นข้อโต้แย้งทั้งหมดในการป้องกันยุทโธปกรณ์ทางทหารก็สูญเสียพลังไป