บอกลูกแมวของคุณว่าคุณคิดอย่างไรข้างใน - เอฟเฟกต์กล่องดำ

ความจริงที่ว่าอัลกอริธึม AI ขั้นสูงเป็นเหมือนกล่องดำ (1) ที่ทิ้งผลลัพธ์โดยไม่เปิดเผยว่ามันมาเกี่ยวกับความกังวลบางอย่างและทำให้ผู้อื่นไม่พอใจได้อย่างไร

ในปี 2015 ทีมวิจัยที่โรงพยาบาล Mount Sinai ในนิวยอร์กได้รับการร้องขอให้ใช้วิธีนี้ในการวิเคราะห์ฐานข้อมูลที่กว้างขวางของผู้ป่วยในท้องถิ่น (2) คอลเล็กชันขนาดใหญ่นี้ประกอบด้วยข้อมูลผู้ป่วย ผลการทดสอบ ใบสั่งแพทย์ และอื่นๆ อีกมากมาย

นักวิทยาศาสตร์เรียกว่าโปรแกรมวิเคราะห์ที่พัฒนาขึ้นในระหว่างการทำงาน มันฝึกฝนข้อมูลจากคนประมาณ 700 คน มนุษย์ และเมื่อทดสอบในทะเบียนใหม่ ก็พิสูจน์แล้วว่ามีประสิทธิภาพอย่างมากในการทำนายโรค โดยไม่ได้รับความช่วยเหลือจากผู้เชี่ยวชาญที่เป็นมนุษย์ เขาค้นพบรูปแบบในบันทึกของโรงพยาบาลที่ระบุว่าผู้ป่วยรายใดอยู่บนเส้นทางสู่โรค เช่น มะเร็งตับ ผู้เชี่ยวชาญระบุว่าประสิทธิภาพการพยากรณ์และการวินิจฉัยของระบบสูงกว่าวิธีอื่นๆ ที่ทราบกันมาก

2. ระบบปัญญาประดิษฐ์ทางการแพทย์ตามฐานข้อมูลผู้ป่วย

ในเวลาเดียวกัน นักวิจัยสังเกตเห็นว่ามันทำงานอย่างลึกลับ ปรากฏว่าเหมาะสำหรับ การรับรู้ความผิดปกติทางจิตเช่น โรคจิตเภท ซึ่งเป็นเรื่องยากมากสำหรับแพทย์ เป็นเรื่องน่าประหลาดใจ โดยเฉพาะอย่างยิ่งเมื่อไม่มีใครรู้ว่าระบบ AI สามารถเห็นอาการป่วยทางจิตได้ดีเพียงใด โดยอิงจากเวชระเบียนของผู้ป่วยเท่านั้น ใช่ ผู้เชี่ยวชาญพอใจมากกับความช่วยเหลือของเครื่องมือวินิจฉัยเครื่องที่มีประสิทธิภาพ แต่พวกเขาจะพึงพอใจมากขึ้นหากพวกเขาเข้าใจว่า AI มาถึงข้อสรุปได้อย่างไร

ชั้นของเซลล์ประสาทเทียม

จากจุดเริ่มต้น นั่นคือ จากช่วงเวลาที่แนวคิดของปัญญาประดิษฐ์เป็นที่รู้จัก มีสองมุมมองเกี่ยวกับ AI ประการแรกแนะนำว่าควรสร้างเครื่องจักรที่มีเหตุผลตามหลักการที่รู้จักและตรรกะของมนุษย์ ซึ่งทำให้การทำงานภายในของพวกเขาโปร่งใสสำหรับทุกคน คนอื่นเชื่อว่าความฉลาดจะเกิดขึ้นได้ง่ายขึ้นหากเครื่องเรียนรู้ผ่านการสังเกตและการทดลองซ้ำ

หลังหมายถึงการย้อนกลับการเขียนโปรแกรมคอมพิวเตอร์ทั่วไป แทนที่จะให้โปรแกรมเมอร์เขียนคำสั่งเพื่อแก้ปัญหา โปรแกรมสร้าง อัลกอริทึมของตัวเอง ตามข้อมูลตัวอย่างและผลลัพธ์ที่ต้องการ วิธีการเรียนรู้ด้วยเครื่องซึ่งต่อมาได้พัฒนาเป็นระบบ AI ที่ทรงพลังที่สุดที่รู้จักกันในปัจจุบันได้ตกลงไปในเส้นทางของ โปรแกรมตัวเอง.

แนวทางนี้ยังคงอยู่บนขอบของการวิจัยระบบ AI ในยุค 60 และ 70 เฉพาะช่วงต้นทศวรรษที่ผ่านมาเท่านั้น หลังจากการเปลี่ยนแปลงและการปรับปรุงผู้บุกเบิกบางอย่าง โครงข่ายประสาท "ลึก" เริ่มแสดงให้เห็นถึงการปรับปรุงอย่างมากในความสามารถของการรับรู้อัตโนมัติ 

การเรียนรู้ของเครื่องอย่างลึกซึ้งทำให้คอมพิวเตอร์มีความสามารถพิเศษ เช่น ความสามารถในการจดจำคำพูดได้แม่นยำเกือบเท่ากับมนุษย์ นี่เป็นทักษะที่ซับซ้อนเกินไปที่จะตั้งโปรแกรมล่วงหน้า เครื่องต้องสร้าง "โปรแกรม" ของตัวเองได้ โดย การฝึกอบรมเกี่ยวกับชุดข้อมูลขนาดใหญ่.

การเรียนรู้เชิงลึกได้เปลี่ยนการจดจำภาพคอมพิวเตอร์และปรับปรุงคุณภาพของการแปลด้วยเครื่องอย่างมาก ทุกวันนี้ ใช้เพื่อการตัดสินใจที่สำคัญๆ ในด้านการแพทย์ การเงิน การผลิต และอื่นๆ

อย่างไรก็ตาม ด้วยทั้งหมดนี้ คุณไม่สามารถมองเข้าไปในโครงข่ายประสาทลึกเพื่อดูว่า "ภายใน" ทำงานอย่างไร กระบวนการให้เหตุผลของเครือข่ายฝังอยู่ในพฤติกรรมของเซลล์ประสาทจำลองหลายพันเซลล์ ซึ่งจัดเป็นเลเยอร์ที่เชื่อมต่อถึงกันอย่างประณีตหลายสิบหรือหลายร้อยชั้น.

เซลล์ประสาทแต่ละเซลล์ในเลเยอร์แรกจะได้รับอินพุต เช่น ความเข้มของพิกเซลในรูปภาพ จากนั้นทำการคำนวณก่อนที่จะส่งออกเอาต์พุต พวกมันจะถูกส่งในเครือข่ายที่ซับซ้อนไปยังเซลล์ประสาทของเลเยอร์ถัดไป - และต่อๆ ไป จนถึงสัญญาณเอาต์พุตสุดท้าย นอกจากนี้ยังมีกระบวนการที่เรียกว่าการปรับการคำนวณโดยเซลล์ประสาทแต่ละเซลล์เพื่อให้เครือข่ายการฝึกอบรมสร้างผลลัพธ์ที่ต้องการ

ในตัวอย่างที่เกี่ยวข้องกับการจดจำภาพสุนัข ระดับล่างของ AI จะวิเคราะห์ลักษณะที่เรียบง่าย เช่น รูปร่างหรือสี ระดับสูงจัดการกับปัญหาที่ซับซ้อนมากขึ้นเช่นขนหรือดวงตา เฉพาะชั้นบนสุดเท่านั้นที่รวมทุกอย่างเข้าด้วยกัน โดยระบุชุดข้อมูลทั้งหมดว่าเป็นสุนัข

วิธีการเดียวกันนี้สามารถนำไปใช้กับอินพุตประเภทอื่นๆ ที่เพิ่มพลังให้เครื่องเรียนรู้ด้วยตนเอง เช่น เสียงที่ประกอบเป็นคำพูด ตัวอักษร และคำที่ประกอบเป็นประโยคในข้อความที่เขียน หรือพวงมาลัย เป็นต้น การเคลื่อนไหวที่จำเป็นในการขับขี่ยานพาหนะ

รถไม่พลาดอะไร

มีการพยายามอธิบายว่าเกิดอะไรขึ้นในระบบดังกล่าว ในปี 2015 นักวิจัยของ Google ได้แก้ไขอัลกอริธึมการรู้จำรูปภาพการเรียนรู้เชิงลึก เพื่อให้แทนที่จะเห็นวัตถุในรูปภาพ จะสร้างหรือแก้ไขวัตถุเหล่านั้น โดยการเรียกใช้อัลกอริทึมแบบย้อนกลับ พวกเขาต้องการค้นพบคุณลักษณะที่โปรแกรมใช้ในการจดจำ พูด นกหรืออาคาร

การทดลองเหล่านี้ ซึ่งเป็นที่รู้จักต่อสาธารณชนในชื่อชื่อเรื่อง ทำให้เกิดภาพที่น่าทึ่งของ (3) สัตว์ที่แปลกประหลาด แปลกประหลาด ทิวทัศน์ และตัวละคร โดยการเปิดเผยความลับบางประการของการรับรู้ของเครื่องจักร เช่น ความจริงที่ว่ารูปแบบบางอย่างถูกส่งกลับซ้ำแล้วซ้ำเล่า พวกเขายังแสดงให้เห็นว่าการเรียนรู้ของเครื่องลึกแตกต่างจากการรับรู้ของมนุษย์อย่างไร ตัวอย่างเช่น ในแง่ที่ว่าขยายและทำซ้ำสิ่งประดิษฐ์ที่เราละเลย ในกระบวนการรับรู้ของเราโดยไม่ต้องคิด .

3. ภาพที่สร้างขึ้นในโครงการ

อนึ่ง ในทางกลับกัน การทดลองเหล่านี้ได้ไขความลึกลับของกลไกการรับรู้ของเราเอง บางทีอาจอยู่ในการรับรู้ของเราว่ามีส่วนประกอบที่เข้าใจยากหลายอย่างที่ทำให้เราเข้าใจและเพิกเฉยต่อบางสิ่งในทันที ในขณะที่เครื่องจักรจะทำซ้ำอย่างอดทนบนวัตถุที่ "ไม่สำคัญ"

การทดสอบและการศึกษาอื่นๆ ดำเนินการเพื่อ "ทำความเข้าใจ" เครื่องจักร เจสัน โยซินสกี้ เขาสร้างเครื่องมือที่ทำหน้าที่เหมือนโพรบติดอยู่ในสมอง โดยมุ่งเป้าไปที่เซลล์ประสาทเทียมใดๆ และมองหาภาพที่กระตุ้นมันอย่างแรงกล้าที่สุด ในการทดลองครั้งล่าสุด ภาพนามธรรมปรากฏขึ้นจากการ "แอบดู" เครือข่ายด้วยมือเปล่า ซึ่งทำให้กระบวนการที่เกิดขึ้นในระบบลึกลับยิ่งขึ้น

อย่างไรก็ตาม สำหรับนักวิทยาศาสตร์หลายคน การศึกษาดังกล่าวเป็นความเข้าใจผิด เพราะในความเห็นของพวกเขา เพื่อที่จะเข้าใจระบบ เพื่อที่จะรับรู้รูปแบบและกลไกของลำดับที่สูงขึ้นในการตัดสินใจที่ซับซ้อน การโต้ตอบทางคอมพิวเตอร์ทั้งหมด ภายในโครงข่ายประสาทส่วนลึก มันเป็นเขาวงกตขนาดใหญ่ของฟังก์ชันและตัวแปรทางคณิตศาสตร์ ในขณะนี้เราไม่สามารถเข้าใจได้

คอมพิวเตอร์ไม่เริ่มทำงาน? ทำไม

เหตุใดจึงต้องเข้าใจกลไกการตัดสินใจของระบบปัญญาประดิษฐ์ขั้นสูง มีการใช้แบบจำลองทางคณิตศาสตร์เพื่อพิจารณาว่านักโทษคนใดสามารถได้รับการปล่อยตัวในทัณฑ์บน ใครสามารถให้กู้ยืม และใครสามารถได้งานทำ ผู้ที่สนใจอยากทราบว่าเหตุใดจึงไม่มีการตัดสินใจอื่น เหตุผลและกลไกของมันคืออะไร

เขายอมรับในเดือนเมษายน 2017 ในการทบทวนเทคโนโลยีของ MIT Tommy Yaakkolaศาสตราจารย์ MIT ที่ทำงานเกี่ยวกับแอปพลิเคชันสำหรับการเรียนรู้ของเครื่อง -.

แม้จะมีตำแหน่งทางกฎหมายและนโยบายที่ความสามารถในการกลั่นกรองและทำความเข้าใจกลไกการตัดสินใจของระบบ AI ถือเป็นสิทธิมนุษยชนขั้นพื้นฐาน

ตั้งแต่ปี 2018 สหภาพยุโรปได้พยายามเรียกร้องให้บริษัทต่างๆ ให้คำอธิบายแก่ลูกค้าเกี่ยวกับการตัดสินใจด้วยระบบอัตโนมัติ ปรากฎว่าบางครั้งสิ่งนี้ไม่สามารถทำได้แม้แต่กับระบบที่ค่อนข้างง่าย เช่น แอพและเว็บไซต์ที่ใช้วิทยาศาสตร์เชิงลึกในการแสดงโฆษณาหรือแนะนำเพลง

คอมพิวเตอร์ที่รันโปรแกรมบริการเหล่านี้เอง และพวกเขาทำในลักษณะที่เราไม่เข้าใจ... แม้แต่วิศวกรที่สร้างแอปพลิเคชันเหล่านี้ก็ไม่สามารถอธิบายวิธีการทำงานทั้งหมดได้อย่างเต็มที่