บทที่ 1968 : การสร้างค่านิยมให้กับหุ่นยนต์ | บทที่ 1969 : วิธีป้องกันอาชญากรรมจากหุ่นยนต์

บทที่ 1968 : การสร้างค่านิยมให้กับหุ่นยนต์

อวัยวะเทียมชีวภาพอัจฉริยะต่างๆ ที่พวกเขาพัฒนาขึ้น เช่น แขนขาเทียมอิเล็กทรอนิกส์ หัวใจเทียม และดวงตาเทียม กำลังเข้ามาแทนที่อวัยวะของมนุษย์ทีละน้อย ทำให้มนุษย์กลายเป็นสิ่งมีชีวิตกึ่งเครื่องจักร

คนแบบนี้จะนิยามอย่างไรดี แน่นอนว่าพวกเขาคือมนุษย์ เพียงแต่มีความแตกต่างอย่างมากเมื่อเทียบกับคนทั่วไป

และในอนาคตเมื่อเทคโนโลยีในด้านนี้พัฒนาขึ้น เป็นไปได้ว่านอกจากสมองแล้ว อวัยวะและเนื้อเยื่อส่วนอื่นๆ ของร่างกายอาจถูกแทนที่ด้วยอวัยวะเทียมเหล่านี้ทั้งหมด แล้วคนแบบนี้จะยังถือว่าเป็นคนอยู่หรือไม่?

ในส่วนของหุ่นยนต์อัจฉริยะก็เช่นกัน ในอนาคตคงไม่ได้มีแค่หุ่นยนต์จักรกลล้วนๆ เท่านั้น ด้วยการพัฒนาอย่างต่อเนื่องของเทคโนโลยีชีวภาพ บางทีในอนาคตอาจมีหุ่นยนต์ชีวภาพอัจฉริยะถือกำเนิดขึ้น

อวัยวะและเนื้อเยื่อหลายส่วนในร่างกายของหุ่นยนต์ชีวภาพอัจฉริยะเหล่านี้ ล้วนเป็นเนื้อเยื่อมีชีวิตที่เพาะเลี้ยงขึ้นมา ดังนั้นมันจึงดูเหมือนคนจริงๆ มากขึ้น แล้วหุ่นยนต์ชีวภาพอัจฉริยะแบบนี้ควรจะแยกแยะออกจากมนุษย์อย่างไรดี

โดยปกติแล้ว การครอบครองเทคโนโลยีหรือความเชี่ยวชาญในสาขาใดสาขาหนึ่งเพียงอย่างเดียวก็ถือว่ายอดเยี่ยมมากแล้ว แต่ทีมของอู๋ฮ่าวกลับครอบครองทั้งสองอย่าง และยังทำผลงานออกมาได้อย่างโดดเด่นสะดุดตา

กล่าวอีกนัยหนึ่ง ก็คืออู๋ฮ่าวและทีมนั่นเองที่ทำให้เส้นแบ่งระหว่างหุ่นยนต์กับมนุษย์เริ่มเลือนราง พวกเขาคือต้นเหตุสำคัญ

หลังจากสังเกตปฏิกิริยาของทุกคนแล้ว อู๋ฮ่าวก็กล่าวต่อว่า "ระบบการรับรู้และตรรกะการโต้ตอบของหุ่นยนต์ คือระบบความคิดและการโต้ตอบทางพฤติกรรมที่เราสร้างขึ้นมาเพื่อหุ่นยนต์อัจฉริยะโดยเฉพาะ

คำว่าการรับรู้ทางความคิด จริงๆ แล้วก็คือสิ่งที่เราเข้าใจกัน มนุษย์เราต้องผ่านการเรียนรู้และเติบโตอย่างต่อเนื่องเพื่อสร้างค่านิยม โลกทัศน์ และทัศนคติต่ออารมณ์ความรู้สึกขึ้นมา นี่คือความหมายของการศึกษา

และหุ่นยนต์เองก็ต้องการระบบเนื้อหาความรู้เกี่ยวกับค่านิยม โลกทัศน์ และทัศนคติต่ออารมณ์ชุดนี้เช่นกัน

เมื่อเทียบกับค่านิยม โลกทัศน์ และทัศนคติต่ออารมณ์ที่สมบูรณ์ของมนุษย์แล้ว เราจำเป็นต้องปรับแต่งสิ่งเหล่านี้ให้เป็นแบบเฉพาะสำหรับหุ่นยนต์

นี่คือระบบที่ใหญ่โต เปรียบเสมือนต้นไม้ใหญ่ที่มีกิ่งก้านสาขาหนาทึบ เราต้องออกแบบส่วนลำต้นและกิ่งก้านหลักให้กับต้นไม้นี้ก่อน ส่วนนี้คือระดับล่างสุดของระบบทั้งหมด และเป็นส่วนที่เป็นหัวใจสำคัญที่สุด ไม่ว่ากิ่งก้านอื่นๆ จะเติบโตไปอย่างไร ส่วนนี้ก็จะไม่มีวันเปลี่ยนแปลง

ยกตัวอย่างคำถามง่ายๆ ข้อหนึ่ง เราคือใคร?

คำถามนี้เป็นคำถามที่มนุษย์เราถามกันอยู่บ่อยๆ ผ่านการศึกษาเรียนรู้ เราทราบว่าเราคือมนุษย์ ซึ่งวิวัฒนาการมาจากสัตว์ในกลุ่มไพรเมตมาเป็นเวลาหลายหมื่นหลายแสนปี

เราเกิดจากการรวมตัวของพ่อและแม่ และคลอดออกมาหลังจากแม่อุ้มท้องนานสิบเดือน

ส่วนหุ่นยนต์นั้น เห็นได้ชัดว่าสอนแบบนี้ไม่ได้ เราต้องป้อนข้อมูลหรือกำหนดข้อมูลความรู้เฉพาะทางให้กับพวกมัน

เช่นในคำถามเดียวกันนี้ สำหรับฝั่งหุ่นยนต์ มันอาจจะตอบว่าพวกมันคือหุ่นยนต์ เป็นหุ่นยนต์ไบโอนิคอัจฉริยะรูปร่างมนุษย์ที่ผลิตโดยฮ่าวอวี่เทคโนโลยี การถือกำเนิดของพวกมันมีจุดประสงค์สูงสุดเพื่อช่วยเหลือและบริการมนุษย์ให้ดียิ่งขึ้น

ในตอนนี้ เรายังสามารถเขียนกฎสามข้อของหุ่นยนต์ทั้งสี่ข้อที่อยู่บนผนังโถงใหญ่ลงไปในระบบได้ด้วย วิธีนี้ต่อให้หุ่นยนต์จะวิวัฒนาการและเติบโตจนเก่งกาจแค่ไหนในภายหลัง ก็จะไม่สามารถหลุดพ้นจากกรอบข้อจำกัดระดับล่างเหล่านี้ได้ เพราะพวกมันไม่มีสิทธิ์แก้ไขข้อมูลโปรโตคอลระดับล่างนี้ และเมื่อกรอบระดับล่างเหล่านี้ถูกตั้งค่าแล้ว จะไม่สามารถแก้ไขได้ ซึ่งเป็นการป้องกันไม่ให้หุ่นยนต์แก้ไขเพื่อแหกกฎด้วยตัวเอง หรือป้องกันมนุษย์ช่วยให้มันแหกกฎระดับล่างนี้

แน่นอนว่า ยังมีหุ่นยนต์บางประเภทที่ไม่สามารถอยู่ภายใต้ข้อจำกัดของกฎสามข้อนี้ได้ พวกมันต้องการโปรโตคอลโครงสร้างพื้นฐานเฉพาะของตัวมันเอง เช่น หุ่นยนต์สำหรับใช้งานทางทหาร หุ่นยนต์ประเภทนี้ย่อมไม่อาจถูกผูกมัดด้วยกฎสามข้อของหุ่นยนต์ เพราะหน้าที่ของมันคือการใช้ความรุนแรง

แต่ทว่า เมื่อหลุดพ้นจากข้อจำกัดของกฎสามข้อแล้ว หุ่นยนต์ก็อาจทำเรื่องที่ทำร้ายมนุษย์ได้ ในเวลานี้เราจึงจำเป็นต้องจำแนกให้มันอย่างละเอียดว่า มนุษย์คนไหนทำร้ายได้ คนไหนทำร้ายไม่ได้ เป็นต้น"

เมื่อพูดถึงตรงนี้ อู๋ฮ่าวก็หยุดชะงักเล็กน้อย เพื่อให้เวลาทุกคนได้ทำความเข้าใจและตอบสนอง ส่วนเขาฉวยโอกาสรับน้ำจากเลขานุการผู้ติดตามมาดื่มไปหนึ่งอึก แล้วจึงกล่าวต่อ

"นอกจากนี้ ในด้านการรับรู้อื่นๆ เราต้องให้หุ่นยนต์เข้าใจโลกใบนี้ เข้าใจว่าสังคมนี้เป็นอย่างไร ความแตกต่างระหว่างคนกับสัตว์ ความแตกต่างระหว่างประเทศและภูมิภาคต่างๆ รวมถึงความแตกต่างระหว่างบุคคลด้วย

ระบบการรับรู้ทั้งหมดนี้มีขนาดมหึมา เรียกได้ว่าครอบคลุมข้อมูลข่าวสารทั้งหมดที่มนุษย์สามารถสัมผัสและเข้าใจได้ แต่จะให้เหมือนกับมนุษย์เลยก็ไม่ได้ จำเป็นต้องออกแบบระบบการรับรู้ที่เหมาะสมกับหุ่นยนต์โดยเฉพาะ ซึ่งงานนี้เป็นงานที่ใหญ่มาก

หากพึ่งพาเพียงเจ้าหน้าที่วิจัยและพัฒนาของเราฝ่ายเดียวคงทำไม่สำเร็จแน่นอน ดังนั้นในด้านนี้ เราจึงว่าจ้างผู้เชี่ยวชาญด้านปัญญาประดิษฐ์และหุ่นยนต์จากสถาบันต่างๆ ทั่วโลก มาร่วมกันวิจัย หารือ และกำหนดระบบคุณค่าการรับรู้เฉพาะสำหรับหุ่นยนต์ชุดนี้

แค่นี้ยังไม่พอ เรายังต้องจัดตั้งทีมผู้เชี่ยวชาญด้านเทคนิควิจัยขึ้นมาโดยเฉพาะ เพื่อคัดกรอง วิเคราะห์ และรวบรวมแนวคิดและเนื้อหาที่ได้จากการหารือของผู้เชี่ยวชาญจากสถาบันต่างๆ เหล่านี้

หากใช้แรงคนเพียงอย่างเดียว งานนี้คงต้องทำกันไปชาติเศษแน่ๆ ดังนั้นเราจึงต้องใช้ระบบปัญญาประดิษฐ์เข้ามาช่วย ผ่าน AI เราสามารถนำเนื้อหาที่รวบรวมมาเหล่านี้มาบูรณาการเข้าด้วยกันอย่างเป็นระบบ แล้วใช้ระบบ AI ทำการคำนวณตรวจสอบตรรกะ เพื่อวิเคราะห์ตัดสินว่าเนื้อหาส่วนไหนขัดแย้งกัน หรือส่วนไหนมีช่องโหว่

และให้ระบบปัญญาประดิษฐ์เรียนรู้และสร้างเนื้อหาใหม่ขึ้นมาเองโดยอัตโนมัติ ผ่านการคำนวณและบูรณาการซ้ำแล้วซ้ำเล่า จนในที่สุดก็เกิดเป็นระบบการรับรู้ที่มีเนื้อหามากมายมหาศาล

ระบบการรับรู้ที่ใหญ่ขนาดนี้ หากใช้สถาปัตยกรรมคอมพิวเตอร์และระบบ AI ทั่วไปคงยากที่จะรันไหว และไม่สามารถดึงประสิทธิภาพของระบบการรับรู้นี้ออกมาได้ทั้งหมด ดังนั้นเราจึงจำเป็นต้องออกแบบและพัฒนาระบบสถาปัตยกรรมปัญญาประดิษฐ์ที่ยอดเยี่ยมกว่าขึ้นมา ซึ่งก็คือสิ่งที่เราเรียกว่า 'สมองอัจฉริยะ'

จากการวิจัยสมองมนุษย์อย่างต่อเนื่อง ผนวกกับเทคโนโลยีที่เรามีอยู่ ในที่สุดเราก็ได้พัฒนาสถาปัตยกรรมระบบสมองอัจฉริยะนี้ออกมาได้ในเบื้องต้น

จริงๆ แล้วเทคโนโลยีสถาปัตยกรรมของสมองอัจฉริยะนี้ ทุกท่านน่าจะเคยได้ยินกันมาบ้าง บางท่านอาจจะคุ้นเคยดีด้วยซ้ำ" พูดจบ อู๋ฮ่าวก็กวาดสายตามองไปรอบๆ ก่อนจะหยุดสายตาไว้ที่หลิวเว่ยกั๋วและหลัวข่าย

ทั้งสองครุ่นคิดเล็กน้อยเมื่อสบตาอู๋ฮ่าว หลิวเว่ยกั๋วก็เอ่ยถามขึ้นอย่างไม่แน่ใจว่า "ใช่เทคโนโลยีควบคุมอาร์เรย์แบบคลัสเตอร์อัจฉริยะหรือเปล่าครับ"

"ใช่ครับ" อู๋ฮ่าวพยักหน้ารับ "มันคือเทคโนโลยีควบคุมอาร์เรย์แบบคลัสเตอร์ เรารู้ว่าสมองของมนุษย์ประกอบด้วยเซลล์ประสาทจำนวนมหาศาล หรือที่เรียกว่านิวรอน ในระบบประสาทส่วนกลางทั้งหมดมีเซลล์ประสาทอยู่มากกว่า 1 แสนล้านเซลล์ และเฉพาะในเปลือกสมองก็มีมากกว่า 1.4 หมื่นล้านเซลล์แล้ว"

-------------------------------------------------------

บทที่ 1969 : วิธีป้องกันอาชญากรรมจากหุ่นยนต์

......

"ส่วนพวกเรานั้น หากต้องการเลียนแบบระบบประสาทส่วนกลางของมนุษย์ชุดนี้ ก็จำเป็นต้องจำลองเซลล์ประสาทออกมาเป็นจำนวนมาก การพึ่งพาเพียงฮาร์ดแวร์อย่างเดียวนั้นเป็นไปไม่ได้ที่จะทำให้สำเร็จ ดังนั้นเราจึงทำได้เพียงใช้อัลกอริทึมซอฟต์แวร์ AI และนำเทคโนโลยีควบคุมคลัสเตอร์อาเรย์ (Cluster Array Control) มาประยุกต์ใช้ในด้านนี้ ด้วยวิธีนี้ แม้ว่าจะมีระบบ AI ย่อยที่ถูกจำลองขึ้นมาจำนวนมากเพียงใด ก็จะไม่เกิดอาการกระตุกหรือประมวลผลไม่ทันเนื่องจากจำนวนที่มากเกินไป ในทางกลับกัน ประสิทธิภาพการประมวลผลจะเร็วขึ้นและมีประสิทธิภาพสูงขึ้นด้วยซ้ำ

แน่นอนว่า เช่นเดียวกับสมองของมนุษย์ เราได้ทำการแบ่งเขตฟังก์ชันการทำงานให้กับสมองกลอัจฉริยะทั้งหมด โดยมีส่วนที่รับผิดชอบการมองเห็นโดยเฉพาะ การได้ยินโดยเฉพาะ การรับรู้สีโดยเฉพาะ และส่วนที่รับผิดชอบด้านอารมณ์โดยเฉพาะ ฯลฯ ระบบย่อยเหล่านี้ได้รวมกันเป็นระบบสมองกลอัจฉริยะที่สมบูรณ์หนึ่งเดียว"

เมื่อพูดถึงตรงนี้ อู๋ฮ่าวหยุดเล็กน้อย จากนั้นเปลี่ยนน้ำเสียงแล้วพูดพร้อมรอยยิ้มว่า: "สำหรับระบบตรรกะการโต้ตอบ เทคโนโลยีนี้ความจริงแล้วเราได้วิจัยและพัฒนาออกมานานแล้ว และเปิดตัวสู่สายตาชาวโลกมาหลายปีแล้ว นั่นก็คือผลงานเปิดตัวชิ้นเอกของบริษัทเรา ผู้ช่วยเสียงอัจฉริยะ (Intelligent Voice Assistant)

ระบบเสียงอัจฉริยะ เรื่องนี้ทุกคนคงไม่แปลกใจ หลายบริษัทและสถาบันวิจัยหลายแห่งต่างก็กำลังทำอยู่ สำหรับเราแล้ว เราถือว่าเริ่มต้นค่อนข้างช้าด้วยซ้ำ

แต่ทำไมผู้ช่วยเสียงอัจฉริยะของเราถึงสามารถชนะใจและสร้างชื่อเสียงได้อย่างมหาศาลในเวลาอันสั้น และด้วยผลของปากต่อปาก ในที่สุดก็ได้รับการยอมรับและเป็นที่ชื่นชอบของสาธารณชน จนสามารถเปิดตลาดได้อย่างรวดเร็ว

นั่นเป็นเพราะผู้ช่วยเสียงอัจฉริยะของเราในด้านเทคโนโลยีตรรกะการโต้ตอบนั้น ดีกว่าซอฟต์แวร์เสียงอัจฉริยะอื่นๆ ที่มีอยู่ในท้องตลาดอย่างเห็นได้ชัด"

เมื่อได้ยินอู๋ฮ่าวพูดเช่นนี้ ทุกคนในที่นั้นต่างก็พากันหัวเราะ อะไรคือคำว่าดีกว่าผลิตภัณฑ์ประเภทเดียวกันในท้องตลาดอย่างเห็นได้ชัด? มันแตกต่างกันราวฟ้ากับเหวต่างหาก ตอนที่ Haoyu Technology เปิดตัวผู้ช่วยเสียงอัจฉริยะรุ่นนี้ พวกเขาต่างก็ได้ลองซื้อมาใช้งาน เมื่อเทียบกับซอฟต์แวร์เสียงอัจฉริยะอื่นๆ ในตลาดแล้ว นี่มันเหมือนอยู่กันคนละโลก มีความแตกต่างราวก้อนเมฆกับโคลนตมเลยทีเดียว

เมื่อเทียบกับผู้ช่วยเสียงอัจฉริยะที่เฉลียวฉลาด ซอฟต์แวร์เสียงอัจฉริยะอื่นๆ ในตลาดแทบจะเรียกได้ว่าปัญญาอ่อน และด้วยเหตุนี้เอง ผลิตภัณฑ์นี้จึงได้รับความชื่นชอบและการส่งเสริมจากผู้ใช้มากมายในเวลาอันสั้น

เพียงแต่ไม่คาดคิดว่า เพราะผลิตภัณฑ์ชิ้นเล็กๆ ชิ้นนี้ กลับทำให้ยักษ์ใหญ่ด้านเทคโนโลยีระดับซูเปอร์ถือกำเนิดขึ้น นี่คือสิ่งที่พวกเขาทุกคนในตอนนั้นไม่ว่าจะอย่างไรก็คิดไม่ถึง

"พูดง่ายๆ ก็คือ ระบบเสียงอัจฉริยะของเรานั้นฉลาดกว่า ไม่เพียงแต่สามารถฟังเข้าใจว่าผู้ใช้กำลังพูดอะไร โดยไม่จำเป็นต้องจงใจพูด เพียงแค่สนทนาตามปกติก็ได้ ยิ่งไปกว่านั้น ผู้ช่วยเสียงอัจฉริยะตัวนี้ยังสามารถแยกแยะความเปลี่ยนแปลงทางอารมณ์ของผู้ใช้ในขณะนั้นผ่านน้ำเสียงที่แตกต่างกัน และทำการตอบสนองได้อย่างเหมาะสม นี่คือสิ่งที่ระบบเสียงอัจฉริยะในท้องตลาดที่ต้องใช้คำสั่งเฉพาะเพื่อปลุกให้ทำงานไม่สามารถเทียบได้เลย

ประการที่สอง คือผู้ช่วยเสียงอัจฉริยะตัวนี้สามารถพูดออกมาได้อย่างชัดเจน ต่อเนื่อง และมีอารมณ์ความรู้สึก รวมทั้งสามารถแสดงออกทางอารมณ์ได้อย่างสมบูรณ์

นี่เป็นเพียงสิ่งที่แสดงออกมาในระบบเสียง แต่หัวใจสำคัญที่แท้จริงของระบบนี้คือระบบตรรกะการโต้ตอบ

ระบบตรรกะการโต้ตอบชุดนี้ ไม่เพียงแต่สามารถฟังคนพูดรู้เรื่อง แต่ยังสามารถตอบสนองตามคำพูดของคนได้ เช่น เรียบเรียงถ้อยคำที่เหมาะสมและถูกต้องเพื่อตอบกลับ หรืออาจเพิ่มท่าทางร่างกายที่เหมาะสมเพื่อช่วยเสริม ซึ่งจะทำให้แสดงอารมณ์ได้ดียิ่งขึ้น

และในตัวหุ่นยนต์ตัวนี้ เราได้ทำการอัปเกรดและปรับปรุงเทคโนโลยีนี้ให้ดียิ่งขึ้น เพื่อให้มันสอดคล้องกับนิสัยตรรกะการโต้ตอบทางภาษาของคนปกติอย่างเราๆ มากขึ้น ทำให้มันมีความสมจริงยิ่งขึ้น

เช่น เวลาเราพูดมักจะมีน้ำเสียง หรือแม้แต่การเปลี่ยนแปลงของท่าทางและสีหน้า สิ่งเหล่านี้ล้วนเกิดขึ้นพร้อมกัน ซึ่งจำเป็นต้องใช้สมองกลอัจฉริยะมาทำการวิเคราะห์และรับมืออย่างเหมาะสม"

หลังจากฟังคำแนะนำของอู๋ฮ่าวจบ ทุกคนต่างพยักหน้าขณะครุ่นคิด และทันใดนั้นก็มีคนเริ่มนำปรบมือ ไม่นานเสียงปรบมือก็ดังกระหึ่มไปทั่วทั้งห้องทดลอง

"เสี่ยวอู๋ (อู๋น้อย) ผมมีคำถาม" หลี่เว่ยกั๋วถามอู๋ฮ่าว

"เชิญครับ" เมื่อเห็นว่าเป็นหลี่เว่ยกั๋วที่ถาม อู๋ฮ่าวก็ตอบพร้อมรอยยิ้ม

หลี่เว่ยกั๋วเห็นดังนั้นจึงพูดกับเขาว่า: "ตามที่คุณพูด หุ่นยนต์ตัวนี้สามารถจำลองระบบการรับรู้ค่านิยมของมนุษย์ และสามารถจำลองภาษา สีหน้า นิสัยท่าทางของมนุษย์ หรือแม้กระทั่งรวมถึงวิธีการคิดของมนุษย์

ถ้าเป็นเช่นนี้ มันจะเกิดสิ่งที่เราเรียกว่าการรู้แจ้งฉับพลัน (Epiphany) การเติบโต หรืออย่างที่ประธานหูบอกว่าหุ่นยนต์แบบนี้จะทะลุขีดจำกัดของข้อตกลงสถาปัตยกรรมระดับล่าง แล้วกลายเป็นคนเลว ทำเรื่องผิดกฎหมายและก่ออาชญากรรมได้หรือไม่

เรารู้ว่าอาชญากรรมส่วนใหญ่เกิดจากความบังเอิญและอารมณ์ชั่ววูบ ดังนั้นหุ่นยนต์จำลองมนุษย์ที่มีความเหมือนสูงรุ่นนี้ จะเกิดอาการ 'เลว' ขึ้นมากะทันหันได้หรือไม่?"

คำถามของหลี่เว่ยกั๋วได้รับการยอมรับจากทุกคน จริงอยู่ที่มันมีความเป็นไปได้เช่นนั้น ดังนั้นทุกคนจึงอยากฟังคำอธิบายและคำตอบของอู๋ฮ่าวในเรื่องนี้

เมื่อได้ยินคำถามนี้ อู๋ฮ่าวก็เผยรอยยิ้มออกมา ไม่คิดว่าหลี่เว่ยกั๋วซึ่งไม่ได้เชี่ยวชาญเฉพาะทางจะเป็นผู้ถามคำถามที่ดูมีความเป็นมืออาชีพมากขนาดนี้ก่อนคนอื่น

หลังจากเรียบเรียงความคิดและคำพูด อู๋ฮ่าวจึงตอบด้วยรอยยิ้มว่า: "ความเป็นไปได้นี้มีอยู่ครับ แต่ต่ำมากๆ ยกเว้นแต่จะเกิด BUG บางอย่างที่เราตรวจไม่พบ ซึ่งทำให้ระบบการคำนวณตรรกะของสมองกลทั้งหมดผิดพลาด ถึงจะเกิดอุบัติเหตุเช่นนั้นได้

อย่างไรก็ตาม นี่เป็นความเป็นไปได้ที่น้อยมากๆ ประมาณหนึ่งในล้านล้านเลยทีเดียว

ทำไมผมถึงมั่นใจขนาดนี้ ก็เพราะว่าสมองกลอัจฉริยะนี้เราเป็นคนออกแบบและสร้างขึ้นมา ความเสี่ยงที่คุณกังวลนี้ เราได้คิดไว้แล้วตั้งแต่ตอนออกแบบ ดังนั้นเราจึงได้ทำการตั้งค่าที่เกี่ยวข้องไว้แล้ว เพื่อให้หุ่นยนต์ไม่ว่าจะในด้านใด ก็ไม่สามารถก้าวข้ามข้อจำกัดของข้อตกลงในกรอบโครงสร้างเหล่านี้ได้

แน่นอนครับ นั่นคือในเชิงจิตวิสัย (Subjective) ยังมีความเป็นไปได้อีกอย่างคืออาชญากรรมแบบถูกกระทำ หรือการทำผิดกฎระเบียบโดยไม่เจตนา อาจเป็นไปได้ว่าหุ่นยนต์มีความหวังดี แต่สุดท้ายกลับทำเรื่องผิดพลาด ความเป็นไปได้นี้มีอยู่ครับ

แต่ผมคิดว่าปัญหานี้ไม่ใหญ่ อยู่ในขอบเขตที่ยอมรับได้ และจะไม่ส่งผลกระทบต่อความปลอดภัยและความน่าเชื่อถือโดยรวมของมัน"

พูดถึงตรงนี้ อู๋ฮ่าวหยุดนิดหนึ่ง แล้วพูดต่อทันทีว่า: "จริงๆ แล้วยังมีความเป็นไปได้อีกอย่างหนึ่ง คือการแทรกแซงด้วยเจตนาร้ายจากมนุษย์ หรือการดัดแปลงแก้ไขสมองกลอัจฉริยะของหุ่นยนต์

อย่างแรกคือ การแทรกแซงด้วยเจตนาร้าย โดยใช้วิธีการบางอย่างมาแทรกแซงการรับรู้และการกระทำของหุ่นยนต์ เพื่อให้พวกมันทำผิด เพื่อบรรลุจุดประสงค์ของผู้ต้องสงสัยเหล่านั้น

อีกอย่างหนึ่ง แม้ว่าโอกาสเกิดขึ้นจะต่ำมาก แต่ก็ไม่สามารถตัดความเป็นไปได้นี้ทิ้งไป บางทีในอนาคตอาจจะมีอัจฉริยะทางคอมพิวเตอร์ปรากฏตัวขึ้น เขาอาจจะบังเอิญ หรือค้นพบช่องโหว่โดยไม่ได้ตั้งใจ หรือบางองค์กรอาจใช้ซูเปอร์คอมพิวเตอร์ขนาดใหญ่ เจาะระบบสมองกลของหุ่นยนต์ด้วยกำลัง (Brute-force attack) เพื่อป้อนข้อมูลอื่นๆ ลงไป และบรรลุจุดประสงค์ในการควบคุมหุ่นยนต์

สถานการณ์เช่นนี้อาจเกิดขึ้นได้ ซึ่งเป็นสิ่งที่เราไม่สามารถป้องกันได้ 100% สิ่งที่เราทำได้คือเตรียมการป้องกันในด้านนี้ให้ดีที่สุดเท่าที่จะทำได้ เพื่อไม่ให้อีกฝ่ายหาช่องโหว่ได้"