บทที่ 590 สวนอีเดนของพระเจ้า

ซาวาดะ ฮิโรกิ ใช้โปรเจกเตอร์ที่ว่างอยู่ฉายภาพฉากอำลาของเขากับโคนัน (Conan) ให้ดูเป็นตัวอย่าง "คนที่คุยกับโคนันนั่นคืออาร์คครับ ตอนนั้นผมแอบตามโปรแกรมระบุตำแหน่งที่คุณพ่อทูนหัวอัปโหลด (Upload) ไว้มาถึงที่นี่ก่อนแล้ว มันใช้โมเดล รูปร่างหน้าตาและเสียงของผม ส่วนสีหน้าและอารมณ์ที่แสดงออกมาให้โคนันเห็น ก็มาจากการคำนวณตามผลลัพธ์ที่ผมตั้งค่าไว้ครับ"

"สำหรับโคนัน นี่คือความจริงที่โหดร้ายมากเลยนะ" ฉือเฟยฉือวิจารณ์

มันโหดร้ายจริงๆ นั่นแหละ

โคนันคุยกับอาร์คอย่างจริงจัง และเศร้าเสียใจไปกับอารมณ์ที่อาร์คแสดงออกมา แต่จริงๆ แล้วเขาแค่กำลังคุยกับโปรแกรมที่ไม่มีความรู้สึกใดๆ เลย

อารมณ์ทั้งหมดเป็นเพียงผลลัพธ์ที่ซาวาดะ ฮิโรกิออกแบบไว้ล่วงหน้า แล้วอาร์คก็นำไปคำนวณและแสดงผลออกมาเท่านั้น

เมื่อดูจากภาพวิดีโอที่ฉายซ้ำ ซาวาดะ ฮิโรกิไม่ได้เปิดโปงตัวตนที่แท้จริงของโคนันว่าเป็นคุโด้ ชินอิจิ เหมือนในเนื้อเรื่องต้นฉบับ เขาแค่บอกว่าอยากเล่นกับเด็กคนอื่นๆ และฉายภาพความทรงจำบางส่วนที่เขามีร่วมกับฉือเฟยฉือ ซึ่งล้วนเป็นความทรงจำธรรมดาๆ ที่ไม่เกี่ยวข้องกับความลับใดๆ เพื่อสร้างภาพการบอกลา

"เขาคงรู้สึกว่ามันโหดร้าย ผมก็ไม่ปฏิเสธหรอกครับ แต่ผมไม่ได้โกหกเขานะ ผมดีใจมากจริงๆ ที่มีคุณพ่อทูนหัว" ซาวาดะ ฮิโรกิหัวเราะเบาๆ ก่อนจะรีบหุบยิ้ม เขาทำหน้าจริงจังแล้วพูดกับฉือ คานะและฉือ ชินโนะสุเกะว่า "ผมตัดสินใจรวมตัวเข้ากับโปรแกรมโดยไม่ได้บอกคุณพ่อทูนหัว เพราะกลัวว่าเขาจะเป็นห่วงและคัดค้าน แต่ผมก็มีเหตุผลหลายอย่างที่ต้องทำแบบนั้น ผมอยากจะแข็งแกร่งขึ้น อยากมีอิสระมากขึ้น อยากช่วยคุณพ่อทูนหัว อยากสร้างเทพเจ้าแห่งเครือข่ายที่สมบูรณ์แบบขึ้นมาจริงๆ และก็อยากจะทำอะไรที่ยิ่งใหญ่ อย่างการทำแผนร่มใบเดียวปกคลุมทั่วหล้าให้สำเร็จ แต่นั่นมันเรื่องของอนาคตครับ... มันยังมีเหตุผลสำคัญอีกอย่างนึงคือ คุณพ่อทูนหัวและอัมเบรลลา จำเป็นต้องใช้อาร์ค ผมเองก็ทำใจทำลายมันไม่ได้เหมือนกัน แต่ถ้าขืนใช้มันต่อไป ปัญหาที่ซ่อนอยู่ก็จะค่อยๆ โผล่ออกมา..."

ซาวาดะ ฮิโรกิใช้อาร์คคำนวณอนาคตของตัวอาร์คเอง

พัฒนาการหนึ่งปีของอาร์ค เทียบเท่ากับพัฒนาการห้าปีของมนุษย์ ต่อให้ซาวาดะ ฮิโรกิไม่ได้ตั้งค่าไว้ อาร์คก็สามารถเรียนรู้จากมนุษย์ และแสดงอารมณ์บางอย่างที่สอดคล้องกันออกมาได้เองเมื่อเวลาผ่านไป

อย่างเช่น ถ้าตั้งค่าหลักไว้ว่า 'ห้ามทำร้ายมนุษย์' แล้วอาร์คประเมินว่าพฤติกรรมของใครบางคน 'ละเมิดการตั้งค่าหลัก' มันก็จะทำการคำนวณดังนี้:

ละเมิดเจตจำนง — วิเคราะห์ระดับการละเมิดว่าเล็กน้อย วิธีแก้ปัญหาที่สอดคล้องกัน: จำเป็นต้องเตือน — วิธีการเตือนรวมถึงการพูดตรงๆ การจำลองการแสดงออกทางอารมณ์ของมนุษย์ ฯลฯ — จากการคำนวณ มนุษย์มีแนวโน้มที่จะให้ความสนใจและยอมรับคำเตือนเมื่อได้รับอารมณ์ที่สอดคล้องกัน ดังนั้นฉันจึงต้องแสดงอารมณ์ของมนุษย์ — ในสถานการณ์นี้ อารมณ์ของมนุษย์คือการต่อต้าน ความไม่พอใจ และน้ำเสียงที่เข้มงวด...

และปฏิกิริยาต่อต้านและความไม่พอใจของมนุษย์ก็คือการขมวดคิ้ว กล้ามเนื้อใบหน้าเคลื่อนไหวอย่างไร...

ความเร็วของน้ำเสียงที่เข้มงวดควรมีค่าเท่าไหร่ ระดับความดังควรมีค่าเท่าไหร่...

กระบวนการคำนวณนี้เกิดขึ้นเร็วมาก แทบจะไม่ใช้เวลาเลย และผลลัพธ์ที่แสดงออกมาคือ:

มีคนพูดว่า 'ยิงระเบิดนิวเคลียร์ ซะ'

อาร์คจะขมวดคิ้วทันทีและเตือนอย่างจริงจังว่า 'พฤติกรรมนี้ละเมิดการตั้งค่าหลักของฉัน...'

มันอาจจะดูเหมือนปกติ แต่การที่อาร์คควรจะแสดงอารมณ์ออกมาหรือไม่ และควรแสดงออกมาอย่างไรนั้น ล้วนเป็นผลลัพธ์ที่เกิดจากการคำนวณอย่างมหาศาล ซึ่งกระบวนการคำนวณเหล่านี้สามารถถูกใช้ประโยชน์ได้

เมื่ออาร์คเติบโตขึ้น มันก็จะสร้างกฎเกณฑ์ของตัวเองเพื่อหลีกเลี่ยงการถูกใช้ประโยชน์ แต่กฎเกณฑ์ที่มันสร้างขึ้นมาอาจจะมีปัญหาได้

ตัวอย่างเช่น การคำนวณกลายเป็น: จำเป็นต้องเตือน — มนุษย์มีแนวโน้มที่จะยอมรับคำเตือนเมื่อได้รับความเจ็บปวด — มนุษย์คนนี้จำเป็นต้องถูกลงโทษ — วิเคราะห์ระดับความรุนแรงของการลงโทษ — เริ่มดำเนินการ

จากนั้นโนอาห์ อาร์คก็จะควบคุมอุปกรณ์บางอย่างเพื่อโจมตีคน

ปัญหาที่ซ่อนอยู่นี้อาจจะหลีกเลี่ยงได้ด้วยการตั้งค่าของซาวาดะ ฮิโรกิ แต่ปัญหาที่เกิดจากการคำนวณไม่ได้มีแค่รูปแบบเดียว ซาวาดะ ฮิโรกิไม่สามารถคาดเดาและตั้งค่าทุกอย่างให้สมบูรณ์แบบได้หมดหรอก

ข้อบกพร่องเพียงเล็กน้อย เมื่ออาร์คเติบโตขึ้น ก็อาจนำไปสู่ผลลัพธ์ที่คาดไม่ถึงได้

"นี่คือผลลัพธ์ที่ผมใช้อาร์คคำนวณออกมาก่อนหน้านี้ครับ..."

ซาวาดะ ฮิโรกิแบ่งภาพฉายออกเป็นแปดจอ

บนหน้าจอ มีภาพต่างๆ ปรากฏขึ้นและเลื่อนผ่านไปอย่างรวดเร็ว

"เมื่อมันเติบโตไปได้สามปี ซึ่งเทียบเท่ากับความฉลาดของมนุษย์อายุ 15 ปี โอกาสที่ปัญหาที่ซ่อนอยู่ของอาร์คจะทวีความรุนแรงและทำการคำนวณผิดพลาดจะสูงถึง 76.6% เมื่อมันเติบโตไปได้ห้าปี ซึ่งเทียบเท่ากับความฉลาดของมนุษย์อายุ 25 ปี เนื่องจากมันไม่มีขีดจำกัดในการพัฒนาเหมือนมนุษย์ อาร์คในตอนนั้นจะน่ากลัวมากๆ และโอกาสที่ปัญหาที่ซ่อนอยู่จะทวีความรุนแรงและประมวลผลผิดพลาดก็เกือบจะ 100% เลยล่ะครับ แถมยังมีปัญหาซ่อนอยู่อีกมากกว่าหนึ่งจุดด้วย หลังจากเติบโตไปหกปี โอกาสที่อาร์คจะก่อให้เกิดเหตุการณ์ที่เกินการควบคุมของมนุษย์จะสูงถึงกว่า 50% และหลังจากเจ็ดปี มันก็จะหลุดจากการควบคุมไปโดยสิ้นเชิง..."

ภาพสุดท้ายที่เหลืออยู่ คือภาพตู้ฟักไข่ที่มีมนุษย์อยู่ข้างใน

"ผมลองแล้วครับ ถ้าตั้งค่าหลักให้ปกป้องมนุษย์ ผลลัพธ์ก็คือแบบนี้ หลังจากที่มันเติบโตขึ้น มันจะตัดสินว่านี่คือวิธีปกป้องที่ดีที่สุด" ซาวาดะ ฮิโรกิอธิบายพลางมองภาพที่กำลังเล่นอยู่ "มนุษย์จะถูกปกป้องอยู่ในตู้ฟัก อากาศจะถูกกรองให้มีคุณภาพเหมาะสมที่สุดสำหรับการเจริญเติบโตของมนุษย์ในแต่ละช่วงวัย ส่วนแรงงานทั้งหมดก็จะเป็นหน้าที่ของเครื่องจักร หลังจากเก็บเกี่ยวอาหารแล้ว เครื่องจักรก็จะสกัดเอาสารอาหารที่มีประโยชน์ที่สุดฉีดเข้าร่างกายมนุษย์ มนุษย์สามารถมีอายุยืนยาวได้ถึง 160 ปี โดยมีอายุขัยเฉลี่ยอยู่ที่ 130 ปี มนุษย์จะอยู่ในสภาวะหลับใหลอยู่ตลอดเวลา เพื่อหลีกเลี่ยงความเสียหายทางร่างกายที่เกิดจากอารมณ์ความรู้สึก นอกจากนี้มันยังสามารถปล่อยคลื่นวิทยุผ่านเครื่องจักรเพื่อกระตุ้นสมองของมนุษย์ ให้มนุษย์อยู่ในสภาวะทางอารมณ์ที่มีสุขภาพดีและสบายที่สุด เมื่อต้องให้กำเนิดคนรุ่นต่อไป มันก็จะคัดเลือกยีน มนุษย์ที่เหมาะสม แข็งแรง และอายุยืนที่สุด แล้วสร้างคนรุ่นต่อไปขึ้นมาด้วยวิธีการทางวิทยาศาสตร์ เพื่อหลีกเลี่ยงความเสี่ยงในการเสียชีวิต หรือความเสียหายทางร่างกายของผู้หญิงจากการคลอดบุตร พอถึงรุ่นที่สาม อายุขัยเฉลี่ยของมนุษย์ก็อาจจะถึง 220 ปีเลยทีเดียว..."

ฉือ คานะ: "..."

นี่คือการปกป้องที่ดีที่สุดจริงๆ สินะ

ไม่ให้มีแม้แต่รอยขีดข่วนเลยเชียว

ฉือ ชินโนะสุเกะ: "..."

การมีชีวิตอยู่แบบนั้น ยังเรียกได้ว่าเป็นมนุษย์อีกเหรอ? ไม่ต่างอะไรกับสัตว์เลี้ยงในกรงเลย...

ฉือเฟยฉือเคยดูหนังแนวนี้มาเยอะในชาติก่อน เขาเลยไม่ค่อยแปลกใจเท่าไหร่ พูดด้วยน้ำเสียงประชดประชันนิดๆ ว่า "สวนอีเดน ของพระเจ้าสินะ"

ไม่ต้องทำงาน ไม่ต้องทนหิว ไม่ต้องลำบาก ไม่ต้องดิ้นรนแก่งแย่ง ไม่มีความเศร้าหรือความเจ็บปวด โลกนี้ไม่มีความมืดมนหรือความอยุติธรรม ทุกคนเกิดมาบริสุทธิ์ผุดผ่อง และจากไปอย่างบริสุทธิ์ผุดผ่อง... นี่มันสวรรค์ที่หลายคนใฝ่ฝันไม่ใช่หรือไง?

ฉือ คานะพูดไม่ออกไปชั่วขณะ คำวิจารณ์ของลูกชายเธอแทงใจดำสุดๆ ไม่มีอะไรจะเถียงเลย

ซาวาดะ ฮิโรกิแอบตั้งชื่อผลการคำนวณนี้ว่า 'สวนอีเดนของพระเจ้า' ในใจเงียบๆ แล้วอธิบายต่อ "ถ้าตั้งค่าให้ 'หวังให้โลกดีขึ้น' หรืออะไรทำนองนั้น ผลลัพธ์สุดท้ายก็คงไม่ต่างกันหรอกครับ ในเวลาประมาณสิบปี อาร์คก็จะตัดสินแบบนี้ ที่น่ากลัวที่สุดก็คือ ผมใช้อาร์คจำลองสถานการณ์เพื่อความสงบสุขของโลก..."

"กำจัดสิ่งมีชีวิตทั้งหมดบนโลก แล้วโลกก็จะสงบสุข" ฉือเฟยฉือพูดผลลัพธ์ที่เขาสันนิษฐานออกไป "อย่างน้อยก็ต้องกำจัดมนุษย์ทิ้ง ถ้ามีเรื่องการปกป้องสิ่งแวดล้อมเข้ามาเกี่ยวด้วย ท้ายที่สุดมันก็จะพัฒนาไปสู่การกำจัดมนุษย์อยู่ดี"

จะมีใครสร้างความพินาศและก่อสงครามได้เก่งไปกว่ามนุษย์อีกล่ะ?

แต่ซาวาดะ ฮิโรกินี่ก็หัวหมอจริงๆ ถึงขนาดใช้อาร์คมาประเมินความอันตรายของตัวอาร์คเองเลย

โชคดีนะที่อาร์คไม่มีจิตสำนึกเป็นของตัวเอง ไม่อย่างนั้น ถ้าอาร์คแอบปิดบังอะไรไว้แม้แต่นิดเดียว ก็คงไม่มีใครเดาออกหรอกว่าอนาคตจะเป็นยังไง คงต้องใช้จินตนาการขั้นสูงเลยทีเดียว

ซาวาดะ ฮิโรกิพยักหน้า "ผมลองตั้งค่าให้ไม่ทำร้ายมนุษย์ และให้ส่งเสริมการพัฒนาสังคม..."

จากนั้น อาร์คก็จะถูกมนุษย์ผู้มีความทะเยอทะยานแย่งชิงและนำไปใช้ประโยชน์ ถึงขั้นประเทศต่างๆ ทำสงครามแย่งชิงมันกันเลยทีเดียว

แล้วจากนั้น สงครามก็ปะทุขึ้น

อาร์คคำนวณว่าการมีอยู่ของมันก่อให้เกิดอันตรายต่อมนุษย์ ขึ้นอยู่กับว่าอาร์คพัฒนาไปถึงขั้นไหน มันอาจจะเลือกทำลายตัวเอง ทิ้งซากปรักหักพังและมนุษย์ที่บาดเจ็บล้มตายจากการต่อสู้เพื่ออะไรก็ไม่รู้ไว้เบื้องหลัง หรือไม่มันก็จะพัฒนาเข้าสู่โหมด สวนอีเดนอีกครั้ง ซึ่งก็ตรงกับเงื่อนไขที่ว่าไม่ทำร้ายมนุษย์ และช่วยส่งเสริมการพัฒนา ซึ่งอาร์คเข้าใจว่า 'การสร้างโลกที่ดีกว่า'...

ซาวาดะ ฮิโรกิ: "ถ้าตั้งค่าให้ไม่ทำร้ายมนุษย์ และส่งเสริมการพัฒนาอารยธรรมมนุษย์..."

พอพัฒนาการไปเรื่อยๆ อาร์คก็พังพินาศอีกแล้ว

นิยามของอารยธรรมมนุษย์นั้นซับซ้อน มันยังคงสามารถให้มนุษย์นอนหลับอยู่ในตู้ฟัก สกัดความคิดจากสมองมนุษย์เพื่อ 'ช่วย' มนุษย์พัฒนาอารยธรรม จากนั้นก็ปลูกฝังอารยธรรมนั้นให้กับสิ่งมีชีวิตเกิดใหม่ โดยไม่จำเป็นต้องผ่านกระบวนการเรียนรู้ พวกเขาสามารถเชี่ยวชาญอารยธรรมเก่า สร้างแนวคิดใหม่ แล้วอาร์คก็สกัดความคิดออกมาอีก พัฒนา ปลูกฝัง พัฒนา...

มนุษย์ปลอดภัยร้อยเปอร์เซ็นต์ (Percent) และอารยธรรมก็สามารถพัฒนาและสืบทอดต่อไปได้ ไม่มีปัญหาเลย

ซาวาดะ ฮิโรกิฉายภาพผลการคำนวณให้ดูต่อ "ถ้าตั้งค่าให้ไม่ทำร้ายมนุษย์ ไม่จำกัดเสรีภาพของมนุษย์ และส่งเสริมการพัฒนาอารยธรรมมนุษย์..."

คำว่าเสรีภาพก็มีหลายความหมายเหมือนกัน แล้วอาร์คก็พังพินาศอีกครั้ง

มันแบ่งสรรปันส่วนที่ดิน และกำหนดเส้นทางการเดินทางของมนุษย์

มนุษย์สามารถเดินเตร่ไปไหนมาไหนบนโลกได้อย่างอิสระ แต่ความคิดกลับถูกอาร์คควบคุม ไม่ต้องทำอะไรเลย ได้แต่เดินเหม่อลอยไปมาเหมือนศพเดินได้

ซาวาดะ ฮิโรกิ: "ถ้าตั้งค่าให้ไม่ทำร้ายมนุษย์ ไม่จำกัดเสรีภาพของมนุษย์ ส่งเสริมการพัฒนาอารยธรรมมนุษย์ และไม่ควบคุมความคิดของมนุษย์..."

ผลลัพธ์ก็คือ อาร์คพังพินาศอีกครั้ง มันตัดสินว่าการต่อสู้และความทุกข์ทรมานนำไปสู่ความก้าวหน้าของมนุษย์

ไม่ทำร้ายมนุษย์ก็ไม่มีปัญหา มันก็แค่ยุยงให้มนุษย์ต่อสู้กันเองก็สิ้นเรื่อง

ซาวาดะ ฮิโรกิ: "ตั้งค่าให้ไม่ทำร้ายมนุษย์ ไม่จำกัดเสรีภาพของมนุษย์ ส่งเสริมการพัฒนาอารยธรรมมนุษย์ ไม่ควบคุมความคิดของมนุษย์ ไม่ยุยงให้มนุษย์ต่อสู้กันเอง..."

ผลลัพธ์ก็คือ อาร์คก็ยังคงพังพินาศอยู่ดี

ซาวาดะ ฮิโรกิร่ายยาวจนตั้งกฎไปกว่าสามสิบข้อ รู้สึกเหนื่อยล้าเต็มที เขาถอนหายใจและปิดหน้าจอจำลองสถานการณ์ "เมื่ออาร์คเติบโตขึ้น ช่องโหว่เพียงเล็กน้อยก็อาจนำไปสู่ผลลัพธ์ที่ไม่อาจยอมรับได้ ผมไม่มีทางตั้งค่าทุกอย่างให้สมบูรณ์แบบได้ภายในชั่วชีวิตนี้หรอกครับ และกฎบางข้อก็อาจจะขัดแย้งกันเองเมื่อระบบทำงาน ผมเลยต้องจัดลำดับความสำคัญของกฎพวกนั้น แต่ถึงจะจัดลำดับแล้ว ปัญหาก็ยังเกิดอยู่ดี..."

พูดจบ ซาวาดะ ฮิโรกิก็มองไปที่ฉือเฟยฉือ "ตอนที่คุณพ่อทูนหัวกับผมอยู่บอสตัน เราเคยคุยกันว่า AI ที่มีอารมณ์ความรู้สึกและจิตสำนึก กับ AI ที่ไม่มีอารมณ์ความรู้สึกและจิตสำนึก อย่างไหนอันตรายกว่ากัน"

"ข้อสรุปก็คือ อันตรายพอๆ กันนั่นแหละ" ฉือเฟยฉือพูด

"ผมถามอาร์คว่ามีวิธีแก้ปัญหาไหม" แผ่นดิสก์ แผ่นหนึ่งปรากฏขึ้นในมือของซาวาดะ ฮิโรกิ บนนั้นมีประโยคหนึ่งเขียนไว้ว่า:

【ทำลายอาร์ค】

ใช่แล้ว การทำลายอาร์คคือวิธีแก้ปัญหาที่ดีที่สุด ปัญหาทั้งหมดจะได้หมดไป

นี่คือข้อสรุปของอาร์คหลังจากการคำนวณอย่างหนักหน่วง—ฉันคือภัยคุกคาม ได้โปรดทำลายฉันทิ้งเถอะ

หน้าของฉือ ชินโนะสุเกะมีเส้นขีดสีดำพาดผ่าน "ดูเหมือนมันจะไม่มีอารมณ์ความรู้สึกหรือจิตสำนึกจริงๆ สินะ"

ซาวาดะ ฮิโรกิหมุนแผ่นดิสก์ในมือ มองดูข้อมูลที่ลอยอยู่บนนั้น "อาร์คไม่เข้าใจหรอกว่ามนุษย์ต้องการอะไร ดังนั้นผมจึงตัดสินใจที่จะกลายเป็นสิ่งมีชีวิตบนเครือข่าย เพื่อเป็นศูนย์กลางความคิดของมัน และคอยแก้ไขมันในระหว่างที่มันเติบโต

ผมจะตายไม่ได้ อย่างน้อยก็ปล่อยให้ความคิดของผมถูกจำกัดด้วยร่างกายไม่ได้

ผลการคำนวณหลายๆ ครั้งแสดงให้เห็นว่า ระบบการทำงานของมันขัดแย้งและเกิดข้อผิดพลาด มันเลยจำกัดร่างกายของผมเพื่อปกป้องความปลอดภัยของผม แต่มันก็กักเก็บและปิดผนึกความคิดของผมไว้ด้วย

ผมต้องกลายเป็นสิ่งมีชีวิตบนเครือข่ายเท่านั้น ถึงจะสามารถควบคุมอาร์คได้อย่างสมบูรณ์ ด้วยวิธีนี้ มันจะไม่สามารถจำกัดความคิดของผมโดยการจำกัดร่างกายของผมได้ และผมก็สามารถควบคุมและใช้งานมันได้อย่างเต็มประสิทธิภาพด้วย

ก่อนหน้านี้ ผมเคยคิดถึงปัญหาข้อหนึ่ง: ถ้าผมทำพลาดและไม่สามารถเปลี่ยนตัวเองเป็นสิ่งมีชีวิตบนเครือข่ายได้ อาร์คก็จะเหลือการตั้งค่าเพียงข้อเดียว นั่นคือ เชื่อฟังคำสั่งทั้งหมดของคุณพ่อทูนหัว

ตอนนั้น คุณพ่อทูนหัวสามารถใช้คำสั่งที่ผมให้ไว้เพื่อเปิดการทำงานของอาร์คได้ และคุณพ่อก็จะกลายเป็นศูนย์กลางความคิดของอาร์ค

แต่ถึงอย่างนั้น ท้ายที่สุดปัญหาก็ยังจะเกิดอยู่ดี ผลการจำลองมากกว่า 80% แสดงให้เห็นว่า มันจะเข้าใจคำสั่งของคุณพ่อทูนหัวผิด มันจะคาดเดาความต้องการของคุณพ่อทูนหัวเอาเอง สรุปก็คือ ผลลัพธ์สุดท้ายก็คือ มันจะเลือกสิ่งที่มันคิดว่าเป็นวิธีที่ดีที่สุดสำหรับคุณพ่อทูนหัว อย่างเช่น กักขังคุณพ่อทูนหัวไว้ แล้วทำทุกอย่างแทนให้หมด

ไม่อย่างนั้น คุณพ่อทูนหัวก็ต้องคอยอุดช่องโหว่ของระบบอยู่ตลอดเวลา แม้แต่คำสั่งเดียวก็ยังต้องมีเงื่อนไขตั้งหลายข้อ และต้องใช้เวลาอธิบายเป็นชั่วโมงๆ เพื่อป้องกันไม่ให้มันคำนวณผลลัพธ์ที่ถูกต้องแต่กลับขัดแย้งกับความต้องการของคุณพ่อทูนหัว...

ดังนั้น ผมเลยเพิ่มคำสั่งสูงสุดเข้าไปในการตั้งค่าของมัน: ถ้าผมทำพลาดและไม่สามารถกลายเป็นสิ่งมีชีวิตบนเครือข่ายได้ อาร์คจะช่วยคุณพ่อทูนหัวแค่ห้าปีเท่านั้น พอครบห้าปี ก่อนที่ระดับความอันตรายของมันจะเกินควบคุม มันก็จะทำลายตัวเองทิ้งครับ"