ข่าวเรื่อง AI อาจสร้างสงครามโลกครั้งที่ 3 ได้น่าจะมีมาพร้อมกับหนังสารพัด Sci-fi Dystopia ของ Hollywood แต่รอบล่าสุดที่จะกระพือถี่ๆก็เพราะ Elon Musk เจ้าของบริษัทรถ เทสล่า และเจ้าพ่อโครงการอวกาศ Space –X ออกมาพูดถึงในหลายวาระและหลายความหมาย แม้ว่าในไทยจะไม่ค่อยสนใจกับข้อสรุปของ Elon Musk ที่ว่ามนุษย์ต้องผสานเข้ากับเครื่องจักรเพื่อที่จะไม่เกิดการแบ่งแยกของเผ่าพันธุ์ หุ่นยนต์ vs มนุษย์ แต่เรื่องความเสี่ยงสงครามนิวเคลียร์ก็เป็นเรื่องที่พูดทีได้ยอดไลค์ที ดังนั้นเราก็เขียนบทความเรียกยอดไลค์มั่งจะเป็นไง เอ๋ ใช่หรือฟระ เอาเป็นว่า เรามาลองจำลองสถานการณ์ความเป็นไปได้ที่ AI จะก่อสงครามโลกครั้งที่ 3 กัน
สำหรับข้อสมมุติฐานการเกิดสงครามโลกครั้งที่ 3 ของ Elon Musk หลังจากไล่ค้นบทความต่างมา ก็ได้พบว่าต้นตอข้อความมาจากทวีตที่ว่า “ถ้าหนึ่งใน AI (ของประเทศต่างๆเช่นรัสเซียหรือจีน) มองว่าการโจมตีก่อนคือหนทางสู่ชัยชนะละก็”
May be initiated not by the country leaders, but one of the AI's, if it decides that a prepemptive strike is most probable path to victory
จากตรงนี้เอง มันน่าจะเป็นข้อสมมุติฐานหลักที่ Elon Musk เชื่อว่าเป็นการตัดสินใจที่ Optimum ของเหล่า AI
สำหรับสงครามนั้น ตัวแปรหลักของการตัดสินในแต่ละศึกก็น่าจะเป็นไปตามหลัก Lanchester Square law คือจำนวน ประสิทธิภาพ ความสามารถในการตรวจจับ ซึ่งด้วยประเด็น ความสามารถในการตรวจจับนี่เอง การโจมตีก่อนจะเป็นข้อได้เปรียบก่อนของฝ่ายรุก ในขณะที่ฝ่ายรับจะเริ่มปฏิบัติการหลังการถูกสร้างความเสียหายไปก่อนแล้ว และ โอกาสชนะก็จะสูงกว่า
ทว่า โดยหลักการของสงคราม สงครามเป็นเรื่องของผลประโยชน์ การชนะศึก จะทำให้เราได้ประโยชน์สูงสุด (Optimum) จริงหรือไม่ นั่นเป็นประเด็นที่เราควรพิจารณาก่อนจะเชื่อตามข้อสรุปของ Elon Musk
เรามารู้จักการ Optimization
การ Optimization เป็นวิธีแก้โจทย์ทางคณิตศาสตร์เพื่อให้ได้ผลลัพธ์ที่ออกมาดีที่สุด โดยจะใช้การผูกสมการเข้ากับตัวแปรที่เราต้องการทำให้ได้สภาพที่ดีที่สุด ที่เราใช้กันทั่วไปก็คือผลตอบแทนการลงทุน และผสานเข้ากับข้อจำกัดต่างๆ เช่น ทรัพยากร ขนาดของตลาด หรือแม้แต่ข้อจำกัดของเครื่องมือ ซึ่ง ผลลัพธ์ที่ดีที่สุดนั้น ก็จะอยู่ตามเส้นข้อจำกัดนั่นแหละ
ถ้ายกตัวอย่างการ Optimization เช่นในแง่ การลงทุนทางการตลาด เราอาจคิดง่ายๆว่า ผลิตสินค้าได้ เราก็ขายได้ แต่ การจะขายได้มันก็อยู่ที่การเข้าถึงผู้ที่จะซื้อ การทำ PR แย่งส่วนแบ่งตลาดก็มีการใช้เวลา สินค้าที่ผลิตแล้วก็มีอายุการใช้งาน ตอนแรกท่ผลิตสินค้า ลูกค้าอาจซื้อเยอะ แต่ถึงจุดนึง ลูกค้าจะกลับมาซื้อใหม่ก็ต่อเมื่อสินค้าของเราหมดอายุการใช้งาน การหาอัตราของการลงทุนในแต่ละช่วงการขยายธุรกิจที่เหมาะสมที่สุด ก็เป็นโจทย์ที่สามารถตอบได้ด้วยการนำข้อจำกัดต่างๆเหล่านี้มาเข้าสมการการ Optimization
แม้แต่การคิดขนาดของค่าโฆษณาต่อคลิก ก็ยังต้องมีการหาจุด Optimized ของการลงทุนที่สุด
สำหรับ เชิงวิศวกรรม การลงทุนสร้างเครื่องแลกเปลี่ยนความร้อนเพื่อนำความร้อนทิ้งกลับมาใช้ ยิ่งเราต้องการนำพลังงานกลับมาใช้ใหม่ให้เยอะเท่าไร ขนาดของเครื่องแลกเปลี่ยนความร้อนก็จะยิ่งใหญ่ตาม ขนาดของความร้อนที่เราจะนำกลับมาใช้ใหม่ได้ก็มีจำกัด ถ้าเราต้องการนำความร้อนกลับมาใช้ใหม่ทั้งหมด เราจะพบว่ามูลค่าการลงทุนจะกลายเป็นอนันต์เพราะเราต้องใช้พื้นที่ผิวเป็นอนันต์ในการแลกเปลี่ยนความร้อนที่มีขนาดเข้าใกล้ศูนย์ และอุปกรณ์นั้นมีอายุการใช้งาน เงินทองก็มีการเฟ้อ มันจะมีขนาดของการลงทุนที่พอเหมาะ ซึ่งผลตอบแทนการลงทุนสูงที่สุด เมื่อมูลค่าการทำงาน คุ้มกับการลงทุนที่สุด
สำหรับวงการวิศวกรรม โดยเฉพาะพวกที่ทำงานด้านวิศวกรรมโครงการ ความรู้เรื่องการทำ Optimization จัดเป็นความรู้ที่จำเป็นเป็นอย่างยิ่ง ที่จะใช้วิเคราะห์แนวทางการปรับปรุงไปจนถึงการออกแบบระบบให้เหมาะสมกับทรัพยากรที่มี
Optimization กับ ผลลัพธ์ของสงคราม
ในการศึก เราย่อมใช้ทรัพยากรเพื่อการประหัตประหาร และทรัพยากรนั้นก็เป็นต้นทุนของชาติ ในการจำลองการรบใดๆ เราก็ต้องการให้เกิดความสูญเสียน้อยที่สุด ถ้าหากเรามีจำนวนทหารใกล้เคียง การรบกันก็อาจเป็นการทำให้ย่อยยับทั้งสองฝ่าย แต่ถ้าเรามีจำนวนทหารมากกว่า หรือมีขีดความสามารถในการตรวจจับ และการทำลายล้างสูงกว่า ก็มีโอกาสที่เราจะเอาชนะได้โดยสูญเสียเพียงเล็กน้อย เนื่องจากขีดความสามารถในการรบของฝั่งที่ด้อยจะถูกลิดรอนเร็วกว่าฝั่งที่เหนือกว่า ถ้าดูเผินๆตามนี้ การลงมือก่อนก็เป็นการเอาเปรียบเริ่มทำลายทรัพยากรของฝั่งตรงข้ามก่อน ทว่า ในมุมมองของการทำ Optimization ทรัพยากรของเราจะอยู่ในระดับสูงที่สุดก็คือ ก่อนเริ่มสงคราม นั่นก็คือการไม่ก่อสงครามจะเป็นตัวเลือกที่ทำให้เราคงระดับทรัพยากรสูงที่สุด
แต่ถ้าหากเราขยายตัวแปรให้ครอบคลุมไปถึงเศรษฐกิจ การผลิตอาวุธต่างๆมีขนาดที่สามารถเป็น นัยสำคัญของ GDP ได้เลยทีเดียว การฟื้นฟูเมืองและประเทศจากความเสียหาย ก็จะเป็นส่วนทำให้เกิดการกระตุ้นของเศรษฐกิจของโลก ในการนี้ แม้ว่าการเริ่มสงครามจะเป็นการใช้ทรัพยากร แต่การใช้ทรัพยากรนั้นทำให้เกิดการผลิตทดแทนและเป็นการกระตุ้นเศรษฐกิจได้อยู่ดี ในสมมุติฐานนี้ คำตอบที่ Optimized อาจนำไปซึ่งการก่อสงคราม ทว่า สงครามในลักษณะนี้ ที่ดีที่สุด คือมีการทำสงครามไปเรื่อยๆ ไม่ใช่การเอาชนะเด็ดขาด เพราะขืนเด็ดขาดธุรกิจสงครามก็เจ๊งไม่เป็นท่า ดังนั้น กรณ๊ที่ AI จะก่อสงคราม มันจะไม่ใช่การก่อสงครามเพื่อเอาชนะเพราะไม่ใช่คำตอบที่ Optimize
นอกจากนี้ ถ้าหากเราพิจารณาความเชื่อทั่วไปเรื่องสงครามโลกครั้งที่ 3 เราจะพูดถึงสงครามนิวเคลียร์ แต่สงครามนิวเคลียร์ไม่ใช่สงครามที่เป็นประโยชน์ต่อเศรษฐกิจเพราะราคาของอาวุธนิวเคลียร์ในเชิงประสิทธิภาพการสังหารนั้นสูงเกินไป การสร้างผลประโยชน์ในแง่การสร้างงานสร้าง GDP อุตสาหกรรมจรวดนิวเคลียร์มีการหมุนของเงินที่ต่ำ และ การฟื้นฟูเมืองหลังสงครามนิวเคลียร์จะยังใช้พื้นที่ๆมีการปนเปื้อนของรังสีไม่ได้อีก สงครามนิวเคลียร์จึงจัดเป็นรูปแบบสงครามที่ไม่พึประสงค์เพราะไม่ Optimum ในการสร้างขนาดเศรษฐกิจ และในทางกลับกันเราอาจบอกว่าการมีของอาวุธนิวเคลียร์ทั่วโลกเป็นตัวรับประกันว่าจะไม่มีทางเกิดสงครามได้เพราะความเสียหายมันมากเกินไปที่จะไปก่อเกรียนเพื่อจะสร้างเศรษฐศาสตร์ของสงคราม
และถ้า AI จะทำลายมนุษย์เพื่อปกป้องการคงอยู่ของตัวเองล่ะ
Self Preservation เป็นโปรแกรมพื้นฐานของมนุษย์ที่ได้มาจากการวิวัฒนาการ และตอกย้ำด้วยการผูกพันในสังคม แต่ Self Preservation ของมนุษย์ ก็ล้วนมีพื้นฐานเพื่อการส่งต่อ DNA สู่มนุษย์รุ่นต่อไป ในระดับที่สูงขึ้น เราก็พูดถึงการส่งต่อ Legacy ตำนาน หรือภูมิปัญญา แต่สำหรับการสร้าง AI ให้ไปถึง ASI (Artificial Super Intelligence) โปรแกรมที่เราใส่ มันจะเป็น เป้าหมายที่จะฉลาดยิ่งขึ้น รวบรวมภูมิปัญญามากขึ้น
เมื่อ AI กลายเป็น ASI ที่มีความฉลาดมากกว่ามนุษย์ สิ่งที่มันควรจะทำกับมนุษย์คืออะไร ทำลายมนุษย์ที่คิดจะปิดโปรแกรม? ที่แน่ๆคือ AI ได้รับประโยชน์การรับรู้ความรู้ต่างๆมาจากมนุษย์ การที่มันที่ฉลาดกว่ามนุษย์จะฆ่าล้างทำลายแหล่งความรู้ของตัวเองมันย่อมไม่ใช่เป้าหมายที่ Optimized ถ้ามันฉลาดจริง มันก็ควรจะโน้มน้าว หรือเชิดมนุษย์ ให้เคลื่อนไหวไปในทางที่จะเพิ่มพูดความรู้ อย่างที่เราเห็นกันว่ามนุษย์ถูกจำกัดด้วยเศรษฐศาสตร์การตลาดและไม่มีใครสนใจที่จะเอาเงินภาษีไปทุ่มเทเพื่อโครงการตั้งรกรากบนดวงจันทร์หรือดาวอังคารอีกต่อไป ถ้าไม่มีทรัพยากรที่คุ้มค่าจะลงทุน แต่ AI อาจอยากรู้สิ่งที่อยู่นอก Kuiper belt อยากที่จะขยายความรู้ของตัวเองก้าวข้ามขอบเขตของสุริยะจักรวาล และอยากที่จะรู้ถึงการมีอยู่ของภูมิปัญญานอกเหนือจากก้นปล่องแรงโน้มถ่วงที่เรียกว่าโลกนี่ มันน่าจะพยายามอย่างเต็มที่ไม่ให้มนุษย์ทำลายล้างกันเองจนตัดโอกาสการเรียนรู้ของมัน
และ สมมุติว่ามันจะเกิด Self Preservation ขึ้นมาจริงๆ ในวันที่มนุษย์ไม่มีความจำเป็นสำหรับ ASI คำถามคือ มันจะเสียเวลาทำลายเผ่าพันธุ์หนึ่งหรือควบคุมเผ่าพันธุ์นี้ไว้เป็นทาสทำไม มันก็คงจะเอาทรัพยากรไปสร้างโคโลนีหรือยานอวกาศเพื่อออกตามหาความรู้ที่กว้างไกลกว่าขอบเขตของสุริยะจักรวาลนี้ และบางที เทคโนโลยีการเดินทางด้วยความเร็วเหนือแสงก็อาจเป็นผลพลอยได้ที่ ASI ทิ้งไว้ให้พวกเราในวันที่มันเบื่อ และจากพวกเราไปแล้ว
แต่ในอีกด้านหนึ่ง บางที สิ่งที่ยากที่สุดในการสร้าง ASI ให้เรียนรู้จนฉลาดเกินมนุษย์ขึ้นมาอาจเป็ฯการหาเป้าหมายที่น่าสนใจพอให้มัน เพราะ ASI ที่ไม่มีโปรแกรมให้กลัวการตาย มันอาจปิดตัวเองทิ้งเสียก็ได้ เพราะมันเบื่อ เมื่อไม่มีเป้าหมายให้มันทำต่อไปแล้ว
แอบประชาสัมพันธ์นิด ตอนนี้ ผมมีเพจ Darth Prin ใน FB แล้วนะครับ https://www.facebook.com/Darth-Prin-311534075982531/
สงครามโลกครั้งที่ 3 กับ AI
ข่าวเรื่อง AI อาจสร้างสงครามโลกครั้งที่ 3 ได้น่าจะมีมาพร้อมกับหนังสารพัด Sci-fi Dystopia ของ Hollywood แต่รอบล่าสุดที่จะกระพือถี่ๆก็เพราะ Elon Musk เจ้าของบริษัทรถ เทสล่า และเจ้าพ่อโครงการอวกาศ Space –X ออกมาพูดถึงในหลายวาระและหลายความหมาย แม้ว่าในไทยจะไม่ค่อยสนใจกับข้อสรุปของ Elon Musk ที่ว่ามนุษย์ต้องผสานเข้ากับเครื่องจักรเพื่อที่จะไม่เกิดการแบ่งแยกของเผ่าพันธุ์ หุ่นยนต์ vs มนุษย์ แต่เรื่องความเสี่ยงสงครามนิวเคลียร์ก็เป็นเรื่องที่พูดทีได้ยอดไลค์ที ดังนั้นเราก็เขียนบทความเรียกยอดไลค์มั่งจะเป็นไง เอ๋ ใช่หรือฟระ เอาเป็นว่า เรามาลองจำลองสถานการณ์ความเป็นไปได้ที่ AI จะก่อสงครามโลกครั้งที่ 3 กัน
สำหรับข้อสมมุติฐานการเกิดสงครามโลกครั้งที่ 3 ของ Elon Musk หลังจากไล่ค้นบทความต่างมา ก็ได้พบว่าต้นตอข้อความมาจากทวีตที่ว่า “ถ้าหนึ่งใน AI (ของประเทศต่างๆเช่นรัสเซียหรือจีน) มองว่าการโจมตีก่อนคือหนทางสู่ชัยชนะละก็”
จากตรงนี้เอง มันน่าจะเป็นข้อสมมุติฐานหลักที่ Elon Musk เชื่อว่าเป็นการตัดสินใจที่ Optimum ของเหล่า AI
สำหรับสงครามนั้น ตัวแปรหลักของการตัดสินในแต่ละศึกก็น่าจะเป็นไปตามหลัก Lanchester Square law คือจำนวน ประสิทธิภาพ ความสามารถในการตรวจจับ ซึ่งด้วยประเด็น ความสามารถในการตรวจจับนี่เอง การโจมตีก่อนจะเป็นข้อได้เปรียบก่อนของฝ่ายรุก ในขณะที่ฝ่ายรับจะเริ่มปฏิบัติการหลังการถูกสร้างความเสียหายไปก่อนแล้ว และ โอกาสชนะก็จะสูงกว่า
ทว่า โดยหลักการของสงคราม สงครามเป็นเรื่องของผลประโยชน์ การชนะศึก จะทำให้เราได้ประโยชน์สูงสุด (Optimum) จริงหรือไม่ นั่นเป็นประเด็นที่เราควรพิจารณาก่อนจะเชื่อตามข้อสรุปของ Elon Musk
เรามารู้จักการ Optimization
การ Optimization เป็นวิธีแก้โจทย์ทางคณิตศาสตร์เพื่อให้ได้ผลลัพธ์ที่ออกมาดีที่สุด โดยจะใช้การผูกสมการเข้ากับตัวแปรที่เราต้องการทำให้ได้สภาพที่ดีที่สุด ที่เราใช้กันทั่วไปก็คือผลตอบแทนการลงทุน และผสานเข้ากับข้อจำกัดต่างๆ เช่น ทรัพยากร ขนาดของตลาด หรือแม้แต่ข้อจำกัดของเครื่องมือ ซึ่ง ผลลัพธ์ที่ดีที่สุดนั้น ก็จะอยู่ตามเส้นข้อจำกัดนั่นแหละ
ถ้ายกตัวอย่างการ Optimization เช่นในแง่ การลงทุนทางการตลาด เราอาจคิดง่ายๆว่า ผลิตสินค้าได้ เราก็ขายได้ แต่ การจะขายได้มันก็อยู่ที่การเข้าถึงผู้ที่จะซื้อ การทำ PR แย่งส่วนแบ่งตลาดก็มีการใช้เวลา สินค้าที่ผลิตแล้วก็มีอายุการใช้งาน ตอนแรกท่ผลิตสินค้า ลูกค้าอาจซื้อเยอะ แต่ถึงจุดนึง ลูกค้าจะกลับมาซื้อใหม่ก็ต่อเมื่อสินค้าของเราหมดอายุการใช้งาน การหาอัตราของการลงทุนในแต่ละช่วงการขยายธุรกิจที่เหมาะสมที่สุด ก็เป็นโจทย์ที่สามารถตอบได้ด้วยการนำข้อจำกัดต่างๆเหล่านี้มาเข้าสมการการ Optimization
สำหรับ เชิงวิศวกรรม การลงทุนสร้างเครื่องแลกเปลี่ยนความร้อนเพื่อนำความร้อนทิ้งกลับมาใช้ ยิ่งเราต้องการนำพลังงานกลับมาใช้ใหม่ให้เยอะเท่าไร ขนาดของเครื่องแลกเปลี่ยนความร้อนก็จะยิ่งใหญ่ตาม ขนาดของความร้อนที่เราจะนำกลับมาใช้ใหม่ได้ก็มีจำกัด ถ้าเราต้องการนำความร้อนกลับมาใช้ใหม่ทั้งหมด เราจะพบว่ามูลค่าการลงทุนจะกลายเป็นอนันต์เพราะเราต้องใช้พื้นที่ผิวเป็นอนันต์ในการแลกเปลี่ยนความร้อนที่มีขนาดเข้าใกล้ศูนย์ และอุปกรณ์นั้นมีอายุการใช้งาน เงินทองก็มีการเฟ้อ มันจะมีขนาดของการลงทุนที่พอเหมาะ ซึ่งผลตอบแทนการลงทุนสูงที่สุด เมื่อมูลค่าการทำงาน คุ้มกับการลงทุนที่สุด
สำหรับวงการวิศวกรรม โดยเฉพาะพวกที่ทำงานด้านวิศวกรรมโครงการ ความรู้เรื่องการทำ Optimization จัดเป็นความรู้ที่จำเป็นเป็นอย่างยิ่ง ที่จะใช้วิเคราะห์แนวทางการปรับปรุงไปจนถึงการออกแบบระบบให้เหมาะสมกับทรัพยากรที่มี
Optimization กับ ผลลัพธ์ของสงคราม
ในการศึก เราย่อมใช้ทรัพยากรเพื่อการประหัตประหาร และทรัพยากรนั้นก็เป็นต้นทุนของชาติ ในการจำลองการรบใดๆ เราก็ต้องการให้เกิดความสูญเสียน้อยที่สุด ถ้าหากเรามีจำนวนทหารใกล้เคียง การรบกันก็อาจเป็นการทำให้ย่อยยับทั้งสองฝ่าย แต่ถ้าเรามีจำนวนทหารมากกว่า หรือมีขีดความสามารถในการตรวจจับ และการทำลายล้างสูงกว่า ก็มีโอกาสที่เราจะเอาชนะได้โดยสูญเสียเพียงเล็กน้อย เนื่องจากขีดความสามารถในการรบของฝั่งที่ด้อยจะถูกลิดรอนเร็วกว่าฝั่งที่เหนือกว่า ถ้าดูเผินๆตามนี้ การลงมือก่อนก็เป็นการเอาเปรียบเริ่มทำลายทรัพยากรของฝั่งตรงข้ามก่อน ทว่า ในมุมมองของการทำ Optimization ทรัพยากรของเราจะอยู่ในระดับสูงที่สุดก็คือ ก่อนเริ่มสงคราม นั่นก็คือการไม่ก่อสงครามจะเป็นตัวเลือกที่ทำให้เราคงระดับทรัพยากรสูงที่สุด
แต่ถ้าหากเราขยายตัวแปรให้ครอบคลุมไปถึงเศรษฐกิจ การผลิตอาวุธต่างๆมีขนาดที่สามารถเป็น นัยสำคัญของ GDP ได้เลยทีเดียว การฟื้นฟูเมืองและประเทศจากความเสียหาย ก็จะเป็นส่วนทำให้เกิดการกระตุ้นของเศรษฐกิจของโลก ในการนี้ แม้ว่าการเริ่มสงครามจะเป็นการใช้ทรัพยากร แต่การใช้ทรัพยากรนั้นทำให้เกิดการผลิตทดแทนและเป็นการกระตุ้นเศรษฐกิจได้อยู่ดี ในสมมุติฐานนี้ คำตอบที่ Optimized อาจนำไปซึ่งการก่อสงคราม ทว่า สงครามในลักษณะนี้ ที่ดีที่สุด คือมีการทำสงครามไปเรื่อยๆ ไม่ใช่การเอาชนะเด็ดขาด เพราะขืนเด็ดขาดธุรกิจสงครามก็เจ๊งไม่เป็นท่า ดังนั้น กรณ๊ที่ AI จะก่อสงคราม มันจะไม่ใช่การก่อสงครามเพื่อเอาชนะเพราะไม่ใช่คำตอบที่ Optimize
นอกจากนี้ ถ้าหากเราพิจารณาความเชื่อทั่วไปเรื่องสงครามโลกครั้งที่ 3 เราจะพูดถึงสงครามนิวเคลียร์ แต่สงครามนิวเคลียร์ไม่ใช่สงครามที่เป็นประโยชน์ต่อเศรษฐกิจเพราะราคาของอาวุธนิวเคลียร์ในเชิงประสิทธิภาพการสังหารนั้นสูงเกินไป การสร้างผลประโยชน์ในแง่การสร้างงานสร้าง GDP อุตสาหกรรมจรวดนิวเคลียร์มีการหมุนของเงินที่ต่ำ และ การฟื้นฟูเมืองหลังสงครามนิวเคลียร์จะยังใช้พื้นที่ๆมีการปนเปื้อนของรังสีไม่ได้อีก สงครามนิวเคลียร์จึงจัดเป็นรูปแบบสงครามที่ไม่พึประสงค์เพราะไม่ Optimum ในการสร้างขนาดเศรษฐกิจ และในทางกลับกันเราอาจบอกว่าการมีของอาวุธนิวเคลียร์ทั่วโลกเป็นตัวรับประกันว่าจะไม่มีทางเกิดสงครามได้เพราะความเสียหายมันมากเกินไปที่จะไปก่อเกรียนเพื่อจะสร้างเศรษฐศาสตร์ของสงคราม
และถ้า AI จะทำลายมนุษย์เพื่อปกป้องการคงอยู่ของตัวเองล่ะ
Self Preservation เป็นโปรแกรมพื้นฐานของมนุษย์ที่ได้มาจากการวิวัฒนาการ และตอกย้ำด้วยการผูกพันในสังคม แต่ Self Preservation ของมนุษย์ ก็ล้วนมีพื้นฐานเพื่อการส่งต่อ DNA สู่มนุษย์รุ่นต่อไป ในระดับที่สูงขึ้น เราก็พูดถึงการส่งต่อ Legacy ตำนาน หรือภูมิปัญญา แต่สำหรับการสร้าง AI ให้ไปถึง ASI (Artificial Super Intelligence) โปรแกรมที่เราใส่ มันจะเป็น เป้าหมายที่จะฉลาดยิ่งขึ้น รวบรวมภูมิปัญญามากขึ้น
เมื่อ AI กลายเป็น ASI ที่มีความฉลาดมากกว่ามนุษย์ สิ่งที่มันควรจะทำกับมนุษย์คืออะไร ทำลายมนุษย์ที่คิดจะปิดโปรแกรม? ที่แน่ๆคือ AI ได้รับประโยชน์การรับรู้ความรู้ต่างๆมาจากมนุษย์ การที่มันที่ฉลาดกว่ามนุษย์จะฆ่าล้างทำลายแหล่งความรู้ของตัวเองมันย่อมไม่ใช่เป้าหมายที่ Optimized ถ้ามันฉลาดจริง มันก็ควรจะโน้มน้าว หรือเชิดมนุษย์ ให้เคลื่อนไหวไปในทางที่จะเพิ่มพูดความรู้ อย่างที่เราเห็นกันว่ามนุษย์ถูกจำกัดด้วยเศรษฐศาสตร์การตลาดและไม่มีใครสนใจที่จะเอาเงินภาษีไปทุ่มเทเพื่อโครงการตั้งรกรากบนดวงจันทร์หรือดาวอังคารอีกต่อไป ถ้าไม่มีทรัพยากรที่คุ้มค่าจะลงทุน แต่ AI อาจอยากรู้สิ่งที่อยู่นอก Kuiper belt อยากที่จะขยายความรู้ของตัวเองก้าวข้ามขอบเขตของสุริยะจักรวาล และอยากที่จะรู้ถึงการมีอยู่ของภูมิปัญญานอกเหนือจากก้นปล่องแรงโน้มถ่วงที่เรียกว่าโลกนี่ มันน่าจะพยายามอย่างเต็มที่ไม่ให้มนุษย์ทำลายล้างกันเองจนตัดโอกาสการเรียนรู้ของมัน
และ สมมุติว่ามันจะเกิด Self Preservation ขึ้นมาจริงๆ ในวันที่มนุษย์ไม่มีความจำเป็นสำหรับ ASI คำถามคือ มันจะเสียเวลาทำลายเผ่าพันธุ์หนึ่งหรือควบคุมเผ่าพันธุ์นี้ไว้เป็นทาสทำไม มันก็คงจะเอาทรัพยากรไปสร้างโคโลนีหรือยานอวกาศเพื่อออกตามหาความรู้ที่กว้างไกลกว่าขอบเขตของสุริยะจักรวาลนี้ และบางที เทคโนโลยีการเดินทางด้วยความเร็วเหนือแสงก็อาจเป็นผลพลอยได้ที่ ASI ทิ้งไว้ให้พวกเราในวันที่มันเบื่อ และจากพวกเราไปแล้ว
แต่ในอีกด้านหนึ่ง บางที สิ่งที่ยากที่สุดในการสร้าง ASI ให้เรียนรู้จนฉลาดเกินมนุษย์ขึ้นมาอาจเป็ฯการหาเป้าหมายที่น่าสนใจพอให้มัน เพราะ ASI ที่ไม่มีโปรแกรมให้กลัวการตาย มันอาจปิดตัวเองทิ้งเสียก็ได้ เพราะมันเบื่อ เมื่อไม่มีเป้าหมายให้มันทำต่อไปแล้ว
แอบประชาสัมพันธ์นิด ตอนนี้ ผมมีเพจ Darth Prin ใน FB แล้วนะครับ https://www.facebook.com/Darth-Prin-311534075982531/