เราจะสร้าง Superintelligence ประดิษฐ์ตัวแรกได้อย่างไร: อนาคตของปัญญาประดิษฐ์ P3

ลึกเข้าไปในสงครามโลกครั้งที่สอง กองกำลังนาซีกำลังเคลื่อนพลไปทั่วยุโรป พวกเขามีอาวุธขั้นสูง อุตสาหกรรมสงครามที่มีประสิทธิภาพ ทหารราบที่ขับเคลื่อนด้วยความคลั่งไคล้ แต่เหนือสิ่งอื่นใด พวกเขามีเครื่องจักรที่เรียกว่าอีนิกมา อุปกรณ์นี้อนุญาตให้กองกำลังนาซีทำงานร่วมกันได้อย่างปลอดภัยในระยะทางไกลโดยส่งข้อความรหัสมอร์สถึงกันผ่านสายสื่อสารมาตรฐาน มันเป็นเครื่องเข้ารหัสที่สามารถต้านทานรหัสมนุษย์ได้ 

โชคดีที่ฝ่ายสัมพันธมิตรพบวิธีแก้ปัญหา พวกเขาไม่ต้องการจิตใจของมนุษย์เพื่อทำลายปริศนาอีกต่อไป แทนที่จะผ่านการประดิษฐ์ของอลัน ทัวริง ฝ่ายสัมพันธมิตรได้สร้างเครื่องมือใหม่ที่เรียกว่า บริติช บอมบ์ซึ่งเป็นอุปกรณ์ไฟฟ้าที่ถอดรหัสลับของพวกนาซีได้ในที่สุด และช่วยให้พวกเขาชนะสงครามในท้ายที่สุด

Bombe นี้วางรากฐานสำหรับสิ่งที่กลายเป็นคอมพิวเตอร์สมัยใหม่

การทำงานร่วมกับทัวริงระหว่างโครงการพัฒนา Bombe คือ IJ Good นักคณิตศาสตร์และวิทยาการเข้ารหัสลับชาวอังกฤษ เขาเห็นตั้งแต่ต้นเกมจบว่าวันหนึ่งอุปกรณ์ใหม่นี้สามารถเกิดขึ้นได้ ใน กระดาษ 1965, เขาเขียน:

“ให้เครื่องจักรที่ฉลาดล้ำถูกกำหนดให้เป็นเครื่องจักรที่สามารถก้าวข้ามกิจกรรมทางปัญญาทั้งหมดของมนุษย์คนใดก็ตามที่ฉลาด เนื่องจากการออกแบบเครื่องจักรเป็นหนึ่งในกิจกรรมทางปัญญาเหล่านี้ เครื่องจักรที่ชาญฉลาดสามารถออกแบบเครื่องจักรได้ดียิ่งขึ้น จากนั้นจะมี "การระเบิดของสติปัญญา" อย่างไม่ต้องสงสัย และความฉลาดของมนุษย์จะถูกทิ้งไว้เบื้องหลัง... ดังนั้น เครื่องจักรที่ชาญฉลาดอย่างแรกเป็นสิ่งประดิษฐ์สุดท้ายที่มนุษย์ต้องสร้าง โดยที่เครื่องจักรนั้นเชื่องมากพอที่จะบอกเราได้ว่า เพื่อให้มันอยู่ภายใต้การควบคุม”

การสร้างสุดยอดปัญญาประดิษฐ์ครั้งแรก

จนถึงตอนนี้ในซีรี่ส์ Future of Artificial Intelligence เราได้กำหนดหมวดหมู่กว้างๆ ของปัญญาประดิษฐ์ (AI) จาก ปัญญาประดิษฐ์แคบ (ANI) ถึง ปัญญาประดิษฐ์ทั่วไป (AGI) แต่ในบทของซีรีส์นี้ เราจะเน้นที่หมวดหมู่สุดท้าย—ประเภทที่ก่อให้เกิดความตื่นเต้นหรือการโจมตีเสียขวัญในหมู่นักวิจัย AI—ปัญญาประดิษฐ์ขั้นสูง (ASI)

ในการสรุปว่า ASI คืออะไร คุณจะต้องคิดย้อนกลับไปถึงบทสุดท้ายที่เราสรุปว่านักวิจัย AI เชื่อว่าพวกเขาจะสร้าง AGI แรกได้อย่างไร โดยพื้นฐานแล้วจะใช้การผสมผสานของข้อมูลขนาดใหญ่ที่ป้อนอัลกอริธึมที่ดีกว่า (อัลกอริธึมที่เชี่ยวชาญด้านการพัฒนาตนเองและความสามารถในการเรียนรู้เหมือนมนุษย์) ที่อยู่ในฮาร์ดแวร์คอมพิวเตอร์ที่ทรงพลังยิ่งขึ้น

ในบทนั้น เรายังสรุปด้วยว่าจิตใจของ AGI (เมื่อได้รับการพัฒนาตนเองและความสามารถในการเรียนรู้ที่มนุษย์เรามองข้ามไป) จะมีประสิทธิภาพเหนือกว่าจิตใจของมนุษย์ในที่สุดด้วยความเร็วของความคิดที่เหนือกว่า หน่วยความจำที่เพิ่มขึ้น ประสิทธิภาพการทำงานที่ไม่เหน็ดเหนื่อย และ อัพเกรดได้ทันที

แต่สิ่งสำคัญที่ควรทราบคือ AGI จะปรับปรุงตัวเองได้จนถึงขีดจำกัดของฮาร์ดแวร์และข้อมูลที่เข้าถึงได้เท่านั้น ขีดจำกัดนี้อาจใหญ่หรือเล็กขึ้นอยู่กับร่างกายของหุ่นยนต์ที่เราให้ไว้หรือขนาดของคอมพิวเตอร์ที่เราอนุญาตให้เข้าถึงได้

ในขณะเดียวกัน ความแตกต่างระหว่าง AGI และ ASI ก็คือ ในทางทฤษฎีแล้ว อย่างหลังจะไม่มีทางมีอยู่จริงในรูปแบบทางกายภาพ มันจะทำงานทั้งหมดภายในซูเปอร์คอมพิวเตอร์หรือเครือข่ายของซูเปอร์คอมพิวเตอร์ ทั้งนี้ขึ้นอยู่กับเป้าหมายของผู้สร้าง มันอาจเข้าถึงข้อมูลทั้งหมดที่จัดเก็บบนอินเทอร์เน็ตได้อย่างเต็มที่ รวมถึงอุปกรณ์หรือมนุษย์ใดก็ตามที่ป้อนข้อมูลเข้าและผ่านทางอินเทอร์เน็ต ซึ่งหมายความว่าจะไม่มีการจำกัดในทางปฏิบัติว่า ASI นี้สามารถเรียนรู้ได้มากน้อยเพียงใดและสามารถพัฒนาตนเองได้มากน้อยเพียงใด 

และนั่นคือการถู 

ทำความเข้าใจกับการระเบิดของสติปัญญา

กระบวนการพัฒนาตนเองนี้ซึ่ง AI จะได้รับในที่สุดเมื่อพวกเขากลายเป็น AGI (กระบวนการที่ชุมชน AI เรียกว่าการพัฒนาตนเองแบบเรียกซ้ำ) อาจหลุดพ้นจากวงจรตอบรับเชิงบวกที่มีลักษณะดังนี้:

AGI ใหม่ถูกสร้างขึ้น โดยให้สิทธิ์เข้าถึงร่างกายของหุ่นยนต์หรือชุดข้อมูลขนาดใหญ่ จากนั้นให้งานง่าย ๆ ในการให้ความรู้ด้วยตนเอง เพื่อปรับปรุงความฉลาดของมัน ในตอนแรก AGI นี้จะมี IQ ของทารกที่พยายามทำความเข้าใจแนวคิดใหม่ เมื่อเวลาผ่านไป มันเรียนรู้เพียงพอที่จะเข้าถึง IQ ของผู้ใหญ่ทั่วไป แต่ไม่ได้หยุดอยู่แค่นี้ การใช้ IQ สำหรับผู้ใหญ่ที่เพิ่งค้นพบนี้จะทำให้การปรับปรุงนี้ง่ายขึ้นและเร็วขึ้นจนถึงจุดที่ไอคิวตรงกับมนุษย์ที่ฉลาดที่สุดที่รู้จัก แต่อีกครั้งมันไม่ได้หยุดเพียงแค่นั้น

กระบวนการนี้ประกอบขึ้นที่ระดับความฉลาดใหม่แต่ละระดับ ตามกฎของการเร่งผลตอบแทนจนกว่าจะถึงระดับของ superintelligence ที่ประเมินค่าไม่ได้ กล่าวคือ หากปล่อยทิ้งไว้โดยไม่ได้รับการตรวจสอบและให้ทรัพยากรอย่างไม่จำกัด AGI จะพัฒนาตนเองเป็น ASI ซึ่งเป็นปัญญาที่ ไม่เคยมีมาก่อนในธรรมชาติ

นี่คือสิ่งที่ IJ Good ระบุเป็นครั้งแรกเมื่อเขาอธิบาย 'การระเบิดของปัญญา' หรือสิ่งที่นักทฤษฎี AI สมัยใหม่ เช่น Nick Bostrom เรียกเหตุการณ์ 'การบินขึ้น' ของ AI

ทำความเข้าใจกับปัญญาประดิษฐ์ขั้นสูง

ณ จุดนี้ พวกคุณบางคนอาจคิดว่าความแตกต่างที่สำคัญระหว่างความฉลาดของมนุษย์กับความฉลาดของ ASI คือความรวดเร็วของทั้งสองฝ่ายที่คิดได้ และในขณะที่มันเป็นความจริงที่ ASI ทางทฤษฎีในอนาคตจะคิดได้เร็วกว่ามนุษย์ ความสามารถนี้เป็นเรื่องธรรมดาอยู่แล้วในภาคคอมพิวเตอร์ในปัจจุบัน สมาร์ทโฟนของเราจะคิด (คำนวณ) ได้เร็วกว่าจิตใจของมนุษย์ ซูเปอร์คอมพิวเตอร์ คิดเร็วกว่าสมาร์ทโฟนหลายล้านเท่า และคอมพิวเตอร์ควอนตัมในอนาคตก็ยังคิดได้เร็วขึ้น 

ไม่ ความเร็วไม่ใช่คุณสมบัติของความฉลาดที่เรากำลังอธิบายที่นี่ มันคือคุณภาพ 

คุณสามารถเพิ่มความเร็วให้กับสมองของ Samoyed หรือ Corgi ได้ตามที่คุณต้องการ แต่นั่นไม่ได้แปลเป็นความเข้าใจใหม่เกี่ยวกับวิธีตีความภาษาหรือแนวคิดที่เป็นนามธรรม แม้จะมีเวลาเพิ่มขึ้นหรือสองทศวรรษก็ตาม doggos เหล่านี้จะไม่เข้าใจวิธีการสร้างหรือใช้เครื่องมือในทันที นับประสาจะเข้าใจความแตกต่างที่ละเอียดกว่าระหว่างระบบเศรษฐกิจทุนนิยมกับสังคมนิยม

เมื่อพูดถึงความฉลาด มนุษย์ทำงานบนระนาบที่แตกต่างจากสัตว์ ในทำนองเดียวกัน หาก ASI บรรลุศักยภาพทางทฤษฎีอย่างเต็มที่ จิตใจของพวกเขาจะทำงานในระดับที่ไกลเกินกว่าที่มนุษย์สมัยใหม่ทั่วไปจะเข้าถึงได้ สำหรับบางบริบท มาดูการใช้งานของ ASI เหล่านี้กัน

ปัญญาประดิษฐ์ขั้นสูงสามารถทำงานร่วมกับมนุษย์ได้อย่างไร?

สมมติว่ารัฐบาลหรือบริษัทบางแห่งประสบความสำเร็จในการสร้าง ASI พวกเขาจะใช้ ASI ได้อย่างไร ตาม Bostrom มีรูปแบบที่แยกจากกันสามรูปแบบ แต่ ASI เหล่านี้อาจใช้:

• คำพยากรณ์ ที่นี่ เราจะโต้ตอบกับ ASI เหมือนกับที่เราทำกับเครื่องมือค้นหาของ Google แล้ว เราจะถามคำถามหนึ่งคำถาม แต่ไม่ว่าคำถามดังกล่าวจะซับซ้อนแค่ไหน ASI จะตอบคำถามได้อย่างสมบูรณ์และในแบบที่เหมาะกับคุณและบริบทของคำถามของคุณ
• มาร. ในกรณีนี้ เราจะมอบหมายงานเฉพาะให้กับ ASI และจะดำเนินการตามคำสั่ง วิจัยวิธีรักษามะเร็ง. เสร็จแล้ว. ค้นหาดาวเคราะห์ทั้งหมดที่ซ่อนอยู่ภายในงานในมือของภาพถ่ายมูลค่า 10 ปีจากกล้องโทรทรรศน์อวกาศฮับเบิลของนาซ่า เสร็จแล้ว. สร้างเครื่องปฏิกรณ์ฟิวชันเพื่อแก้ปัญหาความต้องการพลังงานของมนุษย์ อะบราคาดาบรา
• กษัตริย์. ที่นี่ ASI ได้รับมอบหมายภารกิจปลายเปิดและให้อิสระในการดำเนินการ ขโมยความลับของการวิจัยและพัฒนาจากคู่แข่งในองค์กรของเรา "ง่าย." ค้นพบตัวตนของสายลับต่างชาติทั้งหมดที่ซ่อนตัวอยู่ในเขตแดนของเรา "บนนั้น" รับรองความเจริญรุ่งเรืองทางเศรษฐกิจอย่างต่อเนื่องของสหรัฐอเมริกา "ไม่มีปัญหา."

ตอนนี้ ฉันรู้แล้วว่าคุณคิดอะไร ทั้งหมดนี้ฟังดูค่อนข้างยาก นั่นเป็นเหตุผลสำคัญที่ต้องจำไว้ว่าทุกปัญหา/ความท้าทายที่มีอยู่ แม้กระทั่งปัญหาที่ทำให้จิตใจที่ฉลาดที่สุดในโลกต้องหยุดชะงัก ทั้งหมดนั้นแก้ไขได้ แต่ความยากของปัญหาวัดจากปัญญาในการแก้ปัญหานั้น

กล่าวอีกนัยหนึ่งว่ายิ่งใช้ความคิดกับความท้าทายมากเท่าไหร่ ก็ยิ่งหาวิธีแก้ปัญหาความท้าทายดังกล่าวได้ง่ายขึ้นเท่านั้น ความท้าทายใด ๆ ก็เหมือนผู้ใหญ่ที่เฝ้าดูทารกดิ้นรนเพื่อทำความเข้าใจว่าทำไมเขาจึงใส่บล็อกสี่เหลี่ยมเข้าไปในช่องกลมไม่ได้ สำหรับผู้ใหญ่ การแสดงให้ทารกเห็นว่าบล็อกควรพอดีกับช่องเปิดจะเป็นการเล่นของเด็ก

ในทำนองเดียวกัน หาก ASI ในอนาคตมีศักยภาพสูงสุด จิตใจนี้จะกลายเป็นสติปัญญาที่ทรงพลังที่สุดในจักรวาลที่รู้จัก—มีพลังมากพอที่จะแก้ปัญหาความท้าทายใดๆ ไม่ว่าจะซับซ้อนเพียงใด 

นี่คือเหตุผลที่นักวิจัย AI หลายคนเรียก ASI ว่าเป็นสิ่งประดิษฐ์ชิ้นสุดท้ายที่มนุษย์จะต้องทำ หากถูกโน้มน้าวให้ทำงานเคียงข้างมนุษยชาติ มันสามารถช่วยเราแก้ปัญหาที่เร่งด่วนที่สุดทั้งหมดของโลกได้ เราสามารถขอให้กำจัดโรคทั้งหมดและยุติความชราได้ดังที่เราทราบ มนุษยชาติสามารถโกงความตายได้เป็นครั้งแรกอย่างถาวรและเข้าสู่ยุคใหม่แห่งความเจริญรุ่งเรือง

แต่สิ่งที่ตรงกันข้ามก็เป็นไปได้เช่นกัน 

ความฉลาดคือพลัง หากได้รับการจัดการที่ผิดพลาดหรือได้รับคำสั่งจากผู้ไม่หวังดี ASI นี้อาจกลายเป็นเครื่องมือขั้นสูงสุดในการกดขี่ หรืออาจทำลายล้างมนุษยชาติโดยสิ้นเชิง ลองนึกถึง Skynet จาก Terminator หรือ Architect จากภาพยนตร์ Matrix

อันที่จริงไม่น่าจะมีความสุดโต่ง อนาคตมักจะยุ่งเหยิงเกินกว่าที่ยูโทเปียและดิสโทเปียคาดการณ์ไว้ นั่นคือเหตุผลที่ตอนนี้เราเข้าใจแนวคิดของ ASI แล้ว ส่วนอื่นๆ ของซีรีส์นี้จะสำรวจว่า ASI จะส่งผลกระทบต่อสังคมอย่างไร สังคมจะป้องกัน ASI อันธพาลอย่างไร และอนาคตจะเป็นอย่างไรหากมนุษย์และ AI อยู่เคียงข้างกัน -ด้านข้าง. อ่านต่อ.

อนาคตของชุดปัญญาประดิษฐ์

ปัญญาประดิษฐ์คือพลังแห่งอนาคต: อนาคตของชุดปัญญาประดิษฐ์ P1

ปัญญาประดิษฐ์ชุดแรกจะเปลี่ยนสังคมอย่างไร: อนาคตของปัญญาประดิษฐ์ชุด P2

ปัญญาประดิษฐ์ขั้นสูงจะทำลายล้างมนุษยชาติหรือไม่: อนาคตของปัญญาประดิษฐ์ซีรีส์ P4

วิธีที่มนุษย์จะปกป้องปัญญาประดิษฐ์ขั้นสูง: อนาคตของปัญญาประดิษฐ์ซีรีส์ P5

มนุษย์จะมีชีวิตอยู่อย่างสงบสุขในอนาคตที่ปัญญาประดิษฐ์ครอบงำหรือไม่: อนาคตของปัญญาประดิษฐ์ซีรีส์ P6