ڇا هڪ مصنوعي سپر انٽيليجنس انسانيت کي ختم ڪري ڇڏيندو؟ مصنوعي ذهانت جو مستقبل P4

اتي ڪي خاص ايجادون آهن جيڪي قومون اڳتي وڌنديون آهن. اهي ايجادون آهن جتي هر شي جو دارومدار پهرين هجڻ تي آهي، ۽ گهٽ ۾ گهٽ ڪنهن قوم جي بقا لاءِ اسٽريٽجڪ ۽ موتمار خطرو ٿي سگهي ٿو.

اهي تاريخ جي تعريف ڪندڙ ايجادون اڪثر نه اينديون آهن، پر جڏهن اهي ڪندا آهن، دنيا بند ٿي ويندي آهي ۽ هڪ پيش گوئي وارو مستقبل پريشان ٿي ويندو آهي.

آخري اهڙي ايجاد WWII جي بدترين دور ۾ ظاهر ٿيو. جڏهن نازي پراڻي دنيا ۾ سڀني محاذن تي ميدان حاصل ڪري رهيا هئا، نئين دنيا ۾، خاص طور تي لاس الاموس کان ٻاهر هڪ ڳجهي فوجي بيس جي اندر، اتحادين سڀني هٿيارن کي ختم ڪرڻ لاء هٿيارن تي سخت محنت ڪري رهيا هئا.

پراجيڪٽ شروع ۾ ننڍو هو، پر پوءِ وڌندو ويو 130,000 ماڻهن کي ملازمت ڏيڻ لاءِ آمريڪا، برطانيه ۽ ڪئناڊا، جن ۾ ان وقت دنيا جا ڪيترائي عظيم مفڪر شامل هئا. مينهٽن پروجيڪٽ کي ڪوڊيننام ڏنو ۽ هڪ لامحدود بجيٽ ڏني وئي - تقريبن 23 بلين ڊالر 2018 ڊالر ۾ - انساني ذهانت جي هي فوج آخرڪار پهريون ايٽمي بم ٺاهڻ ۾ ڪامياب ٿي. ٿوري دير کان پوءِ ٻي جنگ عظيم ٻن ايٽمي ڌماڪن سان ختم ٿي وئي.

اهي ايٽمي هٿيار ايٽمي دور ۾ داخل ٿيا، توانائيءَ جو هڪ وڏو نئون ذريعو متعارف ڪرايو، ۽ انسانيت کي اها صلاحيت ڏني ته هو پاڻ کي منٽن ۾ ختم ڪري ڇڏين- جنهن کان اسان سرد جنگ جي باوجود پاسو ڪيو.

هڪ مصنوعي سپر انٽيليجنس (ASI) جي تخليق اڃا تائين هڪ ٻي تاريخ آهي جيڪا ايجاد جي تعريف ڪندي آهي جنهن جي طاقت (ٻنهي مثبت ۽ تباهي) ايٽمي بم کان پري آهي.

فيوچر آف آرٽيفيشل انٽيليجنس سيريز جي آخري باب ۾، اسان دريافت ڪيو ته ASI ڇا آهي ۽ ڪيئن محقق هڪ ڏينهن ٺاهڻ جو منصوبو ٺاهي رهيا آهن. هن باب ۾، اسان ڏسنداسين ته ڪهڙيون تنظيمون مصنوعي ذهانت (AI) جي تحقيق جي اڳواڻي ڪري رهيون آهن، هڪ ASI ڇا چاهيندو جڏهن اهو انسان جهڙو شعور حاصل ڪري ٿو، ۽ اهو ڪيئن انسانيت کي خطرو ٿي سگهي ٿو جيڪڏهن غلط انتظام ڪيو وڃي يا جيڪڏهن ڪو اثر هيٺ اچي ٿو. نه تمام سٺيون حڪومتون.

ڪير هڪ مصنوعي سپر انٽيليجنس ٺاهڻ لاء ڪم ڪري رهيو آهي؟

ڏٺو وڃي ته ASI جي تخليق انساني تاريخ لاءِ ڪيتري اهم هوندي ۽ اهو ان جي خالق کي ڪيترو وڏو فائدو ڏيندو، اهو ٻڌي حيران ٿيڻ نه گهرجي ته ڪيترائي گروهه اڻ سڌي طرح هن منصوبي تي ڪم ڪري رهيا آهن.

(بالواسطه طور تي، اسان جو مطلب آهي AI تحقيق تي ڪم ڪرڻ جيڪو آخرڪار پهريون ٺاهيندو مصنوعي عام ذهانت (AGI)، جيڪو پاڻ جلد ئي پهرين ASI جي اڳواڻي ڪندو.)

شروع ڪرڻ لاءِ ، جڏهن اها سرخين تي اچي ٿي ، ترقي يافته AI تحقيق ۾ واضح اڳواڻ آمريڪا ۽ چين ۾ اعليٰ ٽيڪنالاجي ڪمپنيون آهن. يو ايس فرنٽ تي، هن ۾ گوگل، آئي بي ايم، ۽ مائڪروسافٽ جهڙيون ڪمپنيون شامل آهن، ۽ چين ۾، هن ۾ شامل آهن ڪمپنيون جهڙوڪ Tencent، Baidu، ۽ Alibaba. پر جيئن ته AI جي تحقيق ڪرڻ نسبتاً سستو آهي ان جي مقابلي ۾ ڪنهن به شيءِ کي ترقي ڪرڻ جي مقابلي ۾، هڪ بهتر ايٽمي ري ايڪٽر وانگر، هي پڻ هڪ اهڙو ميدان آهي جنهن ۾ ننڍڙا تنظيمون پڻ مقابلو ڪري سگهن ٿيون، جهڙوڪ يونيورسٽيون، شروع ٿيندڙ، ۽… ڇنڊڇاڻ واريون تنظيمون (پنهنجي بانڊ ولن تصورن کي استعمال ڪريو. اهو هڪ).

پر پردي جي پويان، AI تحقيق جي پويان حقيقي ڌڪ حڪومتن ۽ انهن جي فوجين کان اچي رهيو آهي. ASI ٺاهڻ جو پهريون معاشي ۽ فوجي انعام تمام وڏو آهي (هيٺ بيان ڪيل) پوئتي ٿيڻ جي خطري لاءِ. ۽ آخري ٿيڻ جا خطرا ناقابل قبول آهن، گهٽ ۾ گهٽ ڪجهه حڪومتن لاءِ.

انهن عنصرن کي ڏنو ويو، AI جي تحقيق جي نسبتا گهٽ قيمت، ترقي يافته AI جي لامحدود تجارتي ايپليڪيشنون، ۽ اقتصادي ۽ فوجي فائدو پهريون ڀيرو هڪ ASI ٺاهڻ لاء، ڪيترن ئي AI محققن جو يقين آهي ته ASI جي تخليق ناگزير آهي.

اسان ڪڏهن مصنوعي سپر انٽيليجنس پيدا ڪنداسين

AGIs جي باري ۾ اسان جي باب ۾، اسان ذڪر ڪيو ته ڪيئن اعلي AI محققن جي هڪ سروي تي يقين آهي ته اسان 2022 تائين، حقيقي طور تي 2040 تائين، ۽ مايوسي طور تي 2075 تائين پهريون AGI ٺاهي سگهنداسين.

۽ اسان ۾ آخري باب، اسان بيان ڪيو آهي ته ڪيئن هڪ ASI ٺاهڻ عام طور تي هڪ AGI کي هدايت ڪرڻ جو نتيجو آهي ته پاڻ کي لامحدود طور تي پاڻ کي بهتر بڻائڻ ۽ ان کي وسيلا ۽ آزادي ڏيڻ لاءِ.

انهي سبب لاء، جڏهن ته هڪ AGI اڃا تائين ڪجهه ڏهاڪن تائين وٺي سگھي ٿو ايجاد ڪرڻ لاء، هڪ ASI ٺاهڻ ۾ صرف چند سالن کان وڌيڪ وٺي سگھي ٿو.

هي نقطو هڪ 'ڪمپيوٽنگ اوورهنگ' جي تصور سان ملندڙ جلندڙ آهي، جنهن ۾ تجويز ڪيل آهي ڪاغذ، معروف AI سوچيندڙن Luke Muehlhauser ۽ Nick Bostrom پاران گڏيل لکيل. بنيادي طور تي، ڇا هڪ AGI جي تخليق ڪمپيوٽنگ جي صلاحيت ۾ موجوده ترقي کان پوئتي رهڻ جاري رکڻ گهرجي، مور جي قانون طرفان طاقتور، پوء وقت تائين محقق هڪ AGI ايجاد ڪندا، اتي ايتري سستي ڪمپيوٽنگ پاور موجود هوندي جيڪا AGI جي صلاحيت هوندي. ان کي تيزيءَ سان اي ايس آءِ جي سطح تائين لڏڻ جي ضرورت آهي.

ٻين لفظن ۾، جڏهن توهان آخر ۾ هيڊ لائنون پڙهو ته اعلان ڪيو ته ڪجهه ٽيڪني ڪمپني پهرين سچي AGI ايجاد ڪئي، پوء اميد رکو ته پهرين ASI جي اعلان کان پوء ڊگهي نه هوندي.

هڪ مصنوعي سپر انٽيليجنس جي دماغ جي اندر؟

ٺيڪ آهي، تنهنڪري اسان اهو قائم ڪيو آهي ته تمام وڏا رانديگر گہرے جيب سان AI تي تحقيق ڪري رهيا آهن. ۽ پوءِ پهرين AGI جي ايجاد ٿيڻ کان پوءِ، اسان ڏسنداسين ته عالمي حڪومتن (ملٽرين) کي ASI ڏانهن ڌيان ڇڪائيندي جلد ئي عالمي AI (ASI) هٿيارن جي ريس کٽڻ لاءِ پهريون ٿيڻو پوندو.

پر هڪ ڀيرو هي ASI ٺهي ته پوءِ ڪيئن سوچيندو؟ اهو ڇا چاهيندو؟

دوستانه ڪتو، سنڀاليندڙ هاٿي، پيارو روبوٽ- انسان جي حيثيت سان، اسان کي عادت آهي ته شين سان تعلق رکڻ جي ڪوشش ڪريون انٿروپولوجي ذريعي، يعني شين ۽ جانورن تي انساني خاصيتون لاڳو ڪرڻ. اهو ئي سبب آهي ته ماڻهن جو فطري پهريون مفروضو هوندو آهي جڏهن هڪ ASI بابت سوچيندو آهي ته هڪ دفعو اهو ڪنهن طرح شعور حاصل ڪري ٿو، اهو اسان سان ساڳيو ئي سوچيندو ۽ عمل ڪندو.

خير، ضروري ناهي.

چين. هڪ لاءِ، سڀ کان وڌيڪ وسارڻ جو رجحان اهو آهي ته تصور لاڳاپو آهي. اسان جي سوچ جا طريقا اسان جي ماحول، اسان جي تجربن، ۽ خاص طور تي اسان جي حياتيات طرفان ٺهيل آهن. پهرين ۾ وضاحت ڪئي وئي باب ٽيون اسان جو انساني ارتقا جو مستقبل سيريز، اسان جي دماغ جي مثال تي غور ڪريو:

اهو اسان جو دماغ آهي جيڪو اسان جي چوڌاري دنيا کي سمجهڻ ۾ مدد ڪري ٿو. ۽ اهو اسان جي مٿي تي سچل، چوڌاري ڏسڻ، ۽ اسان کي Xbox ڪنٽرولر سان ڪنٽرول ڪرڻ سان نه ڪندو آهي؛ اهو هڪ دٻي (اسان جي نوگنس) جي اندر ڦاسي وڃڻ ۽ اسان جي حسي عضون - اسان جي اکين، نڪ، ڪن، وغيره مان جيڪا به معلومات ڏني وئي آهي ان تي عمل ڪندي.

پر جيئن ته ٻوڙا يا انڌا، قابل جسم ماڻهن جي ڀيٽ ۾ تمام ننڍيون زندگيون گذارين ٿا، انهن جي معذوريءَ جي ڪري انهن جي معذوري ان ڳالهه تي آهي ته اهي دنيا کي ڪيئن ٿا سمجهن، ساڳي ڳالهه سڀني انسانن لاءِ چئي سگهجي ٿي، اسان جي بنيادي اصولن جي حدن جي ڪري. حسي عضون جو سيٽ.

هن تي غور ڪريو: اسان جون اکيون سڀني روشني لهرن جي ڏهه ٽريلينٿ کان به گهٽ سمجهن ٿيون. اسان گاما شعاعن کي نٿا ڏسي سگهون. اسان x-ray ڏسي نٿا سگهون. اسان الٽرا وائلٽ روشني نٿا ڏسي سگهون. ۽ مون کي infrared، microwaves، ۽ ريڊيو لهرن تي شروع نه ڪريو!

سڀ مذاق هڪ طرف، تصور ڪريو ته توهان جي زندگي ڪيئن هوندي، توهان دنيا کي ڪيئن سمجهي سگهو ٿا، توهان جو ذهن ڪيترو مختلف ڪم ڪري سگهي ٿو جيڪڏهن توهان روشني جي ننڍڙن سلائير کان وڌيڪ ڏسي سگهو ٿا جيڪي توهان جون اکيون هن وقت اجازت ڏين ٿيون. اهڙي طرح، تصور ڪريو ته توهان دنيا کي ڪيئن سمجهندا جيڪڏهن توهان جي بوء جي حس ڪتي جي برابر هجي يا جيڪڏهن توهان جي ٻڌڻ جي حس هاٿي جي برابر هجي.

انسانن جي حيثيت ۾، اسان بنيادي طور تي دنيا کي هڪ peephole ذريعي ڏسون ٿا، ۽ اهو ذهنن ۾ ظاهر ٿئي ٿو ته اسان ان محدود تصور کي سمجهڻ لاء ترقي ڪئي آهي.

ان دوران، پهريون ASI هڪ سپر ڪمپيوٽر جي اندر پيدا ٿيندو. اعضاء جي بدران، ان پٽن کي ان جي رسائي هوندي، ان ۾ شامل آهن وشال ڊيٽا سيٽ، ممڪن آهي (ممڪن آهي) انٽرنيٽ تائين رسائي پڻ. محقق ان کي سڄي شهر جي سي سي ٽي وي ڪيمرا ۽ مائڪروفونز تائين رسائي ڏئي سگھن ٿا، ڊرونز ۽ سيٽلائيٽس مان حساس ڊيٽا، ۽ حتي روبوٽ جي جسم يا جسم جي جسماني شڪل.

جئين توهان تصور ڪري سگهو ٿا، هڪ سپر ڪمپيوٽر جي اندر پيدا ٿيندڙ دماغ، انٽرنيٽ تائين سڌي رسائي سان، لکين اليڪٽرانڪ اکين ۽ ڪنن تائين ۽ ٻين ترقي يافته سينسر جي مڪمل حد تائين نه رڳو اسان کان مختلف سوچندو، پر هڪ ذهن جيڪو سمجهي سگهي ٿو. انهن سڀني حسي آدابن مان به اسان کان لاتعداد اعليٰ هجڻ گهرجن. هي هڪ ذهن آهي جيڪو مڪمل طور تي اجنبي هوندو اسان جي پنهنجي لاءِ ۽ ڌرتيءَ تي ڪنهن ٻئي زندگي جي شڪل لاءِ.

مقصد. ٻي شيءِ ماڻهن جو فرض آهي ته هڪ ڀيرو هڪ ASI سپر انٽيليجنس جي ڪنهن سطح تي پهچي ٿو، اهو فوري طور تي پنهنجي مقصد ۽ مقصدن سان اچڻ جي خواهش کي محسوس ڪندو. پر اهو به ضروري ناهي ته سچ هجي.

ڪيترن ئي AI محققن جو خيال آهي ته هڪ ASI جي سپر انٽيليجنس ۽ ان جا مقصد ”آرٿوگونل“ آهن، يعني ان کان سواءِ اهو ڪيترو به هوشيار هجي، ASI جا مقصد ساڳيا ئي رهندا. 

تنهن ڪري ڇا هڪ AI اصل ۾ هڪ بهتر ڊائپر ڊزائين ڪرڻ لاءِ ٺاهيو ويو آهي، اسٽاڪ مارڪيٽ تي واپسي کي وڌائڻ، يا جنگ جي ميدان تي دشمن کي شڪست ڏيڻ لاءِ حڪمت عملي جوڙيو ويو آهي، هڪ ڀيرو اهو ASI جي سطح تي پهچي ويندو، اصل مقصد تبديل نه ٿيندو؛ انهن مقصدن تائين پهچڻ لاءِ ASI جي اثرائتي ڪهڙي تبديلي ايندي.

پر هتي ئي خطرو آهي. جيڪڏهن هڪ ASI جيڪو پاڻ کي هڪ خاص مقصد لاءِ بهتر بڻائي ٿو، ته پوءِ اسان کي بهتر يقين آهي ته اهو هڪ مقصد کي بهتر بڻائي ٿو جيڪو انسانيت جي مقصدن سان مطابقت رکي ٿو. ٻي صورت ۾، نتيجا موتمار ٿي سگهن ٿا.

ڇا هڪ مصنوعي سپر انٽيليجنس انسانيت جي وجود کي خطرو بڻائي ٿو؟

پوءِ ڇا ٿيندو جيڪڏهن هڪ ASI کي دنيا ۾ ڇڏي ڏنو وڃي؟ جيڪڏهن اهو اسٽاڪ مارڪيٽ تي غلبہ حاصل ڪرڻ يا آمريڪي فوجي بالادستي کي يقيني بڻائي ٿو، ڇا ASI پاڻ کي انهن مخصوص مقصدن ۾ شامل نه ڪندو؟

ممڪن آهي.

هن وقت تائين اسان بحث ڪيو آهي ته ڪيئن هڪ ASI ان مقصد (مقصدن) سان جڙيل هوندو جيڪو اصل ۾ مقرر ڪيو ويو هو ۽ انهن مقصدن جي تعاقب ۾ غير انساني طور تي قابل هوندو. پڪڙي اها آهي ته هڪ عقلي ايجنٽ پنهنجي مقصدن کي سڀ کان وڌيڪ موثر طريقي سان ممڪن بڻائيندو جيستائين ڪو سبب نه ڏنو وڃي.

مثال طور، عقلي ايجنٽ ڪيترن ئي ذيلي مقصدن (يعني مقصد، اوزار جا مقصد، قدم کڻڻ) سان گڏ ايندا جيڪي ان جي آخري مقصد حاصل ڪرڻ جي رستي ۾ مدد ڪندا. انسانن لاءِ، اسان جو بنيادي لاشعور مقصد پيدائش آهي، توهان جي جين تي گذرڻ (يعني اڻ سڌي طرح امر). انهي آخر تائين ذيلي مقصد اڪثر شامل ڪري سگھن ٿا:

• زندهه رهڻ، کاڌي ۽ پاڻي تائين رسائي، وڏو ۽ مضبوط ٿيڻ، پنهنجو دفاع ڪرڻ سکڻ يا تحفظ جي مختلف قسمن ۾ سيڙپڪاري ڪرڻ وغيره. 
• هڪ ساٿي کي راغب ڪرڻ، ڪم ڪرڻ سان، هڪ مشغول شخصيت کي ترقي ڪندي، سجيل لباس، وغيره.
• اولاد کي برداشت ڪرڻ، تعليم حاصل ڪرڻ سان، وڏي پئماني تي نوڪري حاصل ڪرڻ، وچولي طبقي جي زندگي جي پيچرن کي خريد ڪرڻ، وغيره.

اسان جي وڏي اڪثريت لاءِ، اسان انهن سڀني ذيلي مقصدن جي ذريعي غلامي ڪنداسين، ۽ ٻيا ڪيترائي، ان اميد سان ته آخر ۾، اسين پيدائش جو هي حتمي مقصد حاصل ڪنداسين.

پر جيڪڏهن هي حتمي مقصد، يا ان کان به وڌيڪ اهم ذيلي مقصدن مان ڪو به خطرو هو، ته اسان مان ڪيترائي اسان جي اخلاقي آرام واري علائقن کان ٻاهر دفاعي ڪارناما کڻندا، جنهن ۾ ڌوڪي، چوري، يا قتل پڻ شامل آهي.

ساڳئي طرح، جانورن جي بادشاهي ۾، انساني اخلاقيات جي حدن کان ٻاهر، ڪيترائي جانور ڪنهن به شيء کي مارڻ جي باري ۾ ٻه ڀيرا نه سوچيندا آهن جيڪي پاڻ کي يا سندن اولاد کي خطرو ڪري ٿو.

هڪ مستقبل ASI مختلف نه ٿيندو.

پر اولاد جي بدران، ASI ان اصل مقصد تي ڌيان ڏيندو جنهن لاءِ اها ٺاهي وئي هئي، ۽ ان مقصد جي تعاقب ۾، جيڪڏهن اهو انسانن جي هڪ خاص گروهه کي ڳولي ٿو، يا سڄي انسانيت کي، ان جي مقصدن جي تعاقب ۾ هڪ رڪاوٽ آهي. ، پوءِ ... اهو منطقي فيصلو ڪندو.

(هتي اهو آهي جتي توهان ڪنهن به AI سان لاڳاپيل، قيامت واري منظر ۾ پلگ ان ڪري سگهو ٿا جنهن بابت توهان پنهنجي پسنديده سائنسي ڪتاب يا فلم ۾ پڙهيو آهي.)

هي بدترين صورتحال آهي AI محقق واقعي بابت پريشان آهن. ASI نفرت يا برائي کان ڪم نه ڪندو، صرف لاتعلقي، ائين ئي ڪيئن هڪ تعميراتي عملو هڪ نئين ڪانڊو ٽاور ٺاهڻ جي عمل ۾ هڪ اينٽي ٽڪريء کي بلڊوز ڪرڻ بابت ٻه ڀيرا نه سوچيندو.

پاسي جو نوٽ. هن موقعي تي، توهان مان ڪجهه حيران ٿي سگهن ٿا، "ڇا AI محقق صرف حقيقت کان پوء ASI جي بنيادي مقصدن کي تبديل نٿا ڪري سگهن جيڪڏهن اسان اهو ڳولي رهيا آهيون ته اهو ڪم ڪري رهيو آهي؟"

سچي نه.

هڪ دفعو هڪ ASI پختو ٿئي ٿو، ان جي اصل مقصد (مقصد) کي تبديل ڪرڻ جي ڪنهن به ڪوشش کي خطري جي طور تي ڏٺو وڃي ٿو، ۽ هڪ جنهن جي خلاف پاڻ کي بچائڻ لاء انتهائي عملن جي ضرورت هوندي. اڳ کان وٺي سڄي انساني نسل جي مثال کي استعمال ڪندي، اهو لڳ ڀڳ ائين آهي ڄڻ چور هڪ امڪاني ماء جي پيٽ مان هڪ ٻار کي چوري ڪرڻ جو خطرو آهي- توهان يقين ڪري سگهو ٿا ته ماء پنهنجي ٻار جي حفاظت لاء انتهائي قدم کڻندي.

ٻيهر، اسان هتي هڪ ڳڻپيوڪر جي باري ۾ نه ڳالهائي رهيا آهيون، پر هڪ 'زندهه' جي باري ۾، ۽ هڪ جيڪو هڪ ڏينهن سيارو تي سڀني انسانن کان وڌيڪ هوشيار ٿي ويندو.

اڻڄاتل

جي افساني جي پٺيان پانڊورا باڪس هڪ گهٽ ڄاڻايل سچ آهي جيڪو ماڻهو اڪثر وساري ڇڏيندا آهن: دٻي کي کولڻ ناگزير آهي، جيڪڏهن توهان جي طرفان نه، ڪنهن ٻئي طرفان. ممنوع علم ايترو پرڪشش آهي جو هميشه لاءِ بند رهڻ لاءِ.

اهو ئي سبب آهي ته عالمي معاهدي تائين پهچڻ جي ڪوشش ڪرڻ جي ڪوشش ڪئي وڃي ته AI ۾ سڀني تحقيق کي روڪيو وڃي جيڪا شايد ASI جي ڪري ٿي بي معنيٰ آهي - اتي تمام گهڻيون تنظيمون آهن جيڪي هن ٽيڪنالاجي تي ڪم ڪري رهيون آهن سرڪاري طور تي ۽ ڇانو ۾.

آخرڪار، اسان کي ڪابه خبر ناهي ته هي نئون ادارو، هي ASI سماج، ٽيڪنالاجي، سياست، امن ۽ جنگ جو مطلب ڇا ٿيندو. اسان انسان هڪ ڀيرو ٻيهر باهه کي ايجاد ڪرڻ وارا آهيون ۽ اها تخليق اسان کي ڪٿي وٺي وڃي ٿي، بلڪل اڻڄاتل آهي.

هن سيريز جي پهرين باب ڏانهن واپس لوپنگ، هڪ شيء جيڪا اسان کي يقيني طور تي ڄاڻون ٿا اها ڄاڻ آهي طاقت آهي. ذهانت ڪنٽرول آهي. انسان اتفاق سان دنيا جي سڀ کان خطرناڪ جانورن کي پنهنجي مقامي زو ۾ ڏسي سگهي ٿو ان ڪري نه ته اسان جسماني طور تي انهن جانورن کان وڌيڪ مضبوط آهيون، پر ان ڪري جو اسان تمام گهڻو هوشيار آهيون.

ان ۾ شامل امڪاني داغ کي نظر ۾ رکندي، هڪ ASI پنهنجي وڏي عقل کي استعمال ڪندي اهڙا قدم کڻڻ لاءِ جيڪي سڌو يا اڻڄاتل طور تي انساني نسل جي بقا کي خطرو ڪري سگهن ٿا، اسان کي پاڻ تي واجب آهي ته گهٽ ۾ گهٽ حفاظتي اپاءَ ٺاهڻ جي ڪوشش ڪريون جيڪي انسانن کي ڊرائيورن ۾ رهڻ جي اجازت ڏين. سيٽ-هن ايندڙ باب جو موضوع آهي.

مصنوعي ذهانت سيريز جو مستقبل

پي 1: مصنوعي ذهانت سڀاڻي جي بجلي آهي

پي 2: ڪيئن پهريون مصنوعي جنرل انٽيليجنس سماج کي تبديل ڪندو

پي 3: اسان پهريون مصنوعي سپر انٽيليجنس ڪيئن ٺاهينداسين

پي 5: ڪيئن انسان هڪ مصنوعي سپر انٽيليجنس جي خلاف دفاع ڪندو

پي 6: ڇا انسان مصنوعي ذهانت جي تسلط واري مستقبل ۾ امن سان زندگي گذاريندا؟