कृत्रिम सुपरइंटिलिजन्स मानवतेचा नाश करेल का? कृत्रिम बुद्धिमत्तेचे भविष्य P4

असे काही आविष्कार आहेत जे राष्ट्रांमध्ये चालू असतात. हे असे आविष्कार आहेत जेथे सर्व काही प्रथम असण्यावर अवलंबून असते आणि कोणत्याही गोष्टीपेक्षा कमी म्हणजे एखाद्या राष्ट्राच्या अस्तित्वासाठी धोरणात्मक आणि घातक धोका असू शकतो.

हे इतिहास परिभाषित करणारे आविष्कार सहसा आढळत नाहीत, परंतु जेव्हा ते घडतात तेव्हा जग थांबते आणि भविष्य सांगण्यासारखे अस्पष्ट होते.

असा शेवटचा शोध WWII च्या सर्वात वाईट काळात उदयास आला. जुन्या जगात, नवीन जगात, विशेषत: लॉस अलामोसच्या बाहेरील गुप्त लष्करी तळाच्या आत, नाझी सर्व आघाड्यांवर बळ मिळवत असताना, सर्व शस्त्रे संपवण्यासाठी मित्र राष्ट्रे एका शस्त्रावर कठोर परिश्रम करत होते.

हा प्रकल्प सुरुवातीला छोटा होता, परंतु नंतर त्यावेळच्या जगातील अनेक महान विचारवंतांसह यूएस, यूके आणि कॅनडातील 130,000 लोकांना रोजगार देण्यासाठी वाढला. मॅनहॅटन प्रकल्पाचे कोडनम दिले आणि अमर्यादित बजेट दिले — अंदाजे 23 अब्ज डॉलर्स 2018 डॉलर्स — मानवी कल्पकतेच्या या सैन्याने अखेरीस पहिला अणुबॉम्ब तयार करण्यात यश मिळवले. काही काळानंतर, दुसरे महायुद्ध दोन अणु धक्क्यांनी संपले.

या अण्वस्त्रांनी अणुयुगात प्रवेश केला, उर्जेचा एक नवीन स्रोत सादर केला आणि मानवतेला काही मिनिटांत स्वतःचा नाश करण्याची क्षमता दिली - शीतयुद्ध असूनही आम्ही टाळले.

कृत्रिम सुपरइंटिलिजन्स (एएसआय) ची निर्मिती हा शोध परिभाषित करणारा आणखी एक इतिहास आहे ज्याची शक्ती (सकारात्मक आणि विनाशकारी दोन्ही) अणुबॉम्बपेक्षा जास्त आहे.

फ्यूचर ऑफ आर्टिफिशियल इंटेलिजन्स सिरीजच्या शेवटच्या अध्यायात, आम्ही ASI म्हणजे काय आणि संशोधकांनी एक दिवस कसे तयार करण्याची योजना आखली आहे याचा शोध घेतला. या प्रकरणात, आम्ही कृत्रिम बुद्धिमत्ता (AI) संशोधनात कोणत्या संस्था आघाडीवर आहेत, एएसआयला मानवासारखी चेतना मिळाल्यावर काय हवे आहे, आणि चुकीचे व्यवस्थापन केल्यास किंवा एखाद्या व्यक्तीच्या प्रभावाखाली आल्यास ते मानवतेला कसे धोक्यात आणू शकते हे पाहू. छान नसलेली व्यवस्था.

आर्टिफिशियल सुपरइंटिलिजन्स तयार करण्यासाठी कोण काम करत आहे?

एएसआयची निर्मिती मानवी इतिहासासाठी किती महत्त्वपूर्ण असेल आणि त्याच्या निर्मात्याला किती मोठा फायदा होईल हे लक्षात घेता, अनेक गट या प्रकल्पावर अप्रत्यक्षपणे काम करत आहेत हे ऐकून आश्चर्य वाटायला नको.

(अप्रत्यक्षपणे, आमचा अर्थ एआय संशोधनावर काम करणे आहे जे शेवटी प्रथम तयार करेल कृत्रिम सामान्य बुद्धिमत्ता (AGI), जे लवकरच प्रथम ASI कडे नेईल.)

प्रारंभ करण्यासाठी, जेव्हा हेडलाइन्सचा विचार केला जातो, तेव्हा प्रगत AI संशोधनातील स्पष्ट नेते यूएस आणि चीनमधील सर्वोच्च तंत्रज्ञान कंपन्या आहेत. यूएस आघाडीवर, यात Google, IBM आणि Microsoft सारख्या कंपन्या आणि चीनमध्ये, Tencent, Baidu आणि Alibaba सारख्या कंपन्यांचा समावेश आहे. पण एखाद्या चांगल्या अणुभट्टीसारखे भौतिक विकसित करण्याच्या तुलनेत AI चे संशोधन करणे तुलनेने स्वस्त असल्याने, हे एक क्षेत्र आहे ज्यामध्ये लहान संस्था देखील स्पर्धा करू शकतात, जसे की विद्यापीठे, स्टार्टअप्स आणि … छायादार संस्था (तुमच्या बाँड खलनायक कल्पनांचा वापर करा. तो एक).

परंतु पडद्यामागे, एआय संशोधनामागील खरा धक्का सरकार आणि त्यांच्या सैन्याकडून येत आहे. एएसआय तयार करणारा पहिला असण्याचा आर्थिक आणि लष्करी बक्षीस मागे पडण्याचा धोका खूप मोठा आहे (खाली वर्णन केलेले). आणि शेवटचे राहण्याचे धोके किमान काही शासनांना अस्वीकार्य आहेत.

हे घटक पाहता, AI संशोधनाचा तुलनेने कमी खर्च, प्रगत AI चे अमर्याद व्यावसायिक अनुप्रयोग आणि ASI तयार करण्यात प्रथम असण्याचा आर्थिक आणि लष्करी फायदा, अनेक AI संशोधकांचा असा विश्वास आहे की ASI ची निर्मिती अपरिहार्य आहे.

आपण आर्टिफिशियल सुपरइंटिलिजन्स कधी तयार करणार आहोत

AGI बद्दलच्या आमच्या धड्यात, आम्ही 2022 पर्यंत, वास्तवात 2040 पर्यंत आणि निराशावादीपणे 2075 पर्यंत आशावादी रीतीने पहिली AGI तयार करू असा विश्वास शीर्ष AI संशोधकांच्या सर्वेक्षणाने कसा व्यक्त केला आहे.

आणि आमच्या मध्ये शेवटचा अध्याय, एएसआय तयार करणे हे सर्वसाधारणपणे AGI ला स्वतःला अमर्यादपणे सुधारण्यासाठी आणि त्याला तसे करण्याचे संसाधन आणि स्वातंत्र्य देण्याचे परिणाम कसे आहे हे आम्ही स्पष्ट केले आहे.

या कारणास्तव, एजीआयचा शोध लागण्यासाठी अजून काही दशके लागू शकतात, एएसआय तयार करण्यासाठी आणखी काही वर्षे लागू शकतात.

हा मुद्दा 'कंप्युटिंग ओव्हरहॅंग' या संकल्पनेसारखाच आहे, ज्यामध्ये सुचवले आहे एक कागद, अग्रगण्य AI विचारवंत Luke Muehlhauser आणि Nick Bostrom यांनी सह-लिखित. मुळात, एजीआयची निर्मिती मूरच्या कायद्याद्वारे समर्थित, संगणकीय क्षमतेच्या सध्याच्या प्रगतीपेक्षा मागे राहिली तर, संशोधक एजीआय शोधून काढतील, तेव्हा एजीआयची क्षमता इतकी स्वस्त संगणकीय शक्ती उपलब्ध असेल. त्याला एएसआयच्या पातळीवर त्वरीत झेप घेणे आवश्यक आहे.

दुसर्‍या शब्दांत, जेव्हा तुम्ही शेवटी काही टेक कंपनीने पहिल्या खऱ्या एजीआयचा शोध लावल्याची घोषणा करणार्‍या मथळे वाचता, तेव्हा पहिल्या एएसआयच्या घोषणेची अपेक्षा करा.

एक कृत्रिम सुपरइंटिलिजन्स मनाच्या आत?

ठीक आहे, म्हणून आम्ही स्थापित केले आहे की खोल खिशात असलेले बरेच मोठे खेळाडू AI वर संशोधन करत आहेत. आणि मग पहिल्या AGI चा शोध लागल्यानंतर, जागतिक AI (ASI) शस्त्रास्त्रांची शर्यत जिंकणारी पहिली व्यक्ती म्हणून लवकरच जागतिक सरकारे (लष्करी) ASI कडे हिरवा कंदील दाखवताना आपण पाहू.

पण एकदा हा एएसआय तयार झाला की विचार कसा करणार? याला काय हवे असेल?

मैत्रीपूर्ण कुत्रा, काळजी घेणारा हत्ती, गोंडस रोबोट—माणूस म्हणून, आपल्याला मानववंशशास्त्राद्वारे गोष्टींशी संबंधित करण्याचा प्रयत्न करण्याची सवय आहे, म्हणजे वस्तू आणि प्राण्यांवर मानवी वैशिष्ट्ये लागू करणे. म्हणूनच एखाद्या ASI बद्दल विचार करताना लोकांची नैसर्गिक पहिली धारणा ही असते की एकदा का त्याला जाणीव झाली की तो आपल्यासारखाच विचार करेल आणि वागेल.

बरं, आवश्यक नाही.

समज. एक तर, सर्वात जास्त विसरण्याची प्रवृत्ती म्हणजे समज सापेक्ष आहे. आपण ज्या प्रकारे विचार करतो ते आपल्या वातावरणाद्वारे, आपल्या अनुभवांद्वारे आणि विशेषत: आपल्या जीवशास्त्राद्वारे आकार घेतात. मध्ये प्रथम स्पष्ट केले अध्याय तीन आमचे मानवी उत्क्रांतीचे भविष्य मालिका, आपल्या मेंदूचे उदाहरण विचारात घ्या:

हा आपला मेंदू आहे जो आपल्याला आपल्या सभोवतालच्या जगाची जाणीव करण्यास मदत करतो. आणि हे आपल्या डोक्यावर तरंगून, आजूबाजूला बघून आणि Xbox कंट्रोलरने आपल्याला नियंत्रित करून करत नाही; हे एका बॉक्समध्ये (आपले नॉगिन्स) अडकून आणि आपल्या ज्ञानेंद्रियांकडून-आपले डोळे, नाक, कान इत्यादींमधून जी काही माहिती दिली जाते त्यावर प्रक्रिया करून हे करते.

परंतु ज्याप्रमाणे कर्णबधिर किंवा आंधळे हे सक्षम शरीर असलेल्या लोकांच्या तुलनेत खूपच लहान जीवन जगतात, त्यांच्या अपंगत्वाच्या मर्यादांमुळे ते जग कसे समजून घेऊ शकतात यावर अवलंबून असते, आपल्या मूलभूत मर्यादांमुळे सर्व मानवांसाठी समान गोष्ट म्हणता येईल. संवेदी अवयवांचा संच.

याचा विचार करा: आपल्या डोळ्यांना सर्व प्रकाश लहरींच्या दहा-ट्रिलियनव्या भागापेक्षा कमी समजते. आम्ही गॅमा किरण पाहू शकत नाही. आम्ही एक्स-रे पाहू शकत नाही. आपण अतिनील प्रकाश पाहू शकत नाही. आणि मला इन्फ्रारेड, मायक्रोवेव्ह आणि रेडिओ लहरी सुरू करू नका!

सर्व गंमत बाजूला ठेवून, कल्पना करा की तुमचे जीवन कसे असेल, तुम्हाला जग कसे जाणवेल, तुमचे मन किती वेगळे काम करू शकते जर तुम्ही तुमच्या डोळ्यांना सध्या परवानगी देत ​​असलेल्या प्रकाशाच्या लहानशा पेक्षा जास्त काही पाहू शकलात. त्याचप्रमाणे, जर तुमची वासाची भावना कुत्र्यासारखी असेल किंवा तुमची ऐकण्याची क्षमता हत्तीच्या बरोबरीची असेल तर तुम्हाला जग कसे समजेल याची कल्पना करा.

मानव म्हणून, आपण मूलत: जगाला एका पिफोलद्वारे पाहतो, आणि ते त्या मर्यादित आकलनाची जाणीव करून देण्यासाठी आपण विकसित केलेल्या मनात प्रतिबिंबित होते.

दरम्यान, पहिला ASI सुपर कॉम्प्युटरच्या आत जन्माला येईल. अवयवांऐवजी, ते ज्या इनपुटमध्ये प्रवेश करेल त्यामध्ये विशाल डेटासेटचा समावेश आहे, शक्यतो (संभाव्य) अगदी इंटरनेटवर देखील प्रवेश आहे. संशोधक त्याला संपूर्ण शहरातील सीसीटीव्ही कॅमेरे आणि मायक्रोफोन, ड्रोन आणि उपग्रहांवरील संवेदी डेटा आणि रोबोट बॉडी किंवा शरीराच्या भौतिक स्वरूपापर्यंत प्रवेश देऊ शकतात.

तुम्ही कल्पना करू शकता की, सुपर कॉम्प्युटरच्या आत जन्मलेले मन, इंटरनेटचा थेट प्रवेश, लाखो इलेक्ट्रॉनिक डोळे आणि कान आणि इतर प्रगत सेन्सर्सची संपूर्ण श्रेणी केवळ आपल्यापेक्षा वेगळा विचार करणार नाही, तर एक मन जे अर्थ प्राप्त करू शकते. त्या सर्व संवेदी इनपुट्समध्ये आपल्यापेक्षा अमर्यादपणे श्रेष्ठ असणे आवश्यक आहे. हे असे मन आहे जे आपल्या स्वतःसाठी आणि ग्रहावरील इतर कोणत्याही जीवनासाठी पूर्णपणे परके असेल.

गोल. दुसरी गोष्ट लोक गृहीत धरतात की एएसआयने सुपरइंटिलिजन्सच्या काही स्तरावर पोहोचल्यावर, त्याला स्वतःची ध्येये आणि उद्दिष्टे समोर आणण्याची इच्छा लगेच लक्षात येईल. पण तेही खरे असेलच असे नाही.

अनेक AI संशोधकांचा असा विश्वास आहे की ASI ची सुपरइंटिलिजन्स आणि त्याची उद्दिष्टे "ऑर्थोगोनल" आहेत, म्हणजेच ते कितीही हुशार असले तरीही, ASI ची उद्दिष्टे सारखीच राहतील. 

त्यामुळे AI मूळत: उत्तम डायपर डिझाइन करण्यासाठी, शेअर बाजारात जास्तीत जास्त परतावा देण्यासाठी किंवा युद्धभूमीवर शत्रूला पराभूत करण्याचे मार्ग तयार करण्यासाठी तयार केले गेले असले तरीही, एकदा ते ASI च्या पातळीवर पोहोचले की, मूळ ध्येय बदलणार नाही; ती उद्दिष्टे गाठण्यासाठी ASI ची परिणामकारकता काय बदलेल.

पण इथेच धोका आहे. जर एएसआय स्वतःला विशिष्ट ध्येयासाठी अनुकूल करत असेल, तर ते मानवतेच्या उद्दिष्टांशी सुसंगत असलेल्या ध्येयासाठी अनुकूल होईल याची आम्हाला खात्री आहे. अन्यथा, परिणाम प्राणघातक होऊ शकतात.

कृत्रिम सुपरइंटिलिजन्समुळे मानवतेला अस्तित्वाचा धोका आहे का?

मग एएसआयला जगापासून मुक्त केले तर? जर ते शेअर बाजारावर वर्चस्व राखण्यासाठी किंवा यूएस लष्करी वर्चस्व सुनिश्चित करण्यासाठी अनुकूल असेल, तर ASI स्वतःला त्या विशिष्ट उद्दिष्टांमध्ये समाविष्ट करणार नाही का?

शक्यतो.

आत्तापर्यंत आम्ही चर्चा केली आहे की एएसआय मूळत: नेमून दिलेल्या उद्दिष्टांबद्दल कसे वेड लावेल आणि त्या उद्दिष्टांचा पाठपुरावा करण्यासाठी अमानुषपणे सक्षम असेल. पकड अशी आहे की तर्कसंगत एजंट शक्य तितक्या कार्यक्षम मार्गाने आपल्या ध्येयांचा पाठपुरावा करेल असे कारण न दिल्यास.

उदाहरणार्थ, तर्कसंगत एजंट अनेक उप-लक्ष्यांसह येईल (म्हणजे उद्दिष्टे, वाद्य गोल, स्टेपिंग स्टोन) जे त्याला त्याचे अंतिम ध्येय साध्य करण्याच्या मार्गावर मदत करतील. मानवांसाठी, आमचे मुख्य अवचेतन ध्येय म्हणजे पुनरुत्पादन, तुमच्या जनुकांवर (म्हणजे अप्रत्यक्ष अमरत्व) उत्तीर्ण होणे. त्या शेवटी उपलक्ष्यांमध्ये हे समाविष्ट असू शकते:

• जगणे, अन्न आणि पाण्यामध्ये प्रवेश करून, मोठे आणि मजबूत होणे, स्वतःचा बचाव करण्यास शिकणे किंवा विविध प्रकारच्या संरक्षणामध्ये गुंतवणूक करणे इ. 
• सोबतीला आकर्षित करणे, व्यायाम करून, आकर्षक व्यक्तिमत्व विकसित करणे, स्टायलिश कपडे घालून इ.
• शिक्षण मिळवून, उच्च पगाराची नोकरी मिळवून, मध्यमवर्गीय जीवनाचे फंदे विकत घेऊन संतती मिळवणे इ.

आपल्यातील बहुसंख्य लोकांसाठी, आम्ही या सर्व उप-लक्ष्यांमधून आणि इतर अनेकांना गुलाम करू, या आशेने की शेवटी, आम्ही पुनरुत्पादनाचे हे अंतिम ध्येय साध्य करू.

परंतु जर हे अंतिम ध्येय, किंवा त्याहूनही अधिक महत्त्वाच्या उप-लक्ष्यांपैकी कोणतेही धोक्यात आले, तर आपल्यापैकी बरेच जण आपल्या नैतिक आराम क्षेत्राच्या बाहेर बचावात्मक कृती करतील—ज्यामध्ये फसवणूक, चोरी किंवा अगदी मारणे समाविष्ट आहे.

त्याचप्रमाणे, प्राण्यांच्या साम्राज्यात, मानवी नैतिकतेच्या मर्यादेबाहेर, बरेच प्राणी स्वत: ला किंवा त्यांच्या संततीला धोका देणारी कोणतीही गोष्ट मारण्याचा दोनदा विचार करत नाहीत.

भविष्यातील ASI यापेक्षा वेगळे असणार नाही.

परंतु संततीऐवजी, एएसआय मूळ ध्येयावर लक्ष केंद्रित करेल ज्यासाठी ती तयार केली गेली होती आणि या ध्येयाच्या पाठपुराव्यात, जर त्याला मानवांचा एक विशिष्ट गट किंवा संपूर्ण मानवतेचा शोध लागला तर तो त्याच्या उद्दिष्टांच्या शोधात अडथळा आहे. , नंतर ...ते तर्कशुद्ध निर्णय घेईल.

(तुम्ही तुमच्या आवडत्या साय-फाय पुस्तकात किंवा चित्रपटात वाचलेल्या कोणत्याही AI-संबंधित, जगाचा शेवटचा प्रसंग इथे प्लग इन करू शकता.)

ही सर्वात वाईट परिस्थिती आहे ज्याबद्दल AI संशोधक खरोखरच चिंतेत आहेत. एएसआय द्वेष किंवा दुष्टतेने वागणार नाही, फक्त उदासीनता, नवीन कॉन्डो टॉवर बांधण्याच्या प्रक्रियेत मुंगीच्या टेकडीवर बुलडोझिंग करण्याबद्दल बांधकाम कर्मचारी दोनदा विचार करणार नाही.

साइड नोट. या टप्प्यावर, तुमच्यापैकी काहीजण कदाचित विचार करत असतील, "एआयचे संशोधक एएसआयच्या मूळ उद्दिष्टांना संपादित करू शकत नाहीत का, जर आम्हाला आढळून आले की ते कार्य करत आहे?"

खरोखरच नाही.

एकदा ASI परिपक्व झाल्यावर, त्याचे मूळ उद्दिष्ट संपादित करण्याचा कोणताही प्रयत्न धोक्याच्या रूपात पाहिला जाऊ शकतो आणि ज्याच्या विरूद्ध स्वतःचा बचाव करण्यासाठी अत्यंत कृतीची आवश्यकता असेल. पूर्वीचे संपूर्ण मानवी पुनरुत्पादन उदाहरण वापरून, हे जवळजवळ असे आहे की एखाद्या चोराने गर्भवती आईच्या उदरातून बाळ चोरण्याची धमकी दिली आहे—आपण खात्री बाळगू शकता की आई आपल्या मुलाचे संरक्षण करण्यासाठी अत्यंत उपाय करेल.

पुन्हा, आम्ही येथे कॅल्क्युलेटरबद्दल बोलत नाही, तर एका 'जिवंत' जीवाबद्दल बोलत आहोत आणि जो एक दिवस या ग्रहावरील सर्व मानवांपेक्षा अधिक हुशार होईल.

अनोळखी

च्या दंतकथा मागे Pandora's Box हे एक कमी ज्ञात सत्य आहे जे लोक सहसा विसरतात: बॉक्स उघडणे अपरिहार्य आहे, जर तुमच्याद्वारे नाही तर इतर कोणाकडून तरी. निषिद्ध ज्ञान कायमचे बंद राहण्यासाठी खूप मोहक आहे.

म्हणूनच AI मधील सर्व संशोधन थांबवण्यासाठी जागतिक करारावर पोहोचण्याचा प्रयत्न करणे, ज्यामुळे ASI होऊ शकते - या तंत्रज्ञानावर अधिकृतपणे आणि सावलीत काम करणाऱ्या अनेक संस्था आहेत.

शेवटी, या नवीन अस्तित्वाचा, या एएसआयचा समाजासाठी, तंत्रज्ञानासाठी, राजकारणासाठी, शांतता आणि युद्धासाठी काय अर्थ असेल याची आम्हाला कल्पना नाही. आपण मानव पुन्हा आगीचा शोध लावणार आहोत आणि ही सृष्टी आपल्याला कुठे घेऊन जाते हे पूर्णपणे अज्ञात आहे.

या मालिकेच्या पहिल्या प्रकरणाकडे परत जाताना, आपल्याला एक गोष्ट निश्चितपणे माहित आहे ती म्हणजे बुद्धिमत्ता ही शक्ती आहे. बुद्धिमत्ता म्हणजे नियंत्रण. लोक त्यांच्या स्थानिक प्राणीसंग्रहालयात जगातील सर्वात धोकादायक प्राण्यांना भेट देऊ शकतात कारण आम्ही या प्राण्यांपेक्षा शारीरिकदृष्ट्या बलवान आहोत म्हणून नाही तर आम्ही लक्षणीय हुशार आहोत म्हणून.

एएसआयने आपल्या अफाट बुद्धिमत्तेचा वापर करून मानवी वंशाच्या अस्तित्वाला थेट किंवा अनवधानाने धोक्यात आणू शकणार्‍या कृती केल्या, यातील संभाव्य दावे लक्षात घेता, मानवांना ड्रायव्हरमध्ये राहण्यास अनुमती देतील अशा सुरक्षिततेची रचना करण्याचा प्रयत्न करणे आम्ही स्वतःला देणे आवश्यक आहे. आसन-या पुढील प्रकरणाचा विषय आहे.

कृत्रिम बुद्धिमत्ता मालिकेचे भविष्य

पी 1: आर्टिफिशियल इंटेलिजन्स ही उद्याची वीज आहे

पी 2: पहिली आर्टिफिशियल जनरल इंटेलिजन्स समाजाला कशी बदलेल

पी 3: आम्ही प्रथम कृत्रिम सुपरइंटिलिजन्स कसे तयार करू

पी 5: कृत्रिम सुपरइंटिलिजन्सपासून मानव कसा बचाव करेल

पी 6: कृत्रिम बुद्धिमत्तेचे वर्चस्व असलेल्या भविष्यात मानव शांततेने जगतील का?