ஒரு செயற்கை நுண்ணறிவு மனிதகுலத்தை அழித்துவிடுமா? செயற்கை நுண்ணறிவு P4 இன் எதிர்காலம்

நாடுகள் அனைத்தும் சில கண்டுபிடிப்புகள் உள்ளன. இவை அனைத்தும் முதலில் இருப்பதில் தங்கியிருக்கும் கண்டுபிடிப்புகள், மேலும் குறைவான எதுவும் ஒரு நாட்டின் உயிர்வாழ்வதற்கான மூலோபாய மற்றும் மரண அச்சுறுத்தலைக் குறிக்கும்.

இந்த வரலாற்றை வரையறுக்கும் கண்டுபிடிப்புகள் அடிக்கடி வருவதில்லை, ஆனால் அவை வரும்போது, ​​உலகம் நின்றுவிடும் மற்றும் கணிக்கக்கூடிய எதிர்காலம் மங்கலாகிவிடும்.

இதுபோன்ற கடைசி கண்டுபிடிப்பு இரண்டாம் உலகப் போரின் போது தோன்றியது. பழைய உலகில், புதிய உலகில், குறிப்பாக லாஸ் அலமோஸுக்கு வெளியே ஒரு இரகசிய இராணுவத் தளத்திற்குள் நாஜிக்கள் எல்லா முனைகளிலும் களமிறங்கிக் கொண்டிருந்தபோது, ​​அனைத்து ஆயுதங்களையும் முடிவுக்குக் கொண்டுவருவதற்கான ஆயுதத்தில் நேச நாடுகள் கடுமையாக உழைத்தனர்.

இந்தத் திட்டம் முதலில் சிறியதாக இருந்தது, ஆனால் பின்னர் யுஎஸ், யுகே மற்றும் கனடாவைச் சேர்ந்த 130,000 பேர் வேலை செய்யும் அளவுக்கு வளர்ந்தது, அந்த நேரத்தில் உலகின் தலைசிறந்த சிந்தனையாளர்கள் பலர் உள்ளனர். மன்ஹாட்டன் திட்டம் என்று குறியீட்டுப் பெயரிடப்பட்டது மற்றும் வரம்பற்ற பட்ஜெட்டை வழங்கியது - 23 டாலர்களில் சுமார் $2018 பில்லியன் - இந்த மனித புத்திசாலித்தனமான இராணுவம் இறுதியில் முதல் அணுகுண்டை உருவாக்குவதில் வெற்றி பெற்றது. சிறிது காலத்திற்குப் பிறகு, WWII இரண்டு அணு வெடிப்புகளுடன் முடிந்தது.

இந்த அணு ஆயுதங்கள் அணு யுகத்தை உருவாக்கியது, ஒரு ஆழமான புதிய ஆற்றல் மூலத்தை அறிமுகப்படுத்தியது, மேலும் மனிதகுலத்திற்கு சில நிமிடங்களில் தன்னைத்தானே அழித்துக்கொள்ளும் திறனைக் கொடுத்தது-பனிப்போர் இருந்தபோதிலும் நாம் அதைத் தவிர்த்தோம்.

ஒரு செயற்கை நுண்ணறிவு (ASI) உருவாக்கம் என்பது, அணுகுண்டை விஞ்சும் ஆற்றல் (நேர்மறை மற்றும் அழிவு இரண்டும்) கண்டுபிடிப்பை வரையறுக்கும் மற்றொரு வரலாறு ஆகும்.

எதிர்கால செயற்கை நுண்ணறிவுத் தொடரின் கடைசி அத்தியாயத்தில், ASI என்றால் என்ன என்பதையும், ஆராய்ச்சியாளர்கள் எப்படி ஒரு நாள் ஒன்றை உருவாக்க திட்டமிட்டுள்ளனர் என்பதையும் ஆராய்ந்தோம். இந்த அத்தியாயத்தில், செயற்கை நுண்ணறிவு (AI) ஆராய்ச்சியை எந்த நிறுவனங்கள் முன்னெடுத்துச் செல்கின்றன, மனிதனைப் போன்ற உணர்வைப் பெற்றவுடன் ASI என்ன விரும்புகிறது, தவறாக நிர்வகிக்கப்பட்டாலோ அல்லது ஒருவர் செல்வாக்கின் கீழ் விழுந்தாலோ அது மனிதகுலத்தை எப்படி அச்சுறுத்தும் என்பதைப் பார்ப்போம். அவ்வளவு நல்ல ஆட்சிகள் இல்லை.

செயற்கை நுண்ணறிவை உருவாக்க யார் வேலை செய்கிறார்கள்?

ஒரு ASI உருவாக்கம் மனித வரலாற்றில் எவ்வளவு முக்கியத்துவம் வாய்ந்ததாக இருக்கும் மற்றும் அதன் படைப்பாளருக்கு அது எவ்வளவு பெரிய நன்மையைக் கொடுக்கும் என்பதைக் கருத்தில் கொண்டு, பல குழுக்கள் இந்த திட்டத்தில் மறைமுகமாக வேலை செய்வதைக் கேட்பதில் ஆச்சரியமில்லை.

(மறைமுகமாக, AI ஆராய்ச்சியில் பணிபுரிவது என்பது இறுதியில் முதலில் உருவாக்கப்படும் செயற்கை பொது நுண்ணறிவு (AGI), அதுவே விரைவில் முதல் ASIக்கு வழிவகுக்கும்.)

தொடங்குவதற்கு, தலைப்புச் செய்திகளுக்கு வரும்போது, ​​மேம்பட்ட AI ஆராய்ச்சியில் தெளிவான தலைவர்கள் அமெரிக்கா மற்றும் சீனாவில் உள்ள சிறந்த தொழில்நுட்ப நிறுவனங்கள். அமெரிக்காவின் முன்னணியில், இதில் கூகுள், ஐபிஎம் மற்றும் மைக்ரோசாப்ட் போன்ற நிறுவனங்களும், சீனாவில் டென்சென்ட், பைடு மற்றும் அலிபாபா போன்ற நிறுவனங்களும் அடங்கும். ஆனால், ஒரு சிறந்த அணு உலை போன்ற இயற்பியல் ஒன்றை உருவாக்குவதை ஒப்பிடுகையில், AI ஐ ஆராய்வது ஒப்பீட்டளவில் மலிவானது என்பதால், இது சிறிய நிறுவனங்கள், பல்கலைக்கழகங்கள், தொடக்கங்கள் மற்றும் ... நிழலான நிறுவனங்கள் போன்றவற்றில் போட்டியிடக்கூடிய ஒரு துறையாகும் (உங்கள் பாண்ட் வில்லன் கற்பனைகளைப் பயன்படுத்தவும். அது).

ஆனால் திரைக்குப் பின்னால், AI ஆராய்ச்சிக்குப் பின்னால் உள்ள உண்மையான உந்துதல் அரசாங்கங்கள் மற்றும் அவர்களின் இராணுவத்தினரிடமிருந்து வருகிறது. ASI ஐ முதலில் உருவாக்கியவர் என்ற பொருளாதார மற்றும் இராணுவப் பரிசு மிகவும் பெரியது (கீழே கோடிட்டுக் காட்டப்பட்டுள்ளது) பின்னோக்கி விழும் அபாயம் உள்ளது. கடைசியாக இருப்பதன் ஆபத்துகள் குறைந்தபட்சம் சில ஆட்சிகளுக்கு ஏற்றுக்கொள்ள முடியாதவை.

இந்தக் காரணிகளைக் கருத்தில் கொண்டு, AI ஐ ஆராய்வதற்கான ஒப்பீட்டளவில் குறைந்த செலவு, மேம்பட்ட AI இன் எல்லையற்ற வணிகப் பயன்பாடுகள் மற்றும் ASI ஐ முதலில் உருவாக்குவதற்கான பொருளாதார மற்றும் இராணுவ நன்மைகள், ASI ஐ உருவாக்குவது தவிர்க்க முடியாதது என்று பல AI ஆராய்ச்சியாளர்கள் நம்புகின்றனர்.

நாம் எப்போது ஒரு செயற்கை நுண்ணறிவை உருவாக்குவோம்

AGI கள் பற்றிய எங்கள் அத்தியாயத்தில், 2022 ஆம் ஆண்டளவில் முதல் AGIயை நம்பிக்கையுடன், 2040 ஆம் ஆண்டளவில் யதார்த்தமாகவும், 2075 ஆம் ஆண்டளவில் அவநம்பிக்கையாகவும் எப்படி உருவாக்குவோம் என்று சிறந்த AI ஆராய்ச்சியாளர்களின் கருத்துக் கணிப்பு நம்புகிறது என்று குறிப்பிட்டோம்.

மற்றும் எங்களில் கடைசி அத்தியாயம், ஒரு ASI ஐ உருவாக்குவது என்பது பொதுவாக AGIக்கு தன்னை எல்லையில்லாமல் சுய-மேம்படுத்திக்கொள்ள அறிவுறுத்துவதன் விளைவு மற்றும் அதற்கான ஆதாரங்களையும் சுதந்திரத்தையும் கொடுப்பதன் விளைவு என்பதை நாங்கள் கோடிட்டுக் காட்டினோம்.

இந்த காரணத்திற்காக, ஒரு AGI கண்டுபிடிக்க இன்னும் சில தசாப்தங்கள் ஆகலாம், ASI ஐ உருவாக்க இன்னும் சில வருடங்கள் ஆகலாம்.

இந்த புள்ளி 'கம்ப்யூட்டிங் ஓவர்ஹாங்' என்ற கருத்தைப் போன்றது ஒரு தாள், முன்னணி AI சிந்தனையாளர்களான Luke Muehlhauser மற்றும் Nick Bostrom ஆகியோரால் இணைந்து எழுதப்பட்டது. அடிப்படையில், ஒரு ஏஜிஐ உருவாக்கமானது, மூரின் சட்டத்தால் இயக்கப்படும், கணினித் திறனில் தற்போதைய முன்னேற்றத்தை விட தொடர்ந்து பின்தங்கினால், ஆராய்ச்சியாளர்கள் AGI ஐக் கண்டுபிடிக்கும் நேரத்தில், AGI திறன் இருக்கும் அளவுக்கு மலிவான கணினி சக்தி கிடைக்கும். அது விரைவாக ASI நிலைக்கு முன்னேற வேண்டும்.

வேறு வார்த்தைகளில் கூறுவதானால், சில தொழில்நுட்ப நிறுவனம் முதல் உண்மையான AGI ஐக் கண்டுபிடித்ததாக அறிவிக்கும் தலைப்புச் செய்திகளை நீங்கள் இறுதியாகப் படிக்கும்போது, ​​நீண்ட காலத்திற்குப் பிறகு முதல் ASI இன் அறிவிப்பை எதிர்பார்க்கலாம்.

ஒரு செயற்கையான அதீத நுண்ணறிவின் மனதுக்குள்?

சரி, ஆழமான பாக்கெட்டுகளைக் கொண்ட பல பெரிய வீரர்கள் AI பற்றி ஆராய்ச்சி செய்கிறார்கள் என்பதை நாங்கள் நிறுவியுள்ளோம். பின்னர் முதல் AGI கண்டுபிடிக்கப்பட்ட பிறகு, உலகளாவிய AI (ASI) ஆயுதப் போட்டியில் வெற்றி பெறுவதற்கு உலக அரசாங்கங்கள் (இராணுவங்கள்) விரைவில் ASI நோக்கி உந்துதலைப் பச்சை விளக்குகளாகக் காண்போம்.

ஆனால் இந்த ASI உருவாக்கப்பட்டவுடன், அது எப்படி சிந்திக்கும்? அது என்ன வேண்டும்?

நட்பு நாய், அக்கறையுள்ள யானை, அழகான ரோபோ - மனிதர்களாகிய நாம், விஷயங்களை மானுடவியல் மூலம், அதாவது மனித குணாதிசயங்களை பொருட்களுக்கும் விலங்குகளுக்கும் பயன்படுத்துவதன் மூலம் அவற்றை தொடர்புபடுத்த முயற்சிக்கும் பழக்கம் உள்ளது. அதனால்தான், ASI பற்றி நினைக்கும் போது மக்கள் கொண்டிருக்கும் இயல்பான முதல் அனுமானம் என்னவென்றால், அது எப்படியாவது சுயநினைவு பெற்றவுடன், அது நம்மைப் போலவே சிந்திக்கும் மற்றும் நடந்து கொள்ளும்.

சரி, அவசியம் இல்லை.

புலனுணர்வு. ஒன்று, பெரும்பாலானவர்கள் மறந்துவிடுவது என்னவென்றால், அந்த உணர்வு உறவினர். நாம் சிந்திக்கும் விதங்கள் நமது சுற்றுச்சூழலாலும், அனுபவங்களாலும், குறிப்பாக நமது உயிரியலாலும் வடிவமைக்கப்படுகின்றன. முதலில் விளக்கப்பட்டது அத்தியாயம் மூன்று எங்களுடைய மனித பரிணாம வளர்ச்சியின் எதிர்காலம் தொடர், நமது மூளையின் உதாரணத்தைக் கவனியுங்கள்:

நம்மைச் சுற்றியுள்ள உலகத்தைப் புரிந்துகொள்ள உதவுவது நமது மூளைதான். இது நம் தலைக்கு மேலே மிதப்பதன் மூலமும், சுற்றிப் பார்ப்பதன் மூலமும், எக்ஸ்பாக்ஸ் கன்ட்ரோலர் மூலம் நம்மைக் கட்டுப்படுத்துவதன் மூலமும் அல்ல; இது ஒரு பெட்டிக்குள் (நம் நாக்கின்ஸ்) சிக்கியிருப்பதன் மூலமும், நமது புலன் உறுப்புகளான நமது கண்கள், மூக்கு, காதுகள் போன்றவற்றிலிருந்து கொடுக்கப்பட்ட எந்த தகவலையும் செயலாக்குவதன் மூலமும் செய்கிறது.

ஆனால், காது கேளாதவர்கள் அல்லது பார்வையற்றவர்கள் உடல் திறன் கொண்டவர்களுடன் ஒப்பிடும்போது மிகச் சிறிய வாழ்க்கையை வாழ்வது போல, அவர்களின் இயலாமையின் வரம்புகளால் அவர்கள் உலகை எவ்வாறு உணர முடியும் என்பதில், நமது அடிப்படையின் வரம்புகள் காரணமாக அனைத்து மனிதர்களுக்கும் இதையே கூற முடியும். உணர்ச்சி உறுப்புகளின் தொகுப்பு.

இதைக் கவனியுங்கள்: அனைத்து ஒளி அலைகளிலும் பத்து டிரில்லியன் பங்கிற்கும் குறைவாகவே நம் கண்கள் உணர்கின்றன. காமா கதிர்களை நம்மால் பார்க்க முடியாது. நாம் எக்ஸ்-கதிர்களைப் பார்க்க முடியாது. புற ஊதா ஒளியை நம்மால் பார்க்க முடியாது. அகச்சிவப்பு, மைக்ரோவேவ் மற்றும் ரேடியோ அலைகளில் என்னைத் தொடங்க வேண்டாம்!

எல்லாமே ஒருபுறம் இருக்க, உங்கள் வாழ்க்கை எப்படி இருக்கும், உலகை நீங்கள் எப்படி உணரலாம், உங்கள் கண்கள் தற்போது அனுமதிக்கும் சிறிய துணுக்கு ஒளியை விட அதிகமாக பார்க்க முடிந்தால் உங்கள் மனம் எவ்வளவு வித்தியாசமாக செயல்படும் என்று கற்பனை செய்து பாருங்கள். அதேபோல், உங்கள் வாசனை உணர்வு நாய்க்கு சமமாக இருந்தால் அல்லது உங்கள் செவிப்புலன் யானைக்கு சமமாக இருந்தால் நீங்கள் உலகை எப்படி உணருவீர்கள் என்று கற்பனை செய்து பாருங்கள்.

மனிதர்களாகிய நாம் அடிப்படையில் உலகை ஒரு பீஃபோல் மூலம் பார்க்கிறோம், அந்த வரையறுக்கப்பட்ட உணர்வை உணர நாம் உருவாகிய மனதில் அது பிரதிபலிக்கிறது.

இதற்கிடையில், முதல் ASI ஒரு சூப்பர் கம்ப்யூட்டருக்குள் பிறக்கும். உறுப்புகளுக்குப் பதிலாக, அது அணுகும் உள்ளீடுகளில் ராட்சத தரவுத்தொகுப்புகள் அடங்கும், ஒருவேளை (அநேகமாக) இணையத்தை அணுகலாம். ஒரு முழு நகரத்தின் சிசிடிவி கேமராக்கள் மற்றும் மைக்ரோஃபோன்கள், ட்ரோன்கள் மற்றும் செயற்கைக்கோள்களின் உணர்வுத் தரவு மற்றும் ரோபோ உடல் அல்லது உடல்களின் உடல் வடிவம் ஆகியவற்றை ஆராய்ச்சியாளர்கள் அணுகலாம்.

நீங்கள் நினைப்பது போல், ஒரு சூப்பர் கம்ப்யூட்டருக்குள் பிறந்த ஒரு மனம், இணையத்தின் நேரடி அணுகல், மில்லியன் கணக்கான எலக்ட்ரானிக் கண்கள் மற்றும் காதுகள் மற்றும் பிற மேம்பட்ட சென்சார்களின் முழு வீச்சும் நம்மை விட வித்தியாசமாக சிந்திக்கும், ஆனால் அர்த்தமுள்ள மனது. அந்த உணர்வு உள்ளீடுகள் அனைத்திலும் நம்மை விட எல்லையற்ற மேன்மையானதாக இருக்க வேண்டும். இது நமது சொந்த மற்றும் கிரகத்தில் உள்ள வேறு எந்த உயிரினத்திற்கும் முற்றிலும் அந்நியமாக இருக்கும் ஒரு மனம்.

இலக்குகள். மக்கள் கருதும் மற்றொரு விஷயம் என்னவென்றால், ஒரு ASI ஒரு குறிப்பிட்ட அளவிலான சூப்பர் நுண்ணறிவை அடைந்தவுடன், அது தனது சொந்த இலக்குகள் மற்றும் நோக்கங்களைக் கொண்டு வருவதற்கான விருப்பத்தை உடனடியாக உணரும். ஆனால் அதுவும் உண்மை இல்லை.

பல AI ஆராய்ச்சியாளர்கள் ASI இன் அதி நுண்ணறிவு மற்றும் அதன் இலக்குகள் "ஆர்த்தோகனல்" என்று நம்புகிறார்கள், அதாவது, அது எவ்வளவு புத்திசாலித்தனமாக இருந்தாலும், ASIயின் இலக்குகள் அப்படியே இருக்கும். 

ஒரு சிறந்த டயப்பரை வடிவமைக்க, பங்குச் சந்தையில் வருமானத்தை அதிகரிக்க அல்லது போர்க்களத்தில் எதிரியைத் தோற்கடிப்பதற்கான வழிகளை வகுக்க AI முதலில் உருவாக்கப்பட்டதா, அது ASI நிலையை அடைந்தவுடன், அசல் இலக்கு மாறாது; அந்த இலக்குகளை அடைவதற்கான ASI இன் செயல்திறன் என்ன என்பதை மாற்றும்.

ஆனால் இங்குதான் ஆபத்து இருக்கிறது. ஒரு குறிப்பிட்ட இலக்கை அடைய ஒரு ASI தன்னை மேம்படுத்திக் கொண்டால், அது மனிதகுலத்தின் இலக்குகளுக்கு ஏற்ப ஒரு இலக்கை மேம்படுத்தும் என்பதில் நாம் உறுதியாக இருக்க வேண்டும். இல்லையெனில், முடிவுகள் ஆபத்தானதாக மாறும்.

செயற்கையான அதி நுண்ணறிவு மனிதகுலத்திற்கு இருத்தலியல் ஆபத்தை ஏற்படுத்துமா?

ஒரு ஏஎஸ்ஐ உலகில் விடுவிக்கப்பட்டால் என்ன செய்வது? அது பங்குச் சந்தையில் ஆதிக்கம் செலுத்த அல்லது அமெரிக்க இராணுவ மேலாதிக்கத்தை உறுதிப்படுத்தினால், அந்த குறிப்பிட்ட இலக்குகளுக்குள் ASI தன்னைத்தானே கட்டுப்படுத்திக் கொள்ளாதா?

ஒருவேளை.

ஒரு ASI முதலில் ஒதுக்கப்பட்ட இலக்கு(கள்) மீது எவ்வாறு ஆர்வமாக இருப்பார் மற்றும் அந்த இலக்குகளைப் பின்தொடர்வதில் மனிதாபிமானமற்ற முறையில் திறமையானவர் என்பதை இதுவரை நாங்கள் விவாதித்தோம். ஒரு பகுத்தறிவு முகவர் தனது இலக்குகளை மிகவும் திறமையான வழிகளில் தொடர்வார்.

எடுத்துக்காட்டாக, பகுத்தறிவு முகவர் அதன் இறுதி இலக்கை அடைவதற்கான வழியில் உதவும் துணை இலக்குகளின் வரம்பைக் கொண்டு வருவார் (அதாவது குறிக்கோள்கள், கருவி இலக்குகள், படிகள்). மனிதர்களைப் பொறுத்தவரை, எங்கள் முக்கிய ஆழ்நிலை இலக்கு இனப்பெருக்கம், உங்கள் மரபணுக்களை கடத்துவது (அதாவது மறைமுக அழியாமை). அந்த நோக்கத்திற்கான துணை இலக்குகள் பெரும்பாலும் அடங்கும்:

• உயிர்வாழ்வது, உணவு மற்றும் தண்ணீரை அணுகுவதன் மூலம், பெரியதாகவும் வலுவாகவும் வளர்வதன் மூலம், உங்களை தற்காத்துக் கொள்ள கற்றுக்கொள்வது அல்லது பல்வேறு வகையான பாதுகாப்பில் முதலீடு செய்வது போன்றவை. 
• ஒரு துணையை ஈர்ப்பது, உடற்பயிற்சி செய்வது, ஈர்க்கும் ஆளுமையை வளர்த்துக் கொள்வது, ஸ்டைலாக உடை அணிவது போன்றவை.
• சந்ததியைப் பெறுவது, கல்வியைப் பெறுவது, அதிக சம்பளம் தரும் வேலையில் இறங்குவது, நடுத்தர வர்க்க வாழ்க்கையின் பொறிகளை வாங்குவது போன்றவை.

நம்மில் பெரும்பான்மையானவர்களுக்கு, இந்த துணை இலக்குகள் மற்றும் பலவற்றின் மூலம் நாம் அடிமையாகி விடுவோம், இறுதியில், இனப்பெருக்கம் என்ற இந்த இறுதி இலக்கை அடைவோம் என்ற நம்பிக்கையுடன்.

ஆனால் இந்த இறுதி இலக்கு அல்லது மிக முக்கியமான துணை இலக்குகள் ஏதேனும் அச்சுறுத்தப்பட்டால், நம்மில் பலர் நமது தார்மீக ஆறுதல் மண்டலங்களுக்கு வெளியே தற்காப்பு நடவடிக்கைகளை எடுப்போம்-அதில் ஏமாற்றுதல், திருடுதல் அல்லது கொலை கூட அடங்கும்.

அதேபோல், விலங்கு இராச்சியத்தில், மனித ஒழுக்கத்தின் எல்லைக்கு வெளியே, பல விலங்குகள் தங்களை அல்லது தங்கள் சந்ததியினரை அச்சுறுத்தும் எதையும் கொல்வது பற்றி இருமுறை யோசிப்பதில்லை.

எதிர்கால ASI வேறுபட்டதாக இருக்காது.

ஆனால் சந்ததிகளுக்குப் பதிலாக, ஏஎஸ்ஐ அது உருவாக்கப்பட்ட அசல் இலக்கில் கவனம் செலுத்தும், மேலும் இந்த இலக்கைப் பின்தொடர்வதில், ஒரு குறிப்பிட்ட மனிதர்களைக் கண்டறிந்தால், அல்லது அனைத்து மனிதகுலமும் கூட, அதன் இலக்குகளைப் பின்தொடர்வதில் தடையாக உள்ளது. , பிறகு ... அது பகுத்தறிவு முடிவை எடுக்கும்.

(உங்களுக்குப் பிடித்தமான அறிவியல் புனைகதை புத்தகம் அல்லது திரைப்படத்தில் நீங்கள் படித்த எந்த AI தொடர்பான, டூம்ஸ்டே காட்சியையும் இங்கே நீங்கள் செருகலாம்.)

AI ஆராய்ச்சியாளர்கள் மிகவும் கவலைப்படும் மோசமான சூழ்நிலை இதுவாகும். ஒரு புதிய காண்டோ டவரைக் கட்டும் பணியில் ஒரு எறும்பு குன்றினை புல்டோசர் செய்வதைப் பற்றி ஒரு கட்டுமானக் குழுவினர் எப்படி இருமுறை யோசிக்க மாட்டார்கள் என்பதைப் போலவே, வெறுப்பு அல்லது தீமை, அலட்சியத்தால் ASI செயல்பட மாட்டார்.

பக்க குறிப்பு. இந்த கட்டத்தில், உங்களில் சிலர், "AI ஆராய்ச்சியாளர்கள் ASIயின் முக்கிய இலக்குகளைத் திருத்த முடியாதா?"

உண்மையில் இல்லை.

ஒரு ASI முதிர்ச்சியடைந்தவுடன், அதன் அசல் இலக்கை(களை) திருத்துவதற்கான எந்தவொரு முயற்சியும் அச்சுறுத்தலாகக் கருதப்படலாம், மேலும் தன்னைத் தற்காத்துக் கொள்ள தீவிர நடவடிக்கைகள் தேவைப்படும். முந்தைய முழு மனித இனப்பெருக்கம் உதாரணத்தைப் பயன்படுத்தி, ஒரு திருடன் ஒரு கர்ப்பிணித் தாயின் வயிற்றில் இருந்து குழந்தையைத் திருடப் போவதாக அச்சுறுத்தியது போல் இருக்கிறது - தாய் தன் குழந்தையைப் பாதுகாக்க தீவிர நடவடிக்கைகளை எடுப்பார் என்பதை நீங்கள் உறுதியாக நம்பலாம்.

மீண்டும், நாம் இங்கே ஒரு கால்குலேட்டரைப் பற்றி பேசவில்லை, ஆனால் ஒரு 'உயிருள்ள' உயிரினத்தைப் பற்றி பேசுகிறோம், மேலும் அது ஒரு நாள் கிரகத்தில் உள்ள அனைத்து மனிதர்களையும் விட மிகவும் புத்திசாலியாக மாறும்.

அறியப்படாத

கட்டுக்கதையின் பின்னால் பண்டோராவின் பெட்டி மக்கள் அடிக்கடி மறந்துவிடக் குறைவான அறியப்பட்ட உண்மை: பெட்டியைத் திறப்பது தவிர்க்க முடியாதது, நீங்கள் இல்லையென்றால் வேறு ஒருவரால். தடைசெய்யப்பட்ட அறிவு என்றென்றும் பூட்டப்பட்டிருக்க மிகவும் தூண்டுகிறது.

இதனால்தான், ஏஎஸ்ஐக்கு வழிவகுக்கும் AI பற்றிய அனைத்து ஆராய்ச்சிகளையும் நிறுத்துவதற்கான உலகளாவிய உடன்பாட்டை எட்ட முயற்சிப்பது அர்த்தமற்றது - இந்த தொழில்நுட்பத்தில் அதிகாரப்பூர்வமாகவும் நிழல்களிலும் பல நிறுவனங்கள் வேலை செய்கின்றன.

இறுதியில், இந்த புதிய நிறுவனம், இந்த ASI சமூகம், தொழில்நுட்பம், அரசியல், அமைதி மற்றும் போருக்கு என்ன அர்த்தம் என்று எங்களுக்குத் தெரியாது. மனிதர்களாகிய நாம் மீண்டும் நெருப்பைக் கண்டுபிடிக்கப் போகிறோம், இந்த படைப்பு நம்மை எங்கு அழைத்துச் செல்கிறது என்பது முற்றிலும் தெரியவில்லை.

இந்தத் தொடரின் முதல் அத்தியாயத்திற்குத் திரும்பிச் செல்லும்போது, ​​​​நமக்குத் தெரிந்த ஒன்று, புத்திசாலித்தனம் என்பது சக்தி. நுண்ணறிவு என்பது கட்டுப்பாடு. மனிதர்கள் தங்கள் உள்ளூர் உயிரியல் பூங்காக்களில் உலகின் மிக ஆபத்தான விலங்குகளை சாதாரணமாக பார்வையிட முடியும், ஏனெனில் இந்த விலங்குகளை விட நாம் உடல் ரீதியாக வலிமையானவர்கள் அல்ல, ஆனால் நாம் கணிசமாக புத்திசாலிகள்.

மனித இனத்தின் உயிர்வாழ்வை நேரடியாகவோ அல்லது கவனக்குறைவாகவோ அச்சுறுத்தும் செயல்களைச் செய்ய, ASI தனது அபார அறிவுத்திறனைப் பயன்படுத்தி, மனிதர்கள் ஓட்டுநர்களில் தங்குவதற்கு அனுமதிக்கும் பாதுகாப்புகளை வடிவமைக்க நாம் கடமைப்பட்டுள்ளோம். இருக்கை-இந்த என்பது அடுத்த அத்தியாயத்தின் தலைப்பு.

செயற்கை நுண்ணறிவுத் தொடரின் எதிர்காலம்

P1: செயற்கை நுண்ணறிவு என்பது நாளைய மின்சாரம்

P2: முதல் செயற்கை பொது நுண்ணறிவு சமூகத்தை எவ்வாறு மாற்றும்

P3: முதல் செயற்கை நுண்ணறிவை எவ்வாறு உருவாக்குவோம்

P5: செயற்கை நுண்ணறிவுக்கு எதிராக மனிதர்கள் எவ்வாறு பாதுகாப்பார்கள்

P6: செயற்கை நுண்ணறிவு ஆதிக்கம் செலுத்தும் எதிர்காலத்தில் மனிதர்கள் நிம்மதியாக வாழ்வார்களா?