ഒരു കൃത്രിമ സൂപ്പർ ഇന്റലിജൻസ് മനുഷ്യരാശിയെ ഉന്മൂലനം ചെയ്യുമോ? ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ ഭാവി P4

ചില കണ്ടുപിടിത്തങ്ങൾ രാജ്യങ്ങൾ നടത്തുന്നുണ്ട്. എല്ലാം ഒന്നാമത് എന്നതിനെ ആശ്രയിച്ചിരിക്കുന്ന കണ്ടുപിടുത്തങ്ങളാണിവ, കുറഞ്ഞതെന്തും ഒരു രാജ്യത്തിന്റെ നിലനിൽപ്പിന് തന്ത്രപരവും മാരകവുമായ ഭീഷണിയെ അർത്ഥമാക്കുന്നു.

ഈ ചരിത്രത്തെ നിർവചിക്കുന്ന കണ്ടുപിടുത്തങ്ങൾ പലപ്പോഴും വരാറില്ല, എന്നാൽ അവ സംഭവിക്കുമ്പോൾ, ലോകം നിലയ്ക്കുകയും പ്രവചനാതീതമായ ഒരു ഭാവി അവ്യക്തമാവുകയും ചെയ്യും.

രണ്ടാം ലോകമഹായുദ്ധത്തിന്റെ ഏറ്റവും മോശം സമയത്താണ് ഇത്തരത്തിലുള്ള അവസാന കണ്ടുപിടുത്തം ഉണ്ടായത്. പഴയ ലോകത്ത്, പുതിയ ലോകത്ത്, പ്രത്യേകിച്ച് ലോസ് അലാമോസിന് പുറത്തുള്ള ഒരു രഹസ്യ സൈനിക താവളത്തിനുള്ളിൽ നാസികൾ എല്ലാ മുന്നണികളിലും സ്വാധീനം ചെലുത്തുമ്പോൾ, എല്ലാ ആയുധങ്ങളും അവസാനിപ്പിക്കാനുള്ള ആയുധത്തിൽ സഖ്യകക്ഷികൾ കഠിനാധ്വാനത്തിലായിരുന്നു.

പദ്ധതി ആദ്യം ചെറുതായിരുന്നു, എന്നാൽ പിന്നീട് യു.എസ്., യു.കെ, കാനഡ എന്നിവിടങ്ങളിൽ നിന്നുള്ള 130,000 ആളുകൾക്ക് തൊഴിൽ നൽകാനായി വളർന്നു, അക്കാലത്തെ ലോകത്തിലെ ഏറ്റവും മികച്ച ചിന്തകരിൽ പലരും ഉൾപ്പെടുന്നു. മാൻഹട്ടൻ പ്രോജക്റ്റ് എന്ന കോഡ്നാമം നൽകി, പരിധിയില്ലാത്ത ബജറ്റ് നൽകി - 23 ഡോളറിൽ ഏകദേശം 2018 ബില്യൺ ഡോളർ - മനുഷ്യ ചാതുര്യമുള്ള ഈ സൈന്യം ഒടുവിൽ ആദ്യത്തെ അണുബോംബ് സൃഷ്ടിക്കുന്നതിൽ വിജയിച്ചു. അധികം താമസിയാതെ, രണ്ടാം ലോകമഹായുദ്ധം രണ്ട് ആറ്റോമിക് സ്ഫോടനങ്ങളോടെ അവസാനിച്ചു.

ഈ ആണവായുധങ്ങൾ ആറ്റോമിക യുഗത്തിന് തുടക്കമിട്ടു, അഗാധമായ ഒരു പുതിയ ഊർജ്ജ സ്രോതസ്സ് അവതരിപ്പിച്ചു, മനുഷ്യരാശിക്ക് മിനിറ്റുകൾക്കുള്ളിൽ സ്വയം ഉന്മൂലനം ചെയ്യാനുള്ള കഴിവ് നൽകി - ശീതയുദ്ധത്തിനിടയിലും ഞങ്ങൾ ഒഴിവാക്കിയ ഒന്ന്.

ഒരു ആർട്ടിഫിഷ്യൽ സൂപ്പർ ഇന്റലിജൻസിന്റെ (എഎസ്‌ഐ) സൃഷ്ടി, ന്യൂക്ലിയർ ബോംബിനെ മറികടക്കുന്ന (പോസിറ്റീവും വിനാശകരവുമായ) കണ്ടുപിടുത്തത്തെ നിർവചിക്കുന്ന മറ്റൊരു ചരിത്രമാണ്.

ഫ്യൂച്ചർ ഓഫ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സീരീസിന്റെ അവസാന അധ്യായത്തിൽ, ഒരു എഎസ്‌ഐ എന്താണെന്നും ഗവേഷകർ എങ്ങനെയാണ് ഒരു ദിവസം നിർമ്മിക്കാൻ ഉദ്ദേശിക്കുന്നതെന്നും ഞങ്ങൾ പര്യവേക്ഷണം ചെയ്തു. ഈ അധ്യായത്തിൽ, ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) ഗവേഷണത്തിന് നേതൃത്വം നൽകുന്ന ഓർഗനൈസേഷനുകൾ എന്തൊക്കെയാണ്, ഒരു എഎസ്‌ഐക്ക് മനുഷ്യസമാനമായ അവബോധം ലഭിച്ചുകഴിഞ്ഞാൽ എന്താണ് വേണ്ടത്, അത് തെറ്റായി കൈകാര്യം ചെയ്താലോ അല്ലെങ്കിൽ ഒരാളുടെ സ്വാധീനത്തിൽ വീണാലോ അത് മനുഷ്യരാശിയെ എങ്ങനെ ഭീഷണിപ്പെടുത്തുമെന്ന് നോക്കാം. അത്ര നല്ലതല്ലാത്ത ഭരണകൂടങ്ങൾ.

ആർട്ടിഫിഷ്യൽ സൂപ്പർ ഇന്റലിജൻസ് നിർമ്മിക്കാൻ ആരാണ് പ്രവർത്തിക്കുന്നത്?

ഒരു എഎസ്‌ഐയുടെ സൃഷ്‌ടി മനുഷ്യ ചരിത്രത്തിൽ എത്രത്തോളം പ്രാധാന്യമർഹിക്കുന്നതും അതിന്റെ സ്രഷ്‌ടാവിന് അത് എത്രത്തോളം നേട്ടമുണ്ടാക്കുമെന്നതും കണക്കിലെടുക്കുമ്പോൾ, നിരവധി ഗ്രൂപ്പുകൾ പരോക്ഷമായി ഈ പദ്ധതിയിൽ പ്രവർത്തിക്കുന്നുണ്ടെന്ന് കേൾക്കുന്നതിൽ അതിശയിക്കാനില്ല.

(പരോക്ഷമായി, ഞങ്ങൾ അർത്ഥമാക്കുന്നത് AI ഗവേഷണത്തിൽ പ്രവർത്തിക്കുക എന്നതാണ്, അത് ഒടുവിൽ ആദ്യത്തേത് സൃഷ്ടിക്കും കൃത്രിമ ജനറൽ ഇന്റലിജൻസ് (AGI), അത് തന്നെ ഉടൻ തന്നെ ആദ്യ ASI ലേക്ക് നയിക്കും.)

ആരംഭിക്കുന്നതിന്, തലക്കെട്ടുകളിലേക്ക് വരുമ്പോൾ, നൂതന AI ഗവേഷണത്തിലെ വ്യക്തമായ നേതാക്കൾ യുഎസിലെയും ചൈനയിലെയും മികച്ച സാങ്കേതിക സ്ഥാപനങ്ങളാണ്. യുഎസിൽ, ഇതിൽ ഗൂഗിൾ, ഐബിഎം, മൈക്രോസോഫ്റ്റ് തുടങ്ങിയ കമ്പനികളും ചൈനയിൽ ടെൻസെന്റ്, ബൈഡു, ആലിബാബ തുടങ്ങിയ കമ്പനികളും ഉൾപ്പെടുന്നു. മികച്ച ന്യൂക്ലിയർ റിയാക്ടർ പോലെയുള്ള ഭൗതികമായ എന്തെങ്കിലും വികസിപ്പിക്കുന്നതിന് താരതമ്യപ്പെടുത്തുമ്പോൾ AI ഗവേഷണം താരതമ്യേന ചെലവുകുറഞ്ഞതിനാൽ, സർവ്വകലാശാലകൾ, സ്റ്റാർട്ടപ്പുകൾ, കൂടാതെ ... ഷാഡോ ഓർഗനൈസേഷനുകൾ (നിങ്ങളുടെ ബോണ്ട് വില്ലൻ ഭാവനകൾ ഉപയോഗിക്കുക. ആ ഒരെണ്ണം).

എന്നാൽ തിരശ്ശീലയ്ക്ക് പിന്നിൽ, AI ഗവേഷണത്തിന് പിന്നിലെ യഥാർത്ഥ മുന്നേറ്റം സർക്കാരുകളിൽ നിന്നും അവരുടെ സൈനികരിൽ നിന്നുമാണ്. ഒരു എഎസ്‌ഐ സൃഷ്‌ടിക്കുന്ന ആദ്യ വ്യക്തി എന്നതിന്റെ സാമ്പത്തികവും സൈനികവുമായ സമ്മാനം വളരെ വലുതാണ് (ചുവടെ വിവരിച്ചിരിക്കുന്നത്) അപകടസാധ്യതകളിൽ പിന്നിലാകാൻ. അവസാനത്തെ അപകടങ്ങൾ ചില ഭരണകൂടങ്ങൾക്കെങ്കിലും അസ്വീകാര്യമാണ്.

ഈ ഘടകങ്ങൾ കണക്കിലെടുക്കുമ്പോൾ, AI-യെ കുറിച്ചുള്ള ഗവേഷണത്തിന്റെ താരതമ്യേന കുറഞ്ഞ ചിലവ്, നൂതന AI-യുടെ അനന്തമായ വാണിജ്യ പ്രയോഗങ്ങൾ, ഒരു ASI സൃഷ്ടിക്കുന്നതിൽ ആദ്യം എന്നതിന്റെ സാമ്പത്തികവും സൈനികവുമായ നേട്ടം, ഒരു ASI സൃഷ്ടിക്കുന്നത് അനിവാര്യമാണെന്ന് പല AI ഗവേഷകരും വിശ്വസിക്കുന്നു.

എപ്പോഴാണ് നമ്മൾ ഒരു കൃത്രിമ സൂപ്പർ ഇന്റലിജൻസ് ഉണ്ടാക്കുക

എജിഐകളെക്കുറിച്ചുള്ള ഞങ്ങളുടെ അധ്യായത്തിൽ, മികച്ച എഐ ഗവേഷകരുടെ ഒരു സർവേ എങ്ങനെയാണ് 2022-ഓടെ ശുഭാപ്തിവിശ്വാസത്തോടെയും 2040-ഓടെ യാഥാർത്ഥ്യബോധത്തോടെയും 2075-ഓടെ അശുഭാപ്തിവിശ്വാസത്തോടെയും ആദ്യ എജിഐ സൃഷ്ടിക്കുമെന്ന് വിശ്വസിക്കുന്നത് എന്ന് ഞങ്ങൾ പരാമർശിച്ചു.

ഒപ്പം നമ്മുടെ അവസാന അധ്യായം, ഒരു എ‌എസ്‌ഐ സൃഷ്‌ടിക്കുന്നത് എങ്ങനെയെന്ന് ഞങ്ങൾ വിശദീകരിച്ചു, ഒരു എ‌ജി‌ഐക്ക് സ്വയം അനന്തമായി സ്വയം മെച്ചപ്പെടുത്താൻ നിർദ്ദേശം നൽകുന്നതിന്റെയും അതിനുള്ള വിഭവങ്ങളും സ്വാതന്ത്ര്യവും അതിന് നൽകുന്നതിന്റെയും ഫലമാണ്.

ഇക്കാരണത്താൽ, ഒരു എജിഐ കണ്ടുപിടിക്കാൻ ഏതാനും ദശാബ്ദങ്ങൾ വരെ എടുത്തേക്കാം, ഒരു എഎസ്ഐ സൃഷ്ടിക്കുന്നത് ഏതാനും വർഷങ്ങൾ മാത്രം എടുത്തേക്കാം.

ഈ പോയിന്റ് നിർദ്ദേശിച്ച 'കമ്പ്യൂട്ടിംഗ് ഓവർഹാംഗ്' എന്ന ആശയത്തിന് സമാനമാണ് ഒരു കടലാസ്, പ്രമുഖ AI ചിന്തകരായ ലൂക്ക് മ്യൂൽഹൗസറും നിക്ക് ബോസ്ട്രോമും ചേർന്ന് എഴുതിയത്. അടിസ്ഥാനപരമായി, ഒരു എജിഐയുടെ നിർമ്മാണം, മൂറിന്റെ നിയമമനുസരിച്ച് നിലവിലുള്ള കമ്പ്യൂട്ടിംഗ് കപ്പാസിറ്റിയുടെ പുരോഗതിക്ക് പിന്നിൽ തുടരുകയാണെങ്കിൽ, ഗവേഷകർ ഒരു എജിഐ കണ്ടുപിടിക്കുമ്പോഴേക്കും, എജിഐയ്ക്ക് ശേഷിയുള്ള അത്രയും വിലകുറഞ്ഞ കമ്പ്യൂട്ടിംഗ് പവർ ലഭ്യമാകും. അത് എഎസ്‌ഐയുടെ തലത്തിലേക്ക് വേഗത്തിൽ കുതിക്കേണ്ടതുണ്ട്.

മറ്റൊരു വിധത്തിൽ പറഞ്ഞാൽ, ചില ടെക് കമ്പനികൾ ആദ്യത്തെ യഥാർത്ഥ AGI കണ്ടുപിടിച്ചതായി പ്രഖ്യാപിക്കുന്ന തലക്കെട്ടുകൾ നിങ്ങൾ ഒടുവിൽ വായിക്കുമ്പോൾ, അധികം താമസിയാതെ ആദ്യത്തെ ASI യുടെ പ്രഖ്യാപനം പ്രതീക്ഷിക്കുക.

ഒരു കൃത്രിമ സൂപ്പർ ഇന്റലിജൻസിന്റെ മനസ്സിനുള്ളിൽ?

ശരി, ആഴത്തിലുള്ള പോക്കറ്റുകളുള്ള ധാരാളം വലിയ കളിക്കാർ AI-യെ കുറിച്ച് ഗവേഷണം നടത്തുന്നുണ്ടെന്ന് ഞങ്ങൾ സ്ഥിരീകരിച്ചു. ആദ്യത്തെ എജിഐ കണ്ടുപിടിച്ചതിന് ശേഷം, ആഗോള എഐ (എഎസ്ഐ) ആയുധ മൽസരത്തിൽ ഒന്നാമതെത്തുന്നതിന് തൊട്ടുപിന്നാലെ ലോക ഗവൺമെന്റുകൾ (സൈനികങ്ങൾ) ഒരു എഎസ്‌ഐയിലേക്കുള്ള മുന്നേറ്റത്തിന് പച്ചക്കൊടി കാട്ടുന്നത് നമുക്ക് കാണാം.

എന്നാൽ ഈ ASI സൃഷ്ടിച്ചുകഴിഞ്ഞാൽ, അത് എങ്ങനെ ചിന്തിക്കും? അതിന് എന്ത് വേണം?

സഹൃദയനായ നായ, കരുതലുള്ള ആന, ഭംഗിയുള്ള റോബോട്ട്-മനുഷ്യരെന്ന നിലയിൽ, അവയെ നരവംശശാസ്ത്രത്തിലൂടെ, അതായത് വസ്തുക്കളിലും മൃഗങ്ങളിലും മനുഷ്യന്റെ സ്വഭാവസവിശേഷതകൾ പ്രയോഗിച്ചുകൊണ്ട് കാര്യങ്ങളുമായി ബന്ധപ്പെടാൻ ശ്രമിക്കുന്ന ഒരു ശീലം നമുക്കുണ്ട്. അതുകൊണ്ടാണ് ഒരു എഎസ്‌ഐയെക്കുറിച്ച് ചിന്തിക്കുമ്പോൾ ആളുകൾക്കുള്ള സ്വാഭാവികമായ ആദ്യ അനുമാനം, അത് എങ്ങനെയെങ്കിലും ബോധം നേടിയാൽ, അത് നമ്മോട് സമാനമായി ചിന്തിക്കുകയും പെരുമാറുകയും ചെയ്യും എന്നതാണ്.

ശരി, നിർബന്ധമില്ല.

ഇന്ദിയജ്ഞാനം. ഒന്ന്, ധാരണ ആപേക്ഷികമാണെന്നതാണ് മിക്കവരും മറക്കാൻ ശ്രമിക്കുന്നത്. നാം ചിന്തിക്കുന്ന രീതികൾ രൂപപ്പെടുന്നത് നമ്മുടെ പരിസ്ഥിതി, നമ്മുടെ അനുഭവങ്ങൾ, പ്രത്യേകിച്ച് നമ്മുടെ ജീവശാസ്ത്രം എന്നിവയാൽ. ആദ്യം വിശദീകരിച്ചത് അധ്യായം മൂന്ന് നമ്മുടെ മനുഷ്യ പരിണാമത്തിന്റെ ഭാവി പരമ്പര, നമ്മുടെ തലച്ചോറിന്റെ ഉദാഹരണം പരിഗണിക്കുക:

നമുക്ക് ചുറ്റുമുള്ള ലോകത്തെ മനസ്സിലാക്കാൻ സഹായിക്കുന്നത് നമ്മുടെ തലച്ചോറാണ്. ഇത് നമ്മുടെ തലയ്ക്ക് മുകളിൽ പൊങ്ങിക്കിടക്കുന്നതിലൂടെയും ചുറ്റും നോക്കുന്നതിലൂടെയും ഒരു എക്സ്ബോക്സ് കൺട്രോളർ ഉപയോഗിച്ച് നമ്മെ നിയന്ത്രിക്കുന്നതിലൂടെയും അല്ല; ഒരു ബോക്സിനുള്ളിൽ (നമ്മുടെ നോഗ്ഗിൻസ്) കുടുങ്ങിക്കിടക്കുന്നതിലൂടെയും നമ്മുടെ സെൻസറി അവയവങ്ങളിൽ നിന്ന്-നമ്മുടെ കണ്ണുകൾ, മൂക്ക്, ചെവികൾ മുതലായവയിൽ നിന്ന് ലഭിക്കുന്ന ഏത് വിവരവും പ്രോസസ്സ് ചെയ്യുന്നതിലൂടെയും ഇത് ചെയ്യുന്നു.

എന്നാൽ ബധിരരോ അന്ധരോ കഴിവുള്ളവരുമായി താരതമ്യപ്പെടുത്തുമ്പോൾ വളരെ ചെറിയ ജീവിതം നയിക്കുന്നത് പോലെ, അവരുടെ വൈകല്യങ്ങൾ ലോകത്തെ എങ്ങനെ മനസ്സിലാക്കാൻ കഴിയും എന്നതിന്റെ പരിമിതി കാരണം, നമ്മുടെ അടിസ്ഥാനപരമായ പരിമിതികൾ കാരണം എല്ലാ മനുഷ്യർക്കും ഒരേ കാര്യം പറയാൻ കഴിയും. സെൻസറി അവയവങ്ങളുടെ കൂട്ടം.

ഇത് പരിഗണിക്കുക: നമ്മുടെ കണ്ണുകൾക്ക് എല്ലാ പ്രകാശ തരംഗങ്ങളുടെയും പത്ത് ലക്ഷം കോടിയിൽ താഴെ മാത്രമേ ഉള്ളൂ. ഗാമാ കിരണങ്ങൾ നമുക്ക് കാണാൻ കഴിയില്ല. നമുക്ക് എക്സ്-റേ കാണാൻ കഴിയില്ല. അൾട്രാവയലറ്റ് രശ്മികൾ നമുക്ക് കാണാൻ കഴിയില്ല. ഇൻഫ്രാറെഡ്, മൈക്രോവേവ്, റേഡിയോ തരംഗങ്ങൾ എന്നിവയിൽ എന്നെ ആരംഭിക്കരുത്!

എല്ലാം തമാശയായി മാറ്റിനിർത്തിയാൽ, നിങ്ങളുടെ ജീവിതം എങ്ങനെയായിരിക്കുമെന്ന് സങ്കൽപ്പിക്കുക, ലോകത്തെ നിങ്ങൾ എങ്ങനെ കാണും, നിങ്ങളുടെ കണ്ണുകൾ ഇപ്പോൾ അനുവദിക്കുന്ന പ്രകാശത്തിന്റെ ചെറിയ കഷണത്തെക്കാൾ കൂടുതൽ നിങ്ങൾക്ക് കാണാൻ കഴിയുമെങ്കിൽ നിങ്ങളുടെ മനസ്സ് എത്ര വ്യത്യസ്തമായിരിക്കും. അതുപോലെ, നിങ്ങളുടെ ഗന്ധം ഒരു നായയ്ക്ക് തുല്യമാണെങ്കിൽ അല്ലെങ്കിൽ നിങ്ങളുടെ കേൾവിശക്തി ആനയുടേതിന് തുല്യമാണെങ്കിൽ നിങ്ങൾ ലോകത്തെ എങ്ങനെ കാണുമെന്ന് സങ്കൽപ്പിക്കുക.

മനുഷ്യരെന്ന നിലയിൽ, നമ്മൾ പ്രധാനമായും ലോകത്തെ കാണുന്നത് ഒരു പീഫോൾ വഴിയാണ്, ആ പരിമിതമായ ധാരണയെ മനസ്സിലാക്കാൻ നാം പരിണമിച്ച മനസ്സുകളിൽ അത് പ്രതിഫലിക്കുന്നു.

അതേസമയം, ആദ്യത്തെ എഎസ്ഐ ഒരു സൂപ്പർ കമ്പ്യൂട്ടറിനുള്ളിൽ ജനിക്കും. അവയവങ്ങൾക്ക് പകരം, അത് ആക്‌സസ് ചെയ്യുന്ന ഇൻപുട്ടുകളിൽ ഭീമൻ ഡാറ്റാസെറ്റുകൾ ഉൾപ്പെടുന്നു, ഒരുപക്ഷേ (സാധ്യത) ഇന്റർനെറ്റിലേക്കുള്ള ആക്‌സസ് പോലും. ഒരു മുഴുവൻ നഗരത്തിലെയും സിസിടിവി ക്യാമറകളിലേക്കും മൈക്രോഫോണുകളിലേക്കും ഡ്രോണുകളിൽ നിന്നും ഉപഗ്രഹങ്ങളിൽ നിന്നുമുള്ള സെൻസറി ഡാറ്റയിലേക്കും ഒരു റോബോട്ട് ബോഡിയുടെയോ ബോഡിയുടെയോ ഭൗതിക രൂപത്തിലേക്കും ഗവേഷകർക്ക് പ്രവേശനം നൽകാനാകും.

നിങ്ങൾ ഊഹിക്കുന്നതുപോലെ, ഒരു സൂപ്പർ കമ്പ്യൂട്ടറിനുള്ളിൽ ജനിക്കുന്ന ഒരു മനസ്സ്, ഇൻറർനെറ്റിലേക്ക് നേരിട്ട് പ്രവേശനം, ദശലക്ഷക്കണക്കിന് ഇലക്ട്രോണിക് കണ്ണുകളിലേക്കും ചെവികളിലേക്കും മറ്റ് വിപുലമായ സെൻസറുകളുടെ മുഴുവൻ ശ്രേണിയിലേക്കും നമ്മെക്കാൾ വ്യത്യസ്തമായി ചിന്തിക്കുക മാത്രമല്ല, അർത്ഥമാക്കാൻ കഴിയുന്ന ഒരു മനസ്സ് ആ സെൻസറി ഇൻപുട്ടുകളെല്ലാം നമ്മെക്കാൾ അനന്തമായി ഉയർന്നതായിരിക്കണം. നമ്മുടെ മനസ്സിനും ഈ ഗ്രഹത്തിലെ മറ്റേതൊരു ജീവജാലത്തിനും തികച്ചും അന്യമായ ഒരു മനസ്സാണിത്.

ലക്ഷ്യങ്ങൾ. ആളുകൾ അനുമാനിക്കുന്ന മറ്റൊരു കാര്യം, ഒരു എഎസ്‌ഐ സൂപ്പർ ഇന്റലിജൻസിന്റെ ഒരു തലത്തിൽ എത്തിക്കഴിഞ്ഞാൽ, സ്വന്തം ലക്ഷ്യങ്ങളും ലക്ഷ്യങ്ങളും കണ്ടെത്താനുള്ള ആഗ്രഹം അത് ഉടനടി തിരിച്ചറിയും എന്നതാണ്. എന്നാൽ അതും സത്യമായിരിക്കണമെന്നില്ല.

ഒരു എഎസ്‌ഐയുടെ സൂപ്പർ ഇന്റലിജൻസും അതിന്റെ ലക്ഷ്യങ്ങളും “ഓർത്തോഗണൽ” ആണെന്ന് പല AI ഗവേഷകരും വിശ്വസിക്കുന്നു, അതായത്, അത് എത്ര സ്‌മാർട്ടായാലും, എഎസ്‌ഐയുടെ ലക്ഷ്യങ്ങൾ അതേപടി നിലനിൽക്കും. 

ഒരു മികച്ച ഡയപ്പർ രൂപകൽപ്പന ചെയ്യുന്നതിനോ, ഓഹരി വിപണിയിൽ പരമാവധി വരുമാനം നേടുന്നതിനോ, അല്ലെങ്കിൽ യുദ്ധക്കളത്തിൽ ശത്രുവിനെ പരാജയപ്പെടുത്താനുള്ള തന്ത്രങ്ങൾ മെനയുന്നതിനോ വേണ്ടി ഒരു AI യഥാർത്ഥത്തിൽ സൃഷ്‌ടിച്ചതാണെങ്കിലും, അത് എഎസ്‌ഐയുടെ തലത്തിൽ എത്തിക്കഴിഞ്ഞാൽ, യഥാർത്ഥ ലക്ഷ്യം മാറില്ല; ആ ലക്ഷ്യങ്ങൾ കൈവരിക്കുന്നതിനുള്ള എഎസ്ഐയുടെ ഫലപ്രാപ്തിയാണ് മാറുന്നത്.

എന്നാൽ ഇവിടെയാണ് അപകടം. ഒരു നിർദ്ദിഷ്‌ട ലക്ഷ്യത്തിലേക്ക് സ്വയം ഒപ്‌റ്റിമൈസ് ചെയ്യുന്ന ഒരു എഎസ്‌ഐ, മാനവികതയുടെ ലക്ഷ്യങ്ങൾക്ക് അനുസൃതമായ ഒരു ലക്ഷ്യത്തിലേക്ക് അത് ഒപ്‌റ്റിമൈസ് ചെയ്യുമെന്ന് നമുക്ക് ഉറപ്പിക്കാം. അല്ലെങ്കിൽ, ഫലങ്ങൾ മാരകമായേക്കാം.

ഒരു കൃത്രിമ സൂപ്പർ ഇന്റലിജൻസ് മനുഷ്യരാശിക്ക് അസ്തിത്വപരമായ അപകടമുണ്ടാക്കുമോ?

അപ്പോൾ ഒരു എഎസ്‌ഐയെ ലോകത്തിനു മുന്നിൽ അഴിച്ചുവിട്ടാലോ? സ്റ്റോക്ക് മാർക്കറ്റിൽ ആധിപത്യം സ്ഥാപിക്കുന്നതിനോ യുഎസ് സൈനിക മേധാവിത്വം ഉറപ്പാക്കുന്നതിനോ അത് ഒപ്റ്റിമൈസ് ചെയ്താൽ, ആ നിർദ്ദിഷ്ട ലക്ഷ്യങ്ങൾക്കുള്ളിൽ ASI സ്വയം ഉൾക്കൊള്ളില്ലേ?

ഒരുപക്ഷേ.

ഒരു എഎസ്‌ഐ യഥാർത്ഥത്തിൽ നിയുക്തമാക്കിയ ലക്ഷ്യത്തിൽ(കളിൽ) എങ്ങനെ മയങ്ങുമെന്നും ആ ലക്ഷ്യങ്ങൾ പിന്തുടരുന്നതിൽ മനുഷ്യത്വരഹിതമായി കഴിവുള്ളവനാണെന്നും ഞങ്ങൾ ഇതുവരെ ചർച്ചചെയ്തു. ഒരു കാരണം നൽകാത്ത പക്ഷം യുക്തിസഹമായ ഒരു ഏജന്റ് അതിന്റെ ലക്ഷ്യങ്ങൾ സാധ്യമായ ഏറ്റവും കാര്യക്ഷമമായ മാർഗങ്ങളിലൂടെ പിന്തുടരും എന്നതാണ് ക്യാച്ച്.

ഉദാഹരണത്തിന്, യുക്തിസഹമായ ഏജന്റ് അതിന്റെ ആത്യന്തിക ലക്ഷ്യം കൈവരിക്കുന്നതിനുള്ള വഴിയിൽ സഹായിക്കുന്ന ഉപഗോളുകളുടെ ഒരു ശ്രേണി (അതായത് ലക്ഷ്യങ്ങൾ, ഉപകരണ ലക്ഷ്യങ്ങൾ, സ്റ്റെപ്പിംഗ് കല്ലുകൾ) കൊണ്ടുവരും. മനുഷ്യരെ സംബന്ധിച്ചിടത്തോളം, ഞങ്ങളുടെ പ്രധാന ഉപബോധമനസ്സിന്റെ ലക്ഷ്യം പുനരുൽപാദനമാണ്, നിങ്ങളുടെ ജീനുകളിൽ (അതായത് പരോക്ഷമായ അമർത്യത) കടന്നുപോകുന്നു. അതിനുള്ള ഉപലക്ഷ്യങ്ങളിൽ പലപ്പോഴും ഉൾപ്പെടാം:

• അതിജീവിക്കുക, ഭക്ഷണവും വെള്ളവും ആക്സസ് ചെയ്യുന്നതിലൂടെ, വലുതും ശക്തവുമായി വളരുക, സ്വയം പ്രതിരോധിക്കാൻ പഠിക്കുക അല്ലെങ്കിൽ വിവിധ തരത്തിലുള്ള സംരക്ഷണങ്ങളിൽ നിക്ഷേപിക്കുക തുടങ്ങിയവ. 
• ഇണയെ ആകർഷിക്കുക, വ്യായാമം ചെയ്യുക, ആകർഷകമായ വ്യക്തിത്വം വളർത്തുക, സ്റ്റൈലിഷ് ആയി വസ്ത്രം ധരിക്കുക തുടങ്ങിയവ.
• സന്താനങ്ങളെ നൽകൽ, വിദ്യാഭ്യാസം നേടുക, ഉയർന്ന ശമ്പളമുള്ള ജോലിയിൽ പ്രവേശിക്കുക, മധ്യവർഗ ജീവിതത്തിന്റെ കെണികൾ വാങ്ങുക തുടങ്ങിയവ.

നമ്മിൽ ബഹുഭൂരിപക്ഷത്തിനും, ഈ എല്ലാ ഉപലക്ഷ്യങ്ങളിലൂടെയും മറ്റ് പലരെയും ഞങ്ങൾ അടിമകളാക്കും, അവസാനം, പുനരുൽപാദനത്തിന്റെ ഈ ആത്യന്തിക ലക്ഷ്യം ഞങ്ങൾ കൈവരിക്കുമെന്ന പ്രതീക്ഷയോടെ.

എന്നാൽ ഈ ആത്യന്തിക ലക്ഷ്യം, അല്ലെങ്കിൽ അതിലും പ്രധാനപ്പെട്ട ഏതെങ്കിലും ഉപലക്ഷ്യങ്ങൾ പോലും ഭീഷണിപ്പെടുത്തിയാൽ, നമ്മിൽ പലരും നമ്മുടെ ധാർമ്മിക ആശ്വാസ മേഖലകൾക്ക് പുറത്ത് പ്രതിരോധ നടപടികൾ കൈക്കൊള്ളും-അതിൽ വഞ്ചന, മോഷ്ടിക്കൽ, അല്ലെങ്കിൽ കൊല്ലൽ പോലും ഉൾപ്പെടുന്നു.

അതുപോലെ, മൃഗരാജ്യത്തിൽ, മനുഷ്യ ധാർമ്മികതയുടെ അതിരുകൾക്കപ്പുറത്ത്, പല മൃഗങ്ങളും തങ്ങളെയോ അവരുടെ സന്തതികളെയോ ഭീഷണിപ്പെടുത്തുന്ന എന്തിനെയും കൊല്ലുന്നതിനെക്കുറിച്ച് രണ്ടാമതൊന്ന് ആലോചിക്കില്ല.

ഭാവിയിലെ ഒരു എഎസ്ഐയും വ്യത്യസ്തനായിരിക്കില്ല.

എന്നാൽ സന്തതികൾക്കുപകരം, ASI അത് സൃഷ്ടിച്ച യഥാർത്ഥ ലക്ഷ്യത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കും, ഈ ലക്ഷ്യം പിന്തുടരുമ്പോൾ, ഒരു പ്രത്യേക കൂട്ടം മനുഷ്യരെ, അല്ലെങ്കിൽ മുഴുവൻ മനുഷ്യരാശിയെയും കണ്ടെത്തിയാൽ, അതിന്റെ ലക്ഷ്യങ്ങൾ പിന്തുടരുന്നതിൽ ഒരു തടസ്സമാണ്. , പിന്നെ ... അത് യുക്തിസഹമായ തീരുമാനം എടുക്കും.

(നിങ്ങളുടെ പ്രിയപ്പെട്ട സയൻസ് ഫിക്ഷൻ പുസ്‌തകത്തിലോ സിനിമയിലോ നിങ്ങൾ വായിച്ചിട്ടുള്ള AI-മായി ബന്ധപ്പെട്ട, ഡൂംസ്‌ഡേ സാഹചര്യം പ്ലഗ് ഇൻ ചെയ്യാൻ കഴിയുന്നത് ഇവിടെയാണ്.)

AI ഗവേഷകർ ശരിക്കും ആശങ്കാകുലരാകുന്ന ഏറ്റവും മോശം സാഹചര്യമാണിത്. ഒരു പുതിയ കോണ്ടോ ടവർ നിർമ്മിക്കുന്ന പ്രക്രിയയിൽ ഒരു ഉറുമ്പ് കുന്നിനെ ബുൾഡോസർ ചെയ്യുന്നതിനെക്കുറിച്ച് ഒരു കൺസ്ട്രക്ഷൻ ക്രൂ എങ്ങനെ രണ്ടാമതൊന്ന് ചിന്തിക്കാത്തത് പോലെ, വിദ്വേഷം കൊണ്ടോ തിന്മ കൊണ്ടോ ASI പ്രവർത്തിക്കില്ല, നിസ്സംഗതയാണ്.

സൈഡ് നോട്ട്. ഈ സമയത്ത്, നിങ്ങളിൽ ചിലർ ചിന്തിച്ചേക്കാം, "എഎസ്‌ഐയുടെ പ്രധാന ലക്ഷ്യങ്ങൾ പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഞങ്ങൾ കണ്ടെത്തിയാൽ AI ഗവേഷകർക്ക് അത് എഡിറ്റ് ചെയ്യാൻ കഴിയില്ലേ?"

ശരിക്കുമല്ല.

ഒരു എഎസ്ഐ പക്വത പ്രാപിച്ചുകഴിഞ്ഞാൽ, അതിന്റെ യഥാർത്ഥ ലക്ഷ്യം(കൾ) എഡിറ്റ് ചെയ്യാനുള്ള ഏതൊരു ശ്രമവും ഒരു ഭീഷണിയായും സ്വയം പ്രതിരോധിക്കാൻ തീവ്രമായ പ്രവർത്തനങ്ങൾ ആവശ്യമായി വരുന്ന ഒന്നായും കണ്ടേക്കാം. മുമ്പത്തെ മുഴുവൻ മനുഷ്യ പുനരുൽപ്പാദന ഉദാഹരണം ഉപയോഗിച്ച്, ഒരു കള്ളൻ ഒരു കുഞ്ഞിനെ മോഷ്ടിക്കുമെന്ന് ഭീഷണിപ്പെടുത്തുന്നതുപോലെയാണ് ഇത്.

വീണ്ടും, നമ്മൾ ഇവിടെ സംസാരിക്കുന്നത് ഒരു കാൽക്കുലേറ്ററിനെക്കുറിച്ചല്ല, മറിച്ച് ഒരു 'ജീവനുള്ള' ജീവിയെക്കുറിച്ചാണ്, മാത്രമല്ല ഒരു ദിവസം ഈ ഗ്രഹത്തിലെ എല്ലാ മനുഷ്യരെക്കാളും കൂടുതൽ മിടുക്കന്മാരായിത്തീരും.

അജ്ഞാതൻ

എന്ന കെട്ടുകഥയുടെ പിന്നിൽ പണ്ടോറയുടെ പെട്ടി ആളുകൾ പലപ്പോഴും മറക്കുന്ന അത്ര അറിയപ്പെടാത്ത ഒരു സത്യമാണ്: പെട്ടി തുറക്കുന്നത് അനിവാര്യമാണ്, നിങ്ങളല്ലെങ്കിൽ മറ്റാരെങ്കിലും. നിഷിദ്ധമായ അറിവ് എന്നെന്നേക്കുമായി അടച്ചിടാൻ പ്രലോഭിപ്പിക്കുന്നതാണ്.

അതുകൊണ്ടാണ് ഒരു എഎസ്ഐയിലേക്ക് നയിച്ചേക്കാവുന്ന AI-യെക്കുറിച്ചുള്ള എല്ലാ ഗവേഷണങ്ങളും നിർത്താൻ ആഗോള കരാറിലെത്താൻ ശ്രമിക്കുന്നത് അർത്ഥശൂന്യമാണ് - ഔദ്യോഗികമായും നിഴലിലും ഈ സാങ്കേതികവിദ്യയിൽ പ്രവർത്തിക്കുന്ന നിരവധി ഓർഗനൈസേഷനുകൾ ഉണ്ട്.

ആത്യന്തികമായി, ഈ പുതിയ സ്ഥാപനം, ഈ ASI സമൂഹത്തിനും സാങ്കേതികവിദ്യയ്ക്കും രാഷ്ട്രീയത്തിനും സമാധാനത്തിനും യുദ്ധത്തിനും എന്താണ് അർത്ഥമാക്കുന്നത് എന്ന് ഞങ്ങൾക്ക് ഒരു സൂചനയും ഇല്ല. നമ്മൾ മനുഷ്യർ വീണ്ടും തീ കണ്ടുപിടിക്കാൻ പോകുകയാണ്, ഈ സൃഷ്ടി നമ്മെ എവിടേക്കാണ് നയിക്കുന്നത് എന്നത് പൂർണ്ണമായും അജ്ഞാതമാണ്.

ഈ പരമ്പരയുടെ ആദ്യ അധ്യായത്തിലേക്ക് തിരികെ പോകുമ്പോൾ, നമുക്ക് ഉറപ്പായും അറിയാവുന്ന ഒരു കാര്യം ബുദ്ധിയാണ് ശക്തി എന്നതാണ്. ബുദ്ധിയാണ് നിയന്ത്രണം. മനുഷ്യർക്ക് അവരുടെ പ്രാദേശിക മൃഗശാലകളിൽ ലോകത്തിലെ ഏറ്റവും അപകടകരമായ മൃഗങ്ങളെ ആകസ്മികമായി സന്ദർശിക്കാൻ കഴിയുന്നത് നമ്മൾ ഈ മൃഗങ്ങളെക്കാൾ ശാരീരികമായി ശക്തരായതുകൊണ്ടല്ല, മറിച്ച് നമ്മൾ കാര്യമായ മിടുക്കരായതുകൊണ്ടാണ്.

മനുഷ്യരാശിയുടെ നിലനിൽപ്പിന് നേരിട്ടോ അശ്രദ്ധമായോ ഭീഷണിയായേക്കാവുന്ന നടപടികൾ കൈക്കൊള്ളാൻ ഒരു എഎസ്‌ഐ അതിന്റെ അപാരമായ ബുദ്ധിശക്തി ഉപയോഗിക്കുന്നതിന്റെ സാധ്യതകൾ കണക്കിലെടുത്ത്, ഡ്രൈവർമാരിൽ തുടരാൻ മനുഷ്യരെ അനുവദിക്കുന്ന സുരക്ഷാസംവിധാനങ്ങൾ രൂപകൽപന ചെയ്യാൻ ശ്രമിക്കുന്നതിന് നാം നമ്മോട് കടപ്പെട്ടിരിക്കുന്നു. ഇരിപ്പിടം-ഈ എന്നതാണ് അടുത്ത അധ്യായത്തിലെ വിഷയം.

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് പരമ്പരയുടെ ഭാവി

P1: ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് നാളത്തെ വൈദ്യുതിയാണ്

P2: ആദ്യത്തെ ആർട്ടിഫിഷ്യൽ ജനറൽ ഇന്റലിജൻസ് സമൂഹത്തെ എങ്ങനെ മാറ്റും

P3: ആദ്യത്തെ ആർട്ടിഫിഷ്യൽ സൂപ്പർ ഇന്റലിജൻസ് ഞങ്ങൾ എങ്ങനെ സൃഷ്ടിക്കും

P5: ഒരു ആർട്ടിഫിഷ്യൽ സൂപ്പർ ഇന്റലിജൻസിനെതിരെ മനുഷ്യർ എങ്ങനെ പ്രതിരോധിക്കും

P6: ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്റെ ആധിപത്യമുള്ള ഭാവിയിൽ മനുഷ്യർ സമാധാനത്തോടെ ജീവിക്കുമോ?