AI വിന്യാസം: ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ലക്ഷ്യങ്ങൾ മാനുഷിക മൂല്യങ്ങളുമായി പൊരുത്തപ്പെടുന്നു

• രചയിതാവ്:
• രചയിതാവിന്റെ പേര്

  Quantumrun ദീർഘവീക്ഷണം
• ജനുവരി 25, 2023

ഒരു AI സിസ്റ്റത്തിന്റെ ലക്ഷ്യങ്ങൾ മാനുഷിക മൂല്യങ്ങളുമായി പൊരുത്തപ്പെടുന്നതാണ് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് (AI) വിന്യാസം. OpenAI, DeepMind, Anthropic പോലുള്ള കമ്പനികൾക്ക് ഗവേഷകരുടെ ടീമുകളുണ്ട്, ഇത് സംഭവിക്കാനിടയുള്ള വ്യത്യസ്ത സാഹചര്യങ്ങൾക്കായി ഗാർഡ്‌റെയിലുകൾ പഠിക്കുക എന്നതാണ് അവരുടെ ഏക ശ്രദ്ധ.

AI അലൈൻമെന്റ് സന്ദർഭം

2021-ലെ കോർണൽ യൂണിവേഴ്സിറ്റി ഗവേഷണ പഠനമനുസരിച്ച്, അൽഗോരിതങ്ങൾ സൃഷ്ടിച്ച ഉപകരണങ്ങളോ മോഡലുകളോ അവർ പരിശീലിപ്പിച്ച ഡാറ്റയിൽ നിന്നുള്ള പക്ഷപാതം കാണിക്കുന്നുവെന്ന് നിരവധി പഠനങ്ങൾ തെളിയിച്ചിട്ടുണ്ട്. ഉദാഹരണത്തിന്, നാച്ചുറൽ ലാംഗ്വേജ് പ്രോസസിംഗിൽ (NLP), പരിമിതമായ ഡാറ്റാ സെറ്റുകളിൽ പരിശീലിപ്പിച്ച തിരഞ്ഞെടുത്ത NLP മോഡലുകൾ സ്ത്രീകൾക്കെതിരായ ദോഷകരമായ ലിംഗ സ്റ്റീരിയോടൈപ്പുകളെ അടിസ്ഥാനമാക്കിയുള്ള പ്രവചനങ്ങൾ രേഖപ്പെടുത്തി. അതുപോലെ, മറ്റ് പഠനങ്ങൾ, കൃത്രിമ ഡാറ്റാ സെറ്റിൽ പരിശീലിപ്പിച്ച അൽഗോരിതങ്ങൾ വംശീയ പക്ഷപാതപരമായ ശുപാർശകൾക്ക് കാരണമായി, പ്രത്യേകിച്ച് പോലീസിംഗിൽ.

മെഷീൻ ലേണിംഗ് സംവിധാനങ്ങൾ ന്യൂനപക്ഷങ്ങൾക്കോ ​​അല്ലെങ്കിൽ ഒന്നിലധികം ദോഷങ്ങളാൽ ബുദ്ധിമുട്ടുന്ന ഗ്രൂപ്പുകൾക്കോ ​​മോശമാക്കിയതിന് ധാരാളം ഉദാഹരണങ്ങളുണ്ട്. പ്രത്യേകിച്ച്, ഓട്ടോമേറ്റഡ് ഫേഷ്യൽ അനാലിസിസ്, ഹെൽത്ത് കെയർ ഡയഗ്നോസ്റ്റിക്സ് എന്നിവ സാധാരണയായി സ്ത്രീകൾക്കും നിറമുള്ള ആളുകൾക്കും നന്നായി പ്രവർത്തിക്കില്ല. ആരോഗ്യ സംരക്ഷണമോ വിദ്യാഭ്യാസമോ അനുവദിക്കുന്നത് പോലെയുള്ള സന്ദർഭങ്ങളിൽ വികാരങ്ങൾക്ക് പകരം വസ്‌തുതകളിലും യുക്തിയിലും അധിഷ്‌ഠിതമായ നിർണായക സംവിധാനങ്ങൾ ഉപയോഗിക്കുമ്പോൾ, ഈ ശുപാർശകൾക്ക് പിന്നിലെ ന്യായവാദം തിരിച്ചറിയുന്നത് പ്രയാസകരമാക്കുന്നതിലൂടെ അവ കൂടുതൽ ദോഷം ചെയ്യും.

തൽഫലമായി, അൽഗോരിതങ്ങൾ ന്യായമായും മാനുഷികമായും നിലനിർത്തുന്നതിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കാൻ ടെക് സ്ഥാപനങ്ങൾ AI അലൈൻമെന്റ് ടീമുകളെ സൃഷ്ടിക്കുന്നു. നൂതന AI സിസ്റ്റങ്ങളുടെ ദിശയും AI കഴിവുകൾ വളരുന്നതിനനുസരിച്ച് നാം അഭിമുഖീകരിക്കുന്ന വെല്ലുവിളികളും മനസ്സിലാക്കാൻ ഗവേഷണം അത്യാവശ്യമാണ്.

തടസ്സപ്പെടുത്തുന്ന ആഘാതം

ഓപ്പൺഎഐ (2021)-ലെ AI അലൈൻമെന്റ് മേധാവി ജാൻ ലീക്ക് പറയുന്നതനുസരിച്ച്, AI സംവിധാനങ്ങൾ 2010-കളിൽ മാത്രമേ പ്രാപ്തമായിട്ടുള്ളൂ എന്നതിനാൽ, മിക്ക AI വിന്യാസ ഗവേഷണങ്ങളും തിയറി-ഹെവിഡ് ആണെന്ന് മനസ്സിലാക്കാവുന്നതേയുള്ളൂ. അതിശക്തമായ AI സംവിധാനങ്ങൾ വിന്യസിക്കുമ്പോൾ, മനുഷ്യർ അഭിമുഖീകരിക്കുന്ന വെല്ലുവിളികളിലൊന്ന്, ഈ മെഷീനുകൾ ധാർമ്മികമായി അർത്ഥമുണ്ടോ എന്ന് അവലോകനം ചെയ്യാനും വിലയിരുത്താനും വളരെ സങ്കീർണ്ണമായ പരിഹാരങ്ങൾ സൃഷ്ടിച്ചേക്കാം എന്നതാണ്.

ഈ പ്രശ്നം പരിഹരിക്കാൻ ലെയ്‌ക്ക് ഒരു റിക്കേഴ്‌സീവ് റിവാർഡ് മോഡലിംഗ് (RRM) തന്ത്രം ആവിഷ്കരിച്ചു. RRM ഉപയോഗിച്ച്, കൂടുതൽ സങ്കീർണ്ണമായ AI എത്ര നന്നായി പ്രവർത്തിക്കുന്നുവെന്ന് വിലയിരുത്താൻ ഒരു മനുഷ്യനെ സഹായിക്കുന്നതിന് നിരവധി "സഹായി" AI-കൾ പഠിപ്പിക്കപ്പെടുന്നു. "അലൈൻമെന്റ് എംവിപി" എന്ന് അദ്ദേഹം പരാമർശിക്കുന്ന എന്തെങ്കിലും സൃഷ്ടിക്കുന്നതിനുള്ള സാധ്യതയെക്കുറിച്ച് അദ്ദേഹം ശുഭാപ്തിവിശ്വാസം പുലർത്തുന്നു. സ്റ്റാർട്ടപ്പ് പദങ്ങളിൽ, ഒരു ആശയം പരീക്ഷിക്കുന്നതിനായി ഒരു കമ്പനിക്ക് നിർമ്മിക്കാൻ കഴിയുന്ന ഏറ്റവും ലളിതമായ ഉൽപ്പന്നമാണ് MVP (അല്ലെങ്കിൽ ഏറ്റവും കുറഞ്ഞ ലാഭകരമായ ഉൽപ്പന്നം). എന്നെങ്കിലും, AI ഗവേഷണം ചെയ്യുന്നതിലെ മനുഷ്യന്റെ പ്രകടനവും പ്രവർത്തനക്ഷമമായിരിക്കുമ്പോൾ മൂല്യങ്ങളുമായുള്ള അതിന്റെ വിന്യാസവും AI പൊരുത്തപ്പെടുന്നു എന്നതാണ് പ്രതീക്ഷ.

AI വിന്യാസത്തിലുള്ള താൽപര്യം വർധിപ്പിക്കുന്നത് ഒരു പോസിറ്റീവ് ആണെങ്കിലും, പ്രമുഖ AI ലാബുകളിലെ "ധാർമ്മികത"യുടെ ഭൂരിഭാഗവും ടെക് കമ്പനികളെ മികച്ചതാക്കാനും നെഗറ്റീവ് പബ്ലിസിറ്റി ഒഴിവാക്കാനും രൂപകൽപ്പന ചെയ്‌തിരിക്കുന്ന പബ്ലിക് റിലേഷൻസ് മാത്രമാണെന്ന് ഈ രംഗത്തെ പല വിശകലന വിദഗ്ധരും കരുതുന്നു. എപ്പോൾ വേണമെങ്കിലും ഈ കമ്പനികൾക്ക് ധാർമ്മിക വികസന രീതികൾ മുൻഗണന നൽകുമെന്ന് ഈ വ്യക്തികൾ പ്രതീക്ഷിക്കുന്നില്ല.

ധാർമ്മികവും സാങ്കേതികവുമായ അന്വേഷണത്തിന്റെ താരതമ്യേന പുതിയ മേഖലയായതിനാൽ മൂല്യ വിന്യാസ ശ്രമങ്ങൾക്കായുള്ള ഇന്റർ ഡിസിപ്ലിനറി സമീപനങ്ങളുടെ പ്രാധാന്യം ഈ നിരീക്ഷണങ്ങൾ എടുത്തുകാണിക്കുന്നു. വിജ്ഞാനത്തിന്റെ വിവിധ ശാഖകൾ ഉൾക്കൊള്ളുന്ന ഗവേഷണ അജണ്ടയുടെ ഭാഗമായിരിക്കണം. AI സംവിധാനങ്ങൾ കൂടുതൽ വികസിക്കുമ്പോഴും സാങ്കേതിക വിദഗ്ധരും നയരൂപീകരണക്കാരും അവരുടെ സാമൂഹിക പശ്ചാത്തലത്തെക്കുറിച്ചും ഓഹരി ഉടമകളെക്കുറിച്ചും ബോധവാന്മാരായിരിക്കേണ്ടതിന്റെ ആവശ്യകതയിലേക്കും ഈ സംരംഭം വിരൽ ചൂണ്ടുന്നു.

AI വിന്യാസത്തിന്റെ പ്രത്യാഘാതങ്ങൾ

AI വിന്യാസത്തിന്റെ വിശാലമായ പ്രത്യാഘാതങ്ങൾ ഉൾപ്പെടാം: 

• പ്രോജക്‌റ്റുകൾക്ക് മേൽനോട്ടം വഹിക്കാനും നൈതിക AI മാർഗ്ഗനിർദ്ദേശങ്ങൾ നിറവേറ്റാനും കൃത്രിമ ഇന്റലിജൻസ് ലാബുകൾ വൈവിധ്യമാർന്ന എത്തിക്‌സ് ബോർഡുകളെ നിയമിക്കുന്നു. 
• കമ്പനികൾ അവരുടെ ഉത്തരവാദിത്തമുള്ള AI ചട്ടക്കൂട് സമർപ്പിക്കാൻ ആവശ്യപ്പെടുന്ന നിയമങ്ങൾ ഗവൺമെന്റുകൾ സൃഷ്ടിക്കുന്നു, കൂടാതെ അവരുടെ AI പ്രോജക്റ്റുകൾ എങ്ങനെ കൂടുതൽ വികസിപ്പിക്കാൻ അവർ പദ്ധതിയിടുന്നു.
• റിക്രൂട്ട്‌മെന്റ്, പൊതു നിരീക്ഷണം, നിയമ നിർവ്വഹണം എന്നിവയിൽ അൽഗോരിതങ്ങളുടെ ഉപയോഗം സംബന്ധിച്ച വിവാദങ്ങൾ വർദ്ധിച്ചു.
• ധാർമ്മികതയും കോർപ്പറേറ്റ് ലക്ഷ്യങ്ങളും തമ്മിലുള്ള താൽപ്പര്യ വൈരുദ്ധ്യങ്ങൾ കാരണം വലിയ AI ലാബുകളിൽ നിന്ന് ഗവേഷകർ പുറത്താക്കപ്പെടുന്നു.
• അവിശ്വസനീയമാംവിധം ശക്തവും എന്നാൽ മനുഷ്യാവകാശങ്ങൾ ലംഘിക്കാൻ സാധ്യതയുള്ളതുമായ നൂതന AI സംവിധാനങ്ങൾ നിയന്ത്രിക്കാൻ സർക്കാരുകൾക്ക് കൂടുതൽ സമ്മർദ്ദം.

അഭിപ്രായമിടാനുള്ള ചോദ്യങ്ങൾ

• അവർ സൃഷ്‌ടിക്കുന്ന AI സിസ്റ്റങ്ങൾക്ക് കമ്പനികളെ എങ്ങനെ ഉത്തരവാദിത്തമാക്കാം?
• AI തെറ്റായി ക്രമീകരിച്ചാൽ മറ്റ് അപകടസാധ്യതകൾ എന്തൊക്കെയാണ്?