ഫ്രാങ്കൻ-അൽഗരിതങ്ങൾ: അൽഗോരിതങ്ങൾ വികൃതമായി

• രചയിതാവ്:
• രചയിതാവിന്റെ പേര്

  Quantumrun ദീർഘവീക്ഷണം
• ഏപ്രിൽ 12, 2023

മെഷീൻ ലേണിംഗ് (ML) അൽഗോരിതങ്ങൾ കൂടുതൽ വികസിക്കുമ്പോൾ, വലിയ ഡാറ്റാസെറ്റുകളിലെ പാറ്റേണുകൾ സ്വന്തമായി പഠിക്കാനും പൊരുത്തപ്പെടുത്താനും അവർക്ക് കഴിയും. "ഓട്ടോണമസ് ലേണിംഗ്" എന്നറിയപ്പെടുന്ന ഈ പ്രക്രിയ, തീരുമാനങ്ങൾ എടുക്കുന്നതിനുള്ള അൽഗോരിതം അതിന്റേതായ കോഡോ നിയമങ്ങളോ സൃഷ്ടിക്കുന്നതിന് കാരണമാകും. ഇതിലെ പ്രശ്നം, അൽഗോരിതം സൃഷ്ടിച്ച കോഡ് മനുഷ്യർക്ക് മനസ്സിലാക്കാൻ പ്രയാസമോ അസാധ്യമോ ആയിരിക്കാം, ഇത് പക്ഷപാതങ്ങൾ കണ്ടെത്തുന്നത് വെല്ലുവിളിയാക്കുന്നു. 

ഫ്രാങ്കൻ-അൽഗരിതം സന്ദർഭം

Franken-Algorithms എന്നത് അൽഗരിതങ്ങളെയാണ് (ഡാറ്റ പ്രോസസ്സ് ചെയ്യുമ്പോഴും കമാൻഡുകളോട് പ്രതികരിക്കുമ്പോഴും കമ്പ്യൂട്ടറുകൾ പിന്തുടരുന്ന നിയമങ്ങൾ) മനുഷ്യർക്ക് മനസ്സിലാക്കാൻ കഴിയാത്തവിധം സങ്കീർണ്ണവും പരസ്പരബന്ധിതവുമായി മാറിയിരിക്കുന്നു. ഭ്രാന്തൻ ശാസ്ത്രജ്ഞനായ ഡോ. ഫ്രാങ്കെൻസ്റ്റൈൻ സൃഷ്ടിച്ച ഒരു "രാക്ഷസനെ" കുറിച്ചുള്ള മേരി ഷെല്ലിയുടെ സയൻസ് ഫിക്ഷനിലേക്കുള്ള ഒരു അംഗീകാരമാണ് ഈ പദം. അൽഗോരിതങ്ങളും കോഡുകളും വലിയ സാങ്കേതികവിദ്യയുടെ നിർമ്മാണ ബ്ലോക്കുകളാണെങ്കിലും, അവർ ഇപ്പോൾ സ്വാധീനമുള്ള കമ്പനികളാകാൻ Facebook, Google എന്നിവയെ അനുവദിച്ചിട്ടുണ്ടെങ്കിലും, മനുഷ്യർക്ക് അറിയാത്ത സാങ്കേതികവിദ്യയെക്കുറിച്ച് ഇപ്പോഴും ധാരാളം ഉണ്ട്. 

പ്രോഗ്രാമർമാർ കോഡുകൾ നിർമ്മിക്കുകയും അവ സോഫ്‌റ്റ്‌വെയർ വഴി പ്രവർത്തിപ്പിക്കുകയും ചെയ്യുമ്പോൾ, പാറ്റേണുകൾ മനസ്സിലാക്കാനും പ്രവചിക്കാനും കമ്പ്യൂട്ടറുകളെ ML അനുവദിക്കുന്നു. മനുഷ്യവികാരങ്ങളും പ്രവചനാതീതതയും അവയെ സ്വാധീനിക്കാത്തതിനാൽ അൽഗോരിതങ്ങൾ വസ്തുനിഷ്ഠമാണെന്ന് വലിയ സാങ്കേതികവിദ്യ അവകാശപ്പെടുമ്പോൾ, ഈ അൽഗോരിതങ്ങൾക്ക് വിനാശകരമായ ഫലങ്ങളിലേക്ക് നയിക്കാനും സ്വന്തം നിയമങ്ങൾ വികസിപ്പിക്കാനും എഴുതാനും കഴിയും. ഈ അൽഗരിതങ്ങൾ സൃഷ്ടിക്കുന്ന കോഡ് പലപ്പോഴും സങ്കീർണ്ണവും അതാര്യവുമാണ്, ഇത് അൽഗൊരിതത്തിന്റെ തീരുമാനങ്ങൾ വ്യാഖ്യാനിക്കുന്നതിനോ അൽഗരിതത്തിന്റെ തീരുമാനങ്ങൾ എടുക്കുന്ന പ്രക്രിയയിൽ ഉണ്ടായിരിക്കാവുന്ന ഏതെങ്കിലും പക്ഷപാതങ്ങൾ തിരിച്ചറിയുന്നതിനോ ഗവേഷകർക്കോ പ്രാക്ടീഷണർമാർക്കോ ബുദ്ധിമുട്ടാക്കുന്നു. തീരുമാനങ്ങൾ എടുക്കുന്നതിന് ഈ അൽഗരിതങ്ങളെ ആശ്രയിക്കുന്ന ബിസിനസുകൾക്ക് ഈ റോഡ് ബ്ലോക്ക് കാര്യമായ വെല്ലുവിളികൾ സൃഷ്ടിക്കും, കാരണം അവർക്ക് ആ തീരുമാനങ്ങൾക്ക് പിന്നിലെ ന്യായവാദം മനസ്സിലാക്കാനോ വിശദീകരിക്കാനോ കഴിയില്ല.

തടസ്സപ്പെടുത്തുന്ന ആഘാതം

ഫ്രാങ്കൻ-അൽഗരിതങ്ങൾ തെമ്മാടിയാകുമ്പോൾ, അത് ജീവിതത്തിന്റെയും മരണത്തിന്റെയും പ്രശ്‌നമാകാം. 2018-ൽ അരിസോണയിൽ ഒരു സെൽഫ് ഡ്രൈവിംഗ് കാർ ഇടിച്ച് ബൈക്ക് ഓടിച്ചിരുന്ന ഒരു സ്ത്രീ മരിച്ചതാണ് ഒരു ഉദാഹരണം. അവളെ ഒരു മനുഷ്യനാണെന്ന് കൃത്യമായി തിരിച്ചറിയാൻ കാറിന്റെ അൽഗോരിതങ്ങൾക്ക് കഴിഞ്ഞില്ല. അപകടത്തിന്റെ മൂലകാരണം വിദഗ്‌ധർ വിമർശിക്കപ്പെട്ടു-കാർ തെറ്റായി പ്രോഗ്രാം ചെയ്‌തിരുന്നോ, അൽഗോരിതം സ്വന്തം നന്മയ്‌ക്കായി വളരെ സങ്കീർണ്ണമായോ? എന്നിരുന്നാലും, പ്രോഗ്രാമർമാർക്ക് അംഗീകരിക്കാൻ കഴിയുന്നത്, സോഫ്റ്റ്വെയർ കമ്പനികൾക്ക് ഒരു മേൽനോട്ട സംവിധാനം ഉണ്ടായിരിക്കണം-ഒരു ധാർമ്മിക കോഡ്. 

എന്നിരുന്നാലും, ഈ എത്തിക്‌സ് കോഡ് വലിയ സാങ്കേതികവിദ്യയിൽ നിന്നുള്ള ചില പുഷ്‌ബാക്കോടെയാണ് വരുന്നത്, കാരണം അവർ ഡാറ്റയും അൽഗോരിതങ്ങളും വിൽക്കുന്ന ബിസിനസ്സിലാണ്, മാത്രമല്ല നിയന്ത്രിക്കാനോ സുതാര്യമായിരിക്കാനോ അവർക്ക് കഴിയില്ല. കൂടാതെ, സ്വയംഭരണ ഡ്രോണുകൾ പോലെയുള്ള സൈനിക സാങ്കേതിക വിദ്യയിൽ അൽഗരിതങ്ങൾ സംയോജിപ്പിക്കുന്നതിന് യുഎസ് പ്രതിരോധ വകുപ്പുമായി ഗൂഗിളിന്റെ പങ്കാളിത്തം പോലെ, സൈന്യത്തിനുള്ളിൽ അൽഗരിതങ്ങളുടെ വർദ്ധിച്ചുവരുന്ന ഉപയോഗമാണ് വലിയ ടെക് ജീവനക്കാരെ ആശങ്കയിലാഴ്ത്തിയ സമീപകാല സംഭവവികാസം. ഈ ആപ്ലിക്കേഷൻ ചില ജീവനക്കാരെ രാജിവയ്‌ക്കുന്നതിനും അൽഗോരിതങ്ങൾ ഇപ്പോഴും പ്രവചനാതീതമാണെന്ന ആശങ്കകൾ പ്രകടിപ്പിക്കുന്നതിനും കാരണമായി. 

Franken-Algorithms അവർ പരിശീലിപ്പിച്ച ഡാറ്റാസെറ്റുകൾ കാരണം പക്ഷപാതങ്ങൾ ശാശ്വതമാക്കുകയും വർദ്ധിപ്പിക്കുകയും ചെയ്യും എന്നതാണ് മറ്റൊരു ആശങ്ക. ഈ പ്രക്രിയ വിവേചനം, അസമത്വം, തെറ്റായ അറസ്റ്റുകൾ എന്നിവയുൾപ്പെടെ വിവിധ സാമൂഹിക പ്രശ്നങ്ങളിലേക്ക് നയിച്ചേക്കാം. ഈ ഉയർന്ന അപകടസാധ്യതകൾ കാരണം, പല ടെക് കമ്പനികളും അവരുടെ അൽഗോരിതങ്ങൾ എങ്ങനെ വികസിപ്പിക്കുന്നു, ഉപയോഗിക്കുന്നു, നിരീക്ഷിക്കുന്നു എന്നതിൽ സുതാര്യത പുലർത്തുന്നതിന് അവരുടെ നൈതിക AI മാർഗ്ഗനിർദ്ദേശങ്ങൾ പ്രസിദ്ധീകരിക്കാൻ തുടങ്ങിയിരിക്കുന്നു.

ഫ്രാങ്കൻ-അൽഗരിതങ്ങൾക്കായുള്ള വിശാലമായ പ്രത്യാഘാതങ്ങൾ

ഫ്രാങ്കൻ-അൽഗരിതങ്ങൾക്കുള്ള സാധ്യതയുള്ള പ്രത്യാഘാതങ്ങൾ ഉൾപ്പെടാം:

• ഉത്തരവാദിത്തത്തെയും സുരക്ഷയെയും കുറിച്ചുള്ള ആശങ്കകൾ ഉയർത്തിക്കൊണ്ട് മനുഷ്യന്റെ മേൽനോട്ടമില്ലാതെ തീരുമാനങ്ങൾ എടുക്കാനും നടപടികൾ കൈക്കൊള്ളാനും കഴിയുന്ന സ്വയംഭരണ സംവിധാനങ്ങളുടെ വികസനം. എന്നിരുന്നാലും, മിക്ക വ്യവസായങ്ങളിലും മനുഷ്യാധ്വാനം ഓട്ടോമേറ്റ് ചെയ്യാൻ കഴിയുന്ന സോഫ്‌റ്റ്‌വെയറും റോബോട്ടിക്‌സും വികസിപ്പിക്കുന്നതിനുള്ള ചെലവ് ഇത്തരം അൽഗോരിതങ്ങൾ കുറച്ചേക്കാം. 
• അൽഗോരിതങ്ങൾക്ക് സൈനിക സാങ്കേതിക വിദ്യയെ എങ്ങനെ ഓട്ടോമേറ്റ് ചെയ്യാനും സ്വയംഭരണ ആയുധങ്ങളെയും വാഹനങ്ങളെയും പിന്തുണയ്ക്കാനും എങ്ങനെ കഴിയും എന്നതിനെക്കുറിച്ചുള്ള കൂടുതൽ സൂക്ഷ്മപരിശോധന.
• ധാർമ്മികതയുടെയും നിയന്ത്രണങ്ങളുടെയും ഒരു അൽഗോരിതം കോഡ് നടപ്പിലാക്കാൻ സർക്കാരുകൾക്കും വ്യവസായ പ്രമുഖർക്കും വേണ്ടി വർദ്ധിച്ച സമ്മർദ്ദം.
• കുറഞ്ഞ വരുമാനമുള്ള കമ്മ്യൂണിറ്റികൾ അല്ലെങ്കിൽ ന്യൂനപക്ഷ ജനസംഖ്യ പോലുള്ള ചില ജനസംഖ്യാ ഗ്രൂപ്പുകളെ ഫ്രാങ്കൻ-അൽഗരിതങ്ങൾ അനുപാതമില്ലാതെ സ്വാധീനിക്കുന്നു.
• ഫ്രാങ്കൻ-അൽഗരിതങ്ങൾക്ക് നിയമനവും വായ്പയും നൽകുന്ന തീരുമാനങ്ങൾ പോലെയുള്ള തീരുമാനങ്ങൾ എടുക്കുന്നതിൽ വിവേചനവും പക്ഷപാതവും ശാശ്വതമാക്കാനും വർദ്ധിപ്പിക്കാനും കഴിയും.
• സിസ്റ്റങ്ങളിലെ, പ്രത്യേകിച്ച് ധനകാര്യ സ്ഥാപനങ്ങളിലെ ബലഹീനതകൾ നിരീക്ഷിക്കാനും ചൂഷണം ചെയ്യാനും സൈബർ കുറ്റവാളികൾ ഈ അൽഗോരിതങ്ങൾ ഉപയോഗിക്കുന്നു.
• പൊതുജനാഭിപ്രായത്തെ സ്വാധീനിക്കാനും തിരഞ്ഞെടുപ്പുകളെ സ്വാധീനിക്കാനും കഴിയുന്ന തരത്തിൽ ജനറേറ്റീവ് AI സംവിധാനങ്ങൾ ഉപയോഗിച്ച് മാർക്കറ്റിംഗ് കാമ്പെയ്‌നുകൾ ഓട്ടോമേറ്റ് ചെയ്യുന്നതിന് രാഷ്ട്രീയ അഭിനേതാക്കൾ തെമ്മാടി അൽഗോരിതങ്ങൾ ഉപയോഗിക്കുന്നു.

പരിഗണിക്കേണ്ട ചോദ്യങ്ങൾ

• ഭാവിയിൽ അൽഗോരിതങ്ങൾ എങ്ങനെ കൂടുതൽ വികസിക്കുമെന്ന് നിങ്ങൾ കരുതുന്നു?
• Franken-Algorithms നിയന്ത്രിക്കാൻ സർക്കാരുകൾക്കും കമ്പനികൾക്കും എന്തുചെയ്യാൻ കഴിയും?