ફ્રેન્કેન-એલ્ગોરિધમ્સ: અલ્ગોરિધમ્સ બદમાશ થઈ ગયા

• લેખક:
• લેખક નામ

  ક્વોન્ટમરુન અગમચેતી
• એપ્રિલ ૨૯, ૨૦૨૧

જેમ જેમ મશીન લર્નિંગ (ML) એલ્ગોરિધમ વધુ અદ્યતન બનતું જાય છે, તેમ તેઓ મોટા ડેટાસેટ્સમાં પેટર્નને પોતાની જાતે શીખવા અને અનુકૂલન કરવામાં સક્ષમ બને છે. આ પ્રક્રિયા, "ઓટોનોમસ લર્નિંગ" તરીકે ઓળખાય છે, જેના પરિણામે અલ્ગોરિધમ નિર્ણય લેવા માટે તેનો પોતાનો કોડ અથવા નિયમો બનાવી શકે છે. આની સાથે સમસ્યા એ છે કે અલ્ગોરિધમ દ્વારા જનરેટ કરવામાં આવેલ કોડ માનવો માટે સમજવું મુશ્કેલ અથવા અશક્ય હોઈ શકે છે, જે તેને પૂર્વગ્રહોને નિર્ધારિત કરવાનું પડકારરૂપ બનાવે છે. 

ફ્રેન્કન-એલ્ગોરિધમ્સ સંદર્ભ

ફ્રેન્કન-એલ્ગોરિધમ્સ એલ્ગોરિધમ્સનો સંદર્ભ આપે છે (કોમ્પ્યુટર ડેટાની પ્રક્રિયા કરતી વખતે અને આદેશોને પ્રતિસાદ આપતી વખતે જે નિયમોનું પાલન કરે છે) કે જે એટલા જટિલ અને એકબીજા સાથે જોડાયેલા છે કે માનવો હવે તેમને સમજાવી શકતા નથી. આ શબ્દ મેરી શેલીના પાગલ વૈજ્ઞાનિક ડો. ફ્રેન્કેસ્ટાઇન દ્વારા બનાવવામાં આવેલ "રાક્ષસ" વિશેની વિજ્ઞાન સાહિત્યને મંજૂરી આપે છે. જ્યારે એલ્ગોરિધમ્સ અને કોડ્સ એ મોટી ટેકના બિલ્ડીંગ બ્લોક્સ છે અને ફેસબુક અને ગૂગલને તેઓ હવે જે પ્રભાવશાળી કંપનીઓ છે તે બનવાની મંજૂરી આપી છે, તેમ છતાં હજી પણ ટેક્નોલોજી વિશે ઘણું બધું છે જે મનુષ્યો જાણતા નથી. 

જ્યારે પ્રોગ્રામરો કોડ્સ બનાવે છે અને તેને સોફ્ટવેર દ્વારા ચલાવે છે, ત્યારે ML કમ્પ્યુટર્સને પેટર્ન સમજવા અને આગાહી કરવાની મંજૂરી આપે છે. જ્યારે મોટી ટેક દાવો કરે છે કે અલ્ગોરિધમ્સ ઉદ્દેશ્ય છે કારણ કે માનવીય લાગણીઓ અને અણધારીતા તેમને પ્રભાવિત કરતી નથી, આ અલ્ગોરિધમ્સ વિકસિત થઈ શકે છે અને તેમના પોતાના નિયમો લખી શકે છે, જે વિનાશક પરિણામો તરફ દોરી જાય છે. આ અલ્ગોરિધમ્સ દ્વારા જનરેટ કરવામાં આવેલ કોડ ઘણીવાર જટિલ અને અપારદર્શક હોય છે, જે સંશોધકો અથવા પ્રેક્ટિશનરો માટે અલ્ગોરિધમના નિર્ણયોનું અર્થઘટન કરવું અથવા અલ્ગોરિધમની નિર્ણય લેવાની પ્રક્રિયામાં હાજર હોઈ શકે તેવા કોઈપણ પૂર્વગ્રહોને ઓળખવાનું મુશ્કેલ બનાવે છે. નિર્ણયો લેવા માટે આ અલ્ગોરિધમ્સ પર આધાર રાખતા વ્યવસાયો માટે આ અવરોધ નોંધપાત્ર પડકારો ઉભી કરી શકે છે, કારણ કે તેઓ તે નિર્ણયો પાછળના તર્કને સમજવા અથવા સમજાવવામાં અસમર્થ હોઈ શકે છે.

વિક્ષેપકારક અસર

જ્યારે ફ્રેન્કન-એલ્ગોરિધમ્સ બદમાશ થઈ જાય છે, ત્યારે તે જીવન અને મૃત્યુની બાબત બની શકે છે. એક ઉદાહરણ 2018 માં અકસ્માત હતો જ્યારે એરિઝોનામાં એક સેલ્ફ-ડ્રાઇવિંગ કારે બાઇક પર સવાર એક મહિલાને ટક્કર મારી હતી અને તેનું મોત નીપજ્યું હતું. કારના અલ્ગોરિધમ્સ તેને માનવ તરીકે યોગ્ય રીતે ઓળખવામાં અસમર્થ હતા. નિષ્ણાતો અકસ્માતના મૂળ કારણ પર ફાટી ગયા હતા - શું કાર અયોગ્ય રીતે પ્રોગ્રામ કરવામાં આવી હતી, અને શું અલ્ગોરિધમ તેના પોતાના સારા માટે ખૂબ જટિલ બની ગયું હતું? જો કે, પ્રોગ્રામરો જેના પર સંમત થઈ શકે છે તે એ છે કે સોફ્ટવેર કંપનીઓ માટે એક દેખરેખ સિસ્ટમ હોવી જરૂરી છે - એક નૈતિક સંહિતા. 

જો કે, આ નૈતિકતા કોડ મોટી ટેકના કેટલાક પુશબેક સાથે આવે છે કારણ કે તે ડેટા અને અલ્ગોરિધમ્સ વેચવાના વ્યવસાયમાં છે, અને તે નિયંત્રિત અથવા પારદર્શક હોવું જરૂરી નથી. વધુમાં, તાજેતરના વિકાસ કે જે મોટા ટેક કર્મચારીઓ માટે ચિંતાનું કારણ બને છે તે લશ્કરમાં અલ્ગોરિધમનો વધતો ઉપયોગ છે, જેમ કે સ્વાયત્ત ડ્રોન જેવી લશ્કરી ટેકમાં અલ્ગોરિધમનો સમાવેશ કરવા માટે યુએસ ડિપાર્ટમેન્ટ ઓફ ડિફેન્સ સાથે Googleની ભાગીદારી. આ એપ્લિકેશનને કારણે કેટલાક કર્મચારીઓએ રાજીનામું આપ્યું છે અને નિષ્ણાતોએ ચિંતા વ્યક્ત કરી છે કે અલ્ગોરિધમ્સ હજી પણ કિલિંગ મશીન તરીકે ઉપયોગમાં લેવા માટે ખૂબ અણધારી છે. 

બીજી ચિંતા એ છે કે ફ્રેન્કન-એલ્ગોરિધમ્સ તેઓ તાલીમ પામેલા ડેટાસેટ્સને કારણે પૂર્વગ્રહોને કાયમી બનાવી શકે છે અને તેને વિસ્તૃત પણ કરી શકે છે. આ પ્રક્રિયા વિવિધ સામાજિક મુદ્દાઓ તરફ દોરી શકે છે, જેમાં ભેદભાવ, અસમાનતા અને ખોટી ધરપકડનો સમાવેશ થાય છે. આ વધતા જોખમોને કારણે, ઘણી ટેક કંપનીઓ તેમના એલ્ગોરિધમનો વિકાસ, ઉપયોગ અને દેખરેખ કેવી રીતે કરે છે તેના પર પારદર્શક બનવા માટે તેમની નૈતિક AI માર્ગદર્શિકા પ્રકાશિત કરવાનું શરૂ કરી રહી છે.

ફ્રેન્કન-એલ્ગોરિધમ્સ માટે વ્યાપક અસરો

ફ્રેન્કન-એલ્ગોરિધમ્સ માટે સંભવિત અસરોમાં શામેલ હોઈ શકે છે:

• સ્વાયત્ત પ્રણાલીઓનો વિકાસ કે જે માનવીય દેખરેખ વિના નિર્ણયો લઈ શકે અને પગલાં લઈ શકે, જવાબદારી અને સલામતી અંગે ચિંતા ઊભી કરે. જો કે, આવા અલ્ગોરિધમ્સ સોફ્ટવેર અને રોબોટિક્સ વિકસાવવાના ખર્ચને ઘટાડી શકે છે જે મોટાભાગના ઉદ્યોગોમાં માનવ શ્રમને સ્વચાલિત કરી શકે છે. 
• અલ્ગોરિધમ્સ કેવી રીતે લશ્કરી તકનીકને સ્વચાલિત કરી શકે છે અને સ્વાયત્ત શસ્ત્રો અને વાહનોને સમર્થન આપી શકે છે તેના પર વધુ તપાસ.
• નૈતિકતા અને નિયમોના એલ્ગોરિધમ કોડને લાગુ કરવા માટે સરકારો અને ઉદ્યોગના નેતાઓ માટે દબાણમાં વધારો.
• ફ્રેન્કન-એલ્ગોરિધમ્સ અપ્રમાણસર રીતે અમુક વસ્તી વિષયક જૂથોને અસર કરે છે, જેમ કે ઓછી આવક ધરાવતા સમુદાયો અથવા લઘુમતી વસ્તી.
• ફ્રેન્કન-એલ્ગોરિધમ્સ કાયમી બનાવી શકે છે અને નિર્ણય લેવામાં ભેદભાવ અને પૂર્વગ્રહને વધારી શકે છે, જેમ કે ભરતી અને ધિરાણના નિર્ણયો.
• આ અલ્ગોરિધમનો ઉપયોગ સાયબર અપરાધીઓ દ્વારા સિસ્ટમમાં, ખાસ કરીને નાણાકીય સંસ્થાઓમાં નબળાઈઓનું નિરીક્ષણ કરવા અને શોષણ કરવા માટે કરવામાં આવે છે.
• રાજકીય કલાકારો જનરેટિવ એઆઈ સિસ્ટમ્સનો ઉપયોગ કરીને માર્કેટિંગ ઝુંબેશને સ્વચાલિત કરવા માટે બદમાશ અલ્ગોરિધમનો ઉપયોગ કરે છે જે જાહેર અભિપ્રાયને પ્રભાવિત કરી શકે છે અને ચૂંટણીઓને પ્રભાવિત કરી શકે છે.

ધ્યાનમાં લેવાના પ્રશ્નો

• તમે કેવી રીતે વિચારો છો કે એલ્ગોરિધમ ભવિષ્યમાં વધુ વિકસિત થશે?
• ફ્રેન્કન-એલ્ગોરિધમ્સને નિયંત્રિત કરવા માટે સરકારો અને કંપનીઓ શું કરી શકે છે?