આર્ટિફિશિયલ ઇન્ટેલિજન્સ પૂર્વગ્રહ: મશીનો આપણે આશા રાખીએ છીએ તેટલી ઉદ્દેશ્ય નથી

• લેખક:
• લેખક નામ

  ક્વોન્ટમરુન અગમચેતી
• ફેબ્રુઆરી 8, 2022

આંતરદૃષ્ટિનો સારાંશ

જ્યારે ડેટા-સંચાલિત તકનીકીઓ ન્યાયી સમાજને પ્રોત્સાહન આપવાનું વચન ધરાવે છે, ત્યારે તેઓ ઘણીવાર તે જ પૂર્વગ્રહોને પ્રતિબિંબિત કરે છે જે માનવોને આશ્રય આપે છે, જે સંભવિત અન્યાય તરફ દોરી જાય છે. દાખલા તરીકે, આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) સિસ્ટમ્સમાં પૂર્વગ્રહો અજાણતાં નુકસાનકારક સ્ટીરિયોટાઇપ્સને વધુ ખરાબ કરી શકે છે. જો કે, AI પ્રણાલીઓને વધુ ન્યાયી બનાવવાના પ્રયાસો ચાલુ છે, જો કે આ ઉપયોગિતા અને વાજબીતા વચ્ચેના સંતુલન અને ટેક ટીમોમાં વિચારશીલ નિયમન અને વિવિધતાની જરૂરિયાત વિશે જટિલ પ્રશ્નો ઉભા કરે છે.

AI પૂર્વગ્રહ સામાન્ય સંદર્ભ

આશા એ છે કે ડેટા દ્વારા સંચાલિત ટેક્નોલોજી માનવતાને એવા સમાજની સ્થાપના કરવામાં મદદ કરશે જ્યાં તમામ માટે ન્યાયીપણું ધોરણ છે. જો કે, વર્તમાન વાસ્તવિકતા કંઈક અલગ ચિત્ર દોરે છે. માનવીઓ પાસેના ઘણા પૂર્વગ્રહો, જેના કારણે ભૂતકાળમાં અન્યાય થયો છે, તે હવે એલ્ગોરિધમ્સમાં પ્રતિબિંબિત થાય છે જે આપણા ડિજિટલ વિશ્વને સંચાલિત કરે છે. AI સિસ્ટમ્સમાં આ પૂર્વગ્રહો ઘણીવાર વ્યક્તિઓના પૂર્વગ્રહોથી ઉદ્ભવે છે જેઓ આ સિસ્ટમ્સ વિકસાવે છે, અને આ પૂર્વગ્રહો વારંવાર તેમના કાર્યમાં પ્રવેશ કરે છે.

ઉદાહરણ તરીકે, 2012 માં ઈમેજનેટ તરીકે ઓળખાતો એક પ્રોજેક્ટ લો, જેણે મશીન લર્નિંગ સિસ્ટમ્સની તાલીમ માટે ઈમેજોના લેબલિંગને ક્રાઉડસોર્સ કરવાનો પ્રયાસ કર્યો હતો. આ ડેટા પર પ્રશિક્ષિત વિશાળ ન્યુરલ નેટવર્ક પાછળથી પ્રભાવશાળી ચોકસાઈ સાથે વસ્તુઓને ઓળખવામાં સક્ષમ હતું. જો કે, નજીકના નિરીક્ષણ પર, સંશોધકોએ ImageNet ડેટામાં છુપાયેલા પૂર્વગ્રહો શોધી કાઢ્યા. એક ચોક્કસ કિસ્સામાં, આ ડેટા પર પ્રશિક્ષિત અલ્ગોરિધમ એ ધારણા તરફ પક્ષપાતી હતી કે તમામ સોફ્ટવેર પ્રોગ્રામરો સફેદ પુરુષો છે.

આ પક્ષપાત સંભવિતપણે પરિણમી શકે છે કે જ્યારે ભરતી પ્રક્રિયા સ્વયંસંચાલિત હોય ત્યારે આવી ભૂમિકાઓ માટે મહિલાઓને અવગણવામાં આવે છે. પૂર્વગ્રહોએ ડેટા સેટમાં તેમનો માર્ગ શોધી કાઢ્યો કારણ કે વ્યક્તિ "સ્ત્રી" ની છબીઓ પર લેબલ ઉમેરતી વખતે વધારાના લેબલનો સમાવેશ થતો હતો જેમાં અપમાનજનક શબ્દનો સમાવેશ થતો હતો. આ ઉદાહરણ સમજાવે છે કે કેવી રીતે પૂર્વગ્રહો, ઇરાદાપૂર્વક અથવા અજાણતાં, સૌથી વધુ અત્યાધુનિક AI સિસ્ટમ્સમાં પણ ઘૂસણખોરી કરી શકે છે, સંભવિત રીતે હાનિકારક સ્ટીરિયોટાઇપ્સ અને અસમાનતાઓને કાયમી બનાવી શકે છે.

વિક્ષેપકારક અસર 

વિવિધ જાહેર અને ખાનગી સંસ્થાઓના સંશોધકો દ્વારા ડેટા અને અલ્ગોરિધમ્સમાં પૂર્વગ્રહને દૂર કરવાના પ્રયાસો શરૂ કરવામાં આવ્યા છે. ઇમેજનેટ પ્રોજેક્ટના કિસ્સામાં, દાખલા તરીકે, અમુક છબીઓ પર અપમાનજનક પ્રકાશ પાડતા લેબલિંગ શબ્દોને ઓળખવા અને દૂર કરવા માટે ક્રાઉડસોર્સિંગનો ઉપયોગ કરવામાં આવ્યો હતો. આ પગલાંએ દર્શાવ્યું છે કે AI સિસ્ટમને વધુ ન્યાયી બનાવવા માટે પુનઃરૂપરેખાંકિત કરવું ખરેખર શક્ય છે.

જો કે, કેટલાક નિષ્ણાતો દલીલ કરે છે કે પૂર્વગ્રહને દૂર કરવાથી સંભવિત રીતે ડેટા સેટ ઓછો અસરકારક બની શકે છે, ખાસ કરીને જ્યારે બહુવિધ પૂર્વગ્રહો રમતમાં હોય. ચોક્કસ પૂર્વગ્રહોથી છીનવાઈ ગયેલા ડેટા સેટમાં અસરકારક ઉપયોગ માટે પૂરતી માહિતીનો અભાવ હોઈ શકે છે. તે ખરેખર વૈવિધ્યસભર ઇમેજ ડેટા સેટ કેવો દેખાશે તે પ્રશ્ન ઉભો કરે છે અને તેની ઉપયોગિતા સાથે સમાધાન કર્યા વિના તેનો ઉપયોગ કેવી રીતે થઈ શકે છે.

આ વલણ એઆઈ અને ડેટા-આધારિત તકનીકોના ઉપયોગ માટે વિચારશીલ અભિગમની જરૂરિયાતને રેખાંકિત કરે છે. કંપનીઓ માટે, આનો અર્થ પૂર્વગ્રહ-શોધ સાધનોમાં રોકાણ અને ટેક ટીમોમાં વિવિધતાને પ્રોત્સાહન આપવાનો હોઈ શકે છે. સરકારો માટે, તેમાં AI નો ઉચિત ઉપયોગ સુનિશ્ચિત કરવા માટે નિયમોનો અમલ કરવાનો સમાવેશ થઈ શકે છે. 

AI પૂર્વગ્રહની અસરો

AI પૂર્વગ્રહની વ્યાપક અસરોમાં નીચેનાનો સમાવેશ થઈ શકે છે:

• સંગઠનો નિષ્પક્ષતા અને બિન-ભેદભાવને સુનિશ્ચિત કરવા માટે સક્રિય છે કારણ કે તેઓ ઉત્પાદકતા અને પ્રદર્શનને સુધારવા માટે AI નો લાભ લે છે. 
• પ્રોજેક્ટની શરૂઆતમાં નૈતિક જોખમોને શોધવા અને તેને ઘટાડવા માટે વિકાસ ટીમોમાં AI નીતિશાસ્ત્રી હોવું. 
• લિંગ, જાતિ, વર્ગ અને સંસ્કૃતિ જેવા વિવિધ પરિબળોને સ્પષ્ટપણે ધ્યાનમાં રાખીને AI ઉત્પાદનોની ડિઝાઇન કરવી.
• વિવિધ જૂથોમાંથી પ્રતિનિધિઓ મેળવવું કે જેઓ કંપનીના AI ઉત્પાદનનો ઉપયોગ તે રિલીઝ થાય તે પહેલાં તેનું પરીક્ષણ કરવા માટે કરશે.
• જાહેર જનતાના અમુક સભ્યો માટે વિવિધ જાહેર સેવાઓ પ્રતિબંધિત છે.
• જાહેર જનતાના અમુક સભ્યો અમુક નોકરીની તકો મેળવવામાં અસમર્થ છે અથવા લાયક નથી.
• કાયદા અમલીકરણ એજન્સીઓ અને વ્યાવસાયિકો અન્યો કરતાં સમાજના અમુક સભ્યોને અન્યાયી રીતે લક્ષ્ય બનાવે છે. 

ધ્યાનમાં લેવાના પ્રશ્નો

• શું તમે આશાવાદી છો કે ભવિષ્યમાં સ્વયંસંચાલિત નિર્ણય લેવાનું યોગ્ય રહેશે?
• AI નિર્ણય લેવા વિશે શું તમને સૌથી વધુ નર્વસ બનાવે છે?