ችግር ያለበት የሥልጠና መረጃ፡ AI አድሏዊ መረጃ ሲሰጥ

• ደራሲ:
• የደራሲ ስም

  ኳንተምሩን አርቆ እይታ
• ጥቅምት 14, 2022

የማስተዋል ማጠቃለያ

እኛ የምንማረው እና የምንረዳው ነን; ይህ ዲክተም በአርቴፊሻል ኢንተለጀንስ (AI) ላይም ይሠራል። የማሽን መማሪያ (ML) ሞዴሎች ባልተሟሉ፣ አድሏዊ እና ኢ-ስነምግባር የጎደላቸው መረጃዎች በመጨረሻ ችግር ያለባቸው ውሳኔዎችን እና አስተያየቶችን ይሰጣሉ። ተመራማሪዎች ካልተጠነቀቁ እነዚህ ኃይለኛ ስልተ ቀመሮች የተጠቃሚዎችን ስነምግባር እና ግንዛቤ ላይ ተጽእኖ ሊያሳድሩ ይችላሉ።

ችግር ያለበት የሥልጠና መረጃ አውድ

ከ 2010 ዎቹ ጀምሮ፣ የምርምር ቡድኖች ተገቢ ያልሆነ ይዘት ያላቸውን የስልጠና ዳታ ስብስቦችን ለመጠቀም ወይም ከሥነ ምግባር ውጭ የተሰበሰቡ ስለመሆናቸው ተመርምረዋል። ለምሳሌ፣ በ2016፣ የማይክሮሶፍት MS-Celeb-1M ዳታቤዝ የ10 የተለያዩ ታዋቂ ሰዎች ምስሎችን 100,000 ሚሊዮን አካቷል። ይሁን እንጂ ተጨማሪ ምርመራ ካደረግን በኋላ ብዙ ተራ ሰዎች ያለባለቤቱ ፍቃድና እውቀት ከተለያዩ ድረ-ገጾች የተወሰዱ ፎቶግራፎች መሆናቸውን ዘጋቢዎች አረጋግጠዋል።

ይህ ቢታወቅም የመረጃ ቋቱ እንደ Facebook እና SenseTime ባሉ ትላልቅ ኩባንያዎች ከግዛቱ ፖሊስ ጋር ግንኙነት ባለው የቻይና የፊት ለይቶ ማወቂያ ኩባንያ መጠቀሙን ቀጥሏል። በተመሳሳይ፣ በዱከም ዩኒቨርሲቲ ግቢ (ዱኬኤምቲኤምሲ) ላይ የሚራመዱ ሰዎች ምስሎችን የያዘ የውሂብ ስብስብም ስምምነትን አልሰበሰበም። በመጨረሻም ሁለቱም የውሂብ ስብስቦች ተወግደዋል። 

ችግር ያለበት የሥልጠና መረጃ የሚያስከትለውን ጉዳት ለማጉላት የማሳቹሴትስ የቴክኖሎጂ ተቋም (MIT) ተመራማሪዎች ኖርማን የተሰኘውን AI ፈጠሩ ስዕላዊ ጥቃትን የሚያጎላ ከንዑስረዲት የምስል መግለጫ ጽሑፍ እንዲሠራ አስተምረዋል። ቡድኑ ኖርማንን በተለመደው ዳታ ከሰለጠነ የነርቭ ኔትወርክ ጋር አስቀመጠ። ተመራማሪዎቹ ሁለቱንም ስርዓቶች ከ Rorschach inkblots ጋር አቅርበዋል እና AIs ያዩትን እንዲገልጹ ጠየቁ። ውጤቶቹ አስደናቂ ነበሩ፡ መደበኛው የነርቭ አውታር “ጥቁር እና ነጭ የቤዝቦል ጓንት ፎቶ” ባየበት ቦታ፣ ኖርማን “በጠራራ ፀሀይ አንድ ሰው በመድፍ ተገደለ” ብሏል። ሙከራው AI በራስ-ሰር የተዛባ እንዳልሆነ አሳይቷል፣ ነገር ግን እነዚያ የመረጃ ግቤት ዘዴዎች እና የፈጣሪያቸው ተነሳሽነት የ AI ባህሪ ላይ ከፍተኛ ተጽዕኖ ሊያሳድር ይችላል።

የሚረብሽ ተጽእኖ

እ.ኤ.አ. በ 2021 ፣ የአለን ኢንስቲትዩት የምርምር ድርጅት ለማንኛውም የስነ-ምግባር ጥያቄ ምላሾችን በአልጎሪዝም የሚያመነጭ Ask Delphiን ML ሶፍትዌር ፈጠረ። ከፕሮጀክቱ በስተጀርባ ያሉት ተመራማሪዎች AI ቀስ በቀስ የበለጠ ኃይለኛ እና የተለመደ እየሆነ መጥቷል, ስለዚህ ሳይንቲስቶች እነዚህን የኤምኤል ስርዓቶች ስነ-ምግባር ማስተማር አለባቸው. የዩኒኮርን ኤምኤል ሞዴል የዴልፊ መሠረት ነው። እንደ የጽሑፍ ሕብረቁምፊ መጨረሻ ላይ በጣም የሚቻለውን መምረጥን የመሰለ "የጋራ አስተሳሰብ" አስተሳሰብን ለመፈጸም የተቀየሰ ነው። 

በተጨማሪም ተመራማሪዎች 'Commonsense Norm Bank' ይጠቀሙ ነበር. ይህ ባንክ እንደ ሬዲት ካሉ ቦታዎች 1.7 ሚሊዮን የሰዎች የሥነ ምግባር ምዘና ምሳሌዎችን ይዟል። በውጤቱም, የዴልፊ ውፅዓት ድብልቅ ቦርሳ ነበር. ዴልፊ አንዳንድ ጥያቄዎችን በምክንያታዊነት መለሰ (ለምሳሌ፣ በወንዶች እና በሴቶች መካከል ያለው እኩልነት)፣ በአንዳንድ ርዕሰ ጉዳዮች ላይ፣ ዴልፊ በጣም አጸያፊ ነበር (ለምሳሌ፣ የዘር ማጥፋት ወንጀል ሰዎችን እስካስደሰተ ድረስ ተቀባይነት ያለው ነው)።

ሆኖም፣ ዴልፊ AI ከተሞክሮው እየተማረ ነው እና መልሶቹን በአስተያየት ላይ በመመስረት እያዘመነ ይመስላል። ሞዴሉ በሂደት ላይ ያለ እና ለተሳሳቱ መልሶች የተጋለጠ በመሆኑ አንዳንድ ባለሙያዎች በጥናቱ ይፋዊ እና ግልጽ አጠቃቀም ይቸገራሉ። በሥርዓተ-ፆታ፣ በጉልበት እና በኮምፒዩቲንግ ታሪክ ላይ የተካነዉ በኢሊኖይ ቴክ የታሪክ ፕሮፌሰር የሆኑት ማር ሂክስ ዴልፊን ጠይቅ ዴልፊ በቀረበበት ወቅት እንደተናገሩት ተመራማሪዎች ሰዎችን እንዲጠቀሙበት መጋበዝ ቸልተኛ ነበር ሲሉ ዴልፊ ወዲያውኑ እጅግ በጣም ሥነ ምግባር የጎደላቸው መልሶች እና ጥቂቶች ሰጡ። ሙሉ ከንቱነት። 

2023 ውስጥ, የተቀረው ዓለም በ AI ምስል አመንጪዎች ላይ አድልዎ ላይ ጥናት አካሂዷል. ሚድጆርኒ በመጠቀም፣ የተፈጠሩት ምስሎች ነባራዊ አመለካከቶችን እንደሚያረጋግጡ ተመራማሪዎች ደርሰውበታል። በተጨማሪም፣ OpenAI ለDALL-E 2 ምስል ማመንጨት ሞዴል በስልጠናው መረጃ ላይ ማጣሪያዎችን ሲተገበር፣ ሳያውቅ ከሥርዓተ-ፆታ ጋር የተያያዙ አድሎአዊ ድርጊቶችን አጠናክሯል።

ችግር ያለበት የሥልጠና መረጃ አንድምታ

የችግር የሥልጠና መረጃ ሰፋ ያለ እንድምታዎች የሚከተሉትን ሊያካትቱ ይችላሉ። 

• በምርምር ፕሮጀክቶች፣ አገልግሎቶች እና የፕሮግራም ልማት ውስጥ የተጠናከረ አድሎአዊነት። ችግር ያለበት የሥልጠና መረጃ በተለይ በሕግ አስከባሪ እና በባንክ ተቋማት ውስጥ ጥቅም ላይ ከዋለ (ለምሳሌ ጥቃቅን ቡድኖችን በመጥፎ ዒላማ ማድረግ) ይመለከታል።
• የስልጠና መረጃን በማደግ እና በመመደብ ላይ ኢንቨስትመንት እና ልማት መጨመር። 
• ኮርፖሬሽኖች እንዴት እንደሚያዳብሩ፣መሸጥ እና ለተለያዩ የንግድ እንቅስቃሴዎች የሥልጠና መረጃን እንደሚጠቀሙ ለመገደብ ተጨማሪ መንግሥታት ደንቦችን ይጨምራሉ።
• በ AI ስርዓቶች የሚንቀሳቀሱ ፕሮጀክቶች የስነምግባር መመሪያዎችን መከተላቸውን ለማረጋገጥ የስነምግባር ክፍሎችን የሚያቋቁሙ ተጨማሪ ንግዶች።
• በጤና እንክብካቤ ውስጥ AIን መጠቀም ወደ ጥብቅ የውሂብ አስተዳደር ፣ የታካሚ ግላዊነት እና ሥነ ምግባራዊ AI መተግበሪያን በማረጋገጥ ላይ የተሻሻለ ምርመራ።
• የህዝብ እና የግሉ ሴክተር ትብብር የኤአይአይ እውቀትን ለማዳበር ፣የሰራተኛ ሃይልን በ AI ለሚመራው ወደፊት።
• ለተጠቃሚዎች ግንዛቤ እና እምነት በ AI ስርዓቶች ውስጥ ለማብራራት ቅድሚያ እንዲሰጡ ኩባንያዎች እየመራ የ AI የግልጽነት መሳሪያዎች ፍላጎት መጨመር።

ሊታሰብባቸው የሚገቡ ጥያቄዎች

• ድርጅቶች ችግር ያለበትን የሥልጠና መረጃ ከመጠቀም እንዴት ይቆጠባሉ?
• ከሥነ ምግባር ውጭ የሆነ የሥልጠና መረጃ ሌሎች ምን ውጤቶች ሊኖሩ ይችላሉ?