Жасанды интеллект бұрмалануы: машиналар біз ойлағандай объективті емес

• автор:
• Автордың аты-жөні

  Кванттық болжау
• Ақпан 8, 2022

Түсінікті қорытынды

Деректерге негізделген технологиялар әділетті қоғам құруға уәде бергенімен, олар көбінесе адамдар ұстанатын теріс көзқарастарды көрсетеді, бұл ықтимал әділетсіздіктерге әкеледі. Мысалы, жасанды интеллект (AI) жүйелеріндегі бұрмаланулар зиянды стереотиптерді байқаусызда нашарлатуы мүмкін. Дегенмен, AI жүйелерін әділетті ету үшін күш-жігер жұмсалуда, дегенмен бұл пайдалылық пен әділдік арасындағы тепе-теңдік және технологиялық топтардағы мұқият реттеу мен әртүрлілік қажеттілігі туралы күрделі сұрақтар тудырады.

AI бейімділігінің жалпы контексті

Деректерге негізделген технологиялар адамзатқа әділеттілік барлығы үшін норма болып табылатын қоғам құруға көмектеседі деген үміт бар. Дегенмен, қазіргі шындық басқа суретті салады. Бұрынғы әділетсіздіктерге әкеп соққан адамдарда болған көптеген қисындылықтар қазір цифрлық әлемді басқаратын алгоритмдерде көрініс табуда. Жасанды интеллект жүйелеріндегі бұл бұрмаланулар көбінесе осы жүйелерді дамытатын адамдардың теріс пікірінен туындайды және бұл бейімділіктер олардың жұмысына жиі енеді.

Мысалы, 2012 жылы ImageNet деп аталатын жобаны алайық, ол машиналық оқыту жүйелерін оқыту үшін кескіндерді таңбалауды краудсорсингке ұмтылды. Осы деректер бойынша оқытылған үлкен нейрондық желі кейіннен объектілерді әсерлі дәлдікпен анықтай алды. Дегенмен, мұқият тексергеннен кейін зерттеушілер ImageNet деректерінде жасырылған ауытқуларды тапты. Бір нақты жағдайда, осы деректер бойынша дайындалған алгоритм барлық бағдарламалық жасақтама жасаушылар ақ адамдар деген болжамға негізделген.

Бұл бейтараптық жалдау процесі автоматтандырылған кезде әйелдердің мұндай рөлдерге назар аудармауына әкелуі мүмкін. «Әйел» суреттеріне жапсырмаларды қосатын жеке тұлға қорлайтын терминнен тұратын қосымша белгіні қамтитындықтан, біржақтылық деректер жиынына жол берді. Бұл мысал қасақана немесе әдейі емес көзқарастардың зиянды стереотиптер мен теңсіздіктерді жалғастыра алатын ең күрделі AI жүйелеріне қалай еніп кететінін көрсетеді.

Деструктивті әсер 

Деректер мен алгоритмдердегі біржақтылықты жою әрекеттерін әртүрлі мемлекеттік және жеке ұйымдардағы зерттеушілер бастады. ImageNet жобасы жағдайында, мысалы, краудсорсинг белгілі бір кескіндерді кемсітетін таңбалау терминдерін анықтау және жою үшін қолданылды. Бұл шаралар AI жүйелерін әділетті болу үшін қайта конфигурациялауға болатынын көрсетті.

Дегенмен, кейбір сарапшылар біржақтылықты жою деректер жинағын тиімділігін төмендетуі мүмкін деп санайды, әсіресе бірнеше бұрмаланулар ойнағанда. Белгілі бір қиғаштықтан тазартылған деректер жиынтығы тиімді пайдалану үшін жеткілікті ақпараттың болмауына әкелуі мүмкін. Ол шын мәнінде әртүрлі кескін деректер жинағы қандай болатыны және оның пайдалылығын бұзбай қалай пайдалануға болатыны туралы сұрақты тудырады.

Бұл тенденция AI мен деректерге негізделген технологияларды қолдануда ойластырылған тәсіл қажет екенін көрсетеді. Компаниялар үшін бұл біржақтылықты анықтау құралдарына инвестиция салуды және технологиялық топтардағы әртүрлілікті насихаттауды білдіруі мүмкін. Үкіметтер үшін бұл AI-ны әділ пайдалануды қамтамасыз ететін ережелерді енгізуді қамтуы мүмкін. 

AI бейімділігінің салдары

AI бейімділігінің кеңірек салдары мыналарды қамтуы мүмкін:

• Ұйымдар өнімділік пен өнімділікті арттыру үшін AI қолдана отырып, әділдік пен кемсітушілікке жол бермеуде белсенділік танытады. 
• Жобаның басында этикалық тәуекелдерді анықтау және азайту үшін әзірлеу топтарында AI этикасының болуы. 
• Жыныс, нәсіл, сынып және мәдениет сияқты әртүрлілік факторлары бар AI өнімдерін жобалау.
• Компанияның AI өнімін шығарар алдында сынау үшін пайдаланатын әртүрлі топтардың өкілдерін алу.
• Әртүрлі мемлекеттік қызметтер белгілі бір халықтың өкілдеріне шектелген.
• Қоғамның кейбір мүшелері белгілі бір жұмыс мүмкіндіктеріне қол жеткізе алмайды немесе оларға сәйкес келмейді.
• Құқық қорғау органдары мен мамандар қоғамның кейбір мүшелерін басқаларға қарағанда әділетсіз түрде нысанаға алады. 

Қарастырылатын сұрақтар

• Автоматтандырылған шешім қабылдау болашақта әділ болады деген оптимистік көзқарастасыз ба?
• AI туралы шешім қабылдау сізді ең қобалжытады?