Технологиядағы этика нұсқаулары: Сауда зерттеуді қолға алған кезде

• автор:
• Автордың аты-жөні

  Кванттық болжау
• Ақпан 15, 2023

Түсінікті қорытынды

Жасанды интеллект (AI) жүйелері таңдаулы азшылық топтарына әкелуі мүмкін ықтимал қауіптер мен алгоритмдік бұрмалануларға байланысты көптеген федералды агенттіктер мен компаниялар технологиялық провайдерлерден AI-ды қалай дамытып, енгізетіні туралы этикалық нұсқауларды жариялауды талап етеді. Дегенмен, бұл нұсқауларды нақты өмірде қолдану әлдеқайда күрделі және бұлыңғыр.

Этикалық контекст

Силикон алқабында бизнес әлі де этикалық принциптерді іс жүзінде қалай тиімді қолдану керектігін зерттеп жатыр, соның ішінде «этикаға басымдық беру қанша тұрады?» Деген сұрақты қояды. 2 жылдың 2020 желтоқсанында Google-дың этикалық AI тобының тең жетекшісі Тимнит Гебру өзінің жұмыстан босатылғаны туралы твиттерде жазды. Ол AI қоғамдастығында бет-әлпет пен бет-әлпетті тану зерттеулері үшін кеңінен танымал болды. Оның жұмыстан шығарылуына себеп болған оқиға оның бірлесіп жазған мақаласына қатысты болды, оны Google жариялау стандарттарына сәйкес келмейді деп шешті. 

Дегенмен, Гебру және басқалары атыс ілгерілеушіліктен гөрі қоғамдық қатынастармен байланысты деп санайды. Жұмыстан босату Гебру адам тілін еліктейтін AI маргиналды популяцияларға қалай зиян тигізуі мүмкін екендігі туралы зерттеуді жарияламау туралы бұйрыққа күмәнданғаннан кейін болды. 2021 жылдың ақпанында Гебрудің бірлескен авторы Маргарет Митчелл де жұмыстан босатылды. 

Google Митчелл электрондық файлдарды компаниядан тыс жылжыту арқылы компанияның мінез-құлық кодексі мен қауіпсіздік саясатын бұзғанын мәлімдеді. Митчелл оның жұмыстан босатылу себептерін егжей-тегжейлі айтқан жоқ. Бұл қадам сынның көшкініне әкеліп соқты, бұл Google компаниясының әртүрлілік пен зерттеу саясатындағы өзгерістерді 2021 жылдың ақпанына дейін жариялауға әкелді. Бұл оқиға этика қақтығыстарының ірі технологиялық фирмалар мен олардың болжамды объективті зерттеу бөлімдерін қалай бөлетінінің бір мысалы ғана.

Деструктивті әсер

Harvard Business Review мәліметтері бойынша, бизнес иелерінің алдында тұрған ең үлкен мәселе - этикалық дағдарыстарға жауап беру үшін сыртқы қысымдар мен олардың компаниялары мен салаларының ішкі талаптары арасындағы теңгерімді табу. Сыртқы сындар компанияларды бизнес тәжірибесін қайта бағалауға итермелейді. Дегенмен, менеджменттің қысымы, салалық бәсекелестік және бизнесті қалай жүргізу керектігі туралы жалпы нарықтық күтулер кейде статус-квоны қолдайтын өтемдік ынталандыруларды тудыруы мүмкін. Тиісінше, этикалық қақтығыстар мәдени нормалар дамыған сайын және компаниялар (әсіресе ықпалды технологиялық фирмалар) жаңа кірістер алу үшін іске асыра алатын жаңа бизнес тәжірибелерінің шекараларын ұлғайтуды жалғастырған сайын артады.

Осы этикалық тепе-теңдікпен күресетін корпорациялардың тағы бір мысалы - Meta компаниясы. Жарияланған этикалық кемшіліктерді жою үшін Facebook 2020 жылы мазмұнды модерациялау шешімдерін, тіпті негізін қалаушы Марк Цукерберг қабылдаған шешімдерді жоюға өкілеттігі бар тәуелсіз бақылау кеңесін құрды. 2021 жылдың қаңтарында комитет даулы мазмұн бойынша өзінің алғашқы шешімдерін шығарып, көрген істердің көпшілігін жойды. 

Дегенмен, күн сайын Facebook-те миллиардтаған жазбалар және сансыз мазмұн шағымдары болғандықтан, бақылау кеңесі дәстүрлі үкіметтерге қарағанда әлдеқайда баяу жұмыс істейді. Соған қарамастан, басқарма бірнеше орынды ұсыныстар жасады. 2022 жылы панель Meta Platforms-ке Facebook-те жарияланған доксинг оқиғаларын жоюға кеңес берді, бұл пайдаланушыларға жеке адамдардың үй мекенжайларын платформаларда ортақ қолжетімді болса да бөлісуге тыйым салады. Басқарма сонымен қатар Facebook-тің бұзушылықтардың неліктен орын алатынын және олармен қалай жұмыс істейтінін ашық түсіндіру үшін байланыс арнасын ашуды қолдады.

Жеке сектордағы этика қақтығыстарының салдары

Жеке сектордағы этикалық қақтығыстардың кеңірек салдары мыналарды қамтуы мүмкін: 

• Тиісті бизнес тәжірибелерінде этикалық нұсқаулардың орындалуын бақылау үшін тәуелсіз этикалық кеңестер құруда көбірек компаниялар.
• Технологиялық зерттеулерді қалай коммерцияландыру күмәнді тәжірибелер мен жүйелерге әкелгені туралы академияның сынының артуы.
• Технологиялық фирмалар талантты қоғамдық және университеттік AI зерттеушілерін іздеп, қомақты жалақы мен жеңілдіктер ұсынатындықтан, мемлекеттік сектордан мидың ағылуы көбірек.
• Үкіметтер барлық фирмалардан технологиялық қызметтерді ұсынатын-ұсынбағанына қарамастан өздерінің этикалық нұсқауларын жариялауды талап етуде.
• Ірі компаниялардан мүдделер қақтығысына байланысты жұмыстан шығарылған ашық зерттеушілер тек тез арада ауыстырылады.

Қарастырылатын сұрақтар

• Сіздің ойыңызша, этика қақтығыстары тұтынушылар алатын өнімдер мен қызметтер түріне қалай әсер етеді?
• Фирмалар өздерінің технологиялық зерттеулерінде ашықтықты қамтамасыз ету үшін не істей алады?