Есептеу насихаты: автоматтандырылған алдау дәуірі

• автор:
• Автордың аты-жөні

  Кванттық болжау
• Қараша 21, 2022

Түсінікті қорытынды

Әлеуметтік медиа ғасырында кейбір адамдар үшін қоғамдық пікірді манипуляциялауға арналған алгоритмдер – есептеу насихатының таралуына байланысты көргені мен естігеніне сену қиындай түсті. Бұл технология ең алдымен адамдардың саяси мәселелерге деген көзқарасын өзгерту үшін қолданылады. Жасанды интеллект (AI) жүйелері дамуын жалғастырған сайын, есептеу насихаты одан да көп өлімге әкелетін мақсаттарға қолданылуы мүмкін.

Есептік насихат контексті

Есептеу насихаты жалған немесе жалған ақпаратты желіде жасау және тарату үшін AI жүйелерін пайдаланады. Атап айтқанда, Facebook, Google және Twitter сияқты Big Tech фирмалары қоғамдық пікірді манипуляциялау үшін алгоритмдерін пайдаланғаны үшін сынға ұшырады. Мысалы, Facebook 2016 жылы тренд тақырыптары бөліміндегі консервативті жаңалықтарды басу үшін алгоритмін пайдаланды деп айыпталды. Сонымен қатар, 2016 жылғы АҚШ президенттік сайлауы сайлаушыларға компьютерлік үгіт-насихат әсер ететіні туралы айтулы оқиға болды. Мысалы, Google іздеу нәтижелерін Хиллари Клинтонның пайдасына бұрды деп айыпталды, ал Twitter сайлау кезінде боттарға жалған ақпарат таратуға мүмкіндік берді деп сынға алынды. 

Есептеу үгіт-насихатының әсері жаһандық деңгейде, әсіресе ұлттық сайлау кезінде және көбінесе азшылық топтарға қарсы сезіледі. Мьянмада 2017-2022 жылдар аралығында рохинджа-мұсылман азшылық тобына қарсы өшпенділік пен зорлық-зомбылық көбейіп кетті. Бұл жек көрушіліктің басым бөлігі Мьянмадағы ұлтшыл топтардың рохинджаларды құнсыздандыратын жалған жаңалықтар мен дөрекі бейнелерді тарататын интернеттегі үгіт-насихатына байланысты. 

Есептеу үгіт-насихатының тағы бір салдары – ол демократия мен институттарға деген сенімді әлсіретуі мүмкін. Бұл эрозия елдің ішкі тұрғындары арасында поляризация мен саяси толқулардың күшеюіне әкелетін ауыр зардаптарға әкелуі мүмкін. Оның дәлелденген тиімділігінің арқасында көптеген үкіметтер мен саяси партиялар әлеуметтік медиа платформаларын қарсыластары мен сыншыларына қарсы қаруландыру үшін AI насихатын пайдаланады.

Деструктивті әсер

Есептеу насихаты әртүрлі дамып келе жатқан AI инновацияларын біріктіруіне байланысты барған сайын жетілдіріліп келеді. Бір мысал AI-ге адамға ұқсайтын түпнұсқа мазмұнды жазуға мүмкіндік беретін табиғи тілді өңдеуді (NLP) қамтиды. Сонымен қатар, deepfake және дауысты клондау технологиясын кез келген адам жүктей алады. Бұл технологиялар адамдарға жалған тұлғалар жасауға, қоғам қайраткерлеріне ұқсауға және жатын бөлмелерінен күрделі жалған ақпарат тарату науқанын өткізуге мүмкіндік береді. 

Сарапшылардың пікірінше, автоматтандырылған үгіт-насихаттың қауіптілігі:

• хабарсыз халық,
• жаппай жалған ақпаратты емдеу үшін нашар жабдықталған құқықтық жүйе және
• қанаудан аз қорғайтын әлеуметтік медиа компаниялары.

Есептеу үгіт-насихатының ықтимал шешімі - АҚШ Конгресі әлеуметтік медиа компанияларына пайдаланушылардың жеке басын тексеру үшін қысым жасау. Тағы бір шешім - әлеуметтік медиа платформалары үшін өзгертілген жүйені қабылдау, оның көмегімен үшінші тарап тіркелгі жасауға рұқсат бермес бұрын жеке тұлғаның жеке басын криптографиялық түрде тексереді.

Дегенмен, бұл шараларды жүзеге асыру қиын, себебі әлеуметтік медиа платформалары үнемі өзгеріп, дамып отырады. Бұл корпорациялар үшін пайдаланушыларды онлайн пайдаланудың үнемі өзгеретін ландшафтымен тексеру қиынға соғады. Бұған қоса, көптеген адамдар үкіметтердің коммуникациялық платформаларды реттейтінінен сақ болады, өйткені бұл цензураның бір түрі болуы мүмкін.

Есептеу насихатының салдары

Есептеу насихатының кеңірек салдары мыналарды қамтуы мүмкін: 

• Үкіметтер сайлауға, саясатқа және сыртқы саясатқа әсер ету үшін мемлекет демеушілік ететін компьютерлік үгіт-насихат үшін әлеуметтік медиа мен жалған жаңалықтар веб-сайттарын көбірек пайдаланады.
• Жасанды жаңалықтар мен бейнелер туралы жалған ақпаратты таратуға арналған әлеуметтік медиа боттарын, жалған аккаунттарды және AI жасаған профильдерді пайдаланудың артуы.
• Азаматтарға зиян келтіруі, қоғамдық мүлікті жоюы және маңызды қызметтерді бұзуы мүмкін онлайн дезинформациялық үгіт-насихат науқандарынан туындаған аса зорлық-зомбылық оқиғалары (мысалы, қоғамдық тәртіпсіздіктер, қастандық әрекеттер және т.б.).
• Халықты жалған ақпарат пен жалған жаңалықтарды анықтауға үйретуге арналған мемлекеттік қаржыландырылатын бағдарламаларға инвестицияның артуы.
• Этникалық және азшылық топтарға қатысты кемсітушіліктің қайта күшеюі, нәтижесінде геноцид көбейіп, өмір сүру сапасы төмендейді.
• Сандық медиа тұтастығын және пайдаланушы сенімін жақсартуға әкелетін есептеу насихатын анықтау және оған қарсы тұру үшін жетілдірілген анықтау алгоритмдерін қолданатын технологиялық компаниялар.
• Білім беру мекемелері медиа сауаттылықты оқу бағдарламаларына біріктіріп, студенттердің компьютерлік үгіт-насихаттан нақты ақпаратты ажырату үшін сыни ойлауын дамытады.
• Есептеу дезинформациясымен күресу, жаһандық цифрлық қауіпсіздік пен ынтымақтастықты арттыру үшін жаһандық стандарттар мен хаттамаларды құру үшін елдер арасындағы халықаралық ынтымақтастық.

Қарастырылатын сұрақтар

• Компьютерлік насихат сіздің еліңізге қалай әсер етті?
• Интернеттегі мазмұнды тұтыну кезінде сіз өзіңізді компьютерлік насихаттан қалай қорғайсыз?