Квантумрун

Кредит суреті:

iStock

Жалған ақпаратты тарату тактикасы: адам миына қалай шабуыл жасайды

Боттарды пайдаланудан бастап әлеуметтік желілерді жалған жаңалықтармен толтыруға дейін жалған ақпарат беру тактикасы адамзат өркениетінің бағытын өзгертеді.

автор:
Автордың аты-жөні
Кванттық болжау
Қазан 4, 2023

Түсінікті қорытынды

Жалған ақпарат Contagion моделі және шифрланған қолданбалар сияқты тактика арқылы таралуда. Ghostwriter сияқты топтар НАТО мен АҚШ әскерлерін нысанаға алады, ал AI қоғамдық пікірді басқарады. Адамдар жиі таныс көздерге сенеді, бұл оларды жалған ақпаратқа бейім етеді. Бұл жасанды интеллект негізіндегі жалған ақпарат тарату науқандарының көбеюіне, мемлекеттік реттеудің күшейтілуіне, экстремистердің шифрланған қолданбаларды пайдалануының артуына, БАҚ-тағы киберқауіпсіздіктің күшеюіне және жалған ақпаратпен күресу бойынша білім беру курстарына әкелуі мүмкін.

Дезинформация контекстін тарату тактикасы

Жалған ақпарат беру тактикасы – бұл жалған нанымдардың пандемиясын тудыратын әлеуметтік желі сайттарында жиі қолданылатын құралдар мен стратегиялар. Ақпараттың бұл айла-шарғысының нәтижесінде сайлаушыларды алаяқтықтан бастап зорлық-зомбылық шабуылдары шынайы ма (мысалы, Сэнди Хуктағы бастауыш мектептегі атыс) немесе вакциналар қауіпсіз ме деген тақырыптарға қатысты кең тараған түсінбеушілікке әкелді. Жалған жаңалықтар әртүрлі платформаларда таратыла бергендіктен, ол бұқаралық ақпарат құралдары сияқты әлеуметтік институттарға деген терең сенімсіздікті тудырды. Жалған ақпараттың таралуының бір теориясы компьютерлік вирустардың жұмысына негізделген Контагиондық модель деп аталады. Желі адамдарды бейнелейтін түйіндермен және әлеуметтік сілтемелерді бейнелейтін шеттермен жасалады. Ұғым бір «ақылға» егіліп, әртүрлі жағдайларда және әлеуметтік қатынастарға байланысты таралады.

Бұл технология мен қоғамды цифрландыру жалған ақпарат беру тактикасын бұрынғыдан да тиімдірек етуге көмектесіп жатқанына көмектеспейді. Мысал ретінде жеке контактілермен жалған ақпаратты бөлісуді жеңілдетіп қана қоймай, сонымен қатар қолданба компанияларына ортақ пайдаланылатын хабарларды бақылауды мүмкін етпейтін шифрланған хабар алмасу қолданбалары (EMA) мысал бола алады. Мысалы, тым оңшыл топтар 2021 жылдың қаңтарында АҚШ Капитолийіндегі шабуылдан кейін EMA-ға ауысты, себебі Twitter сияқты негізгі әлеуметтік медиа платформалары оларға тыйым салды. Дезинформациялық тактиканың дереу және ұзақ мерзімді салдары бар. Тролль фермалары арқылы қылмысы бар күмәнді тұлғалар жеңіске жететін сайлаулардан басқа, олар азшылықтарды шеттетіп, соғысты насихаттауды жеңілдетуі мүмкін (мысалы, Ресейдің Украинаға басып кіруі).

Деструктивті әсер

2020 жылы FireEye қауіпсіздік компаниясы Ghostwriter деп аталатын хакерлер тобының жалған ақпарат тарату әрекеттері туралы есеп шығарды. 2017 жылдың наурыз айынан бастап үгіт-насихатшылар, әсіресе Солтүстік Атлантикалық Шарт Ұйымы (НАТО) әскери альянсына және Польша мен Балтық жағалауындағы АҚШ әскерлеріне қарсы өтірік таратуда. Олар әлеуметтік желілерде және ресейшіл жаңалықтар сайттарында жалған материалдар жариялаған. Ghostwriter кейде анағұрлым агрессивті тәсілді қолданды: жаңалықтар веб-сайттарының мазмұнды басқару жүйелерін (CMS) өздерінің оқиғаларын жариялау үшін бұзу. Содан кейін топ жалған электрондық пошталарды, әлеуметтік желілердегі жазбаларды және тіпті оқырмандардан мазмұнды қабылдайтын басқа сайттарда жазған оп-адтарды пайдаланып, өзінің жалған жаңалықтарын таратады.

Басқа жалған ақпарат беру тактикасы әлеуметтік желілердегі қоғамдық пікірді басқару үшін алгоритмдер мен жасанды интеллектті (AI) пайдаланады, мысалы, әлеуметтік желілердегі жазылушыларды боттар арқылы «көтеру» немесе жек көретін пікірлерді жариялау үшін автоматтандырылған тролль аккаунттарын құру. Сарапшылар мұны есептеу насихаты деп атайды. Сонымен қатар, The New York Times зерттеуі саясаткерлер электрондық поштаны адамдар ойлағаннан да жиі жалған ақпарат тарату үшін пайдаланатынын анықтады. АҚШ-та екі тарап өз электрондық пошталарында сайлаушыларға гиперболаны қолданғаны үшін кінәлі, бұл жиі жалған ақпаратпен бөлісуге итермелейді.

Адамдардың жалған ақпарат тарату науқандарына түсуінің бірнеше негізгі себептері бар.

Біріншіден, адамдар әлеуметтік үйренушілер және достары немесе отбасы мүшелері сияқты ақпарат көздеріне сенеді. Бұл адамдар, өз кезегінде, жаңалықтарын сенімді достарынан алады, бұл циклды бұзуды қиындатады.
Екіншіден, адамдар жиі пайдаланатын ақпаратты белсенді түрде тексере алмайды, әсіресе олар жаңалықтарын бір көзден алуға дағдыланған болса (көбінесе дәстүрлі БАҚ немесе сүйікті әлеуметтік медиасы) Facebook немесе Twitter сияқты платформалар). Олар өздерінің сенімдерін қолдайтын тақырыпты немесе суретті (тіпті жай брендингті) көргенде, олар бұл мәлімдемелердің шынайылығына жиі күмән келтірмейді (қаншалықты күлкілі болса да).
Жаңғырық камералары – қарама-қарсы нанымдағы адамдарды автоматты түрде жауға айналдыратын қуатты жалған ақпарат құралдары. Адам миы бұрыннан бар идеяларды қолдайтын ақпаратты іздеуге және оларға қарсы келетін ақпаратты жеңілдетуге бейімделген.

Жалған ақпаратты тарату тактикасының кеңірек салдары

Жалған ақпаратты тарату тактикасының ықтимал салдары мыналарды қамтуы мүмкін:

Саясаткерлер мен насихатшыларға ақылды жалған ақпарат тарату науқандары арқылы ізбасарлар мен «сенімділікке» ие болуға көмектесу үшін AI және боттарға маманданған көбірек компаниялар.
Үкіметтерге тролль фермаларымен және жалған ақпарат беру жөніндегі стратегтермен күресу үшін жалған ақпаратқа қарсы заңдар мен агенттіктер құруға қысым жасалуда.
Үгіт-насихат таратқысы келетін және беделін түсіргісі келетін экстремистік топтар үшін EMA жүктеуді арттыру.
Ақпараттық хакерлердің өз жүйелеріне жалған жаңалықтар енгізуіне жол бермеу үшін қымбат тұратын киберқауіпсіздік шешімдеріне инвестиция салатын медиа сайттар. Бұл модерация процесінде жаңа генеративті AI шешімдерін қолдануға болады.
Генеративті AI-мен жұмыс істейтін боттарды жаман актерлар ауқымда насихат және жалған ақпарат беретін медиа мазмұнын шығару үшін пайдалануы мүмкін.
Университеттер мен қауымдық мектептерге жалған ақпаратқа қарсы курстарды қосу үшін қысымның артуы.