Генеративни алгоритми: Може ли това да се превърне в най-разрушителната технология на 2020-те?

• Автор:
• име Автор

  Quantumrun Foresight
• Февруари 21, 2023

Въпреки ранните дълбоки фалшиви скандали, причинени от генеративни алгоритми, тези технологии за изкуствен интелект (AI) остават мощен инструмент, който много индустрии – от медийни корпорации до рекламни агенции до филмови студия – използват за създаване на достоверно съдържание. Някои експерти твърдят, че генеративният AI трябва да се наблюдава по-внимателно, тъй като възможностите на тези AI алгоритми скоро ще имат потенциала да изкривят и заблудят обществеността, да не говорим за автоматизирането на огромни групи от бели якички.

Контекст на генериращи алгоритми

Генеративният AI или алгоритмите, които могат да създават съдържание (включително текст, аудио, изображение, видео и други) с минимална човешка намеса, направиха значителни крачки от 2010 г. насам. Например, Generative Pre-trained Transformer 3 (GPT-3) на OpenAI беше пуснат през 2020 г. и се счита за най-модерната невронна мрежа от този вид. Той може да генерира текст, който е почти неразличим от нещо, което човек би написал. След това през ноември 2022 г. OpenAI пусна ChatGPT, алгоритъм, който привлече значителен интерес от страна на потребителите, частния сектор и медиите поради зашеметяващата си способност да предоставя подробни отговори на потребителски подкани и артикулирани отговори в много домейни.

Друга генеративна AI технология, която набира популярност (и известност), са дълбоките фалшификати. Технологията зад deepfakes използва генериращи състезателни мрежи (GANs), където два алгоритъма се обучават взаимно, за да произвеждат изображения, близки до оригинала. Въпреки че тази технология може да звучи сложно, тя е станала сравнително лесна за производство. Множество онлайн приложения, като Faceswap и ZAO Deepswap, могат да създават дълбоки фалшиви изображения, аудио и видеоклипове за минути (а в някои приложения незабавно).

Въпреки че всички тези генеративни AI инструменти първоначално са били разработени за усъвършенстване на машинни и дълбоки технологии за обучение, те също са били използвани за неетични практики. Кампаниите за дезинформация и пропаганда от следващо поколение процъфтяват с помощта на тези инструменти. Синтетичните медии, като генерирани от AI статии, видеоклипове и изображения, доведоха до потоп от фалшиви новини. Deepfake ботовете за коментари дори са били използвани за тормоз върху жени и малцинства онлайн. 

Разрушително въздействие

Генеративните AI системи бързо намират широко разпространени приложения в множество индустрии. Проучване, публикувано през 2022 г. от Асоциацията за компютърни машини, установи, че водещи медийни компании като Associated Press, Forbes, New York Times, Washington Post и ProPublica използват AI, за да генерират цели статии от нулата. Това съдържание включва репортажи за престъпления, финансови пазари, политика, спортни събития и външни работи.

Generative AI също се използва по-често като вход при писане на текстове за различни приложения, всичко от съдържание, генерирано от потребители и компании, до доклади, написани от правителствени институции. Когато AI пише текста, неговото участие обикновено не се разкрива. Някои твърдят, че предвид потенциала за злоупотреба, потребителите на AI трябва да бъдат прозрачни относно използването му. Всъщност този тип разкриване вероятно ще стане закон до края на 2020 г., както е предложено от Закона за алгоритмично правосъдие и прозрачност на онлайн платформите от 2021 г. 

Друга област, в която е необходимо генеративно разкриване на AI, е рекламата. Проучване от 2021 г., публикувано в Journal of Advertising, установи, че рекламодателите автоматизират много процеси за създаване на „синтетични реклами“, генерирани чрез анализ и модификация на данни. 

Рекламодателите често използват тактики за манипулиране, за да направят рекламите по-персонализирани, рационални или емоционални, така че потребителите да искат да закупят продукта. Манипулирането на реклами включва всяка промяна, направена в реклама, като ретуширане, грим и осветление/ъгъл. Практиките за дигитална манипулация обаче са станали толкова тежки, че могат да причинят нереалистични стандарти за красота и телесна дисморфия сред тийнейджърите. Няколко държави, като Обединеното кралство, Франция и Норвегия, задължиха рекламодателите и влиятелните лица изрично да заявяват, ако тяхното съдържание е било манипулирано.

Последици от генеративните алгоритми

По-широките последици от генеративните алгоритми могат да включват: 

• Множество професии на белите якички – като софтуерно инженерство, адвокати, представители за обслужване на клиенти, търговски представители и други – ще видят все по-голяма автоматизация на своите по-малко ценни работни задължения. Тази автоматизация ще подобри производителността на средния работник, като същевременно ще намали необходимостта компаниите да наемат в излишък. В резултат на това повече компании (особено по-малки или по-неизвестни компании) ще получат достъп до квалифицирани специалисти в критичен период, когато работната сила в световен мащаб се свива поради пенсиониране на бум.
• Генеративният AI се използва за призрачно писане на мнения и статии за лидерство на мисълта.
• Увеличеното използване на генериращ AI за рационализиране на дигиталните версии, където различни ъгли на една и съща история се пишат едновременно.
• Deepfake съдържание, което се използва в реклами и филми за премахване на възрастта на актьори или за връщане на починали.
• Приложенията и технологиите Deepfake стават все по-достъпни и евтини, което позволява на повече хора да участват в пропаганда и дезинформация.
• Повече държави изискват от компаниите да разкрият използването на генерирано от AI съдържание, личности, писатели, знаменитости и влиятелни лица.

Въпроси за коментар

• Как се използва генеративният AI във вашата работа, ако изобщо се използва?
• Какви са другите предимства и опасности от използването на AI за масово производство на съдържание?