Лъжа от синтетични медии: Да видиш вече не вярваш

• Автор:
• име Автор

  Quantumrun Foresight
• Февруари 22, 2024

Резюме на прозрението

Синтетичните медии, съчетаващи изкуствен интелект (AI) с видео, аудио и визуални елементи, са толкова реалистични, че е трудно да се разграничат от действителните медии. Развитието му датира от десетилетия, като дълбокото обучение (DL) и генериращите състезателни мрежи (GANs) играят ключова роля в неговия напредък. Тъй като тази технология се развива, тя предоставя творчески възможности и значителни предизвикателства по отношение на поверителността, етиката и дезинформацията.

Синтетичен медиен фалшив контекст

Синтетичните медии представляват новаторска комбинация от генерирано от AI съдържание, включващо видео на живо, визуални елементи и аудио в рамките на усъвършенствана технологична рамка. Тази медийна форма се характеризира с изключителния си реализъм и потапящи качества, което я прави почти неразличима от медиите в реалния свят. Създаването на синтетични носители може да се проследи назад до 1950-те години на миналия век, като претърпява значителна еволюция в края на 1980-те и началото на 1990-те години на миналия век с нарастването на изчислителната мощност. 

Дълбокото обучение е основната технология, движеща синтетичните медии, усъвършенстван клон на машинното обучение (ML). Особено влиятелни в тази област са GANs, които направиха революция в областта, като се учеха от съществуващи изображения, за да създават изцяло нови, но зловещо автентични. GAN работят с помощта на двойна невронна мрежова система: едната мрежа генерира фалшиви изображения въз основа на реални, докато другата оценява тяхната автентичност, разширявайки границите на възможното в компютърното зрение и обработката на изображения.

Тъй като AI продължава бързото си развитие, приложенията и последиците от синтетичните медии стават все по-значими. Докато тези технологични крачки отварят врати за иновации в различни сектори, включително видеоигри, автономни превозни средства и разпознаване на лица, те същевременно въвеждат належащи опасения относно поверителността и етиката. По този начин бъдещето на синтетичните медии представлява нож с две остриета, предлагайки огромен потенциал за творчество и иновации, като същевременно ни предизвиква да се справим с неговите етични и свързани с неприкосновеността на личния живот последици.

Разрушително въздействие

Проучване от 2022 г., проведено от организацията с нестопанска цел Rand Corporation, обсъжда четирите основни риска на синтетичните медии: манипулиране на избори чрез изфабрикувани видеоклипове на кандидати, изостряне на социалните разделения чрез засилване на пропагандата и партийно съдържание, подкопаване на доверието в институциите чрез фалшиви представяния на авторитетни фигури, и подкопаване на журналистиката чрез поставяне на съмнение в автентичността на законните новини. Тези дълбоки фалшификати могат да бъдат особено вредни в развиващите се нации, където преобладават по-ниските нива на образование, крехките демокрации и междуетническите конфликти. Дезинформацията вече е сериозен проблем в тези региони и дълбоките фалшификати могат да засилят споровете и насилието, както се вижда от минали инциденти в страни като Мианмар, Индия и Етиопия. Освен това ограничените ресурси, разпределени за модериране на съдържание извън САЩ, особено на платформи като WhatsApp, увеличават риска дълбоките фалшификации да останат неоткрити в тези области.

Deepfakes също представляват уникални заплахи за жените, като се има предвид неравенството между половете в порнографското съдържание. Медиите, генерирани от AI, се използват за създаване на дълбока фалшива порнография без съгласие, което води до злоупотреба и експлоатация. Тези технологии могат също така да представляват риск за сигурността, като се насочват към служители на разузнаването, политически кандидати, журналисти и лидери за поставяне в неудобно положение или манипулиране. Исторически примери, като подкрепяната от Русия кампания за дезинформация срещу украинския парламентарист Свитлана Залишчук, демонстрират потенциала за подобни атаки.

Разбирането на научната общност за обществените последици от deepfakes все още се развива, като проучванията предлагат смесени резултати относно способността на потребителите да откриват тези видеоклипове и тяхното въздействие. Някои изследвания показват, че хората може да са по-добри в откриването на дълбоки фалшификати от машините, но тези видеоклипове често се възприемат като ярки, убедителни и достоверни, което увеличава вероятността от разпространението им в социалните медии. Въпреки това влиянието на дълбоко фалшивите видеоклипове върху вярванията и поведението може да е по-малко от очакваното, което показва, че опасенията относно тяхната убедителност може да са донякъде преждевременни. 

Последици от лъжата на синтетичните медии

По-широките последици от лъжата на синтетичните медии могат да включват: 

• Подобрени техники за удостоверяване на цифрово съдържание, водещи до по-сложни методи за проверка на автентичността на медиите.
• Повишено търсене на обучение по дигитална грамотност в училищата, снабдяване на бъдещите поколения с умения за критичен анализ на медиите.
• Промени в журналистическите стандарти, изискващи по-строги процеси на проверка на мултимедийното съдържание, за да се запази доверието.
• Разширяване на правните рамки, насочени към манипулиране на цифрово съдържание, предлагащи по-добра защита срещу дезинформация.
• Повишени рискове за личната поверителност поради потенциалната злоупотреба с лицевото разпознаване и личните данни при създаването на дълбоки фалшификации.
• Развитие на нови пазарни сектори, специализирани в дълбоко откриване и предотвратяване на фалшификати, създаване на възможности за работа и технологичен напредък.
• Политически кампании, възприемащи по-строги практики за наблюдение на медиите, за да смекчат въздействието на фалшивото съдържание върху изборите.
• Промени в рекламните и маркетингови стратегии, с повишен акцент върху автентичността и проверимото съдържание за поддържане на доверието на потребителите.
• Повишаване на психологическите въздействия поради разпространението на реалистично, но невярно съдържание, което потенциално засяга психичното здраве и общественото възприятие.
• Промени в динамиката на международните отношения, тъй като deepfakes се превръщат в инструмент в геополитическите стратегии, засягайки дипломацията и глобалното доверие.

Въпроси за разглеждане

• Как синтетичните медии влияят на вашето възприемане на текущите събития?
• Как може развитието на технологията deepfake да повлияе на баланса между свободата на изразяване и необходимостта от регулиране за предотвратяване на дезинформация и злоупотреба?