Дубоко лажирање и узнемиравање: Како се синтетички садржај користи за узнемиравање жена

• Аутор:
• ime аутора

  Куантумрун Форесигхт
• Декабрь 14, 2022

Сажетак увида

Развој технологије деепфаке довео је до све већег броја инцидената сексуалног узнемиравања, посебно над женама. Стручњаци верују да ће се злоупотреба погоршати ако се не примењују строжи закони о томе како се синтетички медији креирају, користе и дистрибуирају. Дугорочне импликације коришћења деепфаке-а за узнемиравање могле би укључити повећане тужбе и напредније деепфаке технологије и филтере.

Деепфакес и контекст узнемиравања

Године 2017., табла за дискусију на веб локацији Реддит је по први пут коришћена за хостовање порнографије којом се манипулише вештачка интелигенција (АИ). У року од месец дана, нит на Реддиту постала је вирална, а хиљаде људи је поставило своју дубоку порнографију на сајт. Синтетички садржај који се користи за стварање лажне порнографије или узнемиравања је све чешћи, али је интерес јавности често фокусиран на пропагандне лажне лажне ствари које промовишу дезинформације и политичку нестабилност. 

Термин "деепфаке" је комбинација "дубоког учења" и "лажног", метода за поновно креирање фотографија и видео записа уз помоћ вештачке интелигенције. Суштинска компонента у производњи овог садржаја је машинско учење (МЛ), које омогућава брзо и јефтино креирање лажног материјала који је људским гледаоцима све теже открити.

 Неуронска мрежа је обучена са снимцима циљане особе да направи дубоки лажни видео. Што се више снимака користи у подацима о обуци, то ће резултати бити реалистичнији; мрежа ће научити манире те особе и друге особине личности. Једном када је неуронска мрежа обучена, свако може да користи технике компјутерске графике како би преложио копију лика особе на другог глумца или тело. Ово копирање је довело до пораста броја порнографских материјала познатих жена и цивила несвесних да су њихове слике коришћене на овај начин. Према истраживачкој фирми Сенсити АИ, отприлике 90 до 95 посто свих деепфаке видео записа спада у категорију порнографије без пристанка.

Ометајући утицај

Дубоки фајкови су погоршали праксу осветничке порнографије, првенствено циљајући на жене како би их изложили јавном понижењу и трауми. Приватност и безбедност жена су угрожени јер се лажна видео технологија од краја до краја све више користи оружјем, на пример, узнемиравање, застрашивање, понижавање и понижавање жена лично и професионално. Што је још горе, нема довољно прописа против ове врсте садржаја.

На пример, од 2022. године, осветнички порнографски садржај је забрањен у 46 америчких држава, а само две државе експлицитно покривају синтетичке медије у својој забрани. Дубоки фајкови сами по себи нису незаконити, само када крше ауторска права или постану клеветни. Ова ограничења отежавају жртвама да покрену правни поступак, посебно зато што не постоји начин да се овај садржај трајно избрише на мрежи.

У међувремену, други облик синтетичког садржаја, аватари (онлине репрезентације корисника), такође је изложен нападима. Према извештају непрофитне организације СумОфУс из 2022. године, жена која истражује у име организације наводно је нападнута на Метаверсе платформи Хоризон Ворлдс. Жена је пријавила да је други корисник сексуално напао њен аватар док су други гледали. Када је жртва скренула пажњу Мети на инцидент, портпарол Мете је рекао да је истраживач деактивирао опцију Личне границе. Ова функција је уведена у фебруару 2022. као безбедносна мера предострожности која је подразумевано омогућена и спречила је странце да приђу аватару на удаљености од четири стопе.

Импликације дубоког лажирања и узнемиравања

Шире импликације дубоких лажирања и узнемиравања могу укључивати: 

• Повећан притисак на владе да спроведу глобалну регулаторну политику против деепфакеса који се користи за дигитално узнемиравање и напад.
• Све је више жена које су жртве дубоко лажне технологије, посебно славних личности, новинара и активиста.
• Повећање броја тужби жртава дубоко лажног узнемиравања и клевете. 
• Повећан број инцидената неприкладног понашања према аватарима и другим онлајн репрезентацијама у заједницама метаверза.
• Објављују се нове и све лакше за коришћење деепфаке апликације и филтери који могу да створе реалистичан садржај, што доводи до комодификације несугласног деепфаке садржаја, посебно порнографије.
• Друштвени медији и платформе за хостовање веб локација улажу више у праћење садржаја који циркулише на њиховим платформама, укључујући забрану појединаца или уклањање групних страница.

Питања која треба размотрити

• Како се ваша влада бави дубоким лажним узнемиравањем?
• Који су други начини на које корисници на мрежи могу да се заштите од жртвовања креатора деепфаке-а?