Quantumrun

TASVIR KREDIT:

iStock

Generativ raqib tarmoqlari (GAN): Sintetik ommaviy axborot vositalarining asri

Generativ raqib tarmoqlari mashinani o'rganishda inqilob qildi, ammo texnologiya aldash uchun tobora ko'proq foydalanilmoqda.

Muallif:
Muallifning ismi
Kvant davrini bashorat qilish
Dekabr 5, 2023

Aniq xulosa

Deepfakes yaratish bilan mashhur boʻlgan Generative Adversarial Networks (GAN) haqiqiy hayot yuzlari, ovozlari va xulq-atvorini taqlid qiluvchi sintetik maʼlumotlarni yaratadi. Ulardan foydalanish Adobe Photoshop-ni yaxshilashdan tortib Snapchat-da real filtrlarni yaratishgacha bo'lgan oraliqda. Biroq, GANlar axloqiy tashvishlarni keltirib chiqaradi, chunki ular ko'pincha noto'g'ri soxta videolarni yaratish va noto'g'ri ma'lumotni targ'ib qilish uchun ishlatiladi. Sog'liqni saqlash sohasida GAN treningida bemor ma'lumotlarining maxfiyligi haqida tashvish bor. Ushbu muammolarga qaramay, GANlar jinoiy tergovga yordam berish kabi foydali dasturlarga ega. Ularning turli sohalarda, jumladan, kino ishlab chiqarish va marketingda keng qo'llanilishi ma'lumotlarning maxfiyligini ta'minlash choralarini ko'rish va GAN texnologiyasini davlat tomonidan tartibga solish talablarini keltirib chiqardi.

Generativ raqib tarmoqlari (GAN) konteksti

GAN chuqur neyron tarmog'ining bir turi bo'lib, u o'qitilgan ma'lumotlarga o'xshash yangi ma'lumotlarni yaratishi mumkin. Vizyonli ijodlarni yaratish uchun bir-biriga qarshi raqobatlashadigan ikkita asosiy blok generator va diskriminator deb ataladi. Generator yangi ma'lumotlarni yaratish uchun javobgardir, diskriminator esa yaratilgan ma'lumotlar va o'quv ma'lumotlarini farqlashga harakat qiladi. Generator doimiy ravishda imkon qadar haqiqiy ko'rinadigan ma'lumotlarni yaratish orqali diskriminatorni aldashga harakat qiladi. Buni amalga oshirish uchun generator ma'lumotlarning asosiy taqsimotini o'rganishi kerak, bu GAN-larga yangi ma'lumotlarni eslab qolmasdan yaratishga imkon beradi.

GAN’lar birinchi marta 2014-yilda Google tadqiqotchisi Ian Gudfello va uning jamoadoshlari tomonidan ishlab chiqilganida, algoritm mashinani o‘rganish uchun katta va’da bergan edi. O'shandan beri GAN'lar turli sohalarda ko'plab real ilovalarni ko'rishdi. Masalan, Adobe keyingi avlod Photoshop uchun GAN-lardan foydalanadi. Google matn va tasvirlarni yaratish uchun GAN kuchidan foydalanadi. IBM ma'lumotlarni ko'paytirish uchun GAN'lardan samarali foydalanadi. Snapchat ulardan samarali tasvir filtrlari uchun, Disney esa super ruxsatlar uchun foydalanadi.

Buzg'unchi ta'sir

GAN dastlab mashinani o'rganishni yaxshilash uchun yaratilgan bo'lsa-da, uning ilovalari shubhali hududlarni kesib o'tdi. Masalan, haqiqiy odamlarga taqlid qilish va ular qilmagan narsani qilayotgan yoki aytayotgandek ko‘rsatish uchun doimiy ravishda deepfake videolari yaratiladi. Masalan, AQShning sobiq prezidenti Barak Obama AQShning sobiq prezidenti Donald Trampni kamsituvchi atama deb atagani va Facebook rahbari Mark Sukerburg milliardlab o‘g‘irlangan ma’lumotlarni nazorat qila olishi bilan maqtangani aks etgan video bor edi. Bularning hech biri haqiqiy hayotda sodir bo'lmagan. Bundan tashqari, aksariyat deepfake videolar mashhur ayollarni nishonga oladi va ularni pornografik kontentga joylashtiradi. GANlar noldan ham xayoliy fotosuratlar yaratishga qodir. Misol uchun, LinkedIn va Twitter’dagi bir nechta deepfake jurnalist akkauntlari AI tomonidan yaratilgan bo‘lib chiqdi. Ushbu sintetik profillar propagandlar foydalanishi mumkin bo'lgan realistik maqolalar va fikr yurituvchi etakchi qismlarni yaratish uchun ishlatilishi mumkin.

Ayni paytda, sog'liqni saqlash sohasida, algoritmlar uchun o'quv ma'lumotlari sifatida haqiqiy bemor ma'lumotlar bazasidan foydalanish orqali sizib ketishi mumkin bo'lgan ma'lumotlar bilan bog'liq xavotirlar kuchaymoqda. Ba'zi tadqiqotchilar shaxsiy ma'lumotlarni himoya qilish uchun qo'shimcha xavfsizlik yoki niqob qatlami bo'lishi kerakligini ta'kidlaydilar. Biroq, GAN asosan odamlarni aldash qobiliyati bilan mashhur bo'lsa-da, uning ijobiy afzalliklari bor. Masalan, 2022-yil may oyida Niderlandiya politsiyasi 13-yilda o‘ldirilgan 2003 yoshli bolaning videosini qayta yaratdi. Jabrlanuvchining real tasvirlaridan foydalanish orqali politsiya odamlarni qurbonni eslab qolishga undashga umid qilmoqda. sovuq ish bilan bog'liq yangi ma'lumotlar. Politsiyaning ta'kidlashicha, ular allaqachon bir nechta maslahatlar olgan, ammo ularni tekshirish uchun fon tekshiruvini o'tkazish kerak.

Generativ raqib tarmoqlarining (GAN) ilovalari

Generativ raqib tarmoqlarining (GAN) ba'zi ilovalari quyidagilarni o'z ichiga olishi mumkin:

Film ishlab chiqarish sanoati sintetik aktyorlarni joylashtirish va post-prodyuser filmlarda sahnalarni qayta suratga olish uchun deepfake kontent yaratmoqda. Ushbu strategiya uzoq muddatli xarajatlarni tejashga olib kelishi mumkin, chunki ular aktyorlar va ekipajga qo'shimcha tovon to'lashlari shart emas.

Turli siyosiy spektrlarda mafkura va tashviqotni targ'ib qilish uchun chuqur soxta matnlar va videolardan ko'proq foydalanish.

Sintetik videolardan foydalangan kompaniyalar dasturchilardan tashqari haqiqiy odamlarni ishga olmasdan, ishlab chiqilgan brending va marketing kampaniyalarini yaratish uchun.

Sog'liqni saqlash va boshqa shaxsiy ma'lumotlar uchun ma'lumotlar maxfiyligini oshirish uchun lobbichilik qilayotgan guruhlar. Ushbu surish kompaniyalarni haqiqiy ma'lumotlar bazalariga asoslanmagan o'quv ma'lumotlarini ishlab chiqishga majbur qilishi mumkin. Biroq, natijalar unchalik aniq bo'lmasligi mumkin.

Hukumatlar, texnologiya noto'g'ri ma'lumot va firibgarlik uchun ishlatilmasligini ta'minlash uchun GAN texnologiyasini ishlab chiqaruvchi firmalarni tartibga soluvchi va monitoring qiladi.