Генеративні змагальні мережі (GAN): епоха синтетичних медіа

• Автор:
• ім'я автора

  Quantumrun Foresight
• 5 Грудня, 2023

Короткий огляд

Generative Adversarial Networks (GAN), відомі створенням глибоких фейків, генерують синтетичні дані, які імітують реальні обличчя, голоси та манери. Їх використання варіюється від покращення Adobe Photoshop до створення реалістичних фільтрів у Snapchat. Однак GAN викликають етичні проблеми, оскільки їх часто використовують для створення оманливих глибоких фейкових відео та поширення дезінформації. У сфері охорони здоров’я під час навчання GAN існує занепокоєння щодо конфіденційності даних пацієнтів. Незважаючи на ці проблеми, GAN мають корисні застосування, наприклад, допомагають у кримінальних розслідуваннях. Їх широке використання в різних секторах, включаючи кіновиробництво та маркетинг, призвело до закликів до більш суворих заходів конфіденційності даних і державного регулювання технології GAN.

Контекст генеративних змагальних мереж (GAN).

GAN — це тип глибокої нейронної мережі, яка може генерувати нові дані, подібні до даних, на яких вона навчається. Два основні блоки, які конкурують один з одним, створюючи фантастичні творіння, називаються генератором і дискримінатором. Генератор відповідає за створення нових даних, тоді як дискримінатор намагається відрізнити згенеровані дані від навчальних даних. Генератор постійно намагається обдурити дискримінатора, створюючи інформацію, яка виглядає максимально реальною. Для цього генератору необхідно вивчити основний розподіл даних, що дозволяє GAN створювати нову інформацію, фактично не запам’ятовуючи її.

Коли в 2014 році вчений-дослідник Google Ян Гудфеллоу та його колеги вперше розробили GAN, цей алгоритм показав великі перспективи для машинного навчання. Відтоді GAN знайшли багато реальних застосувань у різних галузях. Наприклад, Adobe використовує GAN для Photoshop наступного покоління. Google використовує можливості GAN як для створення тексту, так і для зображень. IBM ефективно використовує GAN для розширення даних. Snapchat використовує їх для ефективних фільтрів зображень, а Disney для суперроздільності. 

Руйнівний вплив

Хоча спочатку GAN було створено для вдосконалення машинного навчання, його програми перетнули сумнівні території. Наприклад, постійно створюються глибокі фейкові відео, щоб імітувати реальних людей і створювати враження, що вони роблять або говорять те, чого не робили. Наприклад, було відео, на якому колишній президент США Барак Обама називає колишнього президента США Дональда Трампа принизливим терміном, а генеральний директор Facebook Марк Цукербург хвалиться тим, що може контролювати мільярди вкрадених даних. Нічого з цього не сталося в реальному житті. Крім того, більшість відеороликів deepfake націлені на жінок-знаменитостей і розміщують їх у порнографічному вмісті. GAN також можуть створювати вигадані фотографії з нуля. Наприклад, кілька акаунтів журналістів deepfake в LinkedIn і Twitter виявилися створеними ШІ. Ці синтетичні профілі можна використовувати для створення статей з реалістичним звучанням і матеріалів про лідерство думок, які можуть використовувати пропагандисти. 

Тим часом у секторі охорони здоров’я зростає занепокоєння щодо даних, які можуть витікати за допомогою фактичної бази даних пацієнтів як навчальних даних для алгоритмів. Деякі дослідники стверджують, що для захисту особистої інформації має бути додатковий рівень захисту або маскування. Однак, хоча GAN в основному відомий своєю здатністю обманювати людей, він має позитивні переваги. Наприклад, у травні 2022 року поліція з Нідерландів відтворила відео 13-річного хлопчика, убитого у 2003 році. Використовуючи реалістичні кадри жертви, поліція сподівається заохотити людей пам’ятати про жертву та виступати з нею. нова інформація щодо холодної справи. Поліція стверджує, що вже отримала кілька підказок, але для їх перевірки доведеться провести перевірку.

Застосування генеративних змагальних мереж (GAN)

Деякі програми генеративних змагальних мереж (GAN) можуть включати: 

• Кіноіндустрія створює глибокий фейковий контент для розміщення синтетичних акторів і перезйомки сцен у фільмах, які постачаються. Ця стратегія може призвести до довгострокової економії коштів, оскільки їм не потрібно буде платити акторам і знімальній групі додаткову компенсацію.
• Дедалі частіше використовуються тексти та відео для просування ідеологій і пропаганди в різних політичних колах.
• Компанії, які використовують синтетичні відео для створення складних брендингових і маркетингових кампаній, не наймаючи реальних людей, окрім програмістів.
• Групи, які лобіюють посилення захисту конфіденційності даних для охорони здоров’я та іншої особистої інформації. Ця відмова може змусити компанії розробляти навчальні дані, які не базуються на фактичних базах даних. Однак результати можуть бути не такими точними.
• Уряди регулюють і контролюють фірми, які виробляють технологію GAN, щоб гарантувати, що технологія не використовується для дезінформації та шахрайства.

Питання для коментарів

• Чи мали ви досвід використання технології GAN? Яким був досвід?
• Як компанії та уряди можуть забезпечити етичне використання GAN?