Generatyvūs priešingi tinklai (GAN): sintetinės žiniasklaidos amžius

VAIZDO KREDITAS:
Paveikslėlio kredito
iStock

Generatyvūs priešingi tinklai (GAN): sintetinės žiniasklaidos amžius

Generatyvūs priešingi tinklai (GAN): sintetinės žiniasklaidos amžius

Paantraštės tekstas
Generatyvūs varžovų tinklai padarė revoliuciją mašininiame mokyme, tačiau ši technologija vis dažniau naudojama apgaulei.
    • Autorius:
    • autoriaus vardas
      Quantumrun Foresight
    • Gruodžio 5 d., 2023

    Įžvalgos santrauka



    „Generative Adversarial Networks“ (GAN), žinomi kaip gilių klastotės kūrimas, generuoja sintetinius duomenis, imituojančius tikrus veidus, balsus ir manieras. Jų naudojimas svyruoja nuo „Adobe Photoshop“ tobulinimo iki tikroviškų „Snapchat“ filtrų generavimo. Tačiau GAN kelia etinių problemų, nes jie dažnai naudojami kuriant klaidinančius giliai padirbtus vaizdo įrašus ir platinant dezinformaciją. Sveikatos priežiūros srityje nerimaujama dėl pacientų duomenų privatumo GAN mokymuose. Nepaisant šių problemų, GAN turi naudingų pritaikymų, pavyzdžiui, padeda tirti nusikaltimus. Dėl plataus jų naudojimo įvairiuose sektoriuose, įskaitant filmų kūrimą ir rinkodarą, buvo raginama imtis griežtesnių duomenų privatumo priemonių ir vyriausybės reguliuoti GAN technologiją.



    Generatyvių priešininkų tinklų (GAN) kontekstas



    GAN yra giluminio neuroninio tinklo tipas, galintis generuoti naujus duomenis, panašius į tuos, kurie yra mokomi. Du pagrindiniai blokai, kurie konkuruoja tarpusavyje, kad sukurtų vizualinius kūrinius, vadinami generatoriumi ir diskriminatoriumi. Generatorius yra atsakingas už naujų duomenų kūrimą, o diskriminatorius bando atskirti sugeneruotus duomenis nuo mokymo duomenų. Generatorius nuolat bando apgauti diskriminatorių, kurdamas kuo tikroviškesnę informaciją. Kad tai padarytų, generatorius turi išmokti pagrindinį duomenų paskirstymą, kad GAN galėtų kurti naują informaciją jos neįsiminus.



    Kai 2014 m. GAN pirmą kartą sukūrė „Google“ tyrinėtojas Ianas Goodfellowas ir jo komandos draugai, algoritmas parodė didelį mašininio mokymosi pažadą. Nuo to laiko GAN matė daug realaus pasaulio programų įvairiose pramonės šakose. Pavyzdžiui, „Adobe“ naudoja GAN naujos kartos „Photoshop“. „Google“ naudoja GAN galią ir teksto, ir vaizdų generavimui. IBM efektyviai naudoja GAN duomenims papildyti. „Snapchat“ juos naudoja efektyviems vaizdo filtrams, o „Disney“ – super raiška. 



    Trikdantis poveikis



    Nors GAN iš pradžių buvo sukurta siekiant pagerinti mašininį mokymąsi, jo programos peržengė abejotinas teritorijas. Pavyzdžiui, „deepfake“ vaizdo įrašai nuolat kuriami siekiant imituoti tikrus žmones ir atrodyti, kad jie daro ar sako tai, ko nedarė. Pavyzdžiui, buvo vaizdo įrašas, kuriame buvęs JAV prezidentas Barackas Obama buvusį JAV prezidentą Donaldą Trumpą pavadino menkinančiu terminu, o „Facebook“ vadovas Markas Zuckerburgas giriasi, kad gali kontroliuoti milijardus pavogtų duomenų. Nė vienas iš jų neįvyko realiame gyvenime. Be to, dauguma netikrų vaizdo įrašų yra skirti įžymybėms moterims ir pateikia jas pornografiniame turinyje. GAN taip pat gali kurti išgalvotas nuotraukas nuo nulio. Pavyzdžiui, pasirodė, kad kelios padirbtos žurnalistų paskyros „LinkedIn“ ir „Twitter“ buvo sukurtos dirbtinio intelekto. Šie sintetiniai profiliai gali būti naudojami kuriant realistiškai skambančius straipsnius ir minties lyderystės kūrinius, kuriuos gali naudoti propagandistai. 



    Tuo tarpu sveikatos priežiūros sektoriuje didėja susirūpinimas dėl duomenų, kurie gali būti nutekinti naudojant faktinę pacientų duomenų bazę kaip algoritmų mokymo duomenis. Kai kurie tyrinėtojai teigia, kad turi būti papildomas saugos arba maskavimo sluoksnis, apsaugantis asmeninę informaciją. Tačiau, nors GAN dažniausiai žinomas dėl savo sugebėjimo apgauti žmones, jis turi teigiamos naudos. Pavyzdžiui, 2022 m. gegužę Nyderlandų policija atkūrė vaizdo įrašą, kuriame užfiksuotas 13 metų berniukas, kuris buvo nužudytas 2003 m. Naudodama tikrovišką aukos filmuotą medžiagą, policija tikisi paskatinti žmones prisiminti auką ir pranešti apie tai. naujos informacijos apie šalčio atvejį. Policija teigia, kad jau gavo keletą patarimų, tačiau turės atlikti asmens patikrinimą, kad juos patikrintų.



    Generatyvinių priešingų tinklų (GAN) programos



    Kai kurios generuojamųjų priešingų tinklų (GAN) programos gali apimti: 




    • Filmų kūrimo pramonė kuria gilų netikrą turinį, kad įkeltų sintetinius aktorius ir perfilmuotų scenas po gamybos filmuose. Ši strategija gali padėti sutaupyti ilgalaikes išlaidas, nes jiems nereikės mokėti aktoriams ir įgulai papildomos kompensacijos.

    • Vis dažniau naudojami netikri tekstai ir vaizdo įrašai siekiant propaguoti ideologijas ir propagandą įvairiuose politiniuose spektruose.

    • Įmonės, naudojančios sintetinius vaizdo įrašus, kurdamos įmantrias prekės ženklo kūrimo ir rinkodaros kampanijas, nesamdamos realių žmonių, išskyrus programuotojus.

    • Grupės, užsiimančios didesne sveikatos priežiūros ir kitos asmeninės informacijos privatumo apsauga. Šis atmetimas gali priversti įmones kurti mokymo duomenis, kurie nėra pagrįsti tikromis duomenų bazėmis. Tačiau rezultatai gali būti ne tokie tikslūs.

    • Vyriausybės, reguliuojančios ir stebinčios įmones, gaminančias GAN technologiją, siekdamos užtikrinti, kad ši technologija nebūtų naudojama dezinformacijai ir sukčiavimui.



    Klausimai komentuoti




    • Ar teko naudotis GAN technologija? Kokia buvo patirtis?

    • Kaip įmonės ir vyriausybės gali užtikrinti, kad GAN būtų naudojamas etiškai?