Generatiewe algoritmes: Kan dit die mees ontwrigtende tegnologie van die 2020's word?

• Author:
• Author naam

  Quantumrun Foresight
• 21 Februarie 2023

Ten spyte van die vroeë vervalste skandale wat deur generatiewe algoritmes veroorsaak is, bly hierdie kunsmatige intelligensie (KI) tegnologieë 'n kragtige instrument wat baie nywerhede - van mediakorporasies tot advertensie-agentskappe tot filmateljees - gebruik om geloofwaardige inhoud te skep. Sommige kenners argumenteer dat generatiewe KI noukeuriger gemonitor moet word aangesien die vermoëns van hierdie KI-algoritmes binnekort die potensiaal sal hê om die publiek te skeeftrek en te mislei, om nie eens te praat van die outomatisering van groot dele van witboordjiearbeid nie.

Generatiewe algoritmes konteks

Generatiewe KI, of algoritmes wat inhoud kan skep (insluitend teks, oudio, beeld, video, en meer) met minimale menslike ingryping, het aansienlike vordering gemaak sedert die 2010's. Byvoorbeeld, OpenAI se Generative Pre-trained Transformer 3 (GPT-3) is in 2020 vrygestel en word beskou as die mees gevorderde neurale netwerk van sy soort. Dit kan teks genereer wat feitlik ononderskeibaar is van iets wat 'n persoon sou skryf. Toe, in November 2022, het OpenAI ChatGPT vrygestel, 'n algoritme wat beduidende belangstelling van verbruikers, privaatsektor en media gelok het vanweë sy verstommende vermoë om gedetailleerde antwoorde op gebruikersaanwysings te verskaf en antwoorde oor baie domeine te artikuleer.

Nog 'n generatiewe KI-tegnologie wat gewild raak (en bekendheid) is deepfakes. Die tegnologie agter deepfakes maak gebruik van generatiewe teenstrydige netwerke (GAN's), waar twee algoritmes mekaar oplei om beelde so na aan die oorspronklike te produseer. Alhoewel hierdie tegnologie dalk ingewikkeld klink, het dit relatief maklik geword om te vervaardig. Talle aanlyn toepassings, soos Faceswap en ZAO Deepswap, kan diep valse beelde, klank en video's binne minute skep (en, in sommige toepassings, onmiddellik).

Alhoewel al hierdie generatiewe KI-instrumente aanvanklik ontwikkel is om masjien- en diepleertegnologieë te bevorder, is dit ook vir onetiese praktyke gebruik. Volgende generasie disinformasie- en propagandaveldtogte het gefloreer met behulp van hierdie instrumente. Sintetiese media, soos KI-gegenereerde op-eds, video's en beelde, het gelei tot 'n vloed vals nuus. Diepvalse kommentaarbots is selfs gebruik om vroue en minderhede aanlyn te teister. 

Ontwrigtende impak

Generatiewe KI-stelsels ervaar vinnig wydverspreide toepassings in talle industrieë. ’n Studie wat in 2022 deur die Association for Computing Machinery gepubliseer is, het bevind dat vooraanstaande mediamaatskappye soos die Associated Press, Forbes, die New York Times, die Washington Post en ProPublica KI gebruik om hele artikels van nuuts af te genereer. Hierdie inhoud sluit verslaggewing oor misdade, finansiële markte, politiek, sportgeleenthede en buitelandse sake in.

Generatiewe KI word ook meer gereeld gebruik as 'n inset tydens die skryf van tekste vir verskillende toepassings, enigiets van gebruiker- en maatskappy-gegenereerde inhoud tot verslae geskryf deur regeringsinstellings. Wanneer KI die teks skryf, word die betrokkenheid daarvan gewoonlik nie geopenbaar nie. Sommige het aangevoer dat, gegewe die potensiaal vir misbruik, KI-gebruikers deursigtig moet wees oor die gebruik daarvan. Trouens, hierdie tipe openbaarmaking sal waarskynlik teen die laat 2020's wet word, soos voorgestel deur die Wet op Algorithmic Justice and Online Platform Transparency van 2021. 

Nog 'n gebied waar generatiewe KI-openbaarmaking nodig is, is in advertensies. ’n Studie van 2021 wat in die Journal of Advertising gepubliseer is, het bevind dat adverteerders baie prosesse outomatiseer om “sintetiese advertensies” te skep wat gegenereer word deur data-analise en -modifikasie. 

Adverteerders gebruik dikwels manipulasietaktieke om advertensies meer verpersoonlik, rasioneel of emosioneel te maak sodat verbruikers die produk sal wil koop. Advertensiemanipulasie behels enige verandering wat aan 'n advertensie gemaak word, soos retouchering, grimering en beligting/hoek. Digitale manipulasiepraktyke het egter so erg geword dat dit onrealistiese skoonheidstandaarde en liggaamsdismorfie onder tieners kan veroorsaak. Verskeie lande, soos die Verenigde Koninkryk, Frankryk en Noorweë, het opdrag gegee dat adverteerders en beïnvloeders uitdruklik aandui of hul inhoud gemanipuleer is.

Implikasies van generatiewe algoritmes

Wyer implikasies van generatiewe algoritmes kan die volgende insluit: 

• Talle witboordjie-beroepe—soos sagteware-ingenieurswese, prokureurs, kliëntediensverteenwoordigers, verkoopsverteenwoordigers en meer—sal toenemende outomatisering van hul laerwaarde-werkverantwoordelikhede sien. Hierdie outomatisering sal die produktiwiteit van die gemiddelde werker verbeter, terwyl dit die behoefte vir maatskappye verminder om meer te huur. Gevolglik sal meer maatskappye (veral kleiner of minder hoëprofielmaatskappye) toegang tot geskoolde professionele persone kry in 'n kritieke tydperk wanneer die arbeidsmag wêreldwyd krimp weens boomer-aftrede.
• Generatiewe KI word gebruik om opiniestukke en denkleierskapartikels te spookskryf.
• Die verhoogde gebruik van generatiewe KI om digitale weergawe te stroomlyn, waar verskillende hoeke van dieselfde storie gelyktydig geskryf word.
• Vervalste inhoud wat in advertensies en flieks gebruik word om akteurs te ontouder of oorledenes terug te bring.
• Deepfake-toepassings en -tegnologie word al hoe meer toeganklik en goedkoop, wat meer mense in staat stel om aan propaganda en disinformasie deel te neem.
• Meer lande vereis dat maatskappye die gebruik van KI-gegenereerde inhoud, personas, skrywers, bekendes en beïnvloeders openbaar.

Vrae om op kommentaar te lewer

• Hoe word generatiewe KI in jou werksrigting gebruik, indien enigsins?
• Wat is die ander voordele en gevare van die gebruik van KI om inhoud te massavervaardig?