Algorithmau cynhyrchiol: A allai hon ddod yn dechnoleg aflonyddgar fwyaf yn y 2020au?

• Awdur:
• enw awdur

  Rhagolwg Quantumrun
• Chwefror 21, 2023

Er gwaethaf y sgandalau dwfn cynnar a achosir gan algorithmau cynhyrchiol, mae'r technolegau deallusrwydd artiffisial (AI) hyn yn parhau i fod yn arf pwerus y mae llawer o ddiwydiannau - o gorfforaethau cyfryngau i asiantaethau hysbysebu i stiwdios ffilm - yn ei ddefnyddio i greu cynnwys credadwy. Mae rhai arbenigwyr yn dadlau y dylid monitro AI cynhyrchiol yn agosach gan y bydd gan alluoedd yr algorithmau AI hyn y potensial cyn bo hir i wyro a thwyllo'r cyhoedd, heb sôn am awtomeiddio rhannau helaeth o lafur coler wen.

Cyd-destun algorithmau cynhyrchiol

Mae AI cynhyrchiol, neu algorithmau a all greu cynnwys (gan gynnwys testun, sain, delwedd, fideo, a mwy) heb fawr o ymyrraeth ddynol, wedi cymryd camau breision ers y 2010au. Er enghraifft, rhyddhawyd Trawsnewidydd Cyn-hyfforddedig Generative OpenAI 3 (GPT-3) yn 2020 ac fe'i hystyrir fel y rhwydwaith niwral mwyaf datblygedig o'i fath. Gall gynhyrchu testun sydd bron yn anwahanadwy oddi wrth rywbeth y byddai person yn ei ysgrifennu. Yna ym mis Tachwedd 2022, rhyddhaodd OpenAI ChatGPT, algorithm a ddenodd ddiddordeb sylweddol gan ddefnyddwyr, y sector preifat a'r cyfryngau oherwydd ei allu syfrdanol i ddarparu ymatebion manwl i anogwyr defnyddwyr a chyfleu atebion ar draws llawer o barthau.

Mae technoleg AI cynhyrchiol arall sy'n ennill poblogrwydd (ac enwogrwydd) yn ffugiau dwfn. Mae'r dechnoleg y tu ôl i deepfakes yn defnyddio rhwydweithiau gwrthwynebol cynhyrchiol (GANs), lle mae dau algorithm yn hyfforddi ei gilydd i gynhyrchu delweddau mor agos at y gwreiddiol. Er y gall y dechnoleg hon swnio'n gymhleth, mae wedi dod yn gymharol hawdd i'w chynhyrchu. Gall nifer o gymwysiadau ar-lein, fel Faceswap a ZAO Deepswap, greu delweddau ffug, sain a fideos mewn munudau (ac, mewn rhai cymwysiadau, yn syth).

Er bod yr holl offer AI cynhyrchiol hyn wedi'u datblygu i ddechrau i hyrwyddo technolegau peiriannau a dysgu dwfn, maent hefyd wedi'u defnyddio ar gyfer arferion anfoesegol. Mae ymgyrchoedd dadwybodaeth a phropaganda cenhedlaeth nesaf wedi ffynnu gan ddefnyddio'r offer hyn. Mae cyfryngau synthetig, fel op-eds a gynhyrchir gan AI, fideos, a delweddau, wedi arwain at lifogydd o newyddion ffug. Mae botiau sylwadau Deepfake hyd yn oed wedi cael eu defnyddio i aflonyddu ar fenywod a lleiafrifoedd ar-lein. 

Effaith aflonyddgar

Mae systemau AI cynhyrchiol yn cael eu cymhwyso'n gyflym ar draws nifer o ddiwydiannau. Canfu astudiaeth a gyhoeddwyd yn 2022 gan y Gymdeithas Peiriannau Cyfrifiadurol fod cwmnïau cyfryngau blaenllaw fel yr Associated Press, Forbes, y New York Times, y Washington Post, a ProPublica yn defnyddio AI i gynhyrchu erthyglau cyfan o'r dechrau. Mae'r cynnwys hwn yn cynnwys adrodd ar droseddau, marchnadoedd ariannol, gwleidyddiaeth, digwyddiadau chwaraeon, a materion tramor.

Defnyddir AI cynhyrchiol hefyd yn amlach fel mewnbwn wrth ysgrifennu testunau ar gyfer gwahanol gymwysiadau, unrhyw beth o gynnwys a gynhyrchir gan ddefnyddwyr a chwmnïau i adroddiadau a ysgrifennwyd gan sefydliadau llywodraethol. Pan fydd AI yn ysgrifennu'r testun, nid yw ei gyfranogiad yn cael ei ddatgelu fel arfer. Mae rhai wedi dadlau, o ystyried y potensial ar gyfer camddefnydd, y dylai defnyddwyr AI fod yn dryloyw ynghylch ei ddefnydd. Mewn gwirionedd, mae'n debygol y bydd y math hwn o ddatgeliad yn dod yn gyfraith erbyn diwedd y 2020au, fel y cynigiwyd gan Ddeddf Cyfiawnder Algorithmig a Thryloywder Platfform Ar-lein 2021. 

Maes arall lle mae angen datgeliad AI cynhyrchiol yw hysbysebu. Canfu astudiaeth yn 2021 a gyhoeddwyd yn y Journal of Advertising fod hysbysebwyr yn awtomeiddio llawer o brosesau i greu “hysbysebion synthetig” a gynhyrchir trwy ddadansoddi ac addasu data. 

Mae hysbysebwyr yn aml yn defnyddio tactegau trin i wneud hysbysebion yn fwy personol, rhesymegol neu emosiynol fel y bydd defnyddwyr eisiau prynu'r cynnyrch. Mae trin hysbysebion yn golygu unrhyw newid a wneir i hysbyseb, megis atgyffwrdd, colur, a goleuo/ongl. Fodd bynnag, mae arferion trin digidol wedi dod mor ddifrifol fel y gallant achosi safonau harddwch afrealistig a dysmorphia corff ymhlith pobl ifanc yn eu harddegau. Mae sawl gwlad, fel y DU, Ffrainc, a Norwy, wedi mynnu bod hysbysebwyr a dylanwadwyr yn datgan yn benodol a yw eu cynnwys wedi cael ei drin.

Goblygiadau algorithmau cynhyrchiol

Gall goblygiadau ehangach algorithmau cynhyrchiol gynnwys: 

• Bydd nifer o broffesiynau coler wen - megis peirianneg meddalwedd, cyfreithwyr, cynrychiolwyr gwasanaethau cwsmeriaid, cynrychiolwyr gwerthu, a mwy - yn gweld awtomeiddio cynyddol yn eu cyfrifoldebau swyddi gwerth is. Bydd yr awtomeiddio hwn yn gwella cynhyrchiant y gweithiwr cyffredin tra'n lleihau'r angen i gwmnïau llogi gormodedd. O ganlyniad, bydd mwy o gwmnïau (yn enwedig cwmnïau llai neu lai o broffil uchel) yn cael mynediad at weithwyr proffesiynol medrus ar adeg dyngedfennol pan fydd y gweithlu ledled y byd yn crebachu oherwydd ymddeoliadau uwch.
• AI cynhyrchiol yn cael ei ddefnyddio i ysgrifennu darnau barn ac erthyglau arweinyddiaeth meddwl.
• Defnydd cynyddol o AI cynhyrchiol i symleiddio fersiynau digidol, lle mae onglau gwahanol o'r un stori yn cael eu hysgrifennu ar yr un pryd.
• Cynnwys Deepfake yn cael ei ddefnyddio mewn hysbysebion a ffilmiau i ddad-heneiddio actorion neu ddod â rhai sydd wedi marw yn ôl.
• Apiau a thechnolegau Deepfake yn dod yn fwyfwy hygyrch a chost isel, gan ganiatáu i fwy o bobl gymryd rhan mewn propaganda a dadwybodaeth.
• Mwy o wledydd yn ei gwneud yn ofynnol i gwmnïau ddatgelu'r defnydd o gynnwys a gynhyrchir gan AI, personas, awduron, enwogion a dylanwadwyr.

Cwestiynau i wneud sylwadau arnynt

• Sut mae AI cynhyrchiol yn cael ei ddefnyddio yn eich maes gwaith, os o gwbl?
• Beth yw manteision a pheryglon eraill defnyddio AI i fasgynhyrchu cynnwys?