Sbam a chwilio AI: Gallai datblygiadau mewn deallusrwydd artiffisial (AI) arwain at gynnydd mewn sbam a chwiliad AI

• Awdur:
• enw awdur

  Rhagolwg Quantumrun
• Efallai y 2, 2022

Crynodeb mewnwelediad

Mae'r cynnydd mewn cynnwys sbam a gynhyrchir gan AI yn ail-lunio'r dirwedd ddigidol, gan arwain at frwydr gymhleth rhwng y rhai sy'n creu cynnwys twyllodrus a'r rhai sy'n gweithio i'w ganfod a'i ddileu. Mae gan y duedd hon oblygiadau pellgyrhaeddol, sy'n effeithio ar ddiogelwch ac ymddiriedaeth defnyddwyr unigol, gan orfodi cwmnïau i fuddsoddi mewn mesurau diogelwch uwch, ac annog llywodraethau i ystyried rheoliadau a safonau newydd. Mae'r effeithiau hirdymor yn cynnwys newidiadau mewn ymddygiad defnyddwyr, ansefydlogrwydd gwleidyddol posibl oherwydd propaganda a gynhyrchir gan AI, a heriau wrth gyflawni nodau cynaliadwyedd o fewn y diwydiant technoleg.

Sbam AI a chyd-destun chwilio

Mae cynnwys a gynhyrchir gan AI yn dechrau effeithio'n negyddol ar y rhyngrwyd wrth i fwy o ddefnyddwyr gael eu cyfeirio at wefannau sy'n wynebu cynnwys ond sydd heb wybodaeth sy'n werthfawr neu'n ddefnyddiol i ddefnyddwyr. Oherwydd rhwyddineb a graddfa ddiderfyn y gall systemau AI greu cynnwys testun, sain a gweledol, gall peiriannau chwilio a bodau dynol gael anawsterau wrth adnabod sbam a gynhyrchir gan AI yn y dyfodol.

Mae technoleg AI wedi gwella’n sylweddol dros y 10 i 15 mlynedd diwethaf, gyda systemau AI bellach yn gallu creu cynnwys ysgrifenedig cymhellol, o straeon byrion i eiriau caneuon ac adroddiadau chwaraeon. Fodd bynnag, yn ogystal â sut mae AI yn helpu i ychwanegu at a chreu cynnwys o werth, gellir defnyddio systemau AI hefyd i greu cynnwys ffug a straeon newyddion. Ers 2020, mae AI wedi cael ei ddefnyddio fwyfwy i greu sbam i ddenu cliciau defnyddwyr.

Mae sbam AI yn disgrifio negeseuon marchnata, delweddau, fideos, gwefannau, a blogiau a grëwyd gan systemau AI gyda'r unig ddiben o ddenu defnyddwyr i weld, darllen, neu ymweld â'r gwefannau neu'r cynnwys hyn. Mae cynnwys sbam AI yn cael ei greu a'i fewnosod gyda nifer o eiriau allweddol a'i optimeiddio ymhellach ar gyfer darganfod peiriannau chwilio fel ei fod yn ymddangos ar frig neu'n agos at frig chwiliadau defnyddwyr. Yn nodweddiadol, gellir adnabod sbam AI yn hawdd ar ôl ei archwilio'n agosach gan fod y wybodaeth neu'r mewnwelediadau gwerth chweil a gyfathrebir yn arwyneb dwfn yn unig os yw'n bodoli o gwbl. Nod y rhai sy'n datblygu systemau sbam AI yw eu gwneud mor effeithiol fel ei bod yn dod yn fwyfwy anodd i beiriannau chwilio a defnyddwyr dynol wahaniaethu rhwng y cynnwys hwn a chynnwys gwirioneddol.

Effaith aflonyddgar

Roedd y cynnydd mewn cynnwys sbam wedi’i hacio erbyn 2020 yn her sylweddol yn y byd digidol, gan wneud nifer o wefannau’n agored i ymosodiadau seibr. Mae ymateb Google, gan ddefnyddio systemau AI i ganfod a chael gwared ar sbam, wedi bod yn gam allweddol wrth gynnal cywirdeb gwybodaeth ar-lein. Mae'r systemau AI hyn nid yn unig yn effeithiol ond maent yn esblygu'n barhaus i wrthsefyll bygythiadau newydd. I unigolion, mae hyn yn golygu profiad pori mwy diogel, ond mae hefyd yn amlygu pwysigrwydd llythrennedd digidol a’r angen i gydnabod cynnwys a allai fod yn niweidiol.

Mae cwmnïau, hefyd, yn cael eu heffeithio gan y duedd hon, gan fod yn rhaid iddynt fuddsoddi mewn mesurau diogelwch i amddiffyn eu presenoldeb ar-lein. Nid yw'r defnydd o AI wrth ganfod sbam yn gyfyngedig i beiriannau chwilio fel Google; efallai y bydd angen i fusnesau fabwysiadu technolegau tebyg i ddiogelu eu gwefannau a data cwsmeriaid. Mae'r duedd hon yn cynnig cyfleoedd i gwmnïau technoleg sy'n arbenigo mewn atebion diogelwch, ond mae hefyd yn pwysleisio'r frwydr barhaus rhwng y rhai sy'n creu cynnwys sbam a'r rhai sy'n ceisio ei ddileu. Mae natur ddeinamig yr her hon yn golygu y gall fod angen i gwmnïau fod yn wyliadwrus ac yn rhagweithiol wrth addasu i fygythiadau newydd.

Mae gan lywodraethau a chyrff rheoleiddio ran i'w chwarae yn y dirwedd hon hefyd. Gall mynychder cynyddol cynnwys sbam wedi'i hacio a'r cynnydd cyfatebol mewn datrysiadau a yrrir gan AI arwain at reoliadau a safonau newydd ar gyfer diogelwch ar-lein. Gall llywodraethau weithio gyda chwmnïau technoleg i ddatblygu arferion gorau a sicrhau bod y systemau AI hyn yn cael eu defnyddio'n gyfrifol. Yn ogystal, efallai y bydd angen i sefydliadau addysgol ymgorffori ymwybyddiaeth o seiberddiogelwch yn eu cwricwla, gan baratoi cenedlaethau'r dyfodol i lywio'r rhyngrwyd lle mae'r llinell rhwng cynnwys dilys a sbam yn parhau i niwlio. 

Goblygiadau sbam AI 

Gall goblygiadau ehangach sbam AI gynnwys:

• Datblygiadau canmoladwy mewn technoleg AI a all ganfod a hidlo sbam AI yn awtomatig, gan arwain at brofiad ar-lein mwy diogel a dilys i ddefnyddwyr.
• Cydweithrediad rhwng llywodraethau a chwmnïau technoleg i greu safonau rhyngwladol ar gyfer canfod sbam AI, gan arwain at ymagwedd fyd-eang fwy unedig at seiberddiogelwch.
• Datblygu rhaglenni addysgol sy’n canolbwyntio ar lythrennedd digidol ac ymwybyddiaeth o seiberddiogelwch, gan arwain at sylfaen defnyddwyr rhyngrwyd mwy gwybodus a gwydn.
• Gall cynyddu cyfraddau twf seiberdroseddu fel sbam AI gael ei ysgogi i arwain defnyddwyr rhyngrwyd yn fwy effeithiol i wefannau lle gallent fod yn agored i ymosodiadau twyllodrus, malware, a throseddau ariannol digidol.
• Ymddiriedaeth defnyddwyr mewn brandiau, llwyfannau, neu beiriannau chwilio penodol yn cael eu tanseilio gan nifer yr achosion o sbam AI, gan arwain at newid yn ymddygiad a dewisiadau defnyddwyr.
• Amlygrwydd cynyddol ymgyrchoedd gweithredu seicolegol soffistigedig (PSYOP) gan genhedloedd gelyn tramor sy'n ceisio dylanwadu'n negyddol ar boblogaethau cenhedloedd gwrthwynebol gyda phropaganda sy'n edrych yn ddilys, wedi'i gynhyrchu gan AI, gan arwain at ansefydlogrwydd gwleidyddol posibl a rhaniad cymdeithasol.
• Cynnydd yng nghost gweithrediadau busnes ar-lein oherwydd yr angen am fesurau diogelwch uwch yn erbyn sbam AI, gan arwain at gynnydd posibl mewn prisiau defnyddwyr.
• Y potensial ar gyfer gor-reoleiddio technolegau AI mewn ymateb i fygythiadau sbam a seiberdroseddu, gan arwain at gyfyngiadau mewn datblygiad technolegol a marweidd-dra economaidd posibl yn y sector technoleg.
• Roedd pryderon amgylcheddol yn ymwneud â defnydd ynni systemau canfod sbam AI sy'n datblygu'n gyson ac yn gweithredu, gan arwain at heriau posibl wrth gyflawni nodau cynaliadwyedd o fewn y diwydiant technoleg.

Cwestiynau i'w hystyried

• Ydych chi'n meddwl y gallai twf sbam AI arwain defnyddwyr rhyngrwyd i ffwrdd o beiriannau chwilio tuag at ddirprwyon fel Alexa a Siri?
• A all sbam AI wneud unigolion yn fwy agored i wahanol fathau o drin?