Algorithmau Franken algorithmau mynd yn dwyllodrus

CREDYD DELWEDD:

iStock

Franken-Algorithmau: Algorithmau wedi mynd yn dwyllodrus

Gyda'r datblygiadau mewn deallusrwydd artiffisial, mae algorithmau'n esblygu'n gyflymach na'r hyn a ragwelwyd gan ddyn.

Awdur:
enw awdur
Rhagolwg Quantumrun
Ebrill 12, 2023

Wrth i algorithmau dysgu peirianyddol (ML) ddod yn fwy datblygedig, gallant ddysgu ac addasu i batrymau mewn setiau data mawr ar eu pen eu hunain. Gall y broses hon, a elwir yn "ddysgu ymreolaethol", arwain at yr algorithm yn cynhyrchu ei god neu reolau ei hun i wneud penderfyniadau. Y broblem gyda hyn yw y gall y cod a gynhyrchir gan yr algorithm fod yn anodd neu'n amhosibl i fodau dynol ei ddeall, gan ei gwneud yn heriol nodi tueddiadau.

Franken-Algorithmau cyd-destun

Mae Franken-Algorithms yn cyfeirio at algorithmau (y rheolau y mae cyfrifiaduron yn eu dilyn wrth brosesu data ac ymateb i orchmynion) sydd wedi dod mor gymhleth a chydgysylltiedig fel na all bodau dynol eu dehongli mwyach. Mae'r term yn nod i ffuglen wyddonol Mary Shelley am "anghenfil" a grëwyd gan y gwyddonydd gwallgof Dr Frankenstein. Er mai algorithmau a chodau yw blociau adeiladu technoleg fawr ac wedi caniatáu i Facebook a Google fod y cwmnïau dylanwadol y maent ar hyn o bryd, mae cymaint o hyd am y dechnoleg nad yw bodau dynol yn ei wybod.

Pan fydd rhaglenwyr yn adeiladu codau ac yn eu rhedeg trwy feddalwedd, mae ML yn caniatáu i gyfrifiaduron ddeall a rhagweld patrymau. Er bod technoleg fawr yn honni bod algorithmau yn wrthrychol oherwydd nad yw emosiynau dynol ac anrhagweladwyedd yn dylanwadu arnynt, gall yr algorithmau hyn esblygu ac ysgrifennu eu rheolau eu hunain, gan arwain at ganlyniadau trychinebus. Mae'r cod a gynhyrchir gan yr algorithmau hyn yn aml yn gymhleth ac yn aneglur, gan ei gwneud hi'n anodd i ymchwilwyr neu ymarferwyr ddehongli penderfyniadau'r algorithm neu nodi unrhyw ragfarnau a allai fod yn bresennol ym mhroses gwneud penderfyniadau'r algorithm. Gall y rhwystr hwn greu heriau sylweddol i fusnesau sy'n dibynnu ar yr algorithmau hyn i wneud penderfyniadau, oherwydd efallai na fyddant yn gallu deall nac esbonio'r rhesymeg y tu ôl i'r penderfyniadau hynny.

Effaith aflonyddgar

Pan fydd Franken-Algorithms yn mynd yn dwyllodrus, gall fod yn fater o fywyd a marwolaeth. Enghraifft oedd damwain yn 2018 pan darodd a lladdodd car hunan-yrru yn Arizona ddynes yn reidio beic. Nid oedd algorithmau'r car yn gallu ei hadnabod yn gywir fel bod dynol. Cafodd arbenigwyr eu rhwygo ar wraidd y ddamwain - a oedd y car wedi'i raglennu'n amhriodol, ac a aeth yr algorithm yn rhy gymhleth er ei les ei hun? Yr hyn y gall rhaglenwyr gytuno arno, fodd bynnag, yw bod angen system oruchwylio ar gyfer cwmnïau meddalwedd—cod moeseg.

Fodd bynnag, daw'r cod moeseg hwn gyda rhywfaint o hwb yn ôl gan dechnoleg fawr oherwydd eu bod yn y busnes o werthu data ac algorithmau, ac ni allant fforddio cael eu rheoleiddio na'u gorfodi i fod yn dryloyw. Yn ogystal, datblygiad diweddar sydd wedi achosi pryder i weithwyr technoleg mawr yw'r defnydd cynyddol o algorithmau o fewn y fyddin, megis partneriaeth Google ag Adran Amddiffyn yr UD i ymgorffori algorithmau mewn technoleg filwrol, fel dronau ymreolaethol. Mae'r cais hwn wedi arwain at rai gweithwyr yn ymddiswyddo ac arbenigwyr yn lleisio pryderon bod algorithmau yn dal yn rhy anrhagweladwy i'w defnyddio fel peiriannau lladd.

Pryder arall yw y gall Franken-Algorithms barhau a hyd yn oed chwyddo rhagfarnau oherwydd y setiau data y maent wedi'u hyfforddi arnynt. Gall y broses hon arwain at faterion cymdeithasol amrywiol, gan gynnwys gwahaniaethu, anghydraddoldeb ac arestiadau anghyfiawn. Oherwydd y risgiau uwch hyn, mae llawer o gwmnïau technoleg yn dechrau cyhoeddi eu canllawiau AI moesegol i fod yn dryloyw ar sut maent yn datblygu, defnyddio a monitro eu algorithmau.

Goblygiadau ehangach ar gyfer Franken-Algorithmau

Gall goblygiadau posibl ar gyfer Franken-Algorithmau gynnwys:

Datblygu systemau ymreolaethol a all wneud penderfyniadau a chymryd camau heb oruchwyliaeth ddynol, gan godi pryderon am atebolrwydd a diogelwch. Fodd bynnag, gall algorithmau o'r fath leihau costau datblygu meddalwedd a roboteg a all awtomeiddio llafur dynol ar draws y rhan fwyaf o ddiwydiannau.
Mwy o graffu ar sut y gall algorithmau awtomeiddio technoleg filwrol a chefnogi arfau a cherbydau ymreolaethol.
Mwy o bwysau ar lywodraethau ac arweinwyr diwydiant i weithredu cod algorithm o foeseg a rheoliadau.
Franken-Algorithmau yn effeithio'n anghymesur ar rai grwpiau demograffig, megis cymunedau incwm isel neu boblogaethau lleiafrifol.
Gallai Franken-Algorithms barhau a chynyddu gwahaniaethu a thuedd wrth wneud penderfyniadau, megis penderfyniadau llogi a benthyca.
Mae'r algorithmau hyn yn cael eu defnyddio gan seiberdroseddwyr i fonitro a manteisio ar wendidau mewn systemau, yn enwedig mewn sefydliadau ariannol.
Actorion gwleidyddol yn defnyddio algorithmau twyllodrus i awtomeiddio ymgyrchoedd marchnata gan ddefnyddio systemau AI cynhyrchiol mewn ffyrdd a all ddylanwadu ar farn y cyhoedd a dylanwadu ar etholiadau.