Franken-Algorithms: Algorithms lasa rogue

• Author:
• Anaran'ny mpanoratra

  Quantumrun Foresight
• Aprily 12, 2023

Rehefa lasa mandroso kokoa ny algorithm amin'ny fianarana milina (ML), dia afaka mianatra sy mampifanaraka amin'ny lamina amin'ny angona lehibe izy ireo. Ity dingana ity, fantatra amin'ny anarana hoe "fianarana tsy miankina", dia mety hahatonga ny algorithm amin'ny famoronana kaody na fitsipika manokana handraisana fanapahan-kevitra. Ny olana amin'izany dia ny kaody vokarin'ny algorithm dia mety ho sarotra na tsy ho azon'ny olombelona takarina, ka mahatonga azy ho sarotra ny mamaritra ny fitongilanana. 

Franken-Algorithms context

Ny Franken-Algorithms dia manondro ny algorithms (ireo fitsipika arahin'ny ordinatera rehefa manodina ny angona sy mamaly ny baiko) izay nanjary saro-takarina sy nifamatotra ka tsy azon'ny olombelona vakiana intsony. Ity teny ity dia fiankinan-doha amin'ny fiction siantifika nataon'i Mary Shelley momba ny "biby goavam-be" noforonin'ilay mpahay siansa adala Dr. Frankenstein. Na dia ny algorithm sy ny kaody aza no fototry ny teknolojia lehibe ary namela ny Facebook sy Google ho orinasa manana ny maha izy azy amin'izao fotoana izao, dia mbola betsaka ny momba ny teknolojia izay tsy fantatry ny olombelona. 

Rehefa manangana kaody sy mampandeha azy ireo amin'ny alalan'ny rindrankajy ny programmer, dia mamela ny solosaina hahatakatra sy haminavina ny lamina ny ML. Na dia milaza aza ny teknolojia lehibe fa tanjona ny algorithm satria tsy misy fiantraikany amin'izy ireo ny fihetseham-pon'ny olombelona sy ny tsy ampoizina, dia afaka mivoatra sy manoratra ny fitsipiny manokana ireo algorithm ireo, ka miteraka vokatra mahatsiravina. Ny kaody vokarin'ireo algorithm ireo dia matetika sarotra sy manjavozavo, ka sarotra ho an'ny mpikaroka na mpitsabo ny mandika ny fanapahan-kevitry ny algorithm na ny mamantatra izay mety hitranga amin'ny fizotran'ny fanapahan-kevitry ny algorithm. Ity sakana ara-dalana ity dia mety hiteraka fanamby lehibe ho an'ny orinasa izay miantehitra amin'ireo algorithm ireo mba handraisana fanapahan-kevitra, satria mety tsy ho azon'izy ireo na hanazava ny anton'ireo fanapahan-kevitra ireo.

Fiantraikany manakorontana

Rehefa lasa rogue ny Franken-Algorithms dia mety ho resaka fiainana sy fahafatesana izany. Ohatra iray ny lozam-pifamoivoizana tamin'ny taona 2018 rehefa nandona vehivavy iray nandeha bisikileta ny fiara nitondra tena tany Arizona. Ny algorithm amin'ny fiara dia tsy afaka nanondro azy ho olombelona. Rovitra ny manam-pahaizana momba ny fototry ny loza — tsy voalamina araka ny tokony ho izy ve ilay fiara, ary nanjary sarotra loatra ve ny algorithm ho an'ny tombontsoany manokana? Ny zavatra azon'ny mpandrindra ifanarahana anefa dia ny tokony hisian'ny rafitra fanaraha-maso ho an'ny orinasa rindrambaiko — fehezan-dalàna momba ny etika. 

Na izany aza, ity fehezan-dalàna etika ity dia tonga miaraka amin'ny fanerena sasany avy amin'ny teknolojia lehibe satria izy ireo dia eo amin'ny sehatry ny fivarotana angon-drakitra sy algorithms, ary tsy afaka ny ho fehezina na takiana amin'ny mangarahara. Fanampin'izany, ny fivoarana vao haingana izay niteraka ahiahy ho an'ny mpiasan'ny teknolojia lehibe dia ny fitomboan'ny fampiasana algorithm ao amin'ny tafika, toy ny fiaraha-miasan'i Google amin'ny Departemantan'ny Fiarovana Amerikana mba hampidirana algorithm amin'ny teknolojia miaramila, toy ny drone autonomous. Ity fampiharana ity dia nitarika ny mpiasa sasany nametra-pialana ary naneho ny ahiahiny ireo manam-pahaizana fa mbola tsy azo vinaniana loatra ny algorithm ka azo ampiasaina ho milina famonoana. 

Ny ahiahy iray hafa dia ny hoe ny Franken-Algorithms dia mety haharitra ary hanamafy ny fitongilanana mihitsy aza noho ny angon-drakitra nampiofanina azy ireo. Ity dingana ity dia mety hitarika olana ara-tsosialy isan-karazany, anisan'izany ny fanavakavahana, ny tsy fitoviana, ary ny fisamborana tsy ara-dalàna. Noho ireo risika mihamitombo ireo, orinasa teknolojia maro no manomboka mamoaka ny torolàlana momba ny etika AI mba ho mangarahara amin'ny fomba fampivoarana, fampiasana ary fanaraha-maso ny algorithm-ny.

Ny fiantraikany lehibe kokoa amin'ny Franken-Algorithms

Ny mety ho fiantraikany amin'ny Franken-Algorithm dia mety ahitana:

• Famolavolana rafitra tsy miankina izay afaka mandray fanapahan-kevitra sy mandray andraikitra tsy misy fanaraha-maso ataon'olombelona, ​​ka miteraka ahiahy momba ny fandraisana andraikitra sy ny fiarovana. Na izany aza, ny algorithm toy izany dia mety hampihena ny vidin'ny fampivoarana rindrambaiko sy robotika izay afaka manara-maso ny asan'ny olombelona amin'ny ankamaroan'ny indostria. 
• Fanadihadiana bebe kokoa momba ny fomba ahafahan'ny algorithm manara-penitra ny teknolojia miaramila sy manohana fitaovam-piadiana sy fiara tsy miankina.
• Nitombo ny fanerena ho an'ny governemanta sy ny mpitarika ny indostria amin'ny fampiharana ny fehezan-dalàna momba ny etika sy ny fitsipika algorithm.
• Ny Franken-Algorithms dia misy fiantraikany amin'ny vondrona demografika sasany, toy ny vondrom-piarahamonina ambany fidiram-bola na vahoaka vitsy an'isa.
• Ny Franken-Algorithms dia mety haharitra sy hanamafy ny fanavakavahana sy ny fitongilanana amin'ny fandraisana fanapahan-kevitra, toy ny fandraisana mpiasa sy ny fanapahan-kevitra fampindramam-bola.
• Ireo algorithm ireo dia ampiasain'ny cybercriminals hanaraha-maso sy hanararaotra ny fahalemen'ny rafitra, indrindra amin'ny andrim-panjakana.
• Ireo mpisehatra ara-politika mampiasa algorithm rogue hanamafisana ny fampielezan-kevitra ara-barotra amin'ny alàlan'ny rafi-pamokarana AI amin'ny fomba mety hisy fiantraikany amin'ny saim-bahoaka sy hanodina ny fifidianana.

Fanontaniana hodinihina

• Ahoana araka ny eritreritrao no hivoatra bebe kokoa amin'ny ho avy ny algorithm?
• Inona no azon'ny governemanta sy ny orinasa atao mba hifehezana ny Franken-Algorithm?