Franken-Algorithms: Ang mga algorithm nahimong rogue

• Author:
• Ngalan sa tagsulat

  Quantumrun Foresight
• Abril 12, 2023

Samtang ang mga algorithm sa pagkat-on sa makina (ML) nahimong labi ka abante, sila makakat-on ug makapasibo sa mga pattern sa dagkong mga dataset sa ilang kaugalingon. Kini nga proseso, nailhan nga "autonomous nga pagkat-on," mahimong moresulta sa algorithm sa paghimo sa kaugalingon nga code o mga lagda aron makahimo mga desisyon. Ang isyu niini mao nga ang code nga gihimo sa algorithm mahimong lisud o imposible nga masabtan sa mga tawo, nga naghimo niini nga mahagiton sa pagpunting sa mga bias. 

Konteksto sa Franken-Algorithm

Ang Franken-Algorithms nagtumong sa mga algorithm (ang mga lagda nga gisunod sa mga kompyuter sa pagproseso sa datos ug pagtubag sa mga sugo) nga nahimong komplikado kaayo ug nagkadugtong nga ang mga tawo dili na makahubad niini. Ang termino usa ka pagtangdo sa science fiction ni Mary Shelley bahin sa usa ka "monster" nga gibuhat sa buang nga siyentipiko nga si Dr. Frankenstein. Samtang ang mga algorithm ug mga code mao ang mga bloke sa pagtukod sa dagkong teknolohiya ug gitugotan ang Facebook ug Google nga mahimong mga impluwensyal nga kompanya nga sila karon, adunay daghan pa bahin sa teknolohiya nga wala mahibal-an sa mga tawo. 

Kung ang mga programmer nagtukod ug mga code ug nagpadagan niini pinaagi sa software, gitugotan sa ML ang mga kompyuter nga masabtan ug matagna ang mga sumbanan. Samtang ang dagkong tech nag-angkon nga ang mga algorithm kay tumong tungod kay ang mga emosyon sa tawo ug ang dili matag-an dili makaimpluwensya niini, kini nga mga algorithm mahimong molambo ug mosulat sa ilang kaugalingong mga lagda, nga mosangpot sa makadaot nga mga resulta. Ang code nga namugna niini nga mga algorithm kasagaran komplikado ug opaque, nga nagpalisud sa mga tigdukiduki o mga practitioner sa paghubad sa mga desisyon sa algorithm o sa pag-ila sa bisan unsa nga biases nga mahimong anaa sa proseso sa paghimo og desisyon sa algorithm. Kini nga babag sa dalan makahimo og mahinungdanong mga hagit alang sa mga negosyo nga nagsalig niini nga mga algoritmo sa paghimog mga desisyon, tungod kay sila dili makasabut o makapatin-aw sa pangatarungan luyo sa maong mga desisyon.

Makasamok nga epekto

Kung ang Franken-Algorithms mahimong rogue, kini mahimong usa ka butang sa kinabuhi ug kamatayon. Usa ka pananglitan mao ang usa ka aksidente sa 2018 sa dihang ang usa ka nagmaneho sa kaugalingon nga awto sa Arizona nakaigo ug nakapatay sa usa ka babaye nga nagbisikleta. Ang mga algorithm sa awto wala makahimo sa husto nga pag-ila kaniya ingon usa ka tawo. Ang mga eksperto gikuniskunis sa ugat nga hinungdan sa aksidente-ang sakyanan ba dili husto nga naprograma, ug ang algorithm ba nahimong komplikado kaayo alang sa iyang kaayohan? Ang mauyonan sa mga programmer, bisan pa, mao nga kinahanglan adunay usa ka sistema sa pagdumala alang sa mga kompanya sa software-usa ka code sa pamatasan. 

Bisan pa, kini nga kodigo sa pamatasan moabut uban ang pipila nga pagduso gikan sa dagkong teknolohiya tungod kay naa sila sa negosyo sa pagbaligya sa mga datos ug mga algorithm, ug dili makaya nga ma-regulate o kinahanglan nga mahimong transparent. Dugang pa, ang usa ka bag-o nga pag-uswag nga nakahatag og kabalaka alang sa dagkong mga empleyado sa teknolohiya mao ang nagkadaghang paggamit sa mga algorithm sulod sa militar, sama sa pakigtambayayong sa Google sa US Department of Defense aron ilakip ang mga algorithm sa military tech, sama sa mga autonomous drone. Kini nga aplikasyon misangpot sa pipila ka mga empleyado nga mi-resign ug ang mga eksperto nagpahayag sa mga kabalaka nga ang mga algorithm dili pa kaayo matag-an nga gamiton isip mga makina sa pagpatay. 

Ang laing gikabalak-an mao nga ang Franken-Algorithms mahimong magpadayon ug mopadako pa sa mga bias tungod sa mga dataset nga ilang gibansay. Kini nga proseso mahimong mosangput sa lainlaing mga isyu sa katilingban, lakip ang diskriminasyon, dili managsama, ug sayup nga pag-aresto. Tungod niining nagkataas nga mga risgo, daghang mga tech nga kompanya ang nagsugod sa pagmantala sa ilang etikal nga mga giya sa AI aron mahimong transparent kung giunsa nila pagpalambo, paggamit, ug pag-monitor ang ilang mga algorithm.

Mas lapad nga mga implikasyon alang sa Franken-Algorithm

Ang mga potensyal nga implikasyon alang sa Franken-Algorithm mahimong maglakip sa:

• Pag-uswag sa mga autonomous nga sistema nga makahimo og mga desisyon ug molihok nga wala’y pagdumala sa tawo, nga nagpatunghag mga kabalaka bahin sa pagkamay-tulubagon ug kaluwasan. Bisan pa, ang ingon nga mga algorithm mahimo’g makunhuran ang mga gasto sa pagpalambo sa software ug robotics nga mahimo’g awtomatiko ang pagtrabaho sa tawo sa kadaghanan nga mga industriya. 
• Dugang nga pagsusi kung giunsa ang mga algorithm mahimo’g awtomatiko ang teknolohiya sa militar ug suportahan ang mga awtonomous nga hinagiban ug mga awto.
• Dugang nga presyur alang sa mga gobyerno ug mga lider sa industriya sa pagpatuman sa usa ka algorithm code sa pamatasan ug regulasyon.
• Ang Franken-Algorithms dili katimbang nga nakaapekto sa pipila ka mga demograpikong grupo, sama sa mga komunidad nga ubos ang kita o populasyon nga minoriya.
• Ang Franken-Algorithms mahimong magpadayon ug mopadako sa diskriminasyon ug pagpihig sa paghimog desisyon, sama sa pagkuha ug mga desisyon sa pagpahulam.
• Kini nga mga algorithm gigamit sa mga cybercriminal aron mamonitor ug pahimuslan ang mga kahuyang sa mga sistema, labi na sa mga institusyong pinansyal.
• Ang mga aktor sa politika nga naggamit sa mga rogue algorithm aron ma-automate ang mga kampanya sa pagpamaligya gamit ang mga generative AI system sa mga paagi nga makaimpluwensya sa opinyon sa publiko ug makaimpluwensya sa eleksyon.

Mga pangutana nga hunahunaon

• Unsa sa imong hunahuna nga ang mga algorithm molambo pa sa umaabot?
• Unsa ang mahimo sa mga gobyerno ug kompanya aron makontrol ang Franken-Algorithm?