Franken algorithms algorithms gone vakabon

KREDI IMAJ:

priz

Franken-Algorithms: Algorithms ale vakabon

Ak devlopman nan entèlijans atifisyèl, algoritm yo ap evolye pi vit pase moun yo antisipe.

otè:
non otè
Pwovizyon Quantumrun
Avril 12, 2023

Kòm algoritm aprantisaj machin (ML) vin pi avanse, yo kapab aprann epi adapte yo ak modèl nan gwo datasets pou kont yo. Pwosesis sa a, ke yo rekonèt kòm "aprantisaj otonòm," ka lakòz algorithm la jenere pwòp kòd oswa règ li pou pran desizyon. Pwoblèm nan ak sa a se ke kòd la ki te pwodwi pa algorithm la ka difisil oswa enposib pou moun konprann, sa ki fè li difisil pou idantifye prejije.

Kontèks Franken-Algorithms

Franken-Algorithms refere a algoritm (règleman òdinatè yo swiv lè yo trete done ak reponn a kòmandman) ki te vin tèlman konplèks ak mare ke moun pa ka dechifre yo ankò. Tèm nan se yon souke tèt nan syans fiksyon Mary Shelley a sou yon "monstr" ki te kreye pa syantifik fache Dr Frankenstein la. Pandan ke algorithm ak kòd yo se blòk bilding nan gwo teknoloji epi yo te pèmèt Facebook ak Google yo dwe konpayi yo enfliyan yo ye kounye a, gen toujou anpil sou teknoloji a ke moun pa konnen.

Lè pwogramè yo konstwi kòd epi kouri yo atravè lojisyèl, ML pèmèt òdinatè yo konprann ak predi modèl yo. Pandan ke gwo teknoloji reklamasyon ke algoritm yo se objektif paske emosyon imen ak enprevizib pa enfliyanse yo, algoritm sa yo ka evolye epi ekri pwòp règ yo, ki mennen nan rezilta dezas. Kòd ki te pwodwi pa algorithm sa yo souvan konplèks ak opak, sa ki fè li difisil pou chèchè oswa pratikan yo entèprete desizyon algorithm la oswa yo idantifye nenpòt prejije ki ka prezan nan pwosesis pou pran desizyon algorithm la. Obstak sa a ka kreye defi enpòtan pou biznis ki konte sou algoritm sa yo pou pran desizyon, paske yo ka pa kapab konprann oswa eksplike rezònman ki dèyè desizyon sa yo.

Enpak deranje

Lè Franken-Algorithms ale vakabon, li kapab yon kesyon de lavi ak lanmò. Yon egzanp se te yon aksidan an 2018 lè yon machin oto-kondwi nan Arizona frape epi touye yon fanm k ap monte yon bisiklèt. Algoritm machin nan pa t 'kapab kòrèkteman idantifye li kòm yon moun. Ekspè yo te chire sou kòz rasin aksidan an—èske machin nan te mal pwograme, e algorithm la te vin twò konplèks pou pwòp byen li? Ki pwogramasyon yo ka dakò sou, sepandan, se ke gen bezwen gen yon sistèm sipèvizyon pou konpayi lojisyèl-yon kòd etik.

Sepandan, kòd etik sa a vini ak kèk pushback soti nan gwo teknoloji paske yo nan biznis la nan vann done ak algoritm, epi yo pa kapab peye yo dwe reglemante oswa oblije transparan. Anplis de sa, yon devlopman resan ki te lakòz enkyetid pou gwo anplwaye teknoloji yo se pi plis itilizasyon algoritm nan militè a, tankou patenarya Google ak Depatman Defans Ameriken an pou enkòpore algoritm nan teknoloji militè, tankou dron otonòm. Aplikasyon sa a te mennen nan kèk anplwaye demisyone ak ekspè eksprime enkyetid ke algoritm yo toujou twò enprevizib yo dwe itilize kòm machin touye.

Yon lòt enkyetid se ke Franken-Algorithms ka perpétuer e menm anplifye prejije akòz datasets yo resevwa fòmasyon sou yo. Pwosesis sa a ka mennen nan divès pwoblèm sosyete, tankou diskriminasyon, inegalite, ak arestasyon injustifye. Akòz risk ogmante sa yo, anpil konpayi teknoloji yo kòmanse pibliye direktiv etik AI yo pou yo ka transparan sou fason yo devlope, itilize ak kontwole algoritm yo.

Pi laj enplikasyon pou Franken-Algorithms

Enplikasyon potansyèl pou Franken-Algorithms ka enkli:

Devlopman nan sistèm otonòm ki ka pran desizyon ak pran aksyon san sipèvizyon imen, ogmante enkyetid sou responsablite ak sekirite. Sepandan, algoritm sa yo ka diminye depans pou devlope lojisyèl ak robotik ki ka otomatize travay imen atravè pifò endistri yo.
Plis egzamine sou fason algoritm yo ka otomatize teknoloji militè yo ak sipòte zam otonòm ak machin yo.
Ogmantasyon presyon pou gouvènman yo ak lidè endistri yo aplike yon kòd algorithm nan etik ak règleman yo.
Franken-Algorithms yo afekte yon fason disproporsyonel sèten gwoup demografik, tankou kominote ki gen revni fèb oswa popilasyon minorite yo.
Franken-Algorithms kapab perpétuer ak anplifye diskriminasyon ak patipri nan pran desizyon, tankou desizyon anbochaj ak prete.
Sibèrkriminèl yo te itilize algoritm sa yo pou kontwole ak eksplwate feblès nan sistèm yo, sitou nan enstitisyon finansye yo.
Aktè politik yo itilize algorithm vakabon pou otomatize kanpay maketing lè l sèvi avèk sistèm AI jeneratif nan fason ki ka enfliyanse opinyon piblik la ak enfliyanse eleksyon yo.