Ֆրանկեն-Ալգորիթմներ. Ալգորիթմներն անարդարացել են

• Հեղինակ:
• Հեղինակ անունը

  Quantumrun Հեռատեսություն
• Ապրիլ 12, 2023

Քանի որ մեքենայական ուսուցման (ML) ալգորիթմները դառնում են ավելի առաջադեմ, նրանք ի վիճակի են ինքնուրույն սովորել և հարմարվել օրինաչափություններին մեծ տվյալների հավաքածուներում: Այս գործընթացը, որը հայտնի է որպես «ինքնավար ուսուցում», կարող է հանգեցնել նրան, որ ալգորիթմը ստեղծի իր սեփական ծածկագիրը կամ որոշումներ կայացնելու կանոնները: Սրա հետ կապված խնդիրն այն է, որ ալգորիթմի կողմից ստեղծվող կոդը կարող է դժվար կամ անհնար լինել մարդկանց համար հասկանալի, ինչը դժվար է դարձնում կողմնակալության մատնանշումը: 

Ֆրանկեն-Ալգորիթմների համատեքստ

Franken-Algorithms-ը վերաբերում է ալգորիթմներին (կանոնները, որոնց հետևում են համակարգիչները տվյալների մշակման և հրամաններին արձագանքելիս), որոնք այնքան բարդ և միահյուսված են դարձել, որ մարդիկ այլևս չեն կարողանում վերծանել դրանք: Տերմինը նշան է Մերի Շելլիի գիտական ​​ֆանտաստիկայի մասին «հրեշի» մասին, որը ստեղծվել է խելագար գիտնական դոկտոր Ֆրանկենշտեյնի կողմից: Թեև ալգորիթմներն ու ծածկագրերը խոշոր տեխնոլոգիաների կառուցման բլոկներն են և թույլ են տվել Facebook-ին և Google-ին լինել այնպիսի ազդեցիկ ընկերություններ, ինչպիսիք են հիմա, տեխնոլոգիայի մասին դեռ այնքան շատ բան կա, որը մարդիկ չգիտեն: 

Երբ ծրագրավորողները կառուցում են կոդեր և գործարկում դրանք ծրագրաշարի միջոցով, ML-ն թույլ է տալիս համակարգիչներին հասկանալ և կանխատեսել օրինաչափությունները: Թեև խոշոր տեխնոլոգիաները պնդում են, որ ալգորիթմներն օբյեկտիվ են, քանի որ մարդկային զգացմունքները և անկանխատեսելիությունը չեն ազդում դրանց վրա, այս ալգորիթմները կարող են զարգանալ և գրել իրենց կանոնները՝ հանգեցնելով աղետալի արդյունքների: Այս ալգորիթմների կողմից ստեղծվող ծածկագիրը հաճախ բարդ և անթափանց է, ինչը դժվարացնում է հետազոտողների կամ պրակտիկանտների համար ալգորիթմի որոշումների մեկնաբանումը կամ ալգորիթմի որոշումների ընդունման գործընթացում առկա որևէ կողմնակալության հայտնաբերումը: Այս ճանապարհային խոչընդոտը կարող է էական մարտահրավերներ ստեղծել բիզնեսների համար, որոնք որոշումներ կայացնելու համար ապավինում են այս ալգորիթմներին, քանի որ նրանք կարող են չկարողանալ հասկանալ կամ բացատրել այդ որոշումների հիմքում ընկած պատճառաբանությունը:

Խանգարող ազդեցություն

Երբ Ֆրանկեն-Ալգորիթմները խաբվում են, դա կարող է լինել կյանքի և մահվան խնդիր: Օրինակ՝ 2018 թվականին տեղի ունեցած դժբախտ պատահարը, երբ Արիզոնայում ինքնակառավարվող մեքենան վրաերթի ենթարկեց և սպանեց հեծանիվ վարող կնոջը: Մեքենայի ալգորիթմները չկարողացան ճիշտ ճանաչել նրան որպես մարդ: Փորձագետները տարակուսում էին վթարի հիմնական պատճառի մասին. արդյո՞ք մեքենան սխալ է ծրագրավորվել, և արդյոք ալգորիթմը չափազանց բարդ է դարձել իր շահի համար: Այն, ինչի շուրջ ծրագրավորողները կարող են համաձայնվել, այնուամենայնիվ, այն է, որ ծրագրային ապահովման ընկերությունների համար պետք է լինի վերահսկողության համակարգ՝ էթիկայի կանոններ: 

Այնուամենայնիվ, այս էթիկայի օրենսգիրքը գալիս է մեծ տեխնոլոգիաների որոշակի հակադարձմամբ, քանի որ նրանք զբաղվում են տվյալների և ալգորիթմների վաճառքով և չեն կարող իրենց թույլ տալ կարգավորվել կամ պահանջվել թափանցիկ լինել: Բացի այդ, վերջին զարգացումը, որը անհանգստություն է առաջացրել խոշոր տեխնոլոգիաների աշխատակիցների համար, ռազմական ոլորտում ալգորիթմների աճող կիրառումն է, օրինակ՝ Google-ի համագործակցությունը ԱՄՆ պաշտպանության նախարարության հետ՝ ռազմական տեխնիկայում ալգորիթմներ ներառելու համար, ինչպիսիք են ինքնավար անօդաչու սարքերը: Այս հավելվածը հանգեցրեց նրան, որ որոշ աշխատակիցներ հրաժարական տվեցին, իսկ փորձագետները մտահոգություն հայտնեցին, որ ալգորիթմները դեռևս չափազանց անկանխատեսելի են որպես սպանող մեքենաներ օգտագործելու համար: 

Մեկ այլ մտահոգություն այն է, որ Franken-Algorithms-ը կարող է հավերժացնել և նույնիսկ ուժեղացնել կողմնակալությունները տվյալների հավաքածուների շնորհիվ, որոնց վրա նրանք վերապատրաստվել են: Այս գործընթացը կարող է հանգեցնել տարբեր հասարակական խնդիրների, ներառյալ խտրականությունը, անհավասարությունը և անօրինական ձերբակալությունները: Այս աճող ռիսկերի պատճառով շատ տեխնոլոգիական ընկերություններ սկսում են հրապարակել իրենց էթիկական AI ուղեցույցները, որպեսզի թափանցիկ լինեն, թե ինչպես են նրանք մշակում, օգտագործում և վերահսկում իրենց ալգորիթմները:

Ավելի լայն հետևանքներ Franken-Algorithms-ի համար

Ֆրանկեն-Ալգորիթմների հնարավոր հետևանքները կարող են ներառել.

• Ինքնավար համակարգերի մշակում, որոնք կարող են որոշումներ կայացնել և գործողություններ կատարել առանց մարդու վերահսկողության՝ առաջացնելով մտահոգություններ հաշվետվողականության և անվտանգության վերաբերյալ: Այնուամենայնիվ, նման ալգորիթմները կարող են նվազեցնել ծրագրային ապահովման և ռոբոտաշինության մշակման ծախսերը, որոնք կարող են ավտոմատացնել մարդկային աշխատուժը արդյունաբերության մեծ մասում: 
• Ավելի մանրամասն ուսումնասիրություն, թե ինչպես կարող են ալգորիթմները ավտոմատացնել ռազմական տեխնոլոգիաները և աջակցել ինքնավար զենքերին և տրանսպորտային միջոցներին:
• Կառավարությունների և ոլորտի առաջնորդների վրա ավելացել է ճնշումը էթիկայի և կանոնակարգերի ալգորիթմի կոդի ներդրման համար:
• Ֆրանկեն-Ալգորիթմները անհամաչափորեն ազդում են որոշակի ժողովրդագրական խմբերի վրա, ինչպիսիք են ցածր եկամուտ ունեցող համայնքները կամ փոքրամասնությունների բնակչությունը:
• Franken-Algorithms-ը կարող է հավերժացնել և ուժեղացնել խտրականությունն ու կողմնակալությունը որոշումների կայացման մեջ, ինչպիսիք են աշխատանքի ընդունելու և փոխառելու որոշումները:
• Այս ալգորիթմներն օգտագործվում են կիբերհանցագործների կողմից համակարգերի, մասնավորապես ֆինանսական հաստատությունների թուլությունները վերահսկելու և շահագործելու համար:
• Քաղաքական դերակատարները, որոնք օգտագործում են խարդախ ալգորիթմներ՝ ավտոմատացնելու մարքեթինգային արշավները՝ օգտագործելով գեներատիվ AI համակարգեր, որոնք կարող են ազդել հանրային կարծիքի վրա և ազդել ընտրությունների վրա:

Հարցեր, որոնք պետք է հաշվի առնել

• Ի՞նչ եք կարծում, ինչպե՞ս կզարգանան ալգորիթմները ապագայում:
• Ի՞նչ կարող են անել կառավարությունները և ընկերությունները Franken-Algorithms-ը վերահսկելու համար: