Франкен-Алгоритми: Алгоритмите исчезнаа непријателски

• автор:
• име на авторот

  Quantumrun Foresight
• Април 12, 2023

Како што алгоритмите за машинско учење (ML) стануваат понапредни, тие се способни сами да учат и да се приспособат на шемите во големи збирки на податоци. Овој процес, познат како „автономно учење“, може да резултира со алгоритмот да генерира сопствен код или правила за донесување одлуки. Проблемот со ова е дека кодот генериран од алгоритмот може да биде тежок или невозможен за луѓето да го разберат, што го прави предизвик прецизно да се лоцираат предрасуди. 

Контекс на Франкен-Алгоритми

Франкен-Алгоритмите се однесуваат на алгоритми (правилата што компјутерите ги следат кога обработуваат податоци и одговараат на команди) кои станале толку сложени и испреплетени што луѓето повеќе не можат да ги дешифрираат. Терминот е знак на научната фантастика на Мери Шели за „чудовиште“ создадено од лудиот научник д-р Франкенштајн. Иако алгоритмите и шифрите се градежни блокови на големата технологија и им овозможија на Facebook и Google да бидат влијателни компании што се сега, сè уште има толку многу за технологијата што луѓето не ги знаат. 

Кога програмерите градат кодови и ги извршуваат преку софтвер, ML им овозможува на компјутерите да ги разберат и предвидат шемите. Додека големата технологија тврди дека алгоритмите се објективни бидејќи човечките емоции и непредвидливоста не влијаат на нив, овие алгоритми можат да еволуираат и да напишат свои правила, што ќе доведе до катастрофални резултати. Кодот генериран од овие алгоритми е често сложен и непроѕирен, што им отежнува на истражувачите или практичарите да ги толкуваат одлуките на алгоритмот или да идентификуваат какви било предрасуди што може да бидат присутни во процесот на донесување одлуки на алгоритмот. Оваа препрека може да создаде значителни предизвици за бизнисите кои се потпираат на овие алгоритми за да донесуваат одлуки, бидејќи тие можеби не можат да го разберат или објаснат резонирањето зад тие одлуки.

Нарушувачко влијание

Кога Франкен-Алгоритмите стануваат нечесни, тоа може да биде прашање на живот и смрт. Пример беше несреќа во 2018 година кога самоуправувачки автомобил во Аризона удри и усмрти жена што возеше велосипед. Алгоритмите на автомобилот не можеа правилно да ја идентификуваат како човек. Експертите беа растргнати за основната причина за несреќата - дали автомобилот беше неправилно програмиран и дали алгоритмот стана премногу сложен за негово добро? Она за што програмерите можат да се согласат, сепак, е дека треба да постои систем за надзор за софтверските компании - етички кодекс. 

Сепак, овој етички кодекс доаѓа со одреден притисок од големата технологија бидејќи тие се занимаваат со продажба на податоци и алгоритми и не можат да си дозволат да бидат регулирани или да се бара да бидат транспарентни. Дополнително, неодамнешниот развој што предизвика загриженост за големите вработени во технологијата е зголемената употреба на алгоритми во војската, како што е партнерството на Google со американското Министерство за одбрана за инкорпорирање на алгоритми во воената технологија, како автономните беспилотни летала. Оваа апликација доведе до отказ на некои вработени, а експертите изразија загриженост дека алгоритмите сè уште се премногу непредвидливи за да се користат како машини за убивање. 

Друга загриженост е дека Франкен-Алгоритмите може да ги овековечат, па дури и да ги засилат предрасудите поради збирките на податоци за кои се обучени. Овој процес може да доведе до различни општествени прашања, вклучувајќи дискриминација, нееднаквост и незаконски апсења. Поради овие зголемени ризици, многу технолошки компании почнуваат да ги објавуваат своите етички упатства за вештачка интелигенција за да бидат транспарентни за тоа како ги развиваат, користат и ги следат нивните алгоритми.

Пошироки импликации за Франкен-Алгоритми

Потенцијалните импликации за Франкен-алгоритмите може да вклучуваат:

• Развој на автономни системи кои можат да донесуваат одлуки и да преземаат дејствија без човечки надзор, предизвикувајќи загриженост за одговорноста и безбедноста. Сепак, таквите алгоритми може да ги намалат трошоците за развој на софтвер и роботика што може да го автоматизира човечкиот труд во повеќето индустрии. 
• Повеќе прегледи за тоа како алгоритмите можат да ја автоматизираат воената технологија и да поддржат автономно оружје и возила.
• Зголемен притисок за владите и индустриските лидери да имплементираат алгоритамски етички кодекс и регулативи.
• Франкен-Алгоритми кои несразмерно влијаат на одредени демографски групи, како што се заедниците со ниски приходи или малцинските популации.
• Франкен-Алгоритмите би можеле да ја овековечат и засилат дискриминацијата и пристрасноста во одлучувањето, како што се одлуките за вработување и заеми.
• Овие алгоритми се користат од сајбер-криминалците за следење и искористување на слабостите во системите, особено во финансиските институции.
• Политичките актери користат непријателски алгоритми за да ги автоматизираат маркетинг кампањите користејќи генеративни системи за вештачка интелигенција на начини кои можат да влијаат на јавното мислење и да влијаат на изборите.

Прашања што треба да се разгледаат

• Како мислите дека алгоритмите дополнително ќе се развиваат во иднина?
• Што можат да направат владите и компаниите за да ги контролираат Франкен-Алгоритмите?