Franken-Algorithms: Algoritmy sa stali nečestnými

• Autor:
• meno autora

  Predvídavosť Quantumrun
• Apríla 12, 2023

Ako sa algoritmy strojového učenia (ML) stávajú pokročilejšími, sú schopné samy sa učiť a prispôsobovať vzorom vo veľkých súboroch údajov. Tento proces, známy ako „autonómne učenie“, môže viesť k tomu, že algoritmus generuje vlastný kód alebo pravidlá na prijímanie rozhodnutí. Problém je v tom, že kód generovaný algoritmom môže byť pre ľudí ťažké alebo nemožné pochopiť, čo sťažuje presné určenie predsudkov. 

Kontext Frankenovho algoritmu

Franken-algoritmy sa vzťahujú na algoritmy (pravidlá, ktorými sa počítače riadia pri spracovávaní údajov a odpovedaní na príkazy), ktoré sa stali tak zložitými a prepletenými, že ich ľudia už nedokážu dešifrovať. Tento výraz je prikývnutím na sci-fi Mary Shelley o „monštre“, ktoré vytvoril šialený vedec doktor Frankenstein. Aj keď sú algoritmy a kódy stavebnými kameňmi veľkých technológií a umožnili Facebooku a Googlu stať sa vplyvnými spoločnosťami, akými sú teraz, stále je o technológii toľko, čo ľudia nevedia. 

Keď programátori vytvárajú kódy a spúšťajú ich prostredníctvom softvéru, ML umožňuje počítačom pochopiť a predvídať vzorce. Zatiaľ čo veľké technológie tvrdia, že algoritmy sú objektívne, pretože ľudské emócie a nepredvídateľnosť ich neovplyvňujú, tieto algoritmy sa môžu vyvíjať a písať svoje vlastné pravidlá, čo vedie ku katastrofálnym výsledkom. Kód generovaný týmito algoritmami je často zložitý a nepriehľadný, čo sťažuje výskumníkom alebo odborníkom z praxe interpretovať rozhodnutia algoritmu alebo identifikovať akékoľvek skreslenia, ktoré môžu byť prítomné v procese rozhodovania algoritmu. Táto prekážka môže spôsobiť značné problémy pre podniky, ktoré sa pri rozhodovaní spoliehajú na tieto algoritmy, pretože nemusia byť schopné pochopiť alebo vysvetliť dôvody týchto rozhodnutí.

Rušivý vplyv

Keď sa Franken-Algorithms pokazia, môže to byť otázka života a smrti. Príkladom bola nehoda v roku 2018, keď samojazdiace auto v Arizone zrazilo a zabilo ženu jazdiacu na bicykli. Algoritmy auta ju nedokázali správne identifikovať ako človeka. Experti boli roztrhaní na hlavnú príčinu nehody – bolo auto nesprávne naprogramované a algoritmus sa stal príliš zložitým pre jeho vlastné dobro? Na čom sa však programátori zhodnú je, že pre softvérové ​​spoločnosti musí existovať systém dohľadu – etický kódex. 

Tento etický kódex však prichádza s určitým odmietnutím zo strany veľkých technológií, pretože sa zaoberajú predajom údajov a algoritmov a nemôžu si dovoliť byť regulované alebo musia byť transparentné. Okrem toho nedávny vývoj, ktorý vyvolal obavy veľkých technologických zamestnancov, je rastúce používanie algoritmov v armáde, ako je napríklad partnerstvo spoločnosti Google s ministerstvom obrany USA na začlenenie algoritmov do vojenskej techniky, ako sú autonómne drony. Táto aplikácia viedla k tomu, že niektorí zamestnanci rezignovali a odborníci vyjadrili obavy, že algoritmy sú stále príliš nepredvídateľné na to, aby sa dali použiť ako stroje na zabíjanie. 

Ďalšou obavou je, že Franken-algoritmy môžu udržiavať a dokonca zosilňovať zaujatosti v dôsledku súborov údajov, na ktorých sú trénované. Tento proces môže viesť k rôznym spoločenským problémom vrátane diskriminácie, nerovnosti a nezákonného zatýkania. Kvôli týmto zvýšeným rizikám mnohé technologické spoločnosti začínajú zverejňovať svoje etické usmernenia AI, aby boli transparentné, pokiaľ ide o to, ako vyvíjajú, používajú a monitorujú svoje algoritmy.

Širšie dôsledky pre Frankenove algoritmy

Potenciálne dôsledky pre Franken-algoritmy môžu zahŕňať:

• Vývoj autonómnych systémov, ktoré môžu prijímať rozhodnutia a konať bez ľudského dohľadu, čo vyvoláva obavy o zodpovednosť a bezpečnosť. Takéto algoritmy však môžu znížiť náklady na vývoj softvéru a robotiky, ktoré dokážu automatizovať ľudskú prácu vo väčšine priemyselných odvetví. 
• Viac podrobností o tom, ako môžu algoritmy automatizovať vojenskú technológiu a podporovať autonómne zbrane a vozidlá.
• Zvýšený tlak na vlády a priemyselných lídrov, aby implementovali algoritmus etického kódexu a predpisov.
• Franken-Algoritmy neúmerne ovplyvňujúce určité demografické skupiny, ako sú komunity s nízkymi príjmami alebo menšinové populácie.
• Franken-Algorithms by mohli zachovať a zosilniť diskrimináciu a zaujatosť v rozhodovaní, ako sú rozhodnutia o prijímaní do zamestnania a poskytovaní pôžičiek.
• Tieto algoritmy používajú počítačoví zločinci na monitorovanie a využívanie nedostatkov v systémoch, najmä vo finančných inštitúciách.
• Politickí aktéri využívajúci nečestné algoritmy na automatizáciu marketingových kampaní pomocou generatívnych systémov AI spôsobmi, ktoré môžu ovplyvniť verejnú mienku a ovplyvniť voľby.

Otázky na zváženie

• Ako sa podľa vás budú algoritmy ďalej vyvíjať v budúcnosti?
• Čo môžu vlády a spoločnosti urobiť na kontrolu Frankenových algoritmov?