Franken-Alugoridimu: Awọn alugoridimu ti lọ Ole

• Nipa Author:
• Orukọ onkọwe

  Quantumrun Iwoju
• April 12, 2023

Bi ẹkọ ẹrọ (ML) algorithms di ilọsiwaju diẹ sii, wọn ni anfani lati kọ ẹkọ ati ṣe deede si awọn ilana ni awọn iwe data nla lori ara wọn. Ilana yii, ti a mọ si “ẹkọ adase,” le ja si ni algoridimu ti n ṣe agbekalẹ koodu tirẹ tabi awọn ofin lati ṣe awọn ipinnu. Ọrọ pẹlu eyi ni pe koodu ti ipilẹṣẹ nipasẹ algoridimu le nira tabi ko ṣee ṣe fun eniyan lati ni oye, ti o jẹ ki o nira lati tọka awọn aibikita. 

Franken-Alugoridimu o tọ

Awọn algoridimu Franken-Algorithms tọka si awọn algoridimu (awọn ofin ti awọn kọnputa n tẹle nigba ṣiṣe data ati didahun si awọn aṣẹ) ti o ti di idiju ati ibaraenisepo ti eniyan ko le pinnu wọn mọ. Oro naa jẹ ẹbun si itan-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọran Frankenstein. Lakoko ti awọn algoridimu ati awọn koodu jẹ awọn bulọọki ile ti imọ-ẹrọ nla ati ti gba Facebook ati Google laaye lati jẹ awọn ile-iṣẹ ti o ni ipa ti wọn wa ni bayi, pupọ tun wa nipa imọ-ẹrọ ti eniyan ko mọ. 

Nigbati awọn pirogirama kọ awọn koodu ati ṣiṣe wọn nipasẹ sọfitiwia, ML gba awọn kọnputa laaye lati ni oye ati asọtẹlẹ awọn ilana. Lakoko ti imọ-ẹrọ nla sọ pe awọn algoridimu jẹ ipinnu nitori awọn ẹdun eniyan ati airotẹlẹ ko ni ipa wọn, awọn algoridimu wọnyi le dagbasoke ati kọ awọn ofin tiwọn, ti o yori si awọn abajade ajalu. Awọn koodu ti ipilẹṣẹ nipasẹ awọn algoridimu yii nigbagbogbo jẹ idiju ati aiṣedeede, ṣiṣe ki o nira fun awọn oniwadi tabi awọn oṣiṣẹ lati ṣe itumọ awọn ipinnu algorithm tabi lati ṣe idanimọ eyikeyi awọn aiṣedeede ti o le wa ninu ilana ṣiṣe ipinnu algorithm. Idinamọ ọna yii le ṣẹda awọn italaya pataki fun awọn iṣowo ti o gbẹkẹle awọn algoridimu wọnyi lati ṣe awọn ipinnu, nitori wọn le ko ni oye tabi ṣalaye ero lẹhin awọn ipinnu wọnyẹn.

Ipa idalọwọduro

Nigba ti Franken-algorithms lọ rogue, o le jẹ ọrọ kan ti aye ati iku. Apeere kan jẹ ijamba ni ọdun 2018 nigbati ọkọ ayọkẹlẹ ti ara ẹni ni Arizona lu ati pa obinrin kan ti o gun keke. Awọn algoridimu ọkọ ayọkẹlẹ naa ko lagbara lati ṣe idanimọ rẹ ni deede bi eniyan. Awọn amoye ti ya lori idi ti ijamba naa — ṣe ọkọ ayọkẹlẹ naa ni eto ti ko tọ, ati pe algorithm ti di idiju fun ire tirẹ bi? Ohun ti awọn pirogirama le gba lori, sibẹsibẹ, ni pe o nilo lati wa eto abojuto fun awọn ile-iṣẹ sọfitiwia — koodu ti iwa. 

Sibẹsibẹ, koodu ethics yii wa pẹlu diẹ ninu awọn titari lati ọdọ imọ-ẹrọ nla nitori wọn wa ni iṣowo ti tita data ati awọn algoridimu, ati pe wọn ko le ni agbara lati ṣe ilana tabi nilo lati ṣe afihan. Ni afikun, idagbasoke aipẹ kan ti o fa ibakcdun fun awọn oṣiṣẹ imọ-ẹrọ nla ni lilo awọn algoridimu ti o pọ si laarin ologun, gẹgẹbi ajọṣepọ Google pẹlu Ẹka Aabo AMẸRIKA lati ṣafikun awọn algoridimu ninu imọ-ẹrọ ologun, bii awọn drones adase. Ohun elo yii ti yori si diẹ ninu awọn oṣiṣẹ fi ipo silẹ ati awọn amoye n sọ awọn ifiyesi pe awọn algoridimu tun jẹ airotẹlẹ pupọ lati ṣee lo bi awọn ẹrọ pipa. 

Ibakcdun miiran ni pe Franken-algorithms le tẹsiwaju ati paapaa mu awọn aiṣedeede pọ si nitori awọn akopọ data ti wọn ti kọ ẹkọ lori. Ilana yii le ja si ọpọlọpọ awọn ọran awujọ, pẹlu iyasoto, aidogba, ati awọn imuni ti ko tọ. Nitori awọn eewu wọnyi ti o pọ si, ọpọlọpọ awọn ile-iṣẹ imọ-ẹrọ n bẹrẹ lati ṣe atẹjade awọn itọsọna AI ihuwasi wọn lati jẹ afihan lori bi wọn ṣe dagbasoke, lo, ati atẹle awọn algoridimu wọn.

Awọn ifarabalẹ ti o tobi julọ fun Franken-algorithms

Awọn ilolu ti o pọju fun Franken-algorithms le pẹlu:

• Idagbasoke awọn ọna ṣiṣe adase ti o le ṣe awọn ipinnu ati ṣe awọn iṣe laisi abojuto eniyan, igbega awọn ifiyesi nipa iṣiro ati ailewu. Bibẹẹkọ, iru awọn algoridimu le dinku awọn idiyele ti sọfitiwia idagbasoke ati awọn roboti ti o le ṣe adaṣe adaṣe iṣẹ eniyan kọja awọn ile-iṣẹ pupọ julọ. 
• Ṣiṣayẹwo diẹ sii lori bii awọn algoridimu ṣe le ṣe adaṣe imọ-ẹrọ ologun ati atilẹyin awọn ohun ija ati awọn ọkọ ayọkẹlẹ adase.
• Ipa ti o pọ si fun awọn ijọba ati awọn oludari ile-iṣẹ lati ṣe ilana koodu algoridimu ti iṣe ati ilana.
• Awọn alugoridimu Franken-aiṣedede ni ipa lori awọn ẹgbẹ ibi-aye kan, gẹgẹbi awọn agbegbe ti o ni owo kekere tabi awọn olugbe kekere.
• Awọn alugoridimu Franken le tẹsiwaju ati mu iyasoto pọ si ati aibikita ninu ṣiṣe ipinnu, gẹgẹbi igbanisise ati awọn ipinnu ayanilowo.
• Awọn algoridimu wọnyi ni lilo nipasẹ awọn ọdaràn cyber lati ṣe atẹle ati lo nilokulo ailagbara ninu awọn eto, pataki ni awọn ile-iṣẹ inawo.
• Awọn oṣere oloselu ti nlo awọn algoridimu rogue lati ṣe adaṣe awọn ipolongo titaja ni lilo awọn eto AI ti ipilẹṣẹ ni awọn ọna ti o le ni ipa lori ero ti gbogbo eniyan ati awọn idibo sway.

Awọn ibeere lati ronu

• Bawo ni o ṣe ro pe awọn algoridimu yoo dagbasoke siwaju ni ọjọ iwaju?
• Kini awọn ijọba ati awọn ile-iṣẹ le ṣe lati ṣakoso Franken-algorithms?