Isku-habaynta AI: Isku-habboonaanta yoolalka sirdoonka macmalka ah waxay ku habboon yihiin qiyamka aadanaha

• About the Author:
• Magaca qoraaga

  Quantumrun Aragtida Saadaasha
• January 25, 2023

Isku toosinta sirdoonka macmalka ah (AI) waa marka nidaamka AI yoolalka ay la socdaan qiyamka aadanaha. Shirkadaha sida OpenAI, DeepMind, iyo Anthropic waxay leeyihiin kooxo cilmi-baarayaal ah oo ay diiradda saarayaan kaliya inay daraaseeyaan ilaalinta xaaladaha kala duwan ee tani ay dhici karto.

macnaha guud ee toosinta AI

Marka loo eego daraasad cilmi baaris ah oo Jaamacadda Cornell ee 2021, dhowr daraasadood ayaa muujiyay in aaladaha ama moodooyinka ay abuureen algorithms ay muujiyaan eex laga soo xigtay xogta lagu tababaray. Tusaale ahaan, habaynta luuqada dabiiciga ah (NLP), dooro moodooyinka NLP ee lagu tababaray xog kooban ayaa la diiwaangeliyay samaynta saadaalin ku salaysan fikradaha jinsiga ee waxyeelada leh ee ka dhanka ah haweenka. Sidoo kale, cilmi-baadhisyo kale ayaa lagu ogaaday in algoorithms loo tababaray xogta la xumeeyay ay keentay talooyinka ka soo horjeeda jinsiyadda, gaar ahaan booliiska.

Waxaa jira tusaalooyin badan oo hababka barashada mishiinadu ay si xun ugu sameeyeen dadka laga tirada badan yahay ama kooxaha la ildaran dhibaatooyin badan. Gaar ahaan, falanqaynta wejiga ee tooska ah iyo ogaanshaha daryeelka caafimaadka si fiican uguma shaqeeyaan haweenka iyo dadka midabka leh. Marka nidaamyada muhiimka ah ee ay tahay in lagu saleeyo xaqiiqooyin iyo caqli-gal halkii shucuur loo isticmaalo xaaladaha sida qoondaynta daryeelka caafimaadka ama waxbarashada, waxay samayn karaan waxyeello badan iyagoo adkeynaya in la aqoonsado sababta ka dambeysa talooyinkan.

Natiijo ahaan, shirkadaha tignoolajiyada ayaa abuuraya kooxo isku xidha AI si ay diiradda u saaraan ilaalinta algorithms cadaalad iyo bini'aadantinimo. Cilmi-baaristu waxay lagama maarmaan u tahay fahamka jihada nidaamyada AI ee horumarsan, iyo sidoo kale caqabadaha aan la kulmi karno marka ay awoodaha AI koraan.

Saamaynta qaska

Sida laga soo xigtay Jan Leike, madaxa AI alignment ee OpenAI (2021), marka la eego in nidaamyada AI ay awoodeen kaliya 2010-meeyadii, waa la fahmi karaa in inta badan cilmi-baarista toosinta AI ay ahayd aragti-culus. Marka nidaamyada AI ee aadka u awoodda badan la is waafajiyo, mid ka mid ah caqabadaha ay dadku wajahayaan ayaa ah in mashiinnadani ay abuuri karaan xalal aad u adag in dib loo eego oo la qiimeeyo haddii ay macno anshax ahaan sameeyaan.

Leike waxa uu hindisay istaraatijiyad abaal marineed oo soo noqnoqota (RMM) si loo xaliyo dhibaatadan. RRM, dhowr "caawiye" AIs ayaa la baray si ay u caawiyaan bini'aadamka inay qiimeeyaan sida ugu wanaagsan ee AI kakan u shaqeeyo. Waxa uu ku rajo weyn yahay suurtagalnimada in la abuuro wax uu ku tilmaamay "MVP toosan." Marka la eego shuruudaha bilowga, MVP (ama badeecada ugu yar ee la hirgelin karo) waa badeecada ugu fudud ee suurtogalka ah ee ay shirkad dhisi karto si ay u tijaabiso fikrad. Rajada ayaa ah in maalin, AI ay ku habboon tahay waxqabadka aadanaha ee cilmi-baarista AI iyo la jaanqaadkeeda qiyamka iyada oo sidoo kale shaqeyneysa.

In kasta oo xiisaha sii kordhaya ee isku xirka AI uu yahay mid wanaagsan, falanqeeyayaal badan oo goobta jooga ayaa u maleynaya in badan oo ka mid ah "anshaxa" shaqada ee hogaaminta shaybaarada AI ay tahay kaliya xiriirka dadweynaha ee loogu talagalay in shirkadaha tignoolajiyada ay u muuqdaan kuwo wanaagsan oo ay ka fogaadaan sumcadda xun. Shakhsiyaadkani ma filayaan in dhaqamada horumarinta anshaxa ay u noqdaan mudnaanta shirkadahan wakhti dhow.

Indho-indhayntani waxay muujinaysaa muhiimadda ay leedahay hababka isku-dhafan ee dadaalka isku-habaynta qiimaha, maadaama ay tani tahay aag cusub oo cilmi-baaris iyo farsamo ah. Waaxyaha aqooneed ee kala duwani waa inay qayb ka noqdaan ajanda cilmi baadhiseed loo dhan yahay. Hindisahani wuxuu sidoo kale tilmaamayaa baahida loo qabo tignoolajiyada iyo siyaasad-dejiyeyaasha inay ka warqabaan xaaladahooda bulsheed iyo daneeyayaasha, xitaa marka nidaamyada AI ay noqdaan kuwo horumarsan.

Saamaynta AI alignment

Saamaynta ballaadhan ee toosinta AI waxaa ka mid noqon kara: 

• Shaybaadhka sirdoonka macmalka ah ayaa shaqaaleysiiya guddiyo anshax oo kala duwan si ay u kormeeraan mashaariicda una fuliyaan tilmaamaha AI ee anshaxa. 
• Dawladuhu waxay abuuraan sharciyo u baahan shirkadaha inay soo gudbiyaan qaab dhismeedka AI ee mas'uuliyadda ka saaran yahay iyo sida ay u qorsheynayaan inay sii horumariyaan mashruucyadooda AI.
• Muranada kordhay ee ku saabsan isticmaalka algorithms ee qorista, ilaalinta dadweynaha, iyo fulinta sharciga.
• Cilmi-baarayaasha ayaa laga eryay shaybaarrada AI ee waaweyn sababo la xiriira iskahorimaadyada xiisaha ee u dhexeeya anshaxa iyo yoolalka shirkadda.
• Cadaadis dheeri ah oo loogu talagalay dawladaha si ay u nidaamiyaan nidaamyada AI ee horumarsan oo labaduba aad u awood badan laakiin ku xad-gudbi kara xuquuqda aadanaha.

Su'aalo aad ka faalooto

• Sidee shirkadaha loola xisaabtami karaa nidaamyada AI ee ay abuuraan?
• Waa maxay khataraha kale ee suurtagalka ah haddii ay jirto cillad AI?