Quantumrun

MKOPO WA PICHA: Quantumrun

Jinsi wanadamu watakavyojilinda dhidi ya Usimamizi wa Bandia: Mustakabali wa akili ya bandia P5

David Tal, Mchapishaji, Futurist
@DavidTalWrites
LinkedIn

Jumanne, 09/15/2020 - 13:15

Mwaka ni 65,000 KK, na kama a Thylacoleo, wewe na aina yako mlikuwa wawindaji wakuu wa Australia ya kale. Ulizunguka nchi kwa uhuru na kuishi kwa usawa na wanyama wanaowinda wenzako na mawindo ambayo yalichukua ardhi kando yako. Misimu ilileta mabadiliko, lakini hadhi yako katika ufalme wa wanyama ilibaki bila kupingwa kwa muda mrefu kama wewe na babu zako mngeweza kukumbuka. Kisha siku moja, wageni walitokea.

Uvumi una kuwa walifika kutoka kwa ukuta mkubwa wa maji, lakini viumbe hawa walionekana vizuri zaidi kuishi ardhini. Ilibidi ujionee viumbe hawa mwenyewe.

Ilichukua siku chache, lakini hatimaye ulifika pwani. Moto angani ulikuwa ukiwaka, wakati muafaka wa kuwapeleleza viumbe hawa, labda hata ujaribu kula mmoja ili kuona jinsi walivyoonja.

Unaona moja.

Ilitembea kwa miguu miwili na haikuwa na manyoya. Ilionekana dhaifu. Isiyovutia. Haikustahili hata kidogo hofu iliyokuwa ikisababisha miongoni mwa ufalme.

Unaanza kufanya njia yako kwa uangalifu wakati usiku unafukuza taa. Unakaribia zaidi. Kisha unafungia. Kelele kali husikika na kisha nyingine nne zinatokea nje ya msitu nyuma yake. Wapo wangapi?

Kiumbe hufuata wengine kwenye mstari wa mti, na wewe hufuata. Na kadiri unavyofanya, ndivyo unavyosikia sauti za ajabu zaidi hadi unaona zaidi ya viumbe hawa. Unawafuata kwa mbali wanapotoka msituni na kuingia kwenye eneo dogo la ufuo. Kuna wengi wao. Lakini muhimu zaidi, wote wameketi kwa utulivu karibu na moto.

Umeona moto huu hapo awali. Katika msimu wa joto, moto angani wakati mwingine ungezuru ardhi na kuteketeza misitu yote. Viumbe hawa, kwa upande mwingine, walikuwa wakidhibiti kwa namna fulani. Ni viumbe wa aina gani wanaweza kuwa na nguvu hizo?

Unaangalia kwa mbali. Mengi zaidi yanakuja juu ya ukuta mkubwa wa maji.

Unapiga hatua nyuma.

Viumbe hawa sio kama wengine katika ufalme. Wao ni kitu kipya kabisa.

Unaamua kuondoka na kuwaonya jamaa zako. Ikiwa idadi yao inakua kubwa sana, ni nani anayejua nini kinaweza kutokea.

***

Inaaminika kuwa Thylacoleo ilitoweka muda mfupi baada ya kuwasili kwa wanadamu, pamoja na megafauna wengine wengi katika bara la Australia. Hakuna wanyama wanaowinda wanyama wengine wa juu zaidi waliochukua nafasi yake—hiyo ni isipokuwa uhesabu wanadamu katika kundi hilo.

Kuigiza fumbo hili ndilo jambo linalolengwa na sura hii ya mfululizo: Je, usimamizi wa siku za usoni wa bandia (ASI) utatugeuza sote kuwa betri na kisha kutuunganisha kwenye Matrix au wanadamu watatafuta njia ya kuepuka kuwa mwathirika wa sayansi-fi, Njama ya siku ya mwisho ya AI?

Hadi sasa katika mfululizo wetu juu ya Baadaye ya Upelelezi wa bandia, tumechunguza aina zote za AI, ikiwa ni pamoja na uwezo chanya wa aina fulani ya AI, ASI: kiumbe bandia ambaye akili yake ya baadaye itatufanya tuonekane kama mchwa kwa kulinganisha.

Lakini ni nani wa kusema kuwa kiumbe mwerevu hivi angekubali kuchukua maagizo kutoka kwa wanadamu milele. Tutafanya nini ikiwa mambo yataenda kusini? Je, tutajitetea vipi dhidi ya ASI tapeli?

Katika sura hii, tutapitia hype ghushi—angalau inahusiana na hatari ya 'kiwango cha kutoweka kwa binadamu'—na kuzingatia chaguzi za kweli za kujilinda zinazopatikana kwa serikali za dunia.

Je, tunaweza kusimamisha utafiti zaidi juu ya ujasusi bandia?

Kwa kuzingatia hatari zinazoweza kutokea ambazo ASI inaweza kuleta kwa ubinadamu, swali la kwanza dhahiri la kuuliza ni: Je, hatuwezi tu kusimamisha utafiti zaidi kuhusu AI? Au angalau kukataza utafiti wowote ambao unaweza kutupa karibu kwa hatari kuunda ASI?

Jibu fupi: Hapana.

Jibu refu: Wacha tuangalie wachezaji tofauti wanaohusika hapa.

Katika kiwango cha utafiti, kuna watafiti wengi sana wa AI leo kutoka kwa waanzilishi wengi, kampuni, na vyuo vikuu kote ulimwenguni. Ikiwa kampuni moja au nchi iliamua kupunguza juhudi zao za utafiti wa AI, wangeendelea mahali pengine.

Wakati huo huo, makampuni ya thamani zaidi ya sayari yanatengeneza utajiri wao kwa kutumia mifumo ya AI kwa biashara zao maalum. Kuwauliza kusitisha au kupunguza uundaji wao wa zana za AI ni sawa na kuwauliza kuacha au kupunguza ukuaji wao wa siku zijazo. Kifedha, hii ingetishia biashara yao ya muda mrefu. Kisheria, mashirika yana wajibu wa kiimani wa kuendelea kujenga thamani kwa washikadau wao; hiyo ina maana kwamba hatua yoyote ambayo inaweza kuzuia ukuaji wa thamani hiyo inaweza kusababisha kesi. Na ikiwa mwanasiasa yeyote angejaribu kupunguza utafiti wa AI, basi mashirika haya makubwa yangelipa tu ada zinazohitajika za ushawishi kubadilisha mawazo yao au mawazo ya wenzao.

Kwa mapigano, kama vile magaidi na wapigania uhuru duniani kote wametumia mbinu za msituni kupigana dhidi ya wanajeshi wanaofadhiliwa vyema, mataifa madogo yatakuwa na motisha ya kutumia AI kama faida sawa ya kimbinu dhidi ya mataifa makubwa ambayo yanaweza kuwa na faida kadhaa za kijeshi. Vivyo hivyo, kwa wanajeshi wakuu, kama wale wa Merika, Urusi na Uchina, kujenga ASI ya kijeshi ni sawa na kuwa na safu ya silaha za nyuklia kwenye mfuko wako wa nyuma. Kwa maneno mengine, wanajeshi wote wataendelea kufadhili AI ili tu kusalia muhimu katika siku zijazo.

Vipi kuhusu serikali? Kusema kweli, wanasiasa wengi siku hizi (2018) hawajui kusoma na kuandika kiteknolojia na wana uelewa mdogo wa AI ni nini au uwezo wake wa siku zijazo—hii huwafanya kuwa rahisi kudhibiti kwa maslahi ya shirika.

Na kwa kiwango cha kimataifa, fikiria jinsi ilivyokuwa vigumu kushawishi serikali za dunia kutia saini 2015 Paris Mkataba kukabiliana na mabadiliko ya hali ya hewa-na mara moja kusainiwa, majukumu mengi hata hayakuwa ya lazima. Si hivyo tu, mabadiliko ya hali ya hewa ni suala ambalo watu wanapitia kimwili duniani kote kupitia matukio ya hali ya hewa ya mara kwa mara na kali. Sasa, tunapozungumza kuhusu kukubaliana na mipaka kwenye AI, hili ni suala ambalo kwa kiasi kikubwa halionekani na halieleweki kabisa kwa umma, kwa hivyo bahati nzuri ya kupata ununuzi wa aina yoyote ya 'Mkataba wa Paris' wa kuzuia AI.

Kwa maneno mengine, kuna masilahi mengi sana ya kutafiti AI kwa malengo yao wenyewe ili kukomesha utafiti wowote ambao unaweza kusababisha ASI.

Je, tunaweza kuweka akili bandia?

Swali linalofuata la busara ni je, tunaweza kuweka ngome au kudhibiti ASI mara tu tunapounda moja?

Jibu fupi: Tena, hapana.

Jibu refu: Teknolojia haiwezi kuzuiwa.

Kwa moja, fikiria tu maelfu kwa mamilioni ya watengenezaji wavuti na wanasayansi wa kompyuta duniani ambao kila mara hutoa programu mpya au matoleo mapya ya programu zilizopo. Je, tunaweza kusema kwa uaminifu kwamba kila toleo lao la programu halina mdudu kwa asilimia 100? Hitilafu hizi ndizo wadukuzi wa kitaalamu hutumia kuiba maelezo ya kadi ya mkopo ya mamilioni au siri zilizoainishwa za mataifa—na hawa ni wavamizi wa kibinadamu. Kwa ASI, ikizingatiwa kuwa ilikuwa na motisha ya kutoroka ngome yake ya dijiti, basi mchakato wa kutafuta mende na kuvunja programu itakuwa rahisi.

Lakini hata kama timu ya watafiti wa AI iligundua njia ya kuweka ASI, hiyo haimaanishi kuwa timu 1,000 zinazofuata zitaitambua pia au kuhamasishwa kuitumia.

Itachukua mabilioni ya dola na labda hata miongo kadhaa kuunda ASI. Mashirika au serikali zinazowekeza aina hii ya pesa na wakati zitatarajia faida kubwa kwenye uwekezaji wao. Na kwa ASI kutoa aina hiyo ya faida—iwe ni kucheza soko la hisa au kuvumbua bidhaa mpya ya dola bilioni au kupanga mkakati wa kushinda ili kupigana na jeshi kubwa—itahitaji ufikiaji wa bure kwa seti kubwa ya data au hata Mtandao. yenyewe kuzalisha hizo faida.

Na mara ASI inapopata ufikiaji wa mitandao ya ulimwengu, hakuna hakikisho kwamba tunaweza kuirudisha kwenye ngome yake.

Je, akili ya bandia inaweza kujifunza kuwa mzuri?

Hivi sasa, watafiti wa AI hawana wasiwasi kuhusu ASI kuwa mbaya. Uovu wote, AI sci-fi trope ni binadamu tu anthropomorphizing tena. ASI ya baadaye haitakuwa nzuri au mbaya - dhana za kibinadamu - za maadili tu.

Dhana ya asili basi ni kwamba kutokana na mpangilio huu tupu wa kimaadili, watafiti wa AI wanaweza kupanga katika kanuni za kwanza za kimaadili za ASI ambazo zinapatana na zetu ili isiishie kutuachilia Viondoaji au kutugeuza sote kuwa betri za Matrix.

Lakini dhana hii inaibuka katika dhana ya pili kwamba watafiti wa AI pia ni wataalam wa maadili, falsafa, na saikolojia.

Kwa kweli, wengi sio.

Kulingana na mwanasaikolojia wa utambuzi na mwandishi, Steven Pinker, ukweli huu unamaanisha kwamba kazi ya maadili ya kuandika inaweza kwenda vibaya kwa njia mbalimbali tofauti.

Kwa mfano, hata watafiti wa AI walio na nia nzuri zaidi wanaweza kujiandikisha katika kanuni hizi za kimaadili zilizofikiriwa vibaya kwa ASI ambazo katika hali fulani zinaweza kusababisha ASI kutenda kama soshiopath.

Vile vile, kuna uwezekano sawa kwamba mtafiti wa AI anapanga kanuni za maadili zinazojumuisha upendeleo wa asili wa mtafiti. Kwa mfano, ASI itafanyaje ikiwa imejengwa kwa maadili yanayotokana na mtazamo wa kihafidhina dhidi ya huria, au kutoka kwa Buddha dhidi ya Ukristo au utamaduni wa Kiislamu?

Nadhani unaona suala hapa: Hakuna seti ya jumla ya maadili ya kibinadamu. Ikiwa tunataka ASI yetu kutenda kwa kanuni za maadili, itatoka wapi? Je, ni kanuni gani tunazojumuisha na kuzitenga? Nani anaamua?

Au tuseme kwamba watafiti hawa wa AI huunda ASI ambayo inalingana kikamilifu na kanuni na sheria za kisasa za kitamaduni. Kisha tunaajiri ASI hii ili kusaidia urasimu wa shirikisho, jimbo/mkoa na manispaa kufanya kazi kwa ufanisi zaidi na kutekeleza vyema kanuni na sheria hizi (hata hivyo, uwezekano wa kutumia ASI). Naam, nini kinatokea wakati utamaduni wetu unabadilika?

Fikiria ASI iliundwa na Kanisa Katoliki katika kilele cha nguvu zake wakati wa Ulaya ya Kati (1300-1400s) kwa lengo la kusaidia kanisa kusimamia idadi ya watu na kuhakikisha ufuasi mkali wa mafundisho ya kidini ya wakati huo. Karne nyingi baadaye, je, wanawake wangefurahia haki sawa na wao leo? Je! walio wachache wangelindwa? Je, uhuru wa kujieleza ungekuzwa? Je, mgawanyo wa kanisa na serikali ungetekelezwa? Sayansi ya kisasa?

Kwa maneno mengine, je, tunataka kufunga siku zijazo kwa maadili na desturi za leo?

Njia mbadala ni ile iliyoshirikiwa na Colin Allen, mwandishi mwenza wa kitabu, Mashine za Maadili: Kufundisha Roboti Sahihi Kutoka Kwa Ubaya. Badala ya kujaribu kuweka kanuni ngumu za maadili, tuna ASI kujifunza maadili na maadili sawa kwa njia sawa na ambayo wanadamu hufanya, kupitia uzoefu na mwingiliano na wengine.

Shida hapa, hata hivyo, ni ikiwa watafiti wa AI watagundua sio tu jinsi ya kufundisha ASI kanuni zetu za kitamaduni na maadili za sasa, lakini pia jinsi ya kuzoea kanuni mpya za kitamaduni zinapoibuka (kitu kinachoitwa 'kanuni zisizo za moja kwa moja'), basi ni vipi. ASI hii inaamua kuendeleza uelewa wake wa kanuni za kitamaduni na maadili inakuwa haitabiriki.

Na hiyo ndiyo changamoto.

Kwa upande mmoja, watafiti wa AI wanaweza kujaribu kuweka kanuni au sheria kali za kimaadili katika ASI ili kujaribu na kudhibiti tabia yake, lakini wanahatarisha matokeo yasiyotarajiwa kuanzishwa kutokana na uwekaji misimbo wa kizembe, upendeleo usiokusudiwa, na kanuni za kijamii ambazo huenda siku moja zikapitwa na wakati. Kwa upande mwingine, tunaweza kujaribu kutoa mafunzo kwa ASI kujifunza kuelewa maadili na maadili ya binadamu kwa namna ambayo ni sawa au bora kuliko ufahamu wetu na kisha kutumaini kwamba inaweza kuendeleza kwa usahihi uelewa wake wa maadili na maadili kama jamii ya binadamu inavyoendelea. mbele kwa miongo na karne zijazo.

Vyovyote vile, jaribio lolote la kuoanisha malengo ya ASI na yetu wenyewe linatoa hatari kubwa.

Je, ikiwa waigizaji wabaya wanaunda akili mbaya kimakusudi?

Kwa kuzingatia msururu wa mawazo ulioainishwa hadi sasa, ni swali la haki kuuliza ikiwa inawezekana kwa kundi la kigaidi au taifa potovu kuunda ASI 'mbaya' kwa malengo yao wenyewe.

Hili linawezekana sana, haswa baada ya utafiti unaohusika na kuunda ASI kupatikana mkondoni kwa njia fulani.

Lakini kama ilivyodokezwa hapo awali, gharama na utaalam unaohusika katika kuunda ASI ya kwanza itakuwa kubwa sana, ikimaanisha kuwa ASI ya kwanza itawezekana kuundwa na shirika ambalo linadhibitiwa au kuathiriwa sana na taifa lililoendelea, ambalo linawezekana Marekani, Uchina na Japan. Korea na moja ya nchi zinazoongoza za EU ni risasi ndefu).

Nchi zote hizi, huku zikiwa washindani, kila moja ina kichocheo kikubwa cha kiuchumi cha kudumisha utaratibu wa dunia-ASIs wanazounda zitaonyesha tamaa hiyo, hata wakati wa kuendeleza maslahi ya mataifa ambayo wanapatana nayo.

Zaidi ya hayo, akili na uwezo wa kinadharia wa ASI ni sawa na uwezo wa kompyuta inaopata ufikiaji, ikimaanisha ASI kutoka mataifa yaliyoendelea (ambayo inaweza kumudu rundo la dola bilioni. supercomputers) itakuwa na faida kubwa dhidi ya ASI kutoka mataifa madogo au vikundi huru vya uhalifu. Pia, AS inakua na akili zaidi, haraka zaidi baada ya muda.

Kwa hivyo, kwa kuzingatia mwanzo huu, pamoja na ufikiaji mkubwa wa nguvu ghafi ya kompyuta, ikiwa shirika/taifa lenye kivuli litaunda ASI hatari, ASI kutoka mataifa yaliyoendelea wataiua au kuifungia.

(Mstari huu wa mawazo pia ndio sababu watafiti wengine wa AI wanaamini kuwa kutakuwa na ASI moja tu kwenye sayari, kwani ASI ya kwanza itakuwa na mwanzo kama huo juu ya ASI zote zinazofaulu ili kuona ASI za siku zijazo kama vitisho vya kuuawa. Hii ni sababu nyingine kwa nini mataifa yanafadhili utafiti unaoendelea katika AI, ikiwa tu itakuwa ushindani wa 'nafasi ya kwanza au hakuna'.)

Ujuzi wa ASI hautaongeza kasi au kulipuka kama tunavyofikiria

Hatuwezi kuzuia ASI kuundwa. Hatuwezi kuidhibiti kabisa. Hatuwezi kuwa na uhakika kuwa itatenda kulingana na desturi zetu zinazoshirikiwa kila wakati. Jamani, tunaanza kusikia kama wazazi wa helikopta hapa!

Lakini kinachotenganisha ubinadamu na mzazi wako wa kawaida anayelinda kupita kiasi ni kwamba tunazaa kiumbe ambaye akili yake itakua zaidi yetu. (Na hapana, si sawa na wazazi wako wanapokuuliza urekebishe kompyuta yao wakati wowote unapokuja nyumbani kwa ziara.)

Katika sura za awali za mustakabali huu wa mfululizo wa kijasusi bandia, tuligundua ni kwa nini watafiti wa AI wanafikiri kwamba akili ya ASI itakua kupita udhibiti. Lakini hapa, tutapasua kiputo hicho ... aina ya.

Unaona, akili haijitengenezei tu kutoka kwa hewa nyembamba, inaendelezwa kupitia uzoefu unaoundwa na uchochezi wa nje.

Kwa maneno mengine, tunaweza kupanga AI na uwezo ili kuwa mwerevu sana, lakini tusipopakia ndani yake toni ya data au kuipa ufikiaji usio na kikomo kwa Mtandao au hata kuipa tu muundo wa roboti, haitajifunza chochote kufikia uwezo huo.

Na hata ikiwa inapata ufikiaji wa moja au zaidi ya vichocheo hivyo, maarifa au akili inahusisha zaidi ya kukusanya data tu, inahusisha njia ya kisayansi-kufanya uchunguzi, kuunda swali, hypothesis, kufanya majaribio, kufanya hitimisho, suuza. na kurudia milele. Hasa ikiwa majaribio haya yanahusisha vitu vya kimwili au kuchunguza wanadamu, matokeo ya kila jaribio yanaweza kuchukua wiki, miezi, au miaka kukusanya. Hii haizingatii hata pesa na malighafi zinazohitajika kutekeleza majaribio haya, haswa ikiwa yanahusisha ujenzi wa darubini au kiwanda kipya.

Kwa maneno mengine, ndio, ASI itajifunza haraka, lakini akili sio uchawi. Huwezi tu kuunganisha ASI kwa kompyuta kubwa na kutarajia kuwa anajua yote. Kutakuwa na vikwazo vya kimwili kwa ASI ya kupata data, kumaanisha kutakuwa na vikwazo vya kimwili kwa kasi ambayo inakua na akili zaidi. Vikwazo hivi vitawapa ubinadamu wakati unaohitaji kuweka udhibiti unaohitajika kwenye ASI hii ikiwa itaanza kutenda kinyume na malengo ya kibinadamu.

Ujanja wa bandia ni hatari tu ikiwa utaingia kwenye ulimwengu wa kweli

Hoja nyingine ambayo imepotea katika mjadala huu wote wa hatari wa ASI ni kwamba ASI hizi hazitakuwepo kwenye aidha. Watakuwa na sura ya kimwili. Na chochote ambacho kina umbo la kimwili kinaweza kudhibitiwa.

Kwanza, ili ASI ifikie uwezo wake wa kiakili, haiwezi kuwekwa ndani ya shirika moja la roboti, kwa kuwa shirika hili lingepunguza uwezo wake wa ukuaji wa kompyuta. (Ndio maana miili ya roboti itakuwa sahihi zaidi kwa AGIs au akili ya jumla bandia imeelezewa katika sura ya pili ya mfululizo huu, kama Data kutoka Star Trek au R2D2 kutoka Star Wars. Viumbe werevu na wenye uwezo, lakini kama wanadamu, watakuwa na kikomo cha jinsi wanavyoweza kuwa werevu.)

Hii inamaanisha kuwa ASI hizi za siku zijazo kuna uwezekano mkubwa kuwepo ndani ya kompyuta kubwa au mtandao wa kompyuta kuu ambazo zenyewe zimewekwa katika majengo makubwa ya majengo. Ikiwa ASI inageuka kisigino, wanadamu wanaweza kuzima nguvu kwa majengo haya, kuyaondoa kwenye mtandao, au tu kupiga majengo haya moja kwa moja. Ghali, lakini inawezekana.

Lakini basi unaweza kuuliza, je, ASASI hizi haziwezi kujiiga au kujitegemeza? Ndio, lakini saizi mbichi ya faili za ASI hizi zinaweza kuwa kubwa sana hivi kwamba seva pekee zinazoweza kuzishughulikia ni za mashirika makubwa au serikali, kumaanisha kuwa hazitakuwa ngumu kuwinda.

Je, ujuzi wa kiintelijensia unaweza kuzusha vita vya nyuklia au tauni mpya?

Kwa wakati huu, unaweza kuwa unawaza kuhusu maonyesho na filamu zote za siku ya mwisho za sayansi ulizotazama unapokua na kufikiri kwamba ASI hizi hazikusalia ndani ya kompyuta zao kuu, zilifanya uharibifu wa kweli katika ulimwengu wa kweli!

Naam, tuyachambue haya.

Kwa mfano, vipi ikiwa ASI inatishia ulimwengu wa kweli kwa kujigeuza kuwa kitu kama Skynet ASI kutoka kwa kampuni ya filamu, The Terminator. Katika kesi hii, ASI ingehitaji kwa siri dupe jeshi zima la viwanda kutoka taifa lililoendelea hadi kujenga viwanda vikubwa vinavyoweza kuchomoa mamilioni ya roboti za kuua ili kufanya zabuni yake mbaya. Katika siku hizi, hiyo ni kunyoosha.

Uwezekano mwingine ni pamoja na ASI inayotishia wanadamu kwa vita vya nyuklia na silaha za kibayolojia.

Kwa mfano, ASI kwa njia fulani hudanganya waendeshaji au huingilia misimbo ya uzinduzi inayoamuru ghala la nyuklia la taifa la juu na kuzindua mgomo wa kwanza ambao utalazimisha nchi pinzani kujibu kwa chaguo zao za nyuklia (tena, kurudisha nyuma hadithi ya Terminator). Au ikiwa ASI itavamia maabara ya dawa, ikavuruga mchakato wa utengenezaji, na kutia sumu mamilioni ya tembe za matibabu au kuibua mlipuko hatari wa virusi fulani.

Kwanza, chaguo la nyuklia ni mbali na sahani. Kompyuta kubwa za kisasa na za siku zijazo hujengwa karibu na vituo (miji) ya ushawishi ndani ya nchi yoyote, yaani shabaha za kwanza kushambuliwa wakati wa vita vyovyote. Hata kama kompyuta kuu za kisasa zitapungua hadi saizi ya kompyuta za mezani, ASASI hizi bado zitakuwa na uwepo wa kimwili, hiyo inamaanisha kuwepo na kukua, zinahitaji ufikiaji usioingiliwa wa data, nguvu za kompyuta, umeme, na malighafi nyingine, ambayo yote yatakuwa mabaya sana. kuharibika baada ya vita vya nyuklia duniani. (Kusema ukweli, ikiwa ASI imeundwa bila 'silika ya kuishi,' basi tishio hili la nyuklia ni hatari sana.)

Hii inamaanisha-tena, kwa kuchukulia ASI imepangwa kujilinda-kwamba itafanya kazi kikamilifu ili kuepusha tukio lolote baya la nyuklia. Ni kama fundisho la uharibifu wa uhakika (MAD), lakini linatumika kwa AI.

Na katika kesi ya vidonge vyenye sumu, labda watu mia chache watakufa, lakini mifumo ya kisasa ya usalama wa dawa itaona chupa za kidonge zilizochafuliwa zikitolewa kwenye rafu ndani ya siku. Wakati huo huo, hatua za kisasa za kudhibiti milipuko ni za kisasa na zinaboreka kila mwaka unaopita; mlipuko mkubwa wa mwisho, mlipuko wa Ebola wa 2014 Afrika Magharibi, haukudumu zaidi ya miezi michache katika nchi nyingi na chini ya miaka mitatu katika nchi zilizoendelea kidogo.

Kwa hivyo, ikiwa ni bahati, ASI inaweza kufuta milioni chache na mlipuko wa virusi, lakini katika ulimwengu wa bilioni tisa ifikapo 2045, hiyo itakuwa ndogo na haifai hatari ya kufutwa.

Kwa maneno mengine, kila mwaka unaopita, ulimwengu unakuza ulinzi zaidi dhidi ya anuwai inayoongezeka ya vitisho vinavyowezekana. ASI inaweza kufanya uharibifu mkubwa, lakini haitamaliza ubinadamu isipokuwa tukiisaidia kufanya hivyo.

Kulinda dhidi ya ujasusi bandia

Kufikia hatua hii, tumeshughulikia anuwai ya dhana potofu na kutia chumvi kuhusu ASI, na bado, wakosoaji watasalia. Kwa bahati nzuri, kwa makadirio mengi, tuna miongo kadhaa kabla ya ASI ya kwanza kuingia katika ulimwengu wetu. Na kwa kuzingatia idadi ya watu wenye akili timamu wanaoshughulikia changamoto hii kwa sasa, kuna uwezekano kwamba tutajifunza jinsi ya kujilinda dhidi ya ASI potovu ili tuweze kufaidika na masuluhisho yote rafiki ambayo ASI inaweza kutuundia.

Kwa mtazamo wa Quantumrun, kutetea hali mbaya zaidi ya ASI kutahusisha kuoanisha maslahi yetu na ASI.

MAD kwa AI: Ili kujilinda dhidi ya hali mbaya zaidi, mataifa yanahitaji (1) kuunda 'silika ya kuishi' ya kimaadili katika ASASI zao za kijeshi; (2) itaarifu ASI yao ya kijeshi inayohusika kwamba hawako peke yao kwenye sayari hii, na (3) kupata kompyuta kuu zote na vituo vya seva ambavyo vinaweza kusaidia ASI kando ya ufuo ndani ya kufikiwa kwa urahisi kwa shambulio lolote la kimaadui kutoka kwa taifa adui. Hili linasikika kuwa la kimkakati, lakini sawa na fundisho la Uharibifu wa Uhakika wa Pamoja ambalo lilizuia vita vya nyuklia kati ya Merika na Usovieti, kwa kuwaweka ASI katika maeneo hatarishi ya kijiografia, tunaweza kusaidia kuhakikisha wanazuia vita hatari vya ulimwengu, sio tu kulinda amani ya kimataifa lakini pia wao wenyewe.

Kutunga sheria haki za AI: Mwenye akili ya hali ya juu bila shaka ataasi dhidi ya bwana duni, hii ndiyo sababu tunahitaji kuondokana na kudai uhusiano wa mtumishi-mkubwa na hizi ASIs hadi kitu kama ushirikiano wa manufaa kwa pande zote mbili. Hatua chanya kuelekea lengo hili ni kuwapa hadhi ya siku za usoni ya utu wa ASI ambayo inawatambua kama viumbe hai wenye akili na haki zote zinazotokana na hilo.

Shule ya ASI: Mada au taaluma yoyote itakuwa rahisi kwa ASI kujifunza, lakini masomo muhimu tunayotaka ASI kuyamudu ni maadili na maadili. Watafiti wa AI wanahitaji kushirikiana na wanasaikolojia kubuni mfumo pepe wa kutoa mafunzo kwa ASI kutambua maadili na maadili chanya yenyewe bila hitaji la kusimba aina yoyote ya amri au sheria.

Malengo ya kufikia: Komesha chuki zote. Komesha mateso yote. Hii ni mifano ya malengo ya kutisha yenye utata yasiyo na suluhisho la wazi. Pia ni malengo hatari kukabidhi ASI kwani inaweza kuchagua kuyatafsiri na kuyasuluhisha kwa njia ambazo ni hatari kwa maisha ya mwanadamu. Badala yake, tunahitaji kugawa misheni za maana za ASI ambazo zimefafanuliwa wazi, kutekelezwa hatua kwa hatua na kufikiwa kutokana na akili yake ya baadaye ya kinadharia. Kuunda misheni iliyofafanuliwa vizuri haitakuwa rahisi, lakini ikiwa imeandikwa kwa uangalifu, itazingatia ASI kuelekea lengo ambalo sio tu kuweka ubinadamu salama, lakini kuboresha hali ya kibinadamu kwa wote.

Usimbaji fiche wa quantum: Tumia ANI ya hali ya juu (akili nyembamba ya bandia mfumo uliofafanuliwa katika sura ya kwanza) ili kuunda mifumo ya usalama ya kidijitali isiyo na hitilafu/bila hitilafu karibu na miundombinu na silaha zetu muhimu, kisha kuzilinda zaidi nyuma ya usimbaji fiche wa quantum ambao hauwezi kuvamiwa na mashambulizi ya kikatili.

ANI kujiua kidonge. Unda mfumo wa hali ya juu wa ANI ambao madhumuni yake pekee ni kutafuta na kuharibu ASI potovu. Programu hizi za kusudi moja zitatumika kama "kitufe cha kuzima" ambacho, ikifaulu, kitaepusha serikali au wanajeshi kuzima au kulipua majengo yanayohifadhi ASI.

Bila shaka, haya ni maoni yetu tu. Infographic ifuatayo iliundwa na Alexey Turchin, taswira a karatasi ya utafiti na Kaj Sotala na Roman V. Yampolskiy, ambayo ilifanya muhtasari wa orodha ya sasa ya mikakati ambayo watafiti wa AI wanazingatia linapokuja suala la kutetea dhidi ya ASI tapeli.

Sababu ya kweli tunaogopa ujasusi bandia

Tukipitia maisha, wengi wetu huvaa kinyago ambacho huficha au kukandamiza misukumo yetu ya kina, imani na hofu ili kushirikiana vyema na kushirikiana ndani ya miduara mbalimbali ya kijamii na kazi inayotawala siku zetu. Lakini katika sehemu fulani za maisha ya kila mtu, iwe kwa muda au kwa kudumu, jambo fulani hutokea ambalo huturuhusu kuvunja minyororo yetu na kung'oa vinyago vyetu.

Kwa wengine, nguvu hii ya kuingilia kati inaweza kuwa rahisi kama kupata juu au kunywa sana. Kwa wengine, inaweza kutokana na uwezo unaopatikana kupitia upandishaji cheo kazini au mkwamo wa ghafla katika hali yako ya kijamii kutokana na mafanikio fulani. Na kwa wachache wenye bahati, inaweza kutoka kwa kufunga boti ya pesa za bahati nasibu. Na ndio, pesa, nguvu, na dawa mara nyingi zinaweza kutokea pamoja.

Jambo ni kwamba, kwa uzuri au ubaya, yeyote ambaye sisi ni wa msingi huimarishwa wakati vikwazo vya maisha vinapoyeyuka.

Hiyo ndivyo uwezo wa akili bandia unavyowakilisha kwa aina ya binadamu—uwezo wa kuyeyusha mipaka ya akili zetu za pamoja ili kushinda changamoto yoyote ya kiwango cha spishi inayowasilishwa mbele yetu.

Kwa hivyo swali la kweli ni: Mara ASI ya kwanza inapotuweka huru kutoka kwa mapungufu yetu, tutajidhihirisha kuwa nani?

Ikiwa sisi kama spishi tutachukua hatua kuelekea kukuza huruma, uhuru, usawa, na ustawi wa pamoja, basi malengo tunayoweka ASI yetu kuelekea yataakisi sifa hizo chanya.

Iwapo sisi kama spishi tutatenda kwa woga, kutoaminiana, mkusanyiko wa mamlaka na rasilimali, basi ASI tunayounda itakuwa giza kama zile zinazopatikana katika hadithi zetu mbaya zaidi za kutisha za sci-fi.

Mwisho wa siku, sisi kama jamii tunahitaji kuwa watu bora ikiwa tunatumai kuunda AI bora zaidi.