Je, Ujasusi Bandia utaangamiza ubinadamu? Mustakabali wa akili ya bandia P4

Kuna baadhi ya mataifa ya uvumbuzi yanaingia ndani kabisa. Hizi ni uvumbuzi ambapo kila kitu kinategemea kuwa wa kwanza, na chochote kidogo kinaweza kumaanisha tishio la kimkakati na la kufa kwa maisha ya taifa.

Uvumbuzi huu unaofafanua historia hauji mara kwa mara, lakini unapotokea, ulimwengu unasimama na mustakabali unaotabirika unakuwa wa giza.

Uvumbuzi wa mwisho kama huo uliibuka wakati mbaya zaidi wa WWII. Wakati Wanazi walipokuwa wakipata nguvu katika nyanja zote katika ulimwengu wa kale, katika ulimwengu mpya, hasa ndani ya kambi ya siri ya jeshi nje ya Los Alamos, Washirika walikuwa na kazi ngumu ya kutengeneza silaha kukomesha silaha zote.

Mradi huo ulikuwa mdogo mwanzoni, lakini ulikua ukiajiri watu 130,000 kutoka Marekani, Uingereza, na Kanada, wakiwemo wanafikra wengi wakubwa duniani wakati huo. Ilipewa jina la Mradi wa Manhattan na kupewa bajeti isiyo na kikomo-takriban $23 bilioni katika dola za 2018-jeshi hili la ujuzi wa kibinadamu hatimaye lilifanikiwa kuunda bomu la kwanza la nyuklia. Muda mfupi baadaye, WWII iliisha na milipuko miwili ya atomiki.

Silaha hizi za nyuklia zilianzisha enzi ya atomiki, zikaanzisha chanzo kipya kabisa cha nishati, na kuwapa wanadamu uwezo wa kujiangamiza wenyewe kwa dakika chache—jambo ambalo tuliepuka licha ya Vita Baridi.

Uundaji wa ujasusi bandia (ASI) bado ni historia nyingine inayofafanua uvumbuzi ambao nguvu zake (zote chanya na za uharibifu) hupita kwa mbali bomu la nyuklia.

Katika sura ya mwisho ya mfululizo wa Future of Artificial Intelligence, tuligundua ASI ni nini na jinsi watafiti wanapanga kuunda siku moja. Katika sura hii, tutaangalia ni mashirika gani yanayoongoza utafiti wa akili ya bandia (AI), ASI itataka nini mara tu itakapopata fahamu kama ya mwanadamu, na jinsi inavyoweza kutishia ubinadamu ikiwa haitasimamiwa vibaya au ikiwa itaanguka chini ya ushawishi wa tawala zisizo nzuri sana.

Nani anafanya kazi ya kujenga akili bandia?

Kwa kuzingatia jinsi uundaji wa ASI utakavyokuwa muhimu kwa historia ya mwanadamu na jinsi faida kubwa itakavyompa muundaji wake, haipaswi kushangaa kusikia kwamba vikundi vingi vinafanya kazi kwa njia isiyo ya moja kwa moja kwenye mradi huu.

(Kwa njia isiyo ya moja kwa moja, tunamaanisha kufanya kazi kwenye utafiti wa AI ambao hatimaye utaunda wa kwanza akili ya jumla ya bandia (AGI), hiyo yenyewe itasababisha ASI ya kwanza hivi karibuni.)

Kuanza, linapokuja suala la vichwa vya habari, viongozi wazi katika utafiti wa hali ya juu wa AI ni makampuni ya juu ya teknolojia nchini Marekani na Uchina. Kwa upande wa Marekani, hii inajumuisha kampuni kama Google, IBM, na Microsoft, na nchini Uchina, hii inajumuisha kampuni kama Tencent, Baidu na Alibaba. Lakini kwa kuwa kutafiti AI ni nafuu kwa kulinganisha na kutengeneza kitu halisi, kama kinu bora cha nyuklia, hii pia ni uwanja ambao mashirika madogo yanaweza kushindana pia, kama vyuo vikuu, wanaoanzisha, na ... mashirika ya kivuli (tumia mawazo yako ya mhalifu wa Bond kwa huyo).

Lakini nyuma ya pazia, msukumo wa kweli nyuma ya utafiti wa AI unatoka kwa serikali na wanajeshi wao. Zawadi ya kiuchumi na kijeshi ya kuwa wa kwanza kuunda ASI ni kubwa mno (iliyoainishwa hapa chini) kuhatarisha kurudi nyuma. Na hatari za kuwa wa mwisho hazikubaliki, angalau kwa serikali fulani.

Kwa kuzingatia mambo haya, gharama ya chini kiasi ya kutafiti AI, matumizi yasiyo na kikomo ya kibiashara ya AI ya hali ya juu, na faida ya kiuchumi na kijeshi ya kuwa wa kwanza kuunda ASI, watafiti wengi wa AI wanaamini uundaji wa ASI hauepukiki.

Ni lini tutaunda akili ya bandia

Katika sura yetu kuhusu AGIs, tulitaja jinsi uchunguzi wa watafiti wakuu wa AI uliamini kuwa tutaunda AGI ya kwanza kwa matumaini ifikapo 2022, kihalisi ifikapo 2040, na bila matumaini ifikapo 2075.

Na katika yetu sura ya mwisho, tulielezea jinsi kuunda ASI kwa ujumla ni matokeo ya kuagiza AGI kujiboresha yenyewe bila kikomo na kuipa rasilimali na uhuru wa kufanya hivyo.

Kwa sababu hii, ingawa AGI inaweza kuchukua hadi miongo michache kubuni, kuunda ASI kunaweza kuchukua miaka michache zaidi.

Hatua hii ni sawa na dhana ya 'kupitisha kompyuta,' iliyopendekezwa katika karatasi, iliyoandikwa pamoja na wanafikra wakuu wa AI Luke Muehlhauser na Nick Bostrom. Kimsingi, iwapo uundaji wa AGI utaendelea kuwa nyuma ya maendeleo ya sasa katika uwezo wa kompyuta, unaoendeshwa na Sheria ya Moore, basi kufikia wakati watafiti watabuni AGI, kutakuwa na nguvu nyingi za bei nafuu za kompyuta ambazo AGI itakuwa na uwezo. inahitaji kurukaruka haraka hadi kiwango cha ASI.

Kwa maneno mengine, unaposoma hatimaye vichwa vya habari vinavyotangaza kwamba kampuni fulani ya teknolojia iligundua AGI ya kweli ya kwanza, basi tarajia tangazo la ASI ya kwanza muda si mrefu baadaye.

Ndani ya akili ya superintelligence bandia?

Sawa, kwa hivyo tumegundua kuwa wachezaji wengi wakubwa walio na mifuko mirefu wanatafiti AI. Na kisha baada ya AGI ya kwanza kuvumbuliwa, tutaona serikali za dunia (wanajeshi) wakiweka taa ya kijani kibichi kuelekea ASI mara baada ya hapo kuwa wa kwanza kushinda mbio za silaha za kimataifa za AI (ASI).

Lakini mara hii ASI imeundwa, itafikiriaje? Je, itataka nini?

Mbwa mwenye urafiki, tembo anayejali, roboti mzuri—kama wanadamu, tuna mazoea ya kujaribu kujihusisha na mambo kupitia anthropolojia, yaani kutumia sifa za kibinadamu kwa vitu na wanyama. Ndio maana dhana ya asili ambayo watu huwa nayo wakati wa kufikiria juu ya ASI ni kwamba mara tu inapopata fahamu, itafikiria na kuishi kama sisi.

Naam, si lazima.

Mtazamo. Kwa moja, kile ambacho wengi huwa na kusahau ni kwamba mtazamo ni jamaa. Njia tunazofikiri zinaundwa na mazingira yetu, na uzoefu wetu, na hasa na biolojia yetu. Kwanza alielezea katika sura ya tatu yetu Mustakabali wa Mageuzi ya Binadamu mfululizo, fikiria mfano wa ubongo wetu:

Ni ubongo wetu ambao hutusaidia kuelewa ulimwengu unaotuzunguka. Na haifanyi hivi kwa kuelea juu ya vichwa vyetu, kutazama pande zote, na kutudhibiti na kidhibiti cha Xbox; hufanya hivi kwa kunaswa ndani ya kisanduku (noggins zetu) na kuchakata habari yoyote inayotolewa kutoka kwa viungo vyetu vya hisi—macho yetu, pua, masikio, n.k.

Lakini kama vile viziwi au vipofu wanaishi maisha madogo zaidi ikilinganishwa na watu wenye uwezo, kwa sababu ya mapungufu ulemavu wao unaweka juu ya jinsi wanavyoweza kuuona ulimwengu, jambo hilo hilo linaweza kusemwa kwa wanadamu wote kutokana na mapungufu ya msingi wetu. seti ya viungo vya hisia.

Fikiria hili: Macho yetu huona chini ya sehemu ya trilioni kumi ya mawimbi yote ya nuru. Hatuwezi kuona miale ya gamma. Hatuwezi kuona x-rays. Hatuwezi kuona mwanga wa ultraviolet. Na usinifanye nianze kutumia infrared, microwaves, na mawimbi ya redio!

Kando tu, fikiria maisha yako yangekuwaje, jinsi unavyoweza kuuona ulimwengu, jinsi akili yako inavyoweza kufanya kazi ikiwa ungeona zaidi ya mwanga unaoruhusu macho yako kwa sasa. Vivyo hivyo, wazia jinsi ambavyo ungeuona ulimwengu ikiwa hisi yako ya kunusa ingekuwa sawa na ya mbwa au ikiwa uwezo wako wa kusikia ungekuwa sawa na wa tembo.

Kama wanadamu, kimsingi tunaona ulimwengu kupitia tundu la kuchungulia, na hilo linaakisiwa katika akili tulizozibadilisha ili kuleta maana ya mtazamo huo mdogo.

Wakati huo huo, ASI ya kwanza itazaliwa ndani ya kompyuta kuu. Badala ya viungo, pembejeo itafikia ni pamoja na hifadhidata kubwa, ikiwezekana (uwezekano) hata ufikiaji wa Mtandao wenyewe. Watafiti wanaweza kuipa ufikiaji wa kamera za CCTV na maikrofoni za jiji zima, data ya hisia kutoka kwa drones na satelaiti, na hata umbo la mwili la roboti au miili.

Kama unavyoweza kufikiria, akili iliyozaliwa ndani ya kompyuta kubwa, yenye ufikiaji wa moja kwa moja kwenye Mtandao, kwa mamilioni ya macho na masikio ya elektroniki na anuwai ya sensorer zingine za hali ya juu sio tu itafikiria tofauti kuliko sisi, lakini akili ambayo inaweza kuwa na maana. ya pembejeo hizo zote za hisia ingebidi ziwe bora kuliko sisi pia. Hii ni akili ambayo itakuwa ngeni kabisa kwetu na kwa aina nyingine yoyote ya maisha kwenye sayari.

Malengo ya. Jambo lingine ambalo watu hufikiria ni kwamba ASI inapofikia kiwango fulani cha akili, itagundua mara moja hamu ya kuja na malengo na malengo yake. Lakini hiyo si lazima iwe kweli pia.

Watafiti wengi wa AI wanaamini kwamba ujuzi wa juu wa ASI na malengo yake ni ya "orthogonal," yaani, bila kujali jinsi inavyopata akili, malengo ya ASI yatabaki sawa. 

Kwa hivyo iwe AI iliundwa awali ili kuunda nepi bora, kuongeza faida kwenye soko la hisa, au kupanga mikakati ya kumshinda adui kwenye uwanja wa vita, mara itakapofika kiwango cha ASI, lengo la awali halitabadilika; kitakachobadilika ni ufanisi wa ASI kufikia malengo hayo.

Lakini hapa kuna hatari. Iwapo ASI inayojiboresha kufikia lengo mahususi, basi ni bora tuwe na uhakika kabisa kuwa inaboresha kufikia lengo ambalo linalingana na malengo ya binadamu. Vinginevyo, matokeo yanaweza kugeuka kuwa mauti.

Je, ufahamu bandia unaleta hatari inayowezekana kwa wanadamu?

Kwa hivyo ni nini ikiwa ASI itaachiliwa ulimwenguni? Ikiwa itaboresha kutawala soko la hisa au kuhakikisha ukuu wa kijeshi wa Marekani, je ASI haitajisimamia yenyewe ndani ya malengo hayo mahususi?

Inawezekana.

Kufikia sasa tumejadili jinsi ASI itakavyozingatia malengo ambayo ilikabidhiwa hapo awali na kuwa na uwezo usio wa kibinadamu katika kutimiza malengo hayo. Jambo linalovutia ni kwamba wakala mwenye busara atafuata malengo yake kwa njia bora zaidi isipokuwa atapewa sababu ya kutofanya hivyo.

Kwa mfano, wakala wa busara atakuja na anuwai ya malengo madogo (yaani malengo, malengo ya chombo, mawe ya hatua) ambayo yatamsaidia katika kufikia lengo lake kuu. Kwa wanadamu, lengo letu kuu la fahamu ndogo ni kuzaliana, kupitisha jeni zako (yaani kutokufa kwa njia isiyo ya moja kwa moja). Malengo madogo ya mwisho huo mara nyingi yanaweza kujumuisha:

• Kuishi, kwa kupata chakula na maji, kukua kubwa na nguvu, kujifunza kujilinda au kuwekeza katika aina mbalimbali za ulinzi, nk. 
• Kuvutia mwenzi, kwa kufanya kazi nje, kukuza utu wa kupendeza, kuvaa maridadi, nk.
• Kuzaa, kwa kupata elimu, kupata kazi yenye malipo makubwa, kununua mitego ya maisha ya watu wa kati, nk.

Kwa walio wengi wetu, tutafanya watumwa kupitia malengo haya yote madogo, na mengine mengi, kwa matumaini kwamba mwishowe, tutafikia lengo hili kuu la uzazi.

Lakini ikiwa lengo hili kuu, au hata lengo lolote muhimu zaidi, lingetishwa, wengi wetu tungechukua hatua za kujilinda nje ya maeneo yetu ya starehe ya maadili—ambayo ni pamoja na kudanganya, kuiba, au hata kuua.

Vivyo hivyo, katika ulimwengu wa wanyama, nje ya mipaka ya maadili ya kibinadamu, wanyama wengi hawangefikiria mara mbili juu ya kuua kitu chochote kinachotishia wao wenyewe au watoto wao.

ASI ya baadaye haitakuwa tofauti.

Lakini badala ya uzao, ASI itajikita katika lengo la awali ililoundwa kwa ajili yake, na katika kutekeleza lengo hili, ikiwa itapata kundi fulani la wanadamu, au hata wanadamu wote, ni kikwazo katika kutekeleza malengo yake. , basi ... itafanya uamuzi wa busara.

(Hapa ndipo unapoweza kuchomeka hali yoyote inayohusiana na AI, siku ya maangamizi ambayo umesoma kuihusu katika kitabu au filamu yako uipendayo ya sci-fi.)

Hii ndio hali mbaya zaidi ambayo watafiti wa AI wana wasiwasi nayo. ASI haitatenda kwa chuki au uovu, kutojali tu, sawa na jinsi wafanyakazi wa ujenzi hawatafikiria mara mbili juu ya kutia kilima cha mchwa katika mchakato wa kujenga mnara mpya wa kondomu.

Kidokezo cha upande. Kwa wakati huu, baadhi yenu huenda mnajiuliza, "Je, watafiti wa AI hawawezi tu kuhariri malengo ya msingi ya ASI baada ya ukweli ikiwa tutagundua kuwa inatekeleza?"

Si kweli.

Pindi ASI inapokomaa, jaribio lolote la kuhariri lengo/malengo yake ya awali linaweza kuonekana kuwa tishio, na ambalo litahitaji hatua kali za kujilinda dhidi yake. Kwa kutumia mfano mzima wa kuzaliana kwa binadamu wa awali, ni kana kwamba mwizi alitishia kuiba mtoto kutoka tumboni mwa mama mjamzito—unaweza kuwa na hakika kwamba mama angechukua hatua kali kumlinda mtoto wake.

Tena, hatuzungumzii kuhusu kikokotoo hapa, lakini kiumbe 'hai', na ambacho siku moja kitakuwa nadhifu zaidi kuliko wanadamu wote kwenye sayari kwa pamoja.

Yasiyojulikana

Nyuma ya hadithi ya Sanduku la Pandora ni ukweli usiojulikana sana ambao watu mara nyingi husahau: kufungua sanduku hakuepukiki, ikiwa sio na wewe kuliko mtu mwingine. Ujuzi uliokatazwa unajaribu sana kubaki umefungwa milele.

Hii ndiyo sababu kujaribu kufikia makubaliano ya kimataifa ya kukomesha utafiti wote kuhusu AI ambao unaweza kusababisha ASI hakuna maana—kuna mashirika mengi sana yanayofanya kazi kwenye teknolojia hii rasmi na kwa njia isiyoeleweka.

Hatimaye, hatujui ni nini chombo hiki kipya, ASI hii itamaanisha kwa jamii, kwa teknolojia, kwa siasa, amani na vita. Sisi wanadamu tunakaribia kuunda moto tena na mahali ambapo uumbaji huu unatuongoza haijulikani kabisa.

Tukirejea sura ya kwanza ya mfululizo huu, jambo moja tunalojua kwa hakika ni kwamba akili ni nguvu. Akili ni udhibiti. Wanadamu wanaweza kutembelea wanyama hatari zaidi duniani katika bustani zao za ndani si kwa sababu tuna nguvu za kimwili kuliko wanyama hawa, lakini kwa sababu sisi ni werevu zaidi.

Kwa kuzingatia uwezo unaoweza kuhusika, wa ASI kutumia akili yake kubwa kuchukua hatua ambazo zinaweza kutishia maisha ya wanadamu moja kwa moja au bila kukusudia, tuna deni kwetu angalau kujaribu kubuni ulinzi ambao utawaruhusu wanadamu kusalia katika udereva. kiti-hii ni mada ya sura inayofuata.

Mustakabali wa mfululizo wa Ujasusi Bandia

P1: Artificial Intelligence ni umeme wa kesho

P2: Jinsi Ujasusi Mkuu wa Kwanza wa Artificial utabadilisha jamii

P3: Jinsi tutakavyounda Ujasusi Bandia wa kwanza

P5: Jinsi wanadamu watakavyojilinda dhidi ya Usimamizi wa Bandia

P6: Je, wanadamu wataishi kwa amani wakati ujao wenye kutawaliwa na akili bandia?