Superintelliġenza Artifiċjali se teqred l-umanità? Futur tal-intelliġenza artifiċjali P4

Hemm ċerti invenzjonijiet li n-nazzjonijiet imorru kollha fuqhom. Dawn huma invenzjonijiet fejn kollox jiddependi li tkun l-ewwel, u kull ħaġa inqas tista’ tfisser theddida strateġika u mortali għas-sopravivenza ta’ nazzjon.

Dawn l-invenzjonijiet li jiddefinixxu l-istorja ma jseħħux ta' spiss, iżda meta jagħmlu dan, id-dinja tieqaf u futur prevedibbli jsir imċajpar.

L-aħħar invenzjoni bħal din ħarġet matul l-agħar tat-Tieni Gwerra Gwerra. Filwaqt li n-Nazis kienu qed jaqbdu l-art fuq il-fronti kollha fid-dinja l-qadima, fid-dinja l-ġdida, speċifikament ġewwa bażi tal-armata sigrieta barra minn Los Alamos, l-Alleati kienu qed jaħdmu iebes fuq arma biex itemmu l-armi kollha.

Il-proġett kien żgħir għall-ewwel, iżda mbagħad kiber biex jimpjega 130,000 ruħ mill-Istati Uniti, ir-Renju Unit, u l-Kanada, inklużi ħafna mill-akbar ħassieba tad-dinja dak iż-żmien. Isemha bħala l-Proġett Manhattan u ngħatat baġit illimitat—madwar $23 biljun f’dollari tal-2018—din l-armata ta’ għerf uman eventwalment irnexxielha toħloq l-ewwel bomba nukleari. Ftit wara, it-Tieni Gwerra Gwerra spiċċat b'żewġ bangs atomiċi.

Dawn l-armi nukleari daħlu fl-era atomika, introduċew sors profondament ġdid ta’ enerġija, u taw lill-umanità l-abbiltà li teqred lilha nnifisha fi ftit minuti—xi ħaġa li evitajna minkejja l-Gwerra Bierda.

Il-ħolqien ta 'superintelliġenza artifiċjali (ASI) hija storja oħra li tiddefinixxi invenzjoni li l-qawwa tagħha (kemm pożittiva kif ukoll distruttiva) tisboq bil-bosta l-bomba nukleari.

Fl-aħħar kapitolu tas-serje Future of Artificial Intelligence, esplorajna x'inhi ASI u kif ir-riċerkaturi jippjanaw li xi darba jibnu waħda. F'dan il-kapitlu, aħna ser inħarsu lejn liema organizzazzjonijiet qed imexxu riċerka dwar l-intelliġenza artifiċjali (AI), x'se jkun irid ASI ladarba jikseb sensi bħal bniedem, u kif jista' jhedded lill-umanità jekk ikun immaniġġjat ħażin jew jekk wieħed jaqa' taħt l-influwenza ta' reġimi mhux daqshekk sbieħ.

Min qed jaħdem biex jibni superintelliġenza artifiċjali?

Meta wieħed iqis kemm il-ħolqien ta' ASI se jkun sinifikanti għall-istorja tal-bniedem u kemm se jagħti vantaġġ imdaqqas lill-ħallieq tiegħu, m'għandux ikun sorpriża li tisma' li ħafna gruppi qed jaħdmu indirettament fuq dan il-proġett.

(B'indirett, irridu nfissru li naħdmu fuq riċerka tal-AI li eventwalment se toħloq l-ewwel Intelliġenza ġenerali artifiċjali (AGI), li huwa stess se jwassal għall-ewwel ASI ftit wara.)

Biex tibda, meta niġu għall-aħbarijiet, il-mexxejja ċari fir-riċerka avvanzata tal-AI huma l-aqwa ditti tat-teknoloġija fl-Istati Uniti u ċ-Ċina. Fuq il-faċċata tal-Istati Uniti, dan jinkludi kumpaniji bħal Google, IBM u Microsoft, u fiċ-Ċina, dan jinkludi kumpaniji bħal Tencent, Baidu u Alibaba. Iżda peress li r-riċerka tal-AI hija relattivament irħisa meta mqabbla mal-iżvilupp ta’ xi ħaġa fiżika, bħal reattur nukleari aħjar, dan huwa wkoll qasam li fih organizzazzjonijiet iżgħar jistgħu jikkompetu wkoll, bħal universitajiet, negozji ġodda, u... dak wieħed).

Iżda wara l-kwinti, l-ispinta reali wara r-riċerka tal-AI ġejja mill-gvernijiet u l-militar tagħhom. Il-premju ekonomiku u militari li tkun l-ewwel li toħloq ASI huwa kbir wisq (deskritt hawn taħt) biex tirriskja li taqa 'lura. U l-perikli li tkun l-aħħar huma inaċċettabbli, għall-inqas għal ċerti reġimi.

Minħabba dawn il-fatturi, l-ispiża relattivament baxxa tar-riċerka tal-AI, l-applikazzjonijiet kummerċjali infiniti tal-AI avvanzata, u l-vantaġġ ekonomiku u militari li tkun l-ewwel li toħloq ASI, ħafna riċerkaturi tal-AI jemmnu li l-ħolqien ta 'ASI huwa inevitabbli.

Meta se noħolqu superintelliġenza artifiċjali

Fil-kapitolu tagħna dwar l-AGIs, semmejna kif stħarriġ tal-aqwa riċerkaturi tal-AI emmnu li se noħolqu l-ewwel AGI b'mod ottimist sal-2022, b'mod realistiku sal-2040, u b'mod pessimist sal-2075.

U fil tagħna l-aħħar kapitlu, aħna ddeskrivejna kif il-ħolqien ta 'ASI ġeneralment huwa r-riżultat ta' struzzjonijiet lil AGI biex ittejjeb lilha nnifisha infinitament u tagħtiha r-riżorsi u l-libertà biex tagħmel dan.

Għal din ir-raġuni, filwaqt li AGI għadu jista' jieħu sa ftit għexieren ta' snin biex jivvinta, il-ħolqien ta' ASI jista' jieħu biss ftit snin aktar.

Dan il-punt huwa simili għall-kunċett ta ''computing overhang,' issuġġerit fi karta, ko-miktub minn ħassieba ewlenin tal-AI Luke Muehlhauser u Nick Bostrom. Bażikament, jekk il-ħolqien ta' AGI jibqa' lura wara l-progress attwali fil-kapaċità tal-kompjuters, imħaddem bil-Liġi ta' Moore, imbagħad saż-żmien li r-riċerkaturi jivvintaw AGI, se jkun hemm tant qawwa tal-kompjuters irħas disponibbli li l-AGI se jkollu l-kapaċità. jeħtieġ li jaqbeż malajr għal-livell ta 'ASI.

Fi kliem ieħor, meta fl-aħħar taqra l-aħbarijiet li jħabbru li xi kumpanija tat-teknoloġija ivvintat l-ewwel AGI vera, imbagħad tistenna t-tħabbira tal-ewwel ASI mhux twil wara.

Ġewwa l-moħħ ta 'superintelliġenza artifiċjali?

Tajjeb, allura waqqafna li ħafna atturi kbar bi bwiet fil-fond qed jirriċerkaw l-AI. U mbagħad wara li jiġi ivvintat l-ewwel AGI, naraw gvernijiet dinjin (militari) jagħtu dawl aħdar lill-ispinta lejn ASI ftit wara biex ikunu l-ewwel li jirbħu t-tellieqa għall-armi globali tal-AI (ASI).

Imma ladarba dan l-ASI jinħoloq, kif se jaħseb? X'se trid?

Il-kelb ta’ ħbiberija, l-iljunfant li jieħu ħsieb, ir-robot ħelu—bħala bnedmin, għandna drawwa li nippruvaw nirrelataw mal-affarijiet permezz tal-antropoloġija, jiġifieri napplikaw karatteristiċi umani għall-affarijiet u l-annimali. Huwa għalhekk li l-ewwel suppożizzjoni naturali li għandhom in-nies meta jaħsbu dwar ASI hija li ladarba b'xi mod jikseb is-sensi, se jaħseb u jġib ruħu b'mod simili għalina.

Ukoll, mhux neċessarjament.

Perċezzjoni. Għal waħda, dak li l-aktar għandhom tendenza li jinsa huwa li l-perċezzjoni hija relattiva. Il-modi kif naħsbu huma ffurmati mill-ambjent tagħna, mill-esperjenzi tagħna, u speċjalment mill-bijoloġija tagħna. L-ewwel spjegat fi kapitlu tlieta ta 'tagħna Futur tal-Evoluzzjoni tal-Bniedem serje, ikkunsidra l-eżempju tal-moħħ tagħna:

Huwa moħħna li jgħinna nagħmlu sens lid-dinja ta’ madwarna. U ma jagħmilx dan billi jżomm f'wiċċ l-ilma 'l fuq minn rasna, inħarsu madwarna, u jikkontrollawna b'kontrollur Xbox; tagħmel dan billi tinqabad ġewwa kaxxa (in-noggins tagħna) u tipproċessa kwalunkwe informazzjoni li tingħata mill-organi sensorji tagħna—għajnejn, imnieħer, widnejn, eċċ.

Imma bħalma t-torox jew l-għomja jgħixu ħajjiet ferm iżgħar meta mqabbla ma’ nies b’saħħithom, minħabba l-limitazzjonijiet li d-diżabilità tagħhom tpoġġi fuq kif jistgħu jipperċepixxu d-dinja, l-istess ħaġa tista’ tgħid għall-bnedmin kollha minħabba l-limitazzjonijiet tal-bażi bażiċi tagħna. sett ta' organi sensorji.

Ikkunsidra dan: Għajnejna jipperċepixxu inqas minn għaxar triljuni tal-mewġ tad-dawl kollu. Ma nistgħux naraw ir-raġġi gamma. Ma nistgħux naraw x-rays. Ma nistgħux naraw dawl ultravjola. U nibdax fuq infrared, microwaves, u mewġ tar-radju!

Kollha ċajt imwarrba, immaġina kif tkun ħajtek, kif tista' tipperċepixxi d-dinja, kemm jista' jaħdem moħħok differenti jekk tista' tara aktar milli t-tifla ċkejkna tad-dawl tippermetti li għajnejk bħalissa. Bl-istess mod, immaġina kif tipperċepixxi d-dinja kieku s-sens tax-xamm tiegħek ikun daqs dak ta’ kelb jew jekk is-sens tas-smigħ tiegħek ikun daqs dak ta’ iljunfant.

Bħala bnedmin, essenzjalment naraw id-dinja permezz ta 'peephole, u dan huwa rifless fl-imħuħ li evolvejna biex nagħmlu sens ta' dik il-perċezzjoni limitata.

Sadanittant, l-ewwel ASI se titwieled ġewwa superkompjuter. Minflok l-organi, l-inputs li se jaċċessa jinkludu datasets ġgant, possibbilment (probabbilment) anke aċċess għall-Internet innifsu. Ir-riċerkaturi jistgħu jagħtuha aċċess għall-kameras CCTV u mikrofoni ta 'belt sħiħa, id-dejta sensorja minn drones u satelliti, u anke l-forma fiżika ta' korp jew korpi robot.

Kif tista’ timmaġina, moħħ imwieled ġewwa superkompjuter, b’aċċess dirett għall-Internet, għal miljuni ta’ għajnejn u widnejn elettroniċi u firxa sħiħa ta’ sensuri avvanzati oħra mhux biss jaħseb differenti minna, iżda moħħ li jista’ jagħmel sens. minn dawk l-inputs sensorji kollha jkollhom ikunu infinitament superjuri għalina wkoll. Dan huwa moħħ li se jkun kompletament aljeni għal tagħna stess u għal kwalunkwe forma ta 'ħajja oħra fuq il-pjaneta.

Għanijiet. Il-ħaġa oħra li n-nies jassumu hija li ladarba ASI tilħaq xi livell ta 'superintelliġenza, immedjatament tirrealizza x-xewqa li toħroġ bl-għanijiet u l-għanijiet tagħha stess. Imma dan mhux bilfors lanqas.

Ħafna riċerkaturi tal-AI jemmnu li s-superintelliġenza ta 'ASI u l-għanijiet tagħha huma "ortogonali", jiġifieri, irrispettivament minn kemm isir intelliġenti, l-għanijiet tal-ASI se jibqgħu l-istess. 

Allura jekk AI hijiex oriġinarjament maħluqa biex tiddisinja ħrieqi aħjar, timmassimizza r-redditu fis-suq tal-ishma, jew tistrateġizza modi biex jegħleb ghadu fuq il-kamp tal-battalja, ladarba tilħaq il-livell ta 'ASI, l-għan oriġinali mhux se jinbidel; dak li se jinbidel hija l-effettività tal-ASI biex tilħaq dawk il-miri.

Imma hawnhekk jinsab il-periklu. Jekk ASI li jottimizza lilha nnifisha għal għan speċifiku, allura aħjar inkunu ċert li jottimizza għal għan li huwa konformi mal-għanijiet tal-umanità. Inkella, ir-riżultati jistgħu jduru fatali.

Superintelliġenza artifiċjali toħloq riskju eżistenzjali għall-umanità?

Allura x'jiġri jekk ASI jiġi mitluq fid-dinja? Jekk tottimizza biex tiddomina l-istokk tas-suq jew tiżgura s-supremazija militari tal-Istati Uniti, l-ASI mhux se żżomm ruħha f'dawk l-għanijiet speċifiċi?

Possibilment.

S'issa ddiskutejna kif ASI se jkun ossessjonat bl-għan(i) li oriġinarjament kien assenjat u b'mod inuman kompetenti fl-insegwiment ta 'dawk l-għanijiet. Il-qabda hija li aġent razzjonali se jsegwi l-għanijiet tiegħu bl-aktar mezzi effiċjenti possibbli sakemm ma jingħatax raġuni biex ma jsirx.

Pereżempju, l-aġent razzjonali se joħroġ b'firxa ta' submiri (jiġifieri għanijiet, għanijiet strumentali, passi kbar) li jgħinuh fi triqtu lejn il-kisba tal-għan aħħari tiegħu. Għall-bnedmin, l-għan subkonxju ewlieni tagħna huwa r-riproduzzjoni, li tgħaddi l-ġeni tiegħek (jiġifieri l-immortalità indiretta). Is-submiri għal dak il-għan spiss jistgħu jinkludu:

• Sopravivenza, billi taċċessa l-ikel u l-ilma, tikber kbira u b'saħħitha, titgħallem tiddefendi lilek innifsek jew tinvesti f'diversi forom ta 'protezzjoni, eċċ. 
• Li tattira sieħeb, billi taħdem, tiżviluppa personalità impenjattiva, tilbes b'mod stylish, eċċ.
• Li tagħti frieħ, billi tikseb edukazzjoni, tikseb impjieg bi ħlas għoli, tixtri l-insib tal-ħajja tal-klassi tan-nofs, eċċ.

Għall-maġġoranza l-kbira minna, aħna ser slave bogħod permezz ta 'dawn is-submiri kollha, u ħafna oħrajn, bit-tama li fl-aħħar, aħna ser niksbu dan l-għan aħħari ta' riproduzzjoni.

Imma kieku dan l-għan aħħari, jew saħansitra xi waħda mis-sottomiri l-aktar importanti, kienu mhedda, ħafna minna kienu jieħdu azzjonijiet difensivi barra miż-żoni taʼ kumdità morali tagħna—li jinkludu qerq, serq, jew saħansitra qtil.

Bl-istess mod, fir-renju tal-annimali, barra l-konfini tal-moralità umana, ħafna annimali ma jaħsbux darbtejn biex joqtlu xi ħaġa li hedded lilhom infushom jew lil uliedhom.

ASI futur mhux se jkun differenti.

Iżda minflok il-frieħ, l-ASI se tiffoka fuq l-għan oriġinali li nħolqot għalih, u fl-insegwiment ta 'dan il-għan, jekk issib grupp partikolari ta' bnedmin, jew saħansitra l-umanità kollha, huwa ostaklu fl-insegwiment tal-għanijiet tagħha. , mela ... se tieħu d-deċiżjoni razzjonali.

(Hawn hu fejn tista' twaħħal kwalunkwe xenarju ta' jum tal-ġuvni relatat mal-AI li qrajt dwaru fil-ktieb jew film favorit tiegħek tax-xjenza fizzjoni.)

Dan huwa l-agħar xenarju li r-riċerkaturi tal-AI huma tassew inkwetati dwaru. L-ASI mhux se jaġixxi minn mibegħda jew ħażen, biss indifferenza, l-istess bħal kif ekwipaġġ tal-kostruzzjoni mhux se jaħsibha darbtejn dwar bulldozing għoljiet nemel fil-proċess tal-bini ta 'torri condo ġdid.

Nota tal-ġenb. F'dan il-punt, xi wħud minnkom jistgħu jistaqsu, "Ma jistgħux ir-riċerkaturi tal-AI biss jeditjaw l-għanijiet ewlenin tal-ASI wara l-fatt jekk insibu li qed jaġixxi?"

Mhux ezatt.

Ladarba ASI timmatura, kwalunkwe tentattiv biex jeditja l-għan(i) oriġinali tiegħu jista' jitqies bħala theddida, u wieħed li jkun jeħtieġ azzjonijiet estremi biex tiddefendi ruħha. Bl-użu tal-eżempju kollu tar-riproduzzjoni umana ta’ qabel, huwa kważi bħallikieku ħalliel hedded li jisraq tarbija minn ġol-ġuf ta’ omm li qed tistenna—tista’ tkun ċert li l-omm tieħu miżuri estremi biex tipproteġi lit-tarbija tagħha.

Għal darb'oħra, mhux qed nitkellmu dwar kalkolatur hawn, iżda ħlejjaq 'ħaj', u wieħed li xi darba se jsir ferm aktar intelliġenti mill-bnedmin kollha fuq il-pjaneta flimkien.

Il-mhux magħruf

Wara l-fabula ta Il-Kaxxa tal-Pandora hija verità inqas magħrufa li n-nies spiss jinsew: il-ftuħ tal-kaxxa huwa inevitabbli, jekk mhux minnek milli minn xi ħadd ieħor. L-għarfien projbit huwa wisq jitħajjar biex jibqa’ msakkra għal dejjem.

Huwa għalhekk li tipprova tilħaq ftehim globali biex titwaqqaf ir-riċerka kollha fl-AI li tista 'twassal għal ASI huwa inutli—hemm wisq organizzazzjonijiet li jaħdmu fuq din it-teknoloġija kemm uffiċjalment kif ukoll fid-dell.

Fl-aħħar mill-aħħar, m’għandniex ħjiel x’se tfisser din l-entità ġdida, din l-ASI għas-soċjetà, għat-teknoloġija, għall-politika, għall-paċi u għall-gwerra. Aħna l-bnedmin waslu biex nivvintaw in-nar mill-ġdid u fejn twassalna dan il-ħolqien mhux magħruf għal kollox.

Looping lura għall-ewwel kapitlu ta 'din is-sensiela, l-unika ħaġa li nafu b'ċertezza hija li l-intelliġenza hija l-poter. L-intelliġenza hija kontroll. Il-bnedmin jistgħu jżuru b'mod każwali l-aktar annimali perikolużi fid-dinja fiż-żoos lokali tagħhom mhux għax aħna fiżikament aktar b'saħħithom minn dawn l-annimali, iżda għax aħna aktar intelliġenti b'mod sinifikanti.

Minħabba l-interessi potenzjali involuti, ta’ ASI li juża l-intellett immens tiegħu biex jieħu azzjonijiet li jistgħu jheddu direttament jew b’mod involontarju s-sopravivenza tar-razza umana, aħna nirrispettaw lilna nfusna li tal-inqas nippruvaw infasslu salvagwardji li jippermettu lill-bnedmin jibqgħu fil-wiċċ tas-sewwieq. sedil—dan huwa s-suġġett tal-kapitolu li jmiss.

Serje Futur ta 'Intelliġenza Artifiċjali

Q1: L-Intelliġenza Artifiċjali hija l-elettriku ta' għada

Q2: Kif l-ewwel Intelliġenza Ġenerali Artifiċjali se tbiddel is-soċjetà

Q3: Kif ser noħolqu l-ewwel Superintelliġenza Artifiċjali

Q5: Kif il-bnedmin se jiddefendu kontra Superintelliġenza Artifiċjali

Q6: Il-bnedmin se jgħixu fil-paċi fi futur iddominat minn intelliġenza artifiċjali?