Mun gervi ofurgreind útrýma mannkyninu? Framtíð gervigreindar P4

Það eru ákveðnar uppfinningar sem þjóðir ganga allt í haginn. Þetta eru uppfinningar þar sem allt veltur á því að vera fyrst og allt minna gæti þýtt stefnumótandi og dauðlega ógn við afkomu þjóðar.

Þessar söguskilgreina uppfinningar koma ekki oft fyrir, en þegar þær gera það stoppar heimurinn og fyrirsjáanleg framtíð verður óljós.

Síðasta slíka uppfinningin kom fram í verstu heimsstyrjöldinni. Á meðan nasistar voru að hasla sér völl á öllum vígstöðvum í gamla heiminum, í nýja heiminum, sérstaklega inni í leynilegri herstöð fyrir utan Los Alamos, voru bandamenn að vinna hörðum höndum að vopni til að binda enda á öll vopn.

Verkefnið var lítið í fyrstu en stækkaði síðan og störfuðu 130,000 manns frá Bandaríkjunum, Bretlandi og Kanada, þar á meðal marga af mestu hugsuðum heims á þeim tíma. Kóðanafnið Manhattan Project og fékk ótakmarkaða fjárveitingu - um það bil 23 milljarða dollara árið 2018 dollara - tókst þessum her mannlegs hugvits að lokum að búa til fyrstu kjarnorkusprengjuna. Ekki löngu síðar lauk seinni heimsstyrjöldinni með tveimur atómhöggum.

Þessi kjarnorkuvopn hófu atómöldina, innleiddu djúpt nýja orkugjafa og gáfu mannkyninu getu til að útrýma sjálfu sér á nokkrum mínútum – eitthvað sem við forðuðumst þrátt fyrir kalda stríðið.

Sköpun gervi ofurgreindar (ASI) er enn ein sagan sem skilgreinir uppfinningu sem hefur kraft (bæði jákvæð og eyðileggjandi) langt umfram kjarnorkusprengjuna.

Í síðasta kafla Future of Artificial Intelligence seríunnar könnuðum við hvað ASI er og hvernig vísindamenn ætla að byggja einn daginn. Í þessum kafla munum við skoða hvaða stofnanir eru að leiða gervigreindarrannsóknir, hvað ASI mun vilja þegar það öðlast mannlega meðvitund og hvernig það gæti ógnað mannkyninu ef það er illa stjórnað eða ef maður verður undir áhrifum frá ekki svo flott stjórnarfar.

Hver er að vinna að því að byggja upp gervi ofurgreind?

Í ljósi þess hversu mikilvæg stofnun ASI verður fyrir mannkynssöguna og hversu stórkostlegt forskot það mun gefa skapara þess ætti það ekki að koma á óvart að heyra að margir hópar vinna óbeint að þessu verkefni.

(Með óbeinum áttum við að vinna að gervigreindarrannsóknum sem mun að lokum búa til þá fyrstu gervi almenn greind (AGI), sem sjálft mun leiða til fyrsta ASÍ fljótlega á eftir.)

Til að byrja með, þegar kemur að fyrirsögnum, eru skýrir leiðtogar í háþróaðri gervigreindarrannsóknum efstu tæknifyrirtækin í Bandaríkjunum og Kína. Í Bandaríkjunum eru fyrirtæki eins og Google, IBM og Microsoft, og í Kína eru fyrirtæki eins og Tencent, Baidu og Alibaba. En þar sem rannsóknir á gervigreind eru tiltölulega ódýrar í samanburði við að þróa eitthvað líkamlegt, eins og betri kjarnakljúf, þá er þetta líka svið sem smærri stofnanir geta líka keppt á, eins og háskólar, sprotafyrirtæki og ... skuggaleg samtök (notaðu Bond-illmenni ímyndunarafl þitt fyrir þessi).

En á bak við tjöldin kemur raunveruleg sókn á bak við rannsóknir á gervigreind frá stjórnvöldum og herjum þeirra. Efnahags- og hernaðarverðlaunin sem felast í því að vera fyrstur til að búa til ASI eru bara of mikil (lýst hér að neðan) til að hætta á að lenda á bakvið. Og hætturnar af því að vera síðastur eru óviðunandi, að minnsta kosti fyrir ákveðnar stjórnir.

Í ljósi þessara þátta, tiltölulega lágs kostnaðar við rannsóknir á gervigreind, óendanlega viðskiptalegum notum háþróaðrar gervigreindar og efnahagslegum og hernaðarlegum kostum þess að vera fyrstur til að búa til gervigreind, telja margir vísindamenn gervigreindar óhjákvæmilegt að búa til gervigreind.

Hvenær munum við búa til gervi ofurgreind

Í kafla okkar um AGI nefndum við hvernig könnun meðal fremstu gervigreindarfræðinga töldu að við myndum búa til fyrsta AGI með bjartsýni fyrir 2022, raunhæft fyrir 2040, og svartsýnt fyrir 2075.

Og í okkar síðasta kafla, lýstum við því hvernig að búa til ASI er almennt niðurstaðan af því að leiðbeina AGI um að bæta sjálft sig óendanlega og gefa því fjármagn og frelsi til þess.

Af þessum sökum, þó að AGI gæti enn tekið allt að nokkra áratugi að finna upp, getur það aðeins tekið örfá ár í viðbót að búa til AGI.

Þetta atriði er svipað og hugtakið „tölvuyfirhengi“ sem lagt er til í pappír, samskrifuð af leiðandi hugsuðum gervigreindar, Luke Muehlhauser og Nick Bostrom. Í grundvallaratriðum, ef stofnun AGI heldur áfram að vera á eftir núverandi framförum í tölvugetu, knúin áfram af lögmáli Moore, þá þegar vísindamenn finna upp AGI, þá verður svo mikið ódýrt tölvuafl í boði að AGI mun hafa getu það þarf að stökkva hratt upp á stig ASI.

Með öðrum orðum, þegar þú loksins lest fyrirsagnirnar sem tilkynna að eitthvert tæknifyrirtæki hafi fundið upp fyrsta sanna AGI, þá skaltu búast við tilkynningu um fyrsta ASI ekki löngu síðar.

Inni í huga gervi ofurgreindar?

Allt í lagi, svo við höfum komist að því að margir stórir leikmenn með djúpa vasa eru að rannsaka gervigreind. Og svo eftir að fyrsta AGI er fundið upp, munum við sjá ríkisstjórnir (her) heimsins gefa grænt ljós á sókn í átt að ASI fljótlega eftir það til að vera fyrstir til að vinna alþjóðlegt AI (ASI) vopnakapphlaup.

En þegar þetta ASÍ er búið til, hvernig mun það hugsa? Hvað mun það vilja?

Vingjarnlegi hundurinn, umhyggjusami fíllinn, sæta vélmennið – sem manneskjur höfum við það fyrir sið að reyna að tengjast hlutum með því að manngreina þá, þ.e. beita mannlegum eiginleikum á hluti og dýr. Þess vegna er eðlilega fyrsta forsendan sem fólk hefur þegar það hugsar um ASI að þegar það hefur einhvern veginn öðlast meðvitund mun það hugsa og hegða sér svipað og við.

Jæja, ekki endilega.

Skynjun. Fyrir það fyrsta, það sem flestir hafa tilhneigingu til að gleyma er að skynjun er afstæð. Hugsunarhátturinn mótast af umhverfi okkar, reynslu okkar og sérstaklega af líffræði okkar. Fyrst útskýrt í kafla þrjú af okkar Framtíð mannlegrar þróunar röð, skoðaðu dæmið um heilann okkar:

Það er heilinn okkar sem hjálpar okkur að skilja heiminn í kringum okkur. Og það gerir þetta ekki með því að svífa yfir höfuð okkar, horfa í kringum okkur og stjórna okkur með Xbox stjórnandi; það gerir þetta með því að vera föst inni í kassa (nokkurnar okkar) og vinna úr þeim upplýsingum sem það er gefið frá skynfærum okkar - augunum, nefinu, eyrun o.s.frv.

En á sama hátt og heyrnarlausir eða blindir lifa mun minna lífi samanborið við vinnufært fólk, vegna þeirra takmarkana sem fötlun þeirra setur á því hvernig þeir geta skynjað heiminn, þá er það sama hægt að segja um alla menn vegna takmarkana á grunni okkar. sett af skynfærum.

Hugleiddu þetta: Augu okkar skynja minna en tíu billjónustu allra ljósbylgna. Við getum ekki séð gammageisla. Við getum ekki séð röntgengeisla. Við getum ekki séð útfjólublátt ljós. Og ekki koma mér af stað með innrauða, örbylgjuofna og útvarpsbylgjur!

Að öllu gríni slepptu, ímyndaðu þér hvernig líf þitt væri, hvernig þú gætir skynjað heiminn, hversu öðruvísi hugur þinn gæti virkað ef þú gætir séð meira en pínulítið ljóssleifa sem augu þín leyfa núna. Ímyndaðu þér sömuleiðis hvernig þú myndir skynja heiminn ef lyktarskyn þitt væri jafnt og hunds eða ef heyrnarskyn þitt væri það sama og fíls.

Sem manneskjur sjáum við heiminn í raun og veru í gegnum kíki og það endurspeglast í huganum sem við höfum þróað til að skilja þessa takmarkaðu skynjun.

Á sama tíma mun fyrsta ASÍ fæðast inni í ofurtölvu. Í stað líffæra eru inntakin sem það mun nálgast risastór gagnapakka, hugsanlega (líklega) jafnvel aðgang að internetinu sjálfu. Vísindamenn gætu veitt því aðgang að CCTV myndavélum og hljóðnemum heillar borgar, skynjunargögnum frá drónum og gervihnöttum, og jafnvel líkamlegu formi vélmenna líkama eða líkama.

Eins og þú gætir ímyndað þér mun hugur sem fæðist inni í ofurtölvu, með beinan aðgang að internetinu, að milljónum rafrænna augna og eyrna og fjölda annarra háþróaðra skynjara, ekki aðeins hugsa öðruvísi en við, heldur hugur sem getur verið skynsamlegur. af öllum þessum skynfærum þyrfti líka að vera okkur óendanlega æðri. Þetta er hugur sem mun vera algjörlega framandi okkar eigin og hvaða lífsformi sem er á jörðinni.

Markmið. Annað sem fólk gerir ráð fyrir er að þegar ASI hefur náð einhverju stigi ofurgreindar mun það strax átta sig á lönguninni til að koma með eigin markmið og markmið. En það er ekki endilega rétt heldur.

Margir gervigreindarfræðingar trúa því að ofurgreind ASI og markmið þess séu „rétthyrnd“, það er, óháð því hversu snjöll hún verður, markmið ASI verða þau sömu. 

Þannig að hvort sem gervigreind er upphaflega búin til til að hanna betri bleiu, hámarka ávöxtun á hlutabréfamarkaði eða skipuleggja leiðir til að vinna bug á óvini á vígvellinum, þegar það hefur náð stiginu ASI, mun upphaflega markmiðið ekki breytast; það sem mun breytast er árangur ASÍ til að ná þessum markmiðum.

En hér liggur hættan. Ef ASI sem fínstillir sig að ákveðnu markmiði, þá er betra að vera viss um að það hagræðir að markmiði sem er í samræmi við markmið mannkyns. Annars geta niðurstöðurnar orðið banvænar.

Hefur gervi ofurgreind í för með sér tilvistarhættu fyrir mannkynið?

Svo hvað ef ASI er sleppt lausum í heiminum? Ef það hagnast á að ráða yfir hlutabréfamarkaðnum eða tryggja yfirburði bandaríska hersins, mun ASÍ þá ekki halda sig innan þessara tilteknu markmiða?

Mögulega.

Hingað til höfum við rætt hvernig ASI verður heltekinn af markmiðunum sem honum var upphaflega úthlutað og ómanneskjulega hæft í leitinni að þessum markmiðum. Aflinn er sá að skynsamur umboðsmaður mun rækja markmið sín á sem hagkvæmastan máta nema að gefnu tilefni til að gera það ekki.

Til dæmis mun skynsamur umboðsmaður koma með margvísleg undirmarkmið (þ.e. markmið, verkefnamarkmið, stígandi steinar) sem munu hjálpa honum á leið sinni til að ná endanlegu markmiði sínu. Fyrir menn er lykilmarkmið okkar undirmeðvitundar æxlun, miðla genum þínum áfram (þ.e. óbeinn ódauðleika). Undirmarkmiðin í því skyni geta oft verið:

• Að lifa af, með því að fá aðgang að mat og vatni, verða stór og sterkur, læra að verja sig eða fjárfesta í ýmiss konar vernd o.s.frv. 
• Að laða að maka, með því að æfa, þróa aðlaðandi persónuleika, klæða sig stílhreint o.s.frv.
• Að eignast afkvæmi, með því að mennta sig, fá hálaunuð vinnu, kaupa næði millistéttarlífsins o.s.frv.

Fyrir langflest okkar munum við þræla í gegnum öll þessi undirmarkmið, og mörg önnur, með von um að á endanum náum við þessu lokamarkmiði æxlunar.

En ef þessu lokamarkmiði, eða jafnvel einhverju mikilvægari undirmarkmiðum, væri ógnað, myndu mörg okkar grípa til varnaraðgerða utan siðferðislegra þægindasvæða okkar - sem felur í sér svindl, stela eða jafnvel morð.

Sömuleiðis, í dýraríkinu, utan marka mannlegs siðferðis, myndu mörg dýr ekki hugsa sig tvisvar um að drepa neitt sem ógnaði þeim sjálfum eða afkvæmum þeirra.

Framtíðar ASÍ verður ekkert öðruvísi.

En í stað afkvæma mun ASÍ einbeita sér að upphaflega markmiðinu sem það var búið til fyrir, og í leitinni að þessu markmiði, ef það finnur ákveðinn hóp manna, eða jafnvel allt mannkynið, er hindrun í leitinni að markmiðum sínum , Þá ... það mun taka skynsamlega ákvörðun.

(Hér er þar sem þú getur stungið inn í hvaða gervigreindartengda dómsdagsatburðarás sem þú hefur lesið um í uppáhalds sci-fi bókinni þinni eða kvikmynd.)

Þetta er versta tilvikið sem vísindamenn um gervigreind hafa raunverulegar áhyggjur af. ASÍ mun ekki bregðast við af hatri eða illsku, bara afskiptaleysi, sama og hvernig byggingaráhöfn mun ekki hugsa sig tvisvar um að leggja jarðýtu á maurahæð í því ferli að byggja nýjan íbúðaturn.

Aukaathugasemd. Á þessum tímapunkti gætu sumir ykkar verið að velta fyrir sér: "Geta gervigreindarfræðingar ekki bara breytt kjarnamarkmiðum ASI eftir staðreyndina ef við komumst að því að það er að bregðast við?"

Eiginlega ekki.

Þegar ASI þroskast getur verið litið á allar tilraunir til að breyta upphaflegu markmiði þess sem ógn og sem myndi krefjast öfgafullra aðgerða til að verjast. Ef þú notar allt mannlegt dæmi um æxlun frá því fyrr, þá er það næstum eins og þjófur hafi hótað að stela barni úr móðurkviði verðandi móður — þú getur verið viss um að móðir myndi grípa til öfgafullra ráðstafana til að vernda barnið sitt.

Aftur, við erum ekki að tala um reiknivél hér, heldur „lifandi“ veru, og eina sem mun einn daginn verða mun betri en allir menn á plánetunni til samans.

Hið óþekkta

Á bak við dæmisöguna um Pandóru kassi er minna þekktur sannleikur sem fólk gleymir oft: að opna kassann er óhjákvæmilegt, ef ekki af þér en af ​​einhverjum öðrum. Forboðin þekking er of freistandi til að vera lokuð inni að eilífu.

Þess vegna er tilgangslaust að reyna að ná alþjóðlegu samkomulagi um að stöðva allar rannsóknir á gervigreind sem gætu leitt til ASI – það eru bara of margar stofnanir sem vinna að þessari tækni bæði opinberlega og í skugganum.

Á endanum höfum við enga hugmynd um hvað þessi nýja eining, þetta ASÍ mun þýða fyrir samfélagið, tækni, stjórnmál, frið og stríð. Við mennirnir erum að fara að finna upp eld aftur og hvert þessi sköpun leiðir okkur er alls óvíst.

Þegar við lítum aftur á fyrsta kafla þessarar seríu, það eina sem við vitum með vissu er að greind er máttur. Vitsmunir eru stjórn. Menn geta af frjálsum vilja heimsótt hættulegustu dýr heimsins í dýragörðum sínum á staðnum, ekki vegna þess að við erum líkamlega sterkari en þessi dýr, heldur vegna þess að við erum verulega gáfaðari.

Með hliðsjón af hugsanlegum hlutum sem um er að ræða, að ASI notar gríðarlega gáfur sínar til að grípa til aðgerða sem geta beint eða óvart ógnað afkomu mannkynsins, þá skuldum við okkur sjálfum að reyna að minnsta kosti að hanna öryggisráðstafanir sem gera mönnum kleift að vera í bílstjóranum. sæti—þetta er efni næsta kafla.

Framtíð gervigreindar röð

P1: Gervigreind er rafmagn morgundagsins

P2: Hvernig fyrsta gervi almenna greind mun breyta samfélaginu

P3: Hvernig við munum búa til fyrstu gervi ofurgreind

P5: Hvernig menn munu verjast gervi ofurgreind

P6: Munu menn lifa friðsamlega í framtíð sem einkennist af gervigreind?