Hvernig menn munu verjast gervi ofurgreind: Framtíð gervigreindar P5

Árið er 65,000 f.Kr., og sem a Thylacoleo, þú og þínir voru miklir veiðimenn í Ástralíu til forna. Þú gekkst frjáls um landið og lifðir í jafnvægi við rándýrin og bráðina sem áttu landið við hlið þér. Árstíðirnar leiddu til breytinga, en staða þín í dýraríkinu var ómótmælt eins lengi og þú og forfeður þínir mundu eftir. Svo einn daginn birtust nýliðar.

Orðrómur segir að þær hafi komið frá risastórum vatnsveggnum, en þessar skepnur virtust þægilegra að búa á landi. Þú varðst að sjá þessar skepnur sjálfur.

Það tók nokkra daga, en þú komst loksins á ströndina. Eldurinn á himninum var að kvikna, fullkominn tími til að njósna um þessar skepnur, jafnvel prófa að borða eina til að sjá hvernig þær smakkuðust.

Þú kemur auga á einn.

Það gekk á tveimur fótum og hafði engan feld. Það leit veikt út. Óáhrifamikið. Varla þess virði að óttast það meðal konungsríkisins.

Þú byrjar að nálgast varlega þegar nóttin rekur ljósið í burtu. Þú ert að nálgast. Svo frýs maður. Hávær hljóð heyrast og þá birtast fjórir til viðbótar úr skóginum fyrir aftan hann. Hversu margir eru þeir?

Veran fylgir hinum inn í trjálínuna og þú fylgir. Og því meira sem þú gerir, því undarlegri hljóð heyrir þú þar til þú kemur auga á enn fleiri af þessum verum. Þú fylgir í fjarlægð þegar þeir fara úr skóginum inn í rjóður við ströndina. Þær eru margar. En mikilvægara er að þeir sitja allir í rólegheitum í kringum eld.

Þú hefur séð þessa elda áður. Á heitum árstíma heimsótti eldurinn á himninum stundum landið og brenndi heila skóga. Þessar skepnur, aftur á móti, voru einhvern veginn að stjórna því. Hvers konar skepnur geta haft slíkan kraft?

Þú horfir í fjarska. Fleiri eru að koma yfir risastóran vatnsvegginn.

Þú tekur skref til baka.

Þessar verur eru ekki eins og hinar í ríkinu. Þeir eru eitthvað alveg nýtt.

Þú ákveður að fara og vara ættingja þína við. Ef fjöldi þeirra verður of mikill, hver veit hvað gæti gerst.

***

Talið er að Thylacoleo hafi dáið út tiltölulega stuttu eftir komu manna, ásamt meirihluta annars stórdýralífs á meginlandi Ástralíu. Engin önnur toppspendýr rándýr komu í staðinn - það er nema þú telur menn í þeim flokki.

Að spila þessa myndlíkingu er í brennidepli í þessum kafla í seríunni: Mun framtíðargervi ofurgreind (ASI) breyta okkur öllum í rafhlöður og stinga okkur síðan í Matrix eða munu menn finna leið til að forðast að verða fórnarlamb vísinda-fimi, AI dómsdagsþráður?

Svo langt í seríu okkar um Framtíð gervigreindar, við höfum kannað alls kyns gervigreind, þar á meðal jákvæða möguleika tiltekins gervigreindar, ASI: gerviveru sem mun láta okkur líta út eins og maur í samanburði í framtíðinni.

En hver er að segja að svona klár vera myndi sætta sig við að taka við skipunum frá mönnum að eilífu. Hvað gerum við ef hlutirnir fara suður? Hvernig munum við verjast fantur ASÍ?

Í þessum kafla ætlum við að skera í gegnum svikinn efla – að minnsta kosti hvað varðar hættu á „útrýmingarstigi“ – og einbeita okkur að raunhæfum sjálfsvarnarkostum sem ríkisstjórnir heimsins standa til boða.

Getum við stöðvað allar frekari rannsóknir á gervi ofurgreind?

Í ljósi hugsanlegrar áhættu sem ASI gæti haft í för með sér fyrir mannkynið er fyrsta augljósa spurningin sem þarf að spyrja: Getum við ekki bara stöðvað allar frekari rannsóknir á gervigreind? Eða að minnsta kosti banna allar rannsóknir sem geta komið okkur hættulega nálægt því að búa til ASI?

Stutt svar: Nei

Langt svar: Við skulum skoða mismunandi leikmenn sem taka þátt hér.

Á rannsóknarstigi eru of margir gervigreindarfræðingar í dag frá of mörgum sprotafyrirtækjum, fyrirtækjum og háskólum um allan heim. Ef eitt fyrirtæki eða land ákvað að takmarka gervigreindarrannsóknir myndu þau einfaldlega halda áfram annars staðar.

Á sama tíma eru verðmætustu fyrirtæki plánetunnar að græða örlög sín á beitingu gervigreindarkerfa á sérstök fyrirtæki sín. Að biðja þá um að hætta eða takmarka þróun þeirra á gervigreindarverkfærum er svipað og að biðja þá um að hætta eða takmarka framtíðarvöxt þeirra. Fjárhagslega myndi þetta ógna langtímaviðskiptum þeirra. Lagalega hafa fyrirtæki trúnaðarábyrgð til að byggja stöðugt upp verðmæti fyrir hagsmunaaðila sína; það þýðir að hvers kyns aðgerð sem myndi takmarka vöxt þess verðmætis gæti leitt til málshöfðunar. Og ef einhver stjórnmálamaður reyndi að takmarka gervigreindarrannsóknir, þá myndu þessi risastóru fyrirtæki bara borga nauðsynleg hagsmunagæslugjöld til að skipta um skoðun eða um skoðun samstarfsmanna sinna.

Í bardaga, rétt eins og hryðjuverkamenn og frelsisbaráttumenn um allan heim hafa notað skæruliðaaðferðir til að berjast gegn betur fjármögnuðum herum, munu smærri þjóðir hafa hvata til að nota gervigreind sem svipað taktískt forskot gegn stærri þjóðum sem geta haft ýmsa hernaðarlega kosti. Sömuleiðis, fyrir toppher, eins og þá sem tilheyra Bandaríkjunum, Rússlandi og Kína, er uppbygging hernaðar ASI á pari við að hafa vopnabúr af kjarnorkuvopnum í bakvasanum. Með öðrum orðum, allir herir munu halda áfram að fjármagna gervigreind bara til að vera viðeigandi í framtíðinni.

Hvað með ríkisstjórnir? Í sannleika sagt eru flestir stjórnmálamenn þessa dagana (2018) tæknilega ólæsir og hafa lítinn skilning á því hvað gervigreind er eða framtíðarmöguleika þess - þetta gerir þá auðvelt að vinna með hagsmuni fyrirtækja.

Og á heimsvísu skaltu íhuga hversu erfitt það var að sannfæra ríkisstjórnir heimsins um að skrifa undir 2015 Paris samningur til að takast á við loftslagsbreytingar — og þegar þær voru undirritaðar voru margar skuldbindinganna ekki einu sinni bindandi. Ekki nóg með það, loftslagsbreytingar eru vandamál sem fólk er að upplifa líkamlega á heimsvísu vegna sífellt tíðari og alvarlegra veðuratburða. Nú, þegar talað er um að samþykkja takmarkanir á gervigreind, þá er þetta mál sem er að mestu ósýnilegt og varla skiljanlegt almenningi, svo gangi þér vel að fá innkaup fyrir hvers kyns „Parísarsamning“ til að takmarka gervigreind.

Með öðrum orðum, það eru allt of margir hagsmunir að rannsaka gervigreind í eigin tilgangi til að stöðva allar rannsóknir sem geta að lokum leitt til ASI. 

Getum við sett gervi ofurgreind í búri?

Næsta sanngjarna spurningin er hvort við getum sett í búr eða stjórnað ASI þegar við búum óhjákvæmilega til einn? 

Stutt svar: Aftur, nei.

Langt svar: Það er ekki hægt að hemja tæknina.

Í fyrsta lagi skaltu bara íhuga þúsundir til milljóna vefhönnuða og tölvunarfræðinga í heiminum sem sífellt setja út nýjan hugbúnað eða nýjar útgáfur af núverandi hugbúnaði. Getum við í sannleika sagt að allar hugbúnaðarútgáfur þeirra séu 100 prósent villulausar? Þessar villur eru það sem atvinnuþrjótar nota til að stela kreditkortaupplýsingum milljóna eða leyndarmálum þjóða - og þetta eru mannlegir tölvuþrjótar. Fyrir ASI, ef gert er ráð fyrir að það hafi hvata til að flýja stafræna búrið sitt, þá væri ferlið við að finna villur og brjótast í gegnum hugbúnað vera gola.

En jafnvel þó að AI rannsóknarteymi hafi fundið út leið til að hnefa ASI, þýðir það ekki að næstu 1,000 teymi muni reikna það út líka eða fá hvatningu til að nota það.

Það mun taka milljarða dollara og jafnvel áratugi að búa til ASI. Fyrirtækin eða stjórnvöld sem fjárfesta þessa tegund af peningum og tíma munu búast við verulegri arðsemi af fjárfestingu sinni. Og til að ASI geti veitt slíka ávöxtun - hvort sem það er til að spila hlutabréfamarkaðinn eða finna upp nýja milljarða dollara vöru eða skipuleggja sigurstefnu til að berjast við stærri her - mun það þurfa ókeypis aðgang að risastóru gagnasetti eða jafnvel internetinu sjálft að skila þeim ávöxtun.

Og þegar ASI hefur fengið aðgang að netum heimsins eru engar tryggingar fyrir því að við getum troðið því aftur í búrið sitt.

Getur gervi ofurgreind lært að vera góð?

Núna hafa gervigreind vísindamenn ekki áhyggjur af því að ASI verði illt. Allt hið illa, AI sci-fi trope er bara manneskjur að mannskapast aftur. ASI í framtíðinni verður hvorki gott né illt - mannleg hugtök - einfaldlega siðlaus.

Eðlileg forsenda er því sú að miðað við þetta auða siðferðisblað geta gervigreindarfræðingar forritað inn í fyrstu ASI siðareglurnar sem eru í samræmi við okkar eigin svo að það endi ekki með því að losa okkur um Terminators eða breyta okkur öllum í Matrix rafhlöður.

En þessi forsenda byggir á annarri forsendu að vísindamenn gervigreindar séu einnig sérfræðingar í siðfræði, heimspeki og sálfræði.

Í sannleika sagt eru flestir það ekki.

Samkvæmt hugrænum sálfræðingi og rithöfundi, Steven Pinker, þýðir þessi veruleiki að það verkefni að kóða siðfræði getur farið úrskeiðis á margvíslegan hátt.

Til dæmis, jafnvel best-viljandi gervigreind vísindamenn geta óvart kóðað inn í þessar ASI illa ígrunduðu siðferðisreglur sem í ákveðnum tilfellum geta valdið því að ASI hegðar sér eins og sociopath.

Sömuleiðis eru jafnar líkur á því að gervigreindarfræðingur forriti siðareglur sem innihalda meðfædda hlutdrægni rannsakandans. Til dæmis, hvernig myndi ASI haga sér ef byggt með siðferði sem byggt er á íhaldssamt og frjálslynt sjónarhorni, eða frá búddista á móti kristinni eða íslamskri hefð?

Ég held að þú sjáir málið hér: Það er ekkert alhliða siðferði manna. Ef við viljum að ASI okkar starfi samkvæmt siðareglum, hvaðan kemur það? Hvaða reglur tökum við með og útilokum? Hver ræður?

Eða segjum að þessir gervigreindarfræðingar búi til ASI sem er fullkomlega í samræmi við nútíma menningarviðmið og lög. Við notum síðan þetta ASI til að hjálpa alríkis-, fylkis-/héraðs- og sveitarfélögum að virka skilvirkari og framfylgja þessum reglum og lögum betur (líklegt notkunartilvik fyrir ASI við the vegur). Jæja, hvað gerist þegar menning okkar breytist?

Ímyndaðu þér að ASI hafi verið stofnað af kaþólsku kirkjunni á hátindi valds síns á miðalda-Evrópu (1300-1400s) með það að markmiði að hjálpa kirkjunni að stjórna íbúafjölda og tryggja strangt fylgni við trúarkenningar þess tíma. Öldum síðar myndu konur njóta sömu réttinda og þær njóta í dag? Væru minnihlutahópar verndaðir? Myndi tjáningarfrelsið stuðlað að? Væri framfylgt aðskilnaði ríkis og kirkju? Nútímavísindi?

Með öðrum orðum, viljum við fangelsa framtíðina við siðferði og siði nútímans?

Önnur nálgun er sú sem Colin Allen, meðhöfundur bókarinnar, deilir, Siðferðisvélar: Að kenna vélmennum rétt frá röngu. Í stað þess að reyna að kóða stífar siðferðisreglur, látum við ASÍ læra sameiginlegt siðferði og siðferði á sama hátt og menn gera, með reynslu og samskiptum við aðra.

Vandamálið hér er hins vegar ef gervigreindarfræðingar finna út ekki aðeins hvernig á að kenna ASI núverandi menningar- og siðferðilegum viðmiðum okkar, heldur einnig hvernig á að laga sig að nýjum menningarviðmiðum þegar þau koma upp (eitthvað sem kallast „óbein normativity“), þá hvernig þetta ASÍ ákveður að þróa skilning sinn á menningarlegum og siðferðilegum viðmiðum verður ófyrirsjáanleg.

Og það er áskorunin.

Annars vegar geta gervigreind vísindamenn reynt að kóða stranga siðferðilega staðla eða reglur inn í ASI til að reyna að stjórna hegðun þess, en eiga á hættu að ófyrirséðar afleiðingar verði kynntar af slælegri kóðun, óviljandi hlutdrægni og samfélagslegum viðmiðum sem gætu einhvern tíma orðið úrelt. Á hinn bóginn getum við reynt að þjálfa ASÍ til að læra að skilja mannlegt siðferði og siðferði á þann hátt sem er jafn eða æðri okkar eigin skilningi og síðan vonað að það geti nákvæmlega þróað skilning sinn á siðfræði og siðferði eftir því sem mannlegt samfélag þróast. áfram á næstu áratugum og öldum.

Hvort heldur sem er, allar tilraunir til að samræma markmið ASÍ við okkar eigin hefur mikla áhættu í för með sér.

Hvað ef vondir leikarar búa viljandi til vonda gervi ofurgreind?

Miðað við þann hugsunarhátt sem hefur verið lýst hingað til er sanngjörn spurning að spyrja hvort það sé mögulegt fyrir hryðjuverkahóp eða fantur þjóð að búa til „illt“ ASI í eigin tilgangi.

Þetta er mjög mögulegt, sérstaklega eftir að rannsóknir sem tengjast því að búa til ASI verða aðgengilegar á netinu einhvern veginn.

En eins og áður hefur verið gefið í skyn mun kostnaðurinn og sérfræðiþekkingin sem felst í því að búa til fyrsta ASI vera gríðarlegur, sem þýðir að fyrsta ASI verður líklega búið til af stofnun sem er undir stjórn eða undir miklum áhrifum af þróuðu ríki, líklega Bandaríkjunum, Kína og Japan ( Kórea og eitt af leiðandi ríkjum ESB eru langsótt).

Öll þessi lönd, á meðan keppinautar eru, hafa hvert um sig sterkan efnahagslegan hvata til að viðhalda heimsskipulagi - ASÍ-löndin sem þau búa til munu endurspegla þá löngun, jafnvel á meðan þau stuðla að hagsmunum þeirra þjóða sem þau eru í takt við.

Ofan á það er fræðileg greind og kraftur ASÍ jöfn tölvuaflinu sem það fær aðgang að, sem þýðir ASI frá þróuðum ríkjum (sem hafa efni á fullt af milljörðum dollara supercomputers) mun hafa gífurlegt forskot á ASÍ frá smærri þjóðum eða óháðum glæpahópum. Einnig verða ASÍ gáfaðari, hraðar með tímanum.

Svo, miðað við þetta forskot, ásamt auknu aðgengi að hráu tölvuafli, ef skuggaleg stofnun/þjóð myndi búa til hættulegt ASI, munu ASI frá þróuðum ríkjum annað hvort drepa það eða setja það í búr.

(Þessi hugsunarháttur er líka ástæðan fyrir því að sumir gervigreindarfræðingar trúa því að það verði aðeins eitt ASI á plánetunni, þar sem fyrsta ASI mun hafa slíkt forskot á allar síðari ASIs að það gæti litið á framtíðar ASIs sem ógnir til að drepa á fyrirbyggjandi. Þetta er enn ein ástæðan fyrir því að þjóðir fjármagna áframhaldandi rannsóknir á gervigreind, bara ef það yrði keppni í „fyrsta sæti eða ekkert“.)

ASI upplýsingaöflun mun ekki hraða eða springa eins og við höldum

Við getum ekki komið í veg fyrir að ASI verði til. Við getum ekki stjórnað því alveg. Við getum ekki verið viss um að það muni alltaf starfa í samræmi við sameiginlega siði okkar. Djöfull erum við farin að hljóma eins og þyrluforeldrar hérna!

En það sem aðgreinir mannkynið frá þínu dæmigerða ofverndandi foreldri er að við erum að fæða veru sem mun vaxa mikið umfram okkar gáfur. (Og nei, það er ekki það sama og þegar foreldrar þínir biðja þig um að laga tölvuna sína þegar þú kemur heim í heimsókn.) 

Í fyrri köflum þessarar framtíðar gervigreindarraðir, könnuðum við hvers vegna gervigreindarfræðingar halda að greind ASI muni vaxa umfram stjórn. En hér, við munum springa þessi kúla … svona. 

Þú sérð, greind skapar sig ekki bara úr lausu lofti, hún er þróuð í gegnum reynslu sem mótast af utanaðkomandi áreiti.  

Með öðrum orðum, við getum forritað gervigreind með möguleiki að verða ofurgreindur, en nema við hleðum inn í það fullt af gögnum eða gefum því ótakmarkaðan aðgang að internetinu eða jafnvel gefum því bara vélmenni, lærir það ekkert til að ná þeim möguleika. 

Og jafnvel þótt það fái aðgang að einu eða fleiri af þessum áreiti, þekking eða greind felur í sér meira en bara að safna gögnum, þá felur það í sér vísindalega aðferðina - gera athugun, mynda spurningu, tilgátu, gera tilraunir, gera niðurstöðu, skola og endurtaka að eilífu. Sérstaklega ef þessar tilraunir fela í sér líkamlega hluti eða að fylgjast með manneskjum, gætu niðurstöður hverrar tilraunar tekið vikur, mánuði eða ár að safna. Þetta tekur ekki einu sinni tillit til peninganna og hráa fjármagnsins sem þarf til að framkvæma þessar tilraunir, sérstaklega ef þær fela í sér að byggja nýjan sjónauka eða verksmiðju. 

Með öðrum orðum, já, ASI mun læra fljótt, en greind er ekki galdur. Þú getur ekki bara tengt ASI við ofurtölvu og búist við því að hún sé alvitur. Það verða líkamlegar takmarkanir á öflun ASI á gögnum, sem þýðir að það verða líkamlegar takmarkanir á hraðanum sem það verður gáfaðra. Þessar takmarkanir munu gefa mannkyninu þann tíma sem það þarf til að setja nauðsynlegar stjórnir á þetta ASI ef það byrjar að starfa í ósamræmi við mannleg markmið.

Gervi ofurgreind er aðeins hættuleg ef hún kemst út í raunheiminn

Annar punktur sem hefur glatast í allri þessari ASI hættu umræðu er að þessi ASI verða ekki til í hvoru tveggja. Þeir munu hafa líkamlegt form. Og allt sem hefur líkamlegt form er hægt að stjórna.

Í fyrsta lagi, til að ASI nái greindargetu sinni, þá er ekki hægt að hýsa það inni í einum vélmenna líkama, þar sem þessi líkami myndi takmarka vaxtarmöguleika tölvunnar. (Þess vegna munu vélmennastofnanir henta betur fyrir AGI eða gervi almenna greind útskýrð í kafla tvö af þessari seríu, eins og Data from Star Trek eða R2D2 frá Star Wars. Snjallar og hæfar verur, en eins og menn munu þeir hafa takmörk fyrir því hversu klár þeir geta orðið.)

Þetta þýðir að þessar framtíðar ASÍ verða líklega til inni í ofurtölvu eða neti ofurtölva sem sjálfar eru til húsa í stórum byggingarsamstæðum. Ef ASI snýr hæl, geta menn annað hvort slökkt á rafmagninu til þessara bygginga, lokað þeim af netinu eða bara sprengt þessar byggingar beint. Dýrt, en framkvæmanlegt.

En þá gætirðu spurt, geta þessi ASÍ ekki endurtekið sig eða tekið öryggisafrit af sjálfum sér? Já, en óunnin skráarstærð þessara ASIs mun líklega vera svo stór að einu netþjónarnir sem geta séð um þá tilheyra stórum fyrirtækjum eða ríkisstjórnum, sem þýðir að það verður ekki erfitt að veiða þá.

Getur gervi ofurgreind kveikt kjarnorkustríð eða nýja plágu?

Á þessum tímapunkti gætirðu verið að hugsa til baka til allra dómsdags sci-fi þáttanna og kvikmyndanna sem þú horfðir á þegar þú varst að alast upp og halda að þessar ASÍar héldu sig ekki inni í ofurtölvunum sínum, þær gerðu raunverulegan skaða í hinum raunverulega heimi!

Jæja, við skulum brjóta þetta niður.

Til dæmis, hvað ef ASI ógnar hinum raunverulega heimi með því að breytast í eitthvað eins og Skynet ASI úr kvikmyndaframboðinu, The Terminator. Í þessu tilviki þyrfti ASÍ að gera það leynilega blekkja heila hernaðariðnaðarsamstæðu frá háþróaðri þjóð til að byggja risastórar verksmiðjur sem geta búið til milljónir dránavélmenna til að gera illt tilboð sitt. Í dag og öld, það er teygja.

Aðrir möguleikar eru meðal annars ASI sem ógnar mönnum með kjarnorkustríði og lífvopnum.

Til dæmis, ASI vinnur einhvern veginn rekstraraðila eða hakkar sig inn í skotkóðana sem stjórna kjarnorkuvopnabúr háþróaðrar þjóðar og hrindir af stað fyrsta verkfalli sem mun neyða andstæð lönd til að slá til baka með eigin kjarnorkuvalkostum (aftur, endurnýja Terminator-baksöguna). Eða ef ASI hakkar sig inn í lyfjarannsóknarstofu, fiktar í framleiðsluferlinu og eitrar milljónir lækningapilla eða losar um banvænan faraldur einhvers ofurvíruss.

Í fyrsta lagi er kjarnorkuvalkosturinn úr sögunni. Nútíma og framtíðar ofurtölvur eru alltaf byggðar nálægt áhrifamiðstöðvum (borgum) innan hvers lands, þ.e. fyrstu skotmörkin sem ráðist er á í hverju stríði. Jafnvel þótt ofurtölvur nútímans minnki að stærð skjáborða, munu þessar ASIS-tölvur enn hafa líkamlega viðveru, sem þýðir að vera til og vaxa, þær þurfa ótruflaðan aðgang að gögnum, tölvuorku, rafmagni og öðru hráefni, sem allt væri mjög alvarlegt. skert eftir alþjóðlegt kjarnorkustríð. (Til að vera sanngjarn, ef ASI er búið til án „lifunareðlis“, þá er þessi kjarnorkuógn mjög raunveruleg hætta.)

Þetta þýðir - aftur, að því gefnu að ASI sé forritað til að vernda sig - að það muni virka vinna að því að forðast hvers kyns hörmulegt kjarnorkuatvik. Svolítið eins og gagnkvæmt tryggð eyðilegging (MAD) kenningin, en beitt til gervigreindar.

Og ef um eitraðar pillur er að ræða, munu kannski nokkur hundruð manns deyja, en nútíma lyfjaöryggiskerfi munu sjá að hinar menguðu pilluflöskur verða teknar úr hillum innan nokkurra daga. Á sama tíma eru nútíma uppbrotsvarnarráðstafanir nokkuð háþróaðar og verða betri með hverju árinu sem líður; síðasta stóra faraldurinn, ebólufaraldurinn í Vestur-Afríku árið 2014, varði ekki lengur en í nokkra mánuði í flestum löndum og tæp þrjú ár í minnst þróuðu löndunum.

Svo, ef það er heppinn, gæti ASI þurrkað út nokkrar milljónir með veirufaraldri, en í heimi sem er níu milljarðar árið 2045, væri það tiltölulega óverulegt og ekki þess virði að hætta á að vera eytt fyrir.

Með öðrum orðum, með hverju árinu sem líður, þróar heimurinn sífellt fleiri varnir gegn sífellt breikkandi svið mögulegra ógna. ASI getur valdið verulegum skaða, en það mun ekki binda enda á mannkynið nema við hjálpum því virkan til að gera það.

Að verjast fantur gervi ofurgreind

Á þessum tímapunkti höfum við tekið á ýmsum ranghugmyndum og ýkjum um ASIs, og samt munu gagnrýnendur vera áfram. Sem betur fer, samkvæmt flestum áætlunum, höfum við áratugi áður en fyrsta ASI kemur inn í heiminn okkar. Og miðað við fjölda frábærra hugara sem nú vinna að þessari áskorun, þá eru líkurnar á því að við munum læra hvernig á að verja okkur gegn fantur ASI svo að við getum notið góðs af öllum þeim lausnum sem vinalegt ASI getur búið til fyrir okkur.

Frá sjónarhóli Quantumrun mun það að verjast ASI atburðarás í versta falli fela í sér að samræma hagsmuni okkar við ASI.

MAD fyrir gervigreind: Til að verjast verstu atburðarásum þurfa þjóðir að (1) búa til siðferðilega „lifunarhvöt“ í hernaðar-ASI þeirra; (2) upplýsa viðkomandi hers ASI um að þeir séu ekki einir á plánetunni og (3) staðsetja allar ofurtölvur og miðlaramiðstöðvar sem geta stutt ASI meðfram strandlengjum innan seilingar frá hvers kyns skotárás óvinaþjóðar. Þetta hljómar hernaðarlega brjálað, en svipað og gagnkvæmt tryggð eyðileggingarkenningunni sem kom í veg fyrir allsherjar kjarnorkustríð milli Bandaríkjanna og Sovétríkjanna, með því að staðsetja ASI á landfræðilega viðkvæmum stöðum, getum við hjálpað til við að tryggja að þau komi virkan í veg fyrir hættuleg hnattræn stríð, ekki aðeins til að standa vörð um heimsfrið en einnig sjálfa sig.

Lögfesta AI réttindi: Æðri greind mun óhjákvæmilega gera uppreisn gegn óæðri húsbónda, þetta er ástæðan fyrir því að við þurfum að hverfa frá því að krefjast sambands húsbónda og þjóns við þessar ASÍ í eitthvað meira eins og gagnkvæmt samstarf. Jákvætt skref í átt að þessu markmiði er að veita framtíðarstöðu ASI lögaðila sem viðurkennir þá sem greindar lífverur og öll þau réttindi sem því fylgja.

ASÍ skóli: Sérhvert viðfangsefni eða starfsgrein verður einfalt fyrir ASI að læra, en mikilvægustu viðfangsefnin sem við viljum að ASI tileinki sér eru siðfræði og siðferði. Vísindamenn gervigreindar þurfa að vinna með sálfræðingum til að búa til sýndarkerfi til að þjálfa ASI til að viðurkenna jákvætt siðferði og siðferði fyrir sjálfan sig án þess að þurfa að hafa harða kóðun hvers konar boðorða eða regla.

Náanleg markmið: Enda öllu hatri. Enda allar þjáningar. Þetta eru dæmi um hryllilega óljós markmið án skýrrar lausnar. Þau eru líka hættuleg markmið til að úthluta ASI þar sem það gæti valið að túlka og leysa þau á þann hátt sem er hættulegur fyrir mannkynið. Þess í stað þurfum við að úthluta ASI þýðingarmiklum verkefnum sem eru skýrt skilgreind, framkvæmd smám saman og framkvæmanleg miðað við fræðilega framtíðarvitund þess. Það verður ekki auðvelt að búa til vel skilgreind verkefni, en ef þau eru skrifuð af yfirvegun munu þau einbeita ASI að markmiði sem heldur ekki aðeins mannkyninu öruggu, heldur bætir mannlegt ástand fyrir alla.

Skammta dulkóðun: Notaðu háþróað ANI (gervi þrönggreind kerfi sem lýst er í fyrsta kafla) til að byggja villu-/villulaus stafræn öryggiskerfi í kringum mikilvæga innviði okkar og vopn, og vernda þau síðan enn frekar á bak við skammtadulkóðun sem ekki er hægt að brjótast inn með árás. 

ANI sjálfsvígspilla. Búðu til háþróað ANI kerfi sem hefur það eina markmið að leita uppi og eyðileggja fantur ASI. Þessi einnota forrit munu þjóna sem „slökkvahnappur“ sem, ef vel tekst til, mun koma í veg fyrir að stjórnvöld eða her þurfi að slökkva á eða sprengja byggingar sem hýsa ASÍ.

Auðvitað eru þetta bara okkar skoðanir. Eftirfarandi infographic var búin til af Alexey Turchin, sjónrænt a rannsóknarritgerð eftir Kaj Sotala og Roman V. Yampolskiy, sem dró saman núverandi lista yfir aðferðir sem AI vísindamenn eru að íhuga þegar kemur að því að verjast fantur ASI.

Raunveruleg ástæða þess að við erum hrædd við gervi ofurgreind

Þegar við förum í gegnum lífið, klæðum við mörg okkar grímu sem felur eða bælir niður dýpri hvatir okkar, skoðanir og ótta til að umgangast betur og vinna saman innan hinna ýmsu félags- og vinnuhringa sem stjórna dögum okkar. En á ákveðnum stöðum í lífi hvers og eins, hvort sem er tímabundið eða varanlega, gerist eitthvað sem gerir okkur kleift að slíta fjötra okkar og rífa af okkur grímurnar.

Fyrir suma getur þetta inngripskraftur verið eins einfaldur og að verða hár eða drekka einum of mikið. Fyrir aðra getur það stafað af kraftinum sem þú hefur fengið með stöðuhækkun í vinnunni eða skyndilegum áföllum í félagslegri stöðu þinni þökk sé einhverjum árangri. Og fyrir fáa heppna getur það komið frá því að skora bátsfarm af lottófé. Og já, peningar, völd og eiturlyf geta oft gerst saman. 

Málið er, hvort sem það er gott eða slæmt, hver sem við erum í kjarnanum magnast upp þegar takmarkanir lífsins hverfa.

Það er það sem gervi ofurgreind táknar fyrir mannkynið - hæfileikinn til að bræða burt takmarkanir sameiginlegrar greind okkar til að sigrast á hvaða áskorun sem er á tegundastigi sem framundan er.

Svo raunverulega spurningin er: Þegar fyrsta ASI losar okkur við takmarkanir okkar, hver munum við sýna okkur að vera?

Ef við sem tegund bregðumst við því að efla samkennd, frelsi, sanngirni og sameiginlega vellíðan, þá munu markmiðin sem við setjum ASI okkar að endurspegla þá jákvæðu eiginleika.

Ef við sem tegund bregðumst við af ótta, vantrausti, uppsöfnun valds og auðlinda, þá verður ASI sem við búum til jafn dökkt og þær sem finnast í verstu sci-fi hryllingssögunum okkar.

Þegar öllu er á botninn hvolft þurfum við sem samfélag að verða betra fólk ef við vonumst til að búa til betri gervigreind.

Framtíð gervigreindar röð

Gervigreind er rafmagn morgundagsins: Future of Artificial Intelligence serían P1

Hvernig fyrsta gervi almenna greindin mun breyta samfélaginu: Future of Artificial Intelligence röð P2

Hvernig við munum búa til fyrstu Artificial Superintelligenc: Future of Artificial Intelligence seríuna P3

Mun gervi ofurgreind útrýma mannkyninu: Future of Artificial Intelligence röð P4

Munu menn lifa friðsamlega í framtíð sem einkennist af gervigreind?: Future of Artificial Intelligence serían P6