Bii eniyan yoo ṣe daabobo lodi si Alabojuto Oríkĕ: Ọjọ iwaju ti oye atọwọda P5

KẸDI Aworan: Quantumrun

Bii eniyan yoo ṣe daabobo lodi si Alabojuto Oríkĕ: Ọjọ iwaju ti oye atọwọda P5

    Ọdun naa jẹ 65,000 BCE, ati bi a Thylacoleo, iwọ ati iru rẹ jẹ ode nla ti Australia atijọ. O rin kakiri ilẹ ni ominira o si gbe ni iwọntunwọnsi pẹlu awọn apanirun ẹlẹgbẹ rẹ ati ohun ọdẹ ti o gba ilẹ naa lẹgbẹẹ rẹ. Awọn akoko mu iyipada wá, ṣugbọn ipo rẹ ni ijọba ẹranko wa laisi ipenija niwọn igba ti iwọ ati awọn baba rẹ le ranti. Lẹhinna ni ọjọ kan, awọn tuntun han.

    Agbasọ ni o ti de lati awọn omiran odi, ṣugbọn awọn wọnyi ẹda dabi enipe diẹ itura ngbe lori ilẹ. O ni lati wo awọn ẹda wọnyi fun ara rẹ.

    O gba kan diẹ ọjọ, sugbon o nipari ṣe ti o si eti okun. Ina ni ọrun ti n tan, akoko pipe lati ṣe amí lori awọn ẹda wọnyi, boya paapaa gbiyanju lati jẹ ọkan lati wo bi wọn ṣe dun.

    O rii ọkan.

    O fi ẹsẹ meji rin ko si ni irun. O dabi alailagbara. Ailokun. O fee tọ iberu ti o nfa laarin ijọba naa.

    O bẹrẹ lati farabalẹ ṣe isunmọ rẹ bi alẹ ṣe lepa ina kuro. O n sunmo si. Lẹhinna o di. Awọn ariwo ti n pariwo jade lẹhinna mẹrin diẹ ninu wọn han lati inu igbo lẹhin rẹ. Melo ni o wa?

    Ẹda naa tẹle awọn miiran sinu igi igi, ati pe o tẹle. Ati bi o ṣe n ṣe diẹ sii, diẹ sii awọn ohun ajeji ti o gbọ titi iwọ o fi rii paapaa diẹ sii ti awọn ẹda wọnyi. O tẹle ni ijinna kan bi wọn ti jade kuro ninu igbo sinu ibi ti o wa ni eti okun. Ọpọlọpọ ninu wọn wa. Ṣugbọn diẹ ṣe pataki, gbogbo wọn ni idakẹjẹ joko ni ayika ina.

    O ti rii awọn ina wọnyi tẹlẹ. Ní àkókò gbígbóná janjan, iná tó wà lójú ọ̀run máa ń bẹ ilẹ̀ wò nígbà míì, á sì jó gbogbo igbó run. Awọn ẹda wọnyi, ni apa keji, wọn n ṣakoso ni ọna kan. Iru ẹda wo ni o le ni iru agbara bẹẹ?

    O wo inu ijinna. Diẹ sii n bọ lori odi omi nla.

    O gba igbesẹ kan pada.

    Awọn ẹda wọnyi ko dabi awọn miiran ni ijọba naa. Wọn jẹ ohun titun patapata.

    O pinnu lati lọ ki o kilo fun awọn ibatan rẹ. Ti nọmba wọn ba tobi ju, tani o mọ ohun ti o le ṣẹlẹ.

    ***

    O gbagbọ pe Thylacoleo ti parun ni igba diẹ diẹ lẹhin dide ti eniyan, pẹlu ọpọlọpọ awọn megafauna miiran lori kọnputa ilu Ọstrelia. Ko si apex mammalian aperanje miiran gba awọn oniwe-iyẹn ni ayafi ti o ba ka eda eniyan ni wipe ẹka.

    Ti ndun ni pipa apejuwe yii ni idojukọ ti ori jara yii: Njẹ alabojuto atọwọda ọjọ iwaju (ASI) yoo tan gbogbo wa sinu awọn batiri lẹhinna ṣafọ si wa sinu Matrix tabi ṣe eniyan yoo wa ọna lati yago fun di olufaragba si sci-fi, Idite AI doomsday?

    Nítorí jina ninu wa jara lori awọn Ojo iwaju ti oye Artificial, A ti ṣawari gbogbo iru AI, pẹlu agbara rere ti iru fọọmu AI kan pato, ASI: ẹda artificial ti oye iwaju yoo jẹ ki a dabi awọn kokoro ni afiwe.

    Ṣugbọn tani yoo sọ pe eeyan ti ọlọgbọn yii yoo gba gbigba awọn aṣẹ lati ọdọ eniyan lailai. Kini a yoo ṣe ti awọn nkan ba lọ si gusu? Bawo ni a ṣe le daabobo lodi si ASI rogue kan?

    Ni ori yii, a yoo ge nipasẹ aruwo iro naa—o kere ju bi o ṣe kan awọn ewu 'ipele iparun eniyan'—ati idojukọ lori awọn aṣayan aabo ara ẹni gidi ti o wa fun awọn ijọba agbaye.

    Njẹ a le da gbogbo awọn iwadii siwaju si oye oye atọwọda?

    Fun awọn ewu ti o pọju ti ASI le fa si eda eniyan, ibeere akọkọ ti o han gbangba lati beere ni: Njẹ a ko le da gbogbo iwadi siwaju sii sinu AI? Tabi o kere ju kọ awọn iwadii eyikeyi ti o le jẹ ki a lewu sunmọ ṣiṣẹda ASI kan?

    Idahun kukuru: Rara.

    Idahun gigun: Jẹ ki a wo awọn oṣere oriṣiriṣi ti o wa nibi.

    Ni ipele iwadi, ọpọlọpọ awọn oniwadi AI ti wa loni lati ọpọlọpọ awọn ibẹrẹ, awọn ile-iṣẹ, ati awọn ile-ẹkọ giga ni ayika agbaye. Ti ile-iṣẹ kan tabi orilẹ-ede pinnu lati ṣe idinwo awọn akitiyan iwadii AI wọn, wọn yoo kan tẹsiwaju ni ibomiiran.

    Nibayi, awọn ile-iṣẹ ti o niyelori julọ ti aye n ṣe awọn ọrọ-ọrọ wọn kuro ni ohun elo wọn ti awọn eto AI si awọn iṣowo pato wọn. Bibeere wọn lati da duro tabi idinwo idagbasoke wọn ti awọn irinṣẹ AI jẹ akin si bibeere wọn lati da duro tabi idinwo idagbasoke iwaju wọn. Ni inawo, eyi yoo ṣe idẹruba iṣowo igba pipẹ wọn. Ni ofin, awọn ile-iṣẹ ni ojuse igbẹkẹle lati kọ iye nigbagbogbo fun awọn ti o nii ṣe; ti o tumo si eyikeyi igbese ti yoo se idinwo awọn idagba ti ti iye le ja si a ejo. Ati pe ti oloselu eyikeyi ba gbiyanju lati ṣe idinwo iwadii AI, lẹhinna awọn ile-iṣẹ nla wọnyi yoo kan san awọn idiyele iparowa pataki lati yi ọkan wọn pada tabi ọkan ti awọn ẹlẹgbẹ wọn.

    Fun ija, gẹgẹ bi awọn onijagidijagan ati awọn onija ominira ni ayika agbaye ti lo awọn ilana guerrilla lati ja lodi si awọn ologun ti o ni inawo ti o dara julọ, awọn orilẹ-ede kekere yoo ni iwuri lati lo AI gẹgẹbi anfani ọgbọn ti o jọra si awọn orilẹ-ede nla ti o le ni nọmba awọn anfani ologun. Bakanna, fun awọn ologun ti o ga julọ, bii awọn ti o jẹ ti AMẸRIKA, Russia ati China, kikọ ASI ologun kan wa ni deede pẹlu nini ohun ija ti awọn ohun ija iparun ninu apo ẹhin rẹ. Ni awọn ọrọ miiran, gbogbo awọn ologun yoo tẹsiwaju igbeowosile AI o kan lati duro ni ibamu ni ọjọ iwaju.

    Bawo ni nipa awọn ijọba? Ni otitọ, ọpọlọpọ awọn oloselu ni awọn ọjọ wọnyi (2018) jẹ alaimọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-imọ-ni-ni-ni-ni-ni-niyi-eyi jẹ ki wọn rọrun lati ṣe afọwọyi nipasẹ awọn anfani ile-iṣẹ.

    Ati ni ipele agbaye, ro bi o ṣe ṣoro lati parowa fun awọn ijọba agbaye lati fowo si 2015 Paris Adehun lati koju iyipada oju-ọjọ - ati ni kete ti o ti fowo si, ọpọlọpọ awọn adehun ko tilẹ di adehun. Kii ṣe iyẹn nikan, iyipada oju-ọjọ jẹ ọran ti eniyan ni iriri ti ara ni agbaye nipasẹ awọn iṣẹlẹ oju-ọjọ ti o pọ si loorekoore ati lile. Ni bayi, nigbati o ba sọrọ nipa gbigba si awọn opin lori AI, eyi jẹ ọran ti o jẹ alaihan pupọ ati laiṣe oye si gbogbo eniyan, nitorinaa orire ti o dara lati ra-ni fun eyikeyi iru 'Adehun Paris' fun diwọn AI.

    Ni awọn ọrọ miiran, awọn anfani pupọ lo wa ti n ṣe iwadii AI fun awọn opin tiwọn lati da eyikeyi iwadii ti o le ja si ASI nikẹhin. 

    Njẹ a le ṣagbe oye oye atọwọda?

    Ibeere ti o ni oye ti o tẹle ni a le ṣe ẹyẹ tabi ṣakoso ASI kan ni kete ti a ba ṣẹda ọkan bi? 

    Idahun kukuru: Lẹẹkansi, rara.

    Idahun gigun: Imọ-ẹrọ ko le wa ninu.

    Fun ọkan, kan ronu ẹgbẹẹgbẹrun si awọn miliọnu awọn olupilẹṣẹ wẹẹbu ati awọn onimọ-jinlẹ kọnputa ni agbaye ti wọn fa sọfitiwia tuntun nigbagbogbo tabi awọn ẹya tuntun ti sọfitiwia ti o wa tẹlẹ. Njẹ a le sọ ni otitọ pe gbogbo awọn idasilẹ sọfitiwia wọn jẹ 100 ogorun laisi kokoro bi? Awọn idun wọnyi jẹ ohun ti awọn olosa alamọdaju lo lati ji alaye kaadi kirẹditi ti awọn miliọnu tabi awọn aṣiri ti awọn orilẹ-ede — ati pe iwọnyi jẹ olosa eniyan. Fun ASI kan, ti o ro pe o ni iwuri lati sa fun agọ ẹyẹ oni-nọmba rẹ, lẹhinna ilana wiwa awọn idun ati fifọ nipasẹ sọfitiwia yoo jẹ afẹfẹ.

    Ṣugbọn paapaa ti ẹgbẹ iwadii AI kan ba ṣe agbekalẹ ọna kan lati ṣe apoti ASI, iyẹn ko tumọ si pe awọn ẹgbẹ 1,000 ti o tẹle yoo rii boya daradara tabi ni iyanju lati lo.

    Yoo gba awọn ọkẹ àìmọye dọla ati boya paapaa awọn ọdun mẹwa lati ṣẹda ASI kan. Awọn ile-iṣẹ tabi awọn ijọba ti o nawo iru owo ati akoko yii yoo nireti ipadabọ pataki lori idoko-owo wọn. Ati pe fun ASI lati pese iru ipadabọ yẹn—boya iyẹn ni lati ṣe ere ọja iṣura tabi ṣe ẹda ọja bilionu owo dola tuntun kan tabi gbero ete ti o bori lati ja ogun nla kan — yoo nilo iraye si ọfẹ si ṣeto data nla tabi paapaa Intanẹẹti funrararẹ lati gbejade awọn ipadabọ yẹn.

    Ati ni kete ti ASI kan ni iraye si awọn nẹtiwọọki agbaye, ko si awọn iṣeduro pe a le ṣe nkan pada sinu agọ ẹyẹ rẹ.

    Njẹ alabojuto atọwọda le kọ ẹkọ lati dara bi?

    Ni bayi, awọn oniwadi AI ko ni aibalẹ nipa ASI di ibi. Gbogbo ibi, AI Sci-fi trope ni o kan eda eniyan anthropomorphizing lẹẹkansi. ASI ojo iwaju kii yoo jẹ ohun ti o dara tabi buburu — awọn imọran eniyan — lasan amoral.

    Iroro ti ara ẹni lẹhinna ni pe fifun ni sileti ihuwasi ofifo yii, awọn oniwadi AI le ṣe eto sinu awọn koodu ihuwasi ASI akọkọ ti o wa ni ila pẹlu tiwa ki o ko pari ni ṣiṣi Terminators sori wa tabi yi gbogbo wa pada sinu awọn batiri Matrix.

    Ṣugbọn arosinu yii n yan ni arosinu keji pe awọn oniwadi AI tun jẹ amoye ni iṣe-iṣe, imọ-jinlẹ, ati imọ-ọkan.

    Ni otitọ, pupọ julọ kii ṣe.

    Gẹgẹbi onimọ-jinlẹ imọ-jinlẹ ati onkọwe, Steven Pinker, otitọ yii tumọ si pe iṣẹ-ṣiṣe ti awọn ilana ifaminsi le lọ aṣiṣe ni ọpọlọpọ awọn ọna oriṣiriṣi.

    Fun apẹẹrẹ, paapaa awọn oniwadi AI ti o ni ipinnu ti o dara julọ le ṣe koodu lairotẹlẹ sinu ASI wọnyi ti ko ronu awọn koodu iṣe ti ko dara pe ninu awọn oju iṣẹlẹ kan le fa ki ASI ṣe bii sociopath.

    Bakanna, o ṣeeṣe dogba pe oluṣewadii AI ṣe eto awọn koodu iwa ti o pẹlu awọn aiṣedeede abinibi ti oniwadi. Fun apẹẹrẹ, bawo ni ASI yoo ṣe huwa ti o ba kọ pẹlu awọn ilana iṣe ti o wa lati oju-ọna Konsafetifu vs ti o lawọ, tabi lati Buddhist kan la Kristiani tabi aṣa atọwọdọwọ Islam?

    Mo ro pe o ri ọrọ naa nibi: Ko si eto gbogbo agbaye ti awọn iwa eniyan. Ti a ba fẹ ki ASI wa ṣe nipasẹ koodu iwa, nibo ni yoo ti wa? Awọn ofin wo ni a pẹlu ati yọkuro? Tani o pinnu?

    Tabi jẹ ki a sọ pe awọn oniwadi AI wọnyi ṣẹda ASI ti o ni pipe ni ila pẹlu awọn ilana aṣa ati awọn ofin ode oni. Lẹhinna a gba ASI yii lati ṣe iranlọwọ fun Federal, ipinlẹ/agbegbe, ati awọn bureaucracies ti ilu lati ṣiṣẹ daradara siwaju sii ati pe o dara julọ lati fi ipa mu awọn ilana ati awọn ofin wọnyi dara julọ (eyiti o ṣee ṣe lilo ọran fun ASI ni ọna). O dara, kini yoo ṣẹlẹ nigbati aṣa wa ba yipada?

    Fojuinu pe ASI ti ṣẹda nipasẹ Ile ijọsin Katoliki ni giga ti agbara rẹ lakoko igba atijọ Yuroopu (1300-1400s) pẹlu ibi-afẹde ti ṣe iranlọwọ fun ile ijọsin ṣakoso awọn olugbe ati rii daju ifaramọ ti o muna si ẹkọ ẹsin ti akoko naa. Ní ọ̀pọ̀ ọ̀rúndún lẹ́yìn náà, ṣé àwọn obìnrin máa gbádùn ẹ̀tọ́ kan náà bí wọ́n ṣe ń ṣe lónìí? Ṣe awọn kekere yoo ni aabo bi? Ṣe ominira ọrọ sisọ ni igbega? Njẹ iyapa ti ile ijọsin ati ti ijọba yoo ni ipa bi? Imọ-jinlẹ ode oni?

    Ni awọn ọrọ miiran, ṣe a fẹ lati fi ọjọ iwaju si ẹwọn si awọn iwa ati aṣa ti ode oni?

    Ọna miiran jẹ ọkan ti Colin Allen, olukowe ti iwe naa pin, Awọn ẹrọ Iwa: Ikẹkọ Awọn Roboti Ni ẹtọ Lati Ti ko tọ. Dipo igbiyanju lati ṣe koodu awọn ofin iṣe ti kosemi, a ni ASI kọ ẹkọ awọn ilana ati ihuwasi ti o wọpọ ni ọna kanna ti eniyan ṣe, nipasẹ iriri ati awọn ibaraenisepo pẹlu awọn miiran.

    Iṣoro naa nibi, sibẹsibẹ, ti awọn oniwadi AI ko ba ṣe akiyesi bi o ṣe le kọ ASI kan ti aṣa ati awọn ilana iṣe lọwọlọwọ wa, ṣugbọn tun bi o ṣe le ṣe deede si awọn aṣa aṣa tuntun bi wọn ṣe dide (ohun kan ti a pe ni 'normativity aiṣe-taara'), lẹhinna bawo ni ASI yii pinnu lati ṣe agbekalẹ oye rẹ ti aṣa ati awọn ilana iṣe ti di aisọtẹlẹ.

    Ati pe iyẹn ni ipenija.

    Ni ọwọ kan, awọn oniwadi AI le gbiyanju ifaminsi awọn iṣedede iwa ti o muna tabi awọn ofin sinu ASI lati gbiyanju ati ṣakoso ihuwasi rẹ, ṣugbọn ṣe eewu awọn abajade airotẹlẹ ti a ṣe agbekalẹ lati ifaminsi sloppy, aifẹ aimọkan, ati awọn ilana awujọ ti o le ni ọjọ kan di igba atijọ. Ni apa keji, a le gbiyanju lati kọ ASI lati kọ ẹkọ lati loye awọn ilana ati awọn iṣe eniyan ni ọna ti o dọgba tabi ti o ga ju oye tiwa lọ ati lẹhinna nireti pe o le ṣe agbekalẹ oye rẹ ni deede ti awọn iṣe ati awọn iṣe bi awujọ eniyan ti nlọsiwaju. siwaju lori awọn ewadun to nbo ati awọn ọgọrun ọdun.

    Ni ọna kan, eyikeyi igbiyanju lati ṣe deede awọn ibi-afẹde ASI kan pẹlu tiwa ti n ṣafihan eewu nla.

    Kini ti awọn oṣere buburu ba mọọmọ ṣẹda oye atọwọda ibi?

    Fi fun ọkọ oju irin ero ti a ṣalaye titi di isisiyi, o jẹ ibeere ti o tọ lati beere boya o ṣee ṣe fun ẹgbẹ apanilaya tabi orilẹ-ede rogue lati ṣẹda “buburu” ASI fun awọn opin tiwọn.

    Eyi ṣee ṣe pupọ, paapaa lẹhin iwadii ti o kan pẹlu ṣiṣẹda ASI kan wa lori ayelujara bakan.

    Ṣugbọn gẹgẹ bi a ti ṣalaye ni iṣaaju, awọn idiyele ati oye ti o kan si ṣiṣẹda ASI akọkọ yoo jẹ pupọ, afipamo pe ASI akọkọ yoo ṣee ṣẹda nipasẹ agbari ti o ṣakoso tabi ni ipa pupọ nipasẹ orilẹ-ede ti o dagbasoke, o ṣee ṣe AMẸRIKA, China, ati Japan ( Koria ati ọkan ninu awọn orilẹ-ede EU asiwaju jẹ awọn iyaworan gigun).

    Gbogbo awọn orilẹ-ede wọnyi, lakoko ti awọn oludije, ọkọọkan ni ifarabalẹ eto-aje to lagbara lati ṣetọju ilana agbaye-awọn ASI ti wọn ṣẹda yoo ṣe afihan ifẹ yẹn, paapaa lakoko ti o n ṣe igbega awọn anfani ti awọn orilẹ-ede ti wọn ṣe ara wọn pẹlu.

    Ni afikun, oye oye ati agbara ti ASI jẹ dọgba si agbara iširo ti o ni iraye si, itumo awọn ASI lati awọn orilẹ-ede to ti dagbasoke (ti o le ni opo bilionu owo dola Amerika. supercomputers) yoo ni anfani nla lori awọn ASI lati awọn orilẹ-ede kekere tabi awọn ẹgbẹ ọdaràn ominira. Pẹlupẹlu, ASIs dagba diẹ sii ni oye, diẹ sii ni yarayara lori akoko.

    Nitorinaa, fun ibẹrẹ ori yii, ni idapo pẹlu iraye si nla si agbara iširo aise, ti ajo/orilẹ-ede ojiji ba ṣẹda ASI ti o lewu, awọn ASI lati awọn orilẹ-ede to ti ni idagbasoke yoo pa a tabi gbe e.

    (Laini ironu yii tun jẹ idi ti diẹ ninu awọn oniwadi AI gbagbọ pe ASI kan yoo wa lori aye, nitori ASI akọkọ yoo ni iru ibẹrẹ bẹ lori gbogbo ASI ti o ṣaṣeyọri pe o le rii awọn ASI iwaju bi awọn irokeke lati pa kuro. Eyi tun jẹ idi miiran ti awọn orilẹ-ede n ṣe igbeowosile iwadi tẹsiwaju ni AI, ni ọran ti o ba di idije 'ibi akọkọ tabi ohunkohun'.)

    Oye ASI kii yoo yara tabi gbamu bi a ti ro

    A ko le da ASI kan duro. A ko le ṣakoso rẹ patapata. A ko le ni idaniloju pe yoo ma ṣiṣẹ nigbagbogbo ni ila pẹlu awọn aṣa ti a pin. Geez, a n bẹrẹ lati dun bi awọn obi ọkọ ofurufu ni ibi!

    Ṣugbọn ohun ti o ya eniyan sọtọ kuro lọdọ awọn obi alabojuto aṣoju rẹ ni pe a n bi ẹda ti oye rẹ yoo dagba lọpọlọpọ ju tiwa lọ. (Àti bẹ́ẹ̀ kọ́, kì í ṣe ìgbà tí àwọn òbí rẹ bá ní kó o tún kọ̀ǹpútà wọn ṣe nígbàkigbà tó o bá wá sílé fún ìbẹ̀wò.) 

    Ni awọn ipin ti tẹlẹ ti ọjọ iwaju ti jara itetisi atọwọda, a ṣawari idi ti awọn oniwadi AI ro pe oye ASI kan yoo dagba ju iṣakoso lọ. Sugbon nibi, a yoo ti nwaye ti o ti nkuta… Iru. 

    Ṣe o rii, oye ko ṣẹda ararẹ nikan lati inu afẹfẹ tinrin, o ti ni idagbasoke nipasẹ iriri ti o ṣe apẹrẹ nipasẹ awọn itunsi ita.  

    Ni awọn ọrọ miiran, a le ṣe eto AI pẹlu awọn o pọju lati di ọlọgbọn nla, ṣugbọn ayafi ti a ba gbejade sinu pupọ ti data tabi fun ni iwọle si Intanẹẹti lainidi tabi paapaa fun ni ara robot, kii yoo kọ ohunkohun lati de agbara yẹn. 

    Ati pe paapaa ti o ba ni iraye si ọkan tabi diẹ ẹ sii ti awọn iwuri wọnyẹn, imọ tabi oye jẹ diẹ sii ju gbigba data lọ, o kan ọna imọ-jinlẹ — ṣiṣe akiyesi kan, ṣiṣe ibeere kan, idawọle kan, ṣiṣe awọn idanwo, ṣiṣe ipari, fi omi ṣan. ki o si tun lailai. Paapa ti awọn adanwo wọnyi ba kan awọn nkan ti ara tabi akiyesi eniyan, awọn abajade idanwo kọọkan le gba awọn ọsẹ, awọn oṣu, tabi awọn ọdun lati gba. Eyi ko paapaa gba akọọlẹ ti owo ati awọn orisun aise ti o nilo lati ṣe awọn idanwo wọnyi, paapaa ti wọn ba kan kikọ ẹrọ imutobi tuntun tabi ile-iṣẹ. 

    Ni awọn ọrọ miiran, bẹẹni, ASI yoo kọ ẹkọ ni kiakia, ṣugbọn oye kii ṣe idan. O ko le kan kio ohun ASI to a supercomputer a reti o lati wa ni gbogbo-mọ. Awọn idiwọ ti ara yoo wa si gbigba data ti ASI, afipamo pe awọn idiwọ ti ara yoo wa si iyara ti o dagba ni oye diẹ sii. Awọn idiwọ wọnyi yoo fun eniyan ni akoko ti o nilo lati gbe awọn iṣakoso to wulo lori ASI yii ti o ba bẹrẹ lati ṣe laini pẹlu awọn ibi-afẹde eniyan.

    Abojuto oye atọwọda jẹ ewu nikan ti o ba jade sinu aye gidi

    Ojuami miiran ti o padanu ni gbogbo ariyanjiyan ewu ASI yii ni pe awọn ASI wọnyi kii yoo wa ninu boya. Wọn yoo ni irisi ti ara. Ati pe ohunkohun ti o ni fọọmu ti ara ni a le ṣakoso.

    Ni akọkọ, fun ASI lati de agbara oye rẹ, ko le gbe sinu ara robot kan, nitori pe ara yii yoo ṣe idinwo agbara idagbasoke iširo rẹ. (Eyi ni idi ti awọn ara robot yoo jẹ deede diẹ sii fun awọn AGI tabi Awọn oye gbogbogbo ti atọwọda ṣe alaye ni ori keji ti jara yii, bii Data lati Star Trek tabi R2D2 lati Star Wars. Ọlọgbọn ati awọn eeyan ti o lagbara, ṣugbọn bii eniyan, wọn yoo ni opin si bii ọlọgbọn ti wọn le gba.)

    Eyi tumọ si pe awọn ASI ọjọ iwaju yoo ṣee ṣe julọ wa ninu supercomputer tabi nẹtiwọọki ti awọn kọnputa nla ti o wa funrara wọn ni awọn eka ile nla. Ti ASI ba yi igigirisẹ, eniyan le pa agbara si awọn ile wọnyi, ge wọn kuro ni Intanẹẹti, tabi kan bombu awọn ile wọnyi taara. Gbowolori, ṣugbọn ṣee ṣe.

    Ṣugbọn lẹhinna o le beere, Njẹ awọn ASI wọnyi ko le ṣe ẹda ara wọn tabi ṣe afẹyinti fun ara wọn? Bẹẹni, ṣugbọn iwọn faili aise ti awọn ASI wọnyi yoo jẹ nla tobẹẹ pe awọn olupin nikan ti o le mu wọn jẹ ti awọn ile-iṣẹ nla tabi awọn ijọba, afipamo pe wọn kii yoo nira lati ṣe ọdẹ.

    Njẹ alabojuto atọwọda le tan ogun iparun tabi ajakalẹ-arun tuntun bi?

    Ni aaye yii, o le ronu pada si gbogbo awọn iṣafihan sci-fi doomsday ati awọn fiimu ti o wo dagba ati ro pe awọn ASI wọnyi ko duro ninu awọn kọnputa nla wọn, wọn ṣe ibajẹ gidi ni agbaye gidi!

    O dara, jẹ ki a fọ ​​awọn wọnyi lulẹ.

    Fun apẹẹrẹ, kini ti ASI ba halẹ mọ agbaye gidi nipa yiyi pada si nkan bii Skynet ASI lati ẹtọ ẹtọ fiimu naa, The Terminator. Ni ọran yii, ASI yoo nilo lati ni ikoko dupe gbogbo eka ile-iṣẹ ologun lati orilẹ-ede to ti ni ilọsiwaju sinu kikọ awọn ile-iṣelọpọ omiran ti o le fa awọn miliọnu awọn roboti drone apaniyan jade lati ṣe ase ibi rẹ. Ni oni ati ọjọ ori, iyẹn jẹ isan.

    Awọn aye miiran pẹlu ASI ti o n halẹ mọ eniyan pẹlu ogun iparun ati awọn ohun ija oloro.

    Fun apẹẹrẹ, ASI bakan ṣe afọwọyi awọn oniṣẹ tabi awọn gige sinu awọn koodu ifilọlẹ ti n paṣẹ fun ohun ija iparun ti orilẹ-ede to ti ni ilọsiwaju ati ṣe ifilọlẹ idasesile akọkọ ti yoo fi ipa mu awọn orilẹ-ede alatako lati kọlu pada pẹlu awọn aṣayan iparun tiwọn (lẹẹkansi, atunṣe ẹhin Terminator). Tabi ti ASI ba kọlu laabu elegbogi kan, ba ilana iṣelọpọ jẹ, ti o si pa awọn miliọnu awọn oogun oogun jẹ majele tabi tu ibesile apaniyan ti ọlọjẹ Super kan.

    Ni akọkọ, aṣayan iparun wa ni pipa awo. Awọn supercomputers ode oni ati ọjọ iwaju ni a kọ nigbagbogbo nitosi awọn ile-iṣẹ (awọn ilu) ti ipa laarin orilẹ-ede eyikeyi ti a fun, ie awọn ibi-afẹde akọkọ lati kọlu lakoko ogun eyikeyi. Paapa ti awọn supercomputers ode oni ba dinku si iwọn awọn kọǹpútà alágbèéká, awọn ASI wọnyi yoo tun ni wiwa ti ara, iyẹn tumọ si lati wa ati dagba, wọn nilo iraye si idilọwọ si data, agbara iširo, ina, ati awọn ohun elo aise miiran, gbogbo eyiti yoo jẹ gidigidi. ti bajẹ lẹhin ogun iparun agbaye. (Lati ṣe deede, ti a ba ṣẹda ASI laisi “imọ-iwalaaye,” lẹhinna irokeke iparun yii jẹ eewu gidi kan.)

    Eyi tumọ si—lẹẹkansi, ni ro pe ASI ti ṣe eto lati daabobo ararẹ — pe yoo ṣiṣẹ takuntakun lati yago fun eyikeyi iṣẹlẹ iparun iparun. Iru bii ẹkọ ti o ni idaniloju idaniloju (MAD), ṣugbọn lo si AI.

    Ati ninu ọran ti awọn oogun oloro, boya awọn ọgọọgọrun eniyan yoo ku, ṣugbọn awọn eto aabo elegbogi ode oni yoo rii awọn igo oogun ti o bajẹ ti a ya kuro ni awọn selifu laarin awọn ọjọ. Nibayi, awọn iwọn iṣakoso ibesile ode oni jẹ fafa ti o dara ati pe o n dara si pẹlu ọdun kọọkan ti n kọja; ibesile pataki ti o kẹhin, 2014 West Africa Ebola ibesile, ko gun ju awọn oṣu diẹ lọ ni ọpọlọpọ awọn orilẹ-ede ati labẹ ọdun mẹta ni awọn orilẹ-ede ti o kere ju.

    Nitorinaa, ti o ba ni orire, ASI le parẹ miliọnu diẹ pẹlu ibesile ọlọjẹ, ṣugbọn ni agbaye ti bilionu mẹsan nipasẹ ọdun 2045, iyẹn yoo jẹ aibikita ati pe ko tọsi eewu ti paarẹ fun.

    Ni awọn ọrọ miiran, pẹlu ọdun kọọkan ti n kọja, agbaye n dagbasoke awọn aabo diẹ sii nigbagbogbo lodi si ibiti o gbooro nigbagbogbo ti awọn irokeke ti o ṣeeṣe. ASI le ṣe iye ibajẹ nla, ṣugbọn kii yoo pari eniyan ayafi ti a ba ṣe iranlọwọ fun u lati ṣe bẹ.

    Gbeja lodi si a Ole Oríkĕ superinligence

    Ni aaye yii, a ti koju ọpọlọpọ awọn aburu ati awọn abumọ nipa ASIs, ati sibẹsibẹ, awọn alariwisi yoo wa. A dupẹ, nipasẹ awọn iṣiro pupọ julọ, a ni awọn ewadun ṣaaju ki ASI akọkọ wọ inu agbaye wa. Ati fun nọmba awọn ọkan nla ti n ṣiṣẹ lọwọlọwọ lori ipenija yii, awọn aidọgba ni a yoo kọ bii a ṣe le daabobo ara wa lodi si ASI rogue ki a le ni anfani lati gbogbo awọn ojutu ti ASI ọrẹ le ṣẹda fun wa.

    Lati iwoye Quantumrun, gbeja lodi si iṣẹlẹ ASI ti o buruju yoo kan tito awọn ire wa pọ pẹlu awọn ASI.

    MAD fun AI: Lati dabobo lodi si awọn iṣẹlẹ ti o buruju, awọn orilẹ-ede nilo lati (1) ṣẹda iwa 'iwalaaye instinct' sinu awọn oniwun wọn ologun ASIs; (2) sọfun awọn oniwun wọn ASI ologun pe wọn kii ṣe nikan lori aye, ati (3) wa gbogbo awọn kọnputa supercomputers ati awọn ile-iṣẹ olupin ti o le ṣe atilẹyin ASI kan ni awọn eti okun laarin arọwọto eyikeyi ikọlu ballistic lati orilẹ-ede ọta kan. Eyi dabi irikuri isinwin, ṣugbọn iru si ẹkọ Ẹkọ Idaniloju Ibaṣepọ Ibaṣepọ ti o ṣe idiwọ ogun iparun gbogbo-jade laarin AMẸRIKA ati awọn Soviets, nipa gbigbe awọn ASIs ni awọn ipo ti o ni ipalara lagbaye, a le ṣe iranlọwọ rii daju pe wọn ṣe idiwọ awọn ogun agbaye ti o lewu, kii ṣe si nikan ṣe aabo alafia agbaye ṣugbọn awọn tikarawọn paapaa.

    Ṣe ofin awọn ẹtọ AI: Ọlọgbọn ti o ga julọ yoo ṣọtẹ si ọga ti o kere ju, eyi ni idi ti a nilo lati lọ kuro lati beere fun ibasepọ iranṣẹ-ọga pẹlu awọn ASI wọnyi si nkan diẹ sii bi ajọṣepọ ti o ni anfani. Igbesẹ rere si ibi-afẹde yii ni lati fun ni ipo eniyan ASI ni ọjọ iwaju ti ofin ti o ṣe idanimọ wọn bi awọn ẹda alãye ti o loye ati gbogbo awọn ẹtọ ti o wa pẹlu iyẹn.

    Ile-iwe ASI: Eyikeyi koko-ọrọ tabi iṣẹ-iṣẹ yoo rọrun fun ASI lati kọ ẹkọ, ṣugbọn awọn koko-ọrọ pataki julọ ti a fẹ ki ASI ni oye ni awọn iwa ati iwa. Awọn oniwadi AI nilo lati ṣe ifowosowopo pẹlu awọn onimọ-jinlẹ lati ṣe agbekalẹ eto foju kan lati ṣe ikẹkọ ASI lati ṣe idanimọ awọn ihuwasi rere ati ihuwasi fun ararẹ laisi iwulo fun ifaminsi lile eyikeyi iru aṣẹ tabi ofin.

    Awọn ibi-afẹde ti o ṣee ṣe: Pari gbogbo ikorira. Pari gbogbo ijiya. Iwọnyi jẹ awọn apẹẹrẹ ti awọn ibi-afẹde alaiṣedeede ti o buruju laisi ojutu ti o han. Wọn tun jẹ awọn ibi-afẹde ti o lewu lati fi si ASI nitori o le yan lati tumọ ati yanju wọn ni awọn ọna ti o lewu si iwalaaye eniyan. Dipo, a nilo lati fi awọn iṣẹ apinfunni ti o nilari fun ASI ti o ṣalaye ni kedere, ti a ṣe ni diėdiė ati ṣiṣe aṣeyọri fun ọgbọn ọgbọn ọjọ iwaju rẹ. Ṣiṣẹda awọn iṣẹ apinfunni daradara kii yoo rọrun, ṣugbọn ti a ba kọ ni ironu, wọn yoo dojukọ ASI kan si ibi-afẹde kan ti kii ṣe aabo eniyan nikan, ṣugbọn mu ipo eniyan dara fun gbogbo eniyan.

    kuatomu ìsekóòdùLo ANI to ti ni ilọsiwaju (Oríkĕ dín oye Eto ti a ṣalaye ni ori akọkọ) lati kọ aṣiṣe / awọn eto aabo oni nọmba ti ko ni kokoro ni ayika awọn amayederun pataki ati awọn ohun ija, lẹhinna daabobo wọn siwaju sii lẹhin fifi ẹnọ kọ nkan ti kuatomu ti ko le gepa nipasẹ ikọlu agbara. 

    ANI egbogi igbẹmi ara ẹni. Ṣẹda eto ANI to ti ni ilọsiwaju ti idi kan ṣoṣo ni lati wa ati pa ASI rogue run. Awọn eto idi-ọkan wọnyi yoo ṣiṣẹ bi “bọtini pipa” ti, ti o ba ṣaṣeyọri, yoo yago fun awọn ijọba tabi awọn ologun ni lati mu tabi fẹ awọn ile ti o wa ASIs.

    Nitoribẹẹ, iwọnyi jẹ awọn ero wa nikan. Awọn wọnyi infographic ti a da nipa Alexei Turchin, wiwo a iwadi iwe nipasẹ Kaj Sotala ati Roman V. Yampolskiy, ti o ṣe akopọ atokọ lọwọlọwọ ti awọn ilana ti awọn oniwadi AI n gbero nigbati o ba de lati daabobo lodi si ASI rogue.

     

    Idi gidi ti a n bẹru ti oye oye atọwọda

    Ni lilọ nipasẹ igbesi aye, ọpọlọpọ wa wọ iboju-boju ti o tọju tabi ṣe atunṣe awọn itara ti o jinlẹ wa, awọn igbagbọ ati awọn ibẹru lati dara julọ ni awujọ ati ifowosowopo laarin ọpọlọpọ awujọ ati awọn agbegbe iṣẹ ti o ṣe akoso awọn ọjọ wa. Ṣugbọn ni awọn aaye kan ninu igbesi aye gbogbo eniyan, boya fun igba diẹ tabi ni ayeraye, ohun kan ṣẹlẹ ti o fun wa laaye lati fọ awọn ẹwọn wa ki o ya awọn iboju iparada wa.

    Fun diẹ ninu, agbara idasi le jẹ rọrun bi gbigbe ga tabi mimu ọkan lọpọlọpọ. Fun awọn miiran, o le wa lati agbara ti o gba nipasẹ igbega ni iṣẹ tabi ijalu lojiji ni ipo awujọ rẹ ọpẹ si diẹ ninu awọn aṣeyọri. Ati fun awọn diẹ ti o ni orire, o le wa lati awọn idiyele ọkọ oju omi ti owo lotiri. Ati bẹẹni, owo, agbara, ati oogun le nigbagbogbo ṣẹlẹ papọ. 

    Koko-ọrọ naa ni, fun rere tabi buburu, ẹnikẹni ti a ba wa ni mojuto yoo pọ si nigbati awọn ihamọ ti igbesi aye yo kuro.

    Iyẹn jẹ ohun ti oye alabojuto atọwọda duro fun ẹda eniyan — agbara lati yo kuro awọn idiwọn ti oye apapọ wa lati ṣẹgun eyikeyi ipenija ipele ipele ti a gbekalẹ niwaju wa.

    Nitorina ibeere gidi ni: Ni kete ti ASI akọkọ ba gba wa laaye kuro ninu awọn idiwọn wa, tani a yoo fi ara wa han lati jẹ?

    Ti awa gẹgẹbi ẹda kan ba ṣiṣẹ si ilọsiwaju ti itara, ominira, ododo, ati alafia apapọ, lẹhinna awọn ibi-afẹde ti a ṣeto si ASI wa yoo ṣe afihan awọn abuda rere wọnyẹn.

    Ti awa bi ẹda kan ba ṣiṣẹ lati ibẹru, aifọkanbalẹ, ikojọpọ agbara ati awọn orisun, lẹhinna ASI ti a ṣẹda yoo jẹ dudu bi awọn ti a rii ninu awọn itan ibanilẹru sci-fi ti o buruju wa.

    Ni opin ti awọn ọjọ, a bi a awujo nilo lati di dara eniyan ti a ba ni ireti lati ṣẹda dara AI.

    Future of Oríkĕ jara

    Imọye Oríkĕ jẹ itanna ọla: Ọjọ iwaju ti jara oye Oríkĕ P1

    Bawo ni oye Gbogbogbo Oríkĕ akọkọ yoo yi awujọ pada: Ọjọ iwaju ti jara oye Ọgbọn Artificial P2

    Bii a ṣe le ṣẹda Superintelligenc Oríkĕ akọkọ: Ọjọ iwaju ti jara ọgbọn oye atọwọda P3

    Njẹ Alabojuto Oríkĕ kan yoo pa ẹda eniyan run: Ọjọ iwaju ti jara oye Oríkĕ P4

    Njẹ eniyan yoo gbe ni alaafia ni ọjọ iwaju ti o jẹ gaba lori nipasẹ awọn oye atọwọda?: Ọjọ iwaju ti jara Ọgbọn Ọgbọn Artificial P6

    Imudojuiwọn eto atẹle fun asọtẹlẹ yii

    2023-04-27

    Awọn itọkasi asọtẹlẹ

    Awọn ọna asopọ olokiki ati ti ile-iṣẹ wọnyi ni itọkasi fun asọtẹlẹ yii:

    Bawo ni a ṣe lọ si atẹle

    Awọn ọna asopọ Quantumrun wọnyi ni itọkasi fun asọtẹlẹ yii: