Èske yon Superintelligence atifisyèl ekstèmine limanite? Avni entèlijans atifisyèl P4

Gen sèten envansyon nasyon yo ale tout nan. Sa yo se envansyon kote tout bagay depann sou yo te premye, ak nenpòt ki bagay mwens ka vle di yon menas estratejik ak mòtèl pou siviv yon nasyon.

Envansyon sa yo ki defini istwa pa vini souvan, men lè yo fè sa, mond lan sispann epi yon avni previzib vin twoub.

Dènye envansyon sa yo te parèt pandan pi move GMII. Pandan ke Nazi yo t ap pran tè sou tout fwon nan ansyen mond lan, nan nouvo mond lan, espesyalman andedan yon baz lame sekrè deyò Los Alamos, Alye yo te travay di sou yon zam pou fini ak tout zam yo.

Pwojè a te piti okòmansman, men answit te grandi pou anplwaye 130,000 moun ki soti nan peyi Etazini, UK, ak Kanada, ki gen ladan anpil nan pi gwo panse nan mond lan nan epòk la. Yo te bay yon non kod Pwojè Manhattan epi yo te bay yon bidjè san limit—apeprè 23 milya dola nan 2018 dola—lame entèlijans imen sa a evantyèlman te reyisi kreye premye bonm nikleyè a. Pa lontan apre, GMII te fini ak de bang atomik.

Zam nikleyè sa yo te inogire epòk atomik la, te entwodui yon nouvo sous enèji, epi li te bay limanite kapasite pou l ekstèmine tèt li nan kèk minit—yon bagay nou te evite malgre Gè Fwad la.

Kreyasyon yon superentelijans atifisyèl (ASI) se ankò yon lòt istwa defini envansyon ki gen pouvwa (tou de pozitif ak destriktif) byen lwen depase bonm nikleyè a.

Nan dènye chapit seri avni entèlijans atifisyèl la, nou te eksplore kisa yon ASI ye ak fason chèchè yo planifye pou yon jou bati youn. Nan chapit sa a, nou pral gade ki òganizasyon ki mennen rechèch sou entèlijans atifisyèl (AI), kisa yon ASI pral vle yon fwa li pran yon konsyans ki sanble ak moun, ak ki jan li ta ka menase limanite si li mal jere oswa si yon moun tonbe anba enfliyans nan. rejim pa tèlman bèl.

Kiyès k ap travay pou konstwi yon sipè entèlijans atifisyèl?

Etandone jan kreyasyon yon ASI pral enpòtan nan istwa imen ak ki jan gwo avantaj li pral bay kreyatè li a, li pa ta dwe sipriz tande ke anpil gwoup ap travay endirèkteman sou pwojè sa a.

(Pa endirèkteman, nou vle di travay sou rechèch AI ki pral evantyèlman kreye premye a entèlijans jeneral atifisyèl (AGI), ki pral tèt li mennen nan premye ASI a touswit apre.)

Pou kòmanse, lè li rive tit yo, lidè klè nan rechèch avanse AI yo se konpayi teknoloji ki pi wo nan peyi Etazini ak Lachin. Sou devan US, sa a gen ladan konpayi tankou Google, IBM, ak Microsoft, ak nan Lachin, sa a gen ladan konpayi tankou Tencent, Baidu, ak Alibaba. Men, piske rechèch AI se relativman bon mache an konparezon ak devlope yon bagay fizik, tankou yon pi bon raktor nikleyè, sa a se tou yon domèn ki pi piti òganizasyon yo ka fè konpetisyon nan tou, tankou inivèsite, demaraj, ak ... òganizasyon lonbraj (sèvi ak imajinasyon mechan Bond ou a pou sa a).

Men, dèyè sèn nan, reyèl pouse dèyè rechèch AI ap soti nan gouvènman yo ak militè yo. Pri ekonomik ak militè pou yo te premye moun ki kreye yon ASI se jis twò gwo (ki endike anba a) pou riske tonbe dèyè. Ak danje ki genyen nan yo te dènye yo akseptab, omwen nan sèten rejim.

Bay faktè sa yo, pri relativman ba pou fè rechèch sou AI, aplikasyon komèsyal enfini nan AI avanse, ak avantaj ekonomik ak militè pou yo te premye kreye yon ASI, anpil chèchè AI kwè kreyasyon yon ASI se inevitab.

Kilè nou pral kreye yon superentelijans atifisyèl

Nan chapit nou an sou AGI yo, nou te mansyone ki jan yon sondaj nan pi gwo chèchè AI te kwè nou ta kreye premye AGI a optimisman pa 2022, realistikman pa 2040, ak pesimism pa 2075.

Ak nan nou an dènye chapit, nou te dekri kouman kreye yon ASI se jeneralman rezilta nan enstwi yon AGI amelyore tèt li enfiniman epi bay li resous ak libète pou fè sa.

Pou rezon sa a, pandan ke yon AGI ka pran jiska kèk deseni pou envante, kreye yon ASI ka pran sèlman yon ti ponyen ane plis.

Pwen sa a se menm jan ak konsèp nan yon 'enfomasyon informatique,' sijere nan yon papye, ko-ekri pa dirijan AI panse Luke Muehlhauser ak Nick Bostrom. Fondamantalman, ta dwe kreyasyon yon AGI kontinye lag dèyè pwogrè aktyèl la nan kapasite informatique, patrone pa Lwa Moore, Lè sa a, lè chèchè yo envante yon AGI, pral gen anpil pouvwa informatique bon mache ki disponib ke AGI a pral gen kapasite nan. li bezwen byen vit leapfrog nan nivo ASI.

Nan lòt mo, lè ou finalman li tit yo anonse ke kèk konpayi teknoloji envante premye AGI a vre, Lè sa a, espere anons la nan premye ASI a pa lontan apre.

Anndan lespri yon superentelijans atifisyèl?

Oke, kidonk nou te etabli ke yon anpil nan gwo jwè ki gen pòch byen fon ap fè rechèch sou AI. Apre sa, apre yo fin envante premye AGI a, nou pral wè gouvènman mondyal (militè) vèt-eklere pouse a nan direksyon yon ASI touswit apre sa yo dwe premye pou genyen kous zam mondyal AI (ASI).

Men, yon fwa ke ASI sa a te kreye, ki jan li pral panse? Kisa li pral vle?

Chen zanmitay la, elefan k ap pran swen an, bèl robo a—tankou moun, nou gen abitid pou nou eseye gen rapò ak bagay sa yo atravè antwopoloji yo, sa vle di aplike karakteristik moun nan bagay ak bèt yo. Se poutèt sa natirèl premye sipozisyon moun yo genyen lè yo panse sou yon ASI se ke yon fwa li yon jan kanmenm pran konsyans, li pral panse ak konpòte menm jan ak nou.

Oke, pa nesesèman.

Pèsepsyon. Pou youn, sa ki pi gen tandans bliye se pèsepsyon relatif. Fason nou panse yo fòme pa anviwònman nou an, pa eksperyans nou yo, epi sitou pa byoloji nou an. Premye eksplike nan chapit twa nan nou an Avni Evolisyon Imèn seri, konsidere egzanp sèvo nou an:

Se sèvo nou ki ede nou fè sans sou mond ki antoure nou an. Epi li fè sa pa flote anlè tèt nou, gade alantou, ak kontwole nou ak yon kontwolè Xbox; li fè sa nan kwense andedan yon bwat (noggins nou) ak trete kèlkeswa enfòmasyon li bay nan ògàn sansoryèl nou yo-je nou, nen, zòrèy, elatriye.

Men, menm jan moun ki soud oswa avèg viv yon vi ki pi piti konpare ak moun ki pa gen kapasite yo, akòz limit andikap yo mete sou fason yo ka wè mond lan, menm bagay la ka di pou tout moun akòz limit de baz nou yo. seri ògàn sansoryèl yo.

Konsidere sa a: Je nou yo wè mwens pase dis trilyonyèm nan tout vag limyè. Nou pa ka wè reyon gama. Nou pa ka wè radyografi. Nou pa ka wè limyè iltravyolèt. Epi pa fè m kòmanse sou enfrawouj, mikwo ond ak onn radyo!

Tout plèzantri sou kote, imajine ki jan lavi ou ta ye, ki jan ou ta ka wè mond lan, ki jan diferan lide ou ta ka travay si ou ta ka wè plis pase ti moso limyè a je ou pèmèt kounye a. Menm jan an tou, imajine ki jan ou ta wè mond lan si sans ou nan sant egal ak yon chen oswa si sans ou nan tande egal ak yon elefan.

Antanke moun, nou esansyèlman wè mond lan atravè yon peephole, e sa a reflete nan lespri nou te evolye pou fè sans nan pèsepsyon limite sa a.

Pandan se tan, premye ASI a pral fèt andedan yon supercomputer. Olye de ògàn yo, entrées li pral jwenn gen ladann jeyan datasets, petèt (gen anpil chans) menm aksè a entènèt la tèt li. Chèchè yo te kapab bay li aksè a kamera CCTV ak mikwofòn nan yon vil antye, done sansoryèl ki soti nan dron ak satelit, e menm fòm fizik yon kò robo oswa kò.

Kòm ou ta ka imajine, yon lide ki fèt andedan yon sipè òdinatè, ak aksè dirèk nan entènèt la, nan dè milyon de je elektwonik ak zòrèy ak yon seri antye de lòt detèktè avanse pa pral sèlman panse yon fason diferan pase nou, men yon lide ki ka fè sans. nan tout sa yo entrées sansoryèl ta dwe enfiniman siperyè nou tou. Sa a se yon lide ki pral totalman etranje nan pwòp pa nou yo ak nan nenpòt ki lòt fòm lavi sou planèt la.

Objektif. Lòt bagay moun asime se ke yon fwa yon ASI rive nan kèk nivo nan superintelligence, li pral imedyatman reyalize dezi a vini ak objektif pwòp li yo ak objektif. Men, sa pa nesesèman vre tou.

Anpil chèchè AI kwè ke sipè entèlijans yon ASI ak objektif li yo "òtogonal", sa vle di, kèlkeswa jan li vin entelijan, objektif ASI a ap rete menm jan an. 

Kidonk, si wi ou non yon AI kreye yon pi bon kouchèt, maksimize retounen sou mache dechanj la, oswa estrateji pou defèt yon lènmi sou chan batay la, yon fwa li rive nan nivo ASI, objektif orijinal la pa pral chanje; sa ki pral chanje se efikasite ASI pou atenn objektif sa yo.

Men, isit la manti danje a. Si yon ASI ki optimize tèt li nan yon objektif espesifik, Lè sa a, nou pi bon asire w ke li optimize nan yon objektif ki nan liy ak objektif limanite a. Sinon, rezilta yo ka tounen trè danjere.

Èske yon superentelijans atifisyèl poze yon risk ekzistans pou limanite?

Se konsa, e si yon ASI lage sou latè? Si li optimize pou domine mache dechanj la oswa asire sipremasi militè ameriken an, èske ASI a pa pral kenbe tèt li nan objektif espesifik sa yo?

Li posib.

Jiskaprezan nou te diskite sou ki jan yon ASI pral obsede ak objektif li te orijinèlman yo te plase epi ki pa imen konpetan nan pouswit objektif sa yo. Trape an se ke yon ajan rasyonèl pral pouswiv objektif li nan mwayen ki pi efikas posib sof si yo bay yon rezon pou pa fè sa.

Pou egzanp, ajan rasyonèl la pral vini ak yon seri de subgoals (sa vle di objektif, objektif enstrimantal, stepping stones) ki pral ede li sou wout li yo reyalize objektif final li yo. Pou moun, objektif kle enkonsyan nou an se repwodiksyon, transmèt jèn ou yo (sa vle di imòtalite endirèk). Sou-objektif yo nan fen sa a ka souvan gen ladan:

• Siviv, nan jwenn manje ak dlo, grandi ak fò, aprann defann tèt ou oswa envesti nan divès fòm pwoteksyon, elatriye. 
• Atire yon konjwen, pa travay deyò, devlope yon pèsonalite angaje, abiye ak élégance, elatriye.
• Bay pitit pitit yo, lè w jwenn yon edikasyon, jwenn yon djòb ki byen peye, achte pèlen lavi klas mwayèn, elatriye.

Pou vas majorite nan nou, nou pral esklav ale nan tout subobjektif sa yo, ak anpil lòt, ak espwa ke nan fen, nou pral reyalize objektif final sa a nan repwodiksyon.

Men, si objektif final sa a, oswa menm nenpòt nan subobjektif ki pi enpòtan yo, yo te menase, anpil nan nou ta pran aksyon defansif deyò zòn konfò moral nou yo - ki gen ladann kopye, vòlè, oswa menm touye.

Menm jan an tou, nan wayòm bèt la, andeyò limit moral imen an, anpil bèt pa t ap panse de fwa pou yo touye anyen ki menase tèt yo oswa pitit yo.

Yon ASI nan lavni pa pral diferan.

Men, olye pou yo pitit pitit, ASI a pral konsantre sou objektif orijinal li te kreye pou, ak nan pouswit objektif sa a, si li jwenn yon gwoup patikilye nan moun, oswa menm tout limanite, se yon obstak nan pouswit objektif li yo. , lè sa a ... li pral pran desizyon an rasyonèl.

(Isit la se kote ou ka konekte nenpòt senaryo doomsday ki gen rapò ak AI ou te li sou liv Sci-Fi pi renmen ou oswa fim.)

Sa a se senaryo ki pi mal la chèchè AI yo reyèlman enkyete sou. ASI a pa pral aji ak rayisman oswa sa ki mal, jis endiferans, menm jan ak kòman yon ekipaj konstriksyon pa pral panse de fwa sou bulldozing yon ti mòn foumi nan pwosesis la nan bati yon nouvo gwo kay won kondo.

Nòt bò. Nan pwen sa a, kèk nan nou ta ka mande, "Èske chèchè AI pa ka jis edite objektif debaz ASI a apre lefèt si nou jwenn ke li aji soti?"

Pa vrèman.

Yon fwa ke yon ASI matirite, nenpòt tantativ pou modifye objektif orijinal li (yo) ka konsidere kòm yon menas, ak youn ki ta mande aksyon ekstrèm pou defann tèt li kont. Sèvi ak tout egzanp repwodiksyon imen an nan pi bonè, se prèske kòm si yon vòlè te menase vòlè yon ti bebe ki soti nan vant yon manman ansent—ou ka modi asire ke manman ta pran mezi ekstrèm pou pwoteje pitit li.

Ankò, nou pa pale de yon kalkilatris isit la, men yon èt 'vivan', ak yon sèl ki pral yon jou vin pi entelijan pase tout moun sou planèt la konbine.

Enkoni a

Dèyè fab la nan Bwat Pandora se yon verite mwens li te ye ke moun souvan bliye: louvri bwat la se inevitab, si se pa pa ou pase pa yon lòt moun. Konesans entèdi twò tante pou rete fèmen pou tout tan.

Se poutèt sa eseye rive jwenn yon akò mondyal pou sispann tout rechèch sou AI ki ta ka mennen nan yon ASI se initil - gen jis twòp òganizasyon k ap travay sou teknoloji sa a tou de ofisyèlman ak nan lonbraj yo.

Finalman, nou pa gen okenn siy ki sa nouvo antite sa a, ASI sa a pral vle di pou sosyete a, nan teknoloji, nan politik, lapè ak lagè. Nou menm, moun, nou pral envante dife tout lòt peyi ankò, epi kote kreyasyon sa a mennen nou se totalman enkoni.

Retounen nan premye chapit la nan seri sa a, yon sèl bagay nou konnen pou sèten se ke entèlijans se pouvwa. Entèlijans se kontwòl. Moun ka vizite bèt ki pi danjere nan mond lan dekontrakte nan zoo lokal yo pa paske nou pi fò fizikman pase bèt sa yo, men paske nou siyifikativman pi entelijan.

Etandone enjeux potansyèl ki enplike, nan yon ASI ki sèvi ak entèlijans imans li pou pran aksyon ki ka dirèkteman oswa inadvèrtans menase siviv nan ras imen an, nou dwe li nan tèt nou omwen eseye konsepsyon pwoteksyon ki pral pèmèt moun yo rete nan chofè a. chèz-sa a se sijè pwochen chapit la.

Lavni nan seri entèlijans atifisyèl

Q1: Entèlijans atifisyèl se elektrisite demen

Q2: Ki jan premye entèlijans jeneral atifisyèl la pral chanje sosyete a

Q3: Ki jan nou pral kreye premye Superintelligence atifisyèl la

Q5: Ki jan moun pral defann kont yon Sipè entèlijans atifisyèl

Q6: Èske moun ap viv anpè nan yon avni domine pa entèlijans atifisyèl?