Ki jan moun pral defann kont yon Sipèentelijans atifisyèl: Avni entèlijans atifisyèl P5

Ane a se 65,000 anvan epòk nou an, epi kòm yon Tylacoleo, ou menm ak kalite ou yo te gwo chasè nan ansyen Ostrali. Ou te vwayaje nan peyi a lib epi te viv nan ekilib ak predatè parèy yo ak bèt ki te okipe peyi a ansanm ak ou. Sezon yo te pote chanjman, men sitiyasyon ou nan wayòm bèt la te rete san konteste pou toutotan ou menm ak zansèt ou yo te kapab sonje. Lè sa a, yon jou, fèk vini parèt.

Rimè yo te rive soti nan miray dlo a jeyan, men bèt sa yo te sanble pi alèz k ap viv sou tè a. Ou te oblije wè bèt sa yo pou tèt ou.

Li te pran kèk jou, men ou finalman te rive nan kòt la. Dife nan syèl la te mete, yon tan pafè al rekonèt sou bèt sa yo, petèt menm eseye manje yon sèl yo wè ki jan yo gou.

Ou tache youn.

Li te mache sou de pye e li pa t gen fouri. Li te sanble fèb. Enpresyonan. Diman vo laperèz li te lakòz nan mitan wayòm nan.

Ou kòmanse ak anpil atansyon fè apwòch ou pandan lannwit lan chase limyè a. Ou ap vin pi pre. Lè sa a, ou friz. Bwi fò sonnen ak Lè sa a, kat plis nan yo parèt soti nan forè a dèyè li. Konbyen genyen?

Bèt la swiv lòt yo nan liy pyebwa a, epi ou swiv. Ak plis ou fè, plis son etranj ou tande jiskaske ou jwenn menm plis nan bèt sa yo. Ou swiv nan yon distans jan yo sòti forè a nan yon netwaye bò rivaj la. Genyen anpil nan yo. Men, sa ki pi enpòtan, yo tout kalm chita alantou yon dife.

Ou te wè dife sa yo deja. Nan sezon cho a, dife nan syèl la ta pafwa vizite peyi a epi boule tout forè yo. Bèt sa yo, nan lòt men an, yo te yon jan kanmenm kontwole li. Ki kalite kreyati ki ka posede pouvwa sa a?

Ou gade nan distans la. Plis ap vini sou miray dlo jeyan an.

Ou fè yon etap tounen.

Kreyati sa yo pa tankou lòt moun nan wayòm nan. Yo se yon bagay konplètman nouvo.

Ou deside ale epi avèti fanmi ou. Si nimewo yo grandi twò gwo, ki moun ki konnen sa ki ka rive.

***

Yo kwè ke Thylacoleo te disparèt yon ti tan apre arive imen an, ansanm ak majorite lòt megafauna sou kontinan Ostralyen an. Pa gen lòt predatè mamifè ki te pran plas li—sa vle di sof si ou konte moun nan kategori sa a.

Se jwe alegori sa a se konsantre nan chapit seri sa a: Èske yon fiti sipè-entèlijans atifisyèl (ASI) fè nou tout tounen pil ak Lè sa a, ploge nou nan Matris la oswa èske moun yo ap chèche jwenn yon fason pou evite vin yon viktim nan yon Sci-Fi? AI konplo doomsday?

Jiskaprezan nan seri nou an sou la Future nan entèlijans atifisyèl, nou te eksplore tout kalite AI, ki gen ladan potansyèl pozitif nan yon fòm patikilye nan AI, ASI a: yon èt atifisyèl ki gen entèlijans nan lavni pral fè nou sanble ak foumi an konparezon.

Men, ki moun ki di ke yon èt sa a entelijan ta aksepte pran lòd nan men moun pou tout tan. Kisa nou pral fè si bagay yo ale nan sid? Ki jan nou pral defann kont yon ASI vakabon?

Nan chapit sa a, nou pral koupe pa fos battage a—omwen jan li gen rapò ak 'nivo disparisyon imen' danje yo—epi konsantre sou opsyon reyalis oto-defans ki disponib pou gouvènman mondyal yo.

Èske nou ka sispann tout rechèch pi lwen nan yon sipè entèlijans atifisyèl?

Etandone risk potansyèl ke yon ASI ta ka poze pou limanite, premye kesyon evidan pou poze se: Èske nou pa ka jis sispann tout rechèch plis nan AI? Oswa omwen entèdi nenpòt rechèch ki ka fè nou danjerezman pre kreye yon ASI?

Kout repons: Non.

Repons long: Ann gade nan diferan jwè ki enplike isit la.

Nan nivo rechèch la, gen twòp chèchè AI jodi a ki soti nan twòp startups, konpayi, ak inivèsite atravè mond lan. Si yon konpayi oswa yon peyi te deside limite efò rechèch AI yo, yo ta tou senpleman kontinye yon lòt kote.

Pandan se tan, konpayi ki gen plis valè planèt la ap fè fòtin yo nan aplikasyon yo nan sistèm AI nan biznis espesifik yo. Mande yo sispann oswa limite devlopman zouti AI se menm jan ak mande yo sispann oswa limite kwasans alavni yo. Finansyèman, sa a ta menase biznis alontèm yo. Legalman, kòporasyon yo gen yon responsablite fidisyè pou kontinyèlman bati valè pou moun ki gen enterè yo; sa vle di nenpòt aksyon ki ta limite kwasans valè sa a ta ka mennen nan yon pwosè. Men, si nenpòt politisyen te eseye limite rechèch AI, Lè sa a, kòporasyon jeyan sa yo ta jis peye frè espresyon ki nesesè yo chanje lide yo oswa lide kòlèg yo.

Pou konba, menm jan teworis ak konbatan pou libète atravè mond lan te itilize taktik geriya pou goumen kont militè ki pi byen finanse, nasyon ki pi piti yo pral gen yon ankourajman pou sèvi ak AI kòm yon avantaj taktik menm jan an kont pi gwo nasyon ki ka gen yon kantite avantaj militè. Menm jan an tou, pou militè tèt yo, tankou moun ki fè pati Etazini, Larisi ak Lachin, bati yon ASI militè se egal ak gen yon asenal zam nikleyè nan pòch dèyè ou. Nan lòt mo, tout militè yo pral kontinye finanse AI jis pou yo rete enpòtan nan tan kap vini an.

Ki jan sou gouvènman yo? An verite, pifò politisyen jou sa yo (2018) se teknolojik analfabèt epi yo gen yon ti kras konpreyansyon sou sa AI se oswa potansyèl lavni li yo-sa fè yo fasil manipile pa enterè antrepriz.

Ak sou yon nivo mondyal, konsidere ki jan difisil li te konvenk gouvènman mondyal yo siyen 2015 la Paris Akò pou atake chanjman nan klima—epi yon fwa yo te siyen, anpil nan obligasyon yo pa t menm obligatwa. Se pa sa sèlman, chanjman nan klima a se yon pwoblèm moun ap fè eksperyans fizikman globalman atravè evènman metewolojik ki deplizanpli souvan ak grav. Koulye a, lè w ap pale sou dakò ak limit sou AI, sa a se yon pwoblèm ki lajman envizib ak apèn konpreyansib pou piblik la, kidonk bon chans jwenn achte nan nenpòt kalite 'Akò Paris' pou limite AI.

Nan lòt mo, gen twòp enterè fè rechèch sou AI pou pwòp fen yo sispann nenpòt rechèch ki ka evantyèlman mennen nan yon ASI. 

Èske nou ka kenbe yon superentelijans atifisyèl?

Pwochen kesyon rezonab la se ka nou kage oswa kontwole yon ASI yon fwa nou inevitableman kreye youn? 

Repons kout: Ankò, non.

Repons long: Teknoloji pa ka kenbe.

Pou youn, jis konsidere dè milye a dè milyon de devlopè entènèt ak syantis òdinatè nan mond lan ki toujou ap pwodui nouvo lojisyèl oswa nouvo vèsyon lojisyèl ki deja egziste. Èske nou ka onètman di ke chak youn nan degaje lojisyèl yo se 100 pousan gratis ensèk? Pinèz sa yo se sa entru pwofesyonèl yo itilize pou vòlè enfòmasyon kat kredi dè milyon oswa sekrè nasyon yo - e sa yo se entru imen. Pou yon ASI, asepte ke li te gen yon ankourajman yo sove kalòj dijital li yo, Lè sa a, pwosesis la nan jwenn pinèz ak kraze nan lojisyèl ta dwe yon briz.

Men, menm si yon ekip rechèch AI te jwenn yon fason pou bwat yon ASI, sa pa vle di ke pwochen 1,000 ekip yo pral kalkile li tou oswa yo pral ankouraje yo sèvi ak li.

Li pral pran dè milya de dola e petèt menm dè dekad pou kreye yon ASI. Kòporasyon yo oswa gouvènman ki envesti sa a kalite lajan ak tan ap atann yon retou enpòtan sou envestisman yo. Epi pou yon ASI bay kalite retou sa a—si sa se pou jwe mache dechanj la oswa envante yon nouvo pwodwi milya dola oswa planifye yon estrateji genyen pou konbat yon pi gwo lame—li pral bezwen aksè gratis nan yon seri done jeyan oswa menm entènèt la. tèt li pou pwodwi retounen sa yo.

Epi yon fwa ke yon ASI jwenn aksè nan rezo nan mond lan, pa gen okenn garanti ke nou ka mete li tounen nan kaj li yo.

Èske yon sipè entèlijans atifisyèl ka aprann bon?

Kounye a, chèchè AI yo pa enkyete sou yon ASI vin mal. Tout sa ki mal la, AI Sci-Fi trope se jis moun anthropomorphizing ankò. Yon ASI nan lavni p ap ni bon ni mal—konsèp imen—senpleman amoral.

Lè sa a, sipozisyon natirèl la se ke bay sa a adwaz etik vid, chèchè AI yo ka pwograme nan premye kòd etik ASI yo ki an liy ak pwòp pa nou pou ke li pa fini debouche Terminators sou nou oswa vire nou tout nan pil Matrix.

Men, sipozisyon sa a kwit nan yon sipozisyon segondè ke chèchè AI yo tou ekspè nan etik, filozofi, ak sikoloji.

An verite, pifò yo pa.

Dapre sikològ la mantal ak otè, Steven Pinker, reyalite sa a vle di ke travay la nan kodaj etik ka ale mal nan yon varyete diferan fason.

Pou egzanp, menm chèchè AI ki pi bon entansyon yo ka inadvèrtans kòd nan ASI sa yo mal panse kòd etik ki nan sèten senaryo ka lakòz ASI a aji tankou yon sosyopat.

Menm jan an tou, gen yon chans egal ke yon chèchè AI pwograme kòd etik ki gen ladann prejije natirèl chèchè a. Pou egzanp, ki jan yon ASI ta konpòte si li bati ak etik ki sòti nan yon pèspektiv konsèvatif vs liberal, oswa nan yon Boudis vs yon tradisyon kretyen oswa Islamik?

Mwen panse ke ou wè pwoblèm nan isit la: Pa gen okenn seri inivèsèl nan moral imen. Si nou vle ASI nou an aji pa yon kòd etik, ki kote li pral soti? Ki règ nou mete ak ekskli? Ki moun ki deside?

Oswa an n di chèchè AI sa yo kreye yon ASI ki pafètman an liy ak nòm ak lwa kiltirèl modèn jodi a. Lè sa a, nou anplwaye ASI sa a pou ede biwokrasi federal, eta/pwovensyal yo ak minisipal yo fonksyone pi efikasman epi fè respekte nòm ak lwa sa yo pi byen (yon ka itilize pou yon ASI an reyalite). Oke, kisa k ap pase lè kilti nou an chanje?

Imajine yon ASI te kreye pa Legliz Katolik nan gwo pouvwa li pandan Medyeval Ewòp (1300-1400s) nan objektif pou ede legliz la jere popilasyon an ak asire aderans strik nan dogm relijye nan tan an. Plizyè syèk apre, èske fanm yo t ap jwenn menm dwa yo genyen jodi a? Èske minorite yo t ap pwoteje? Èske yo ta ankouraje libète lapawòl? Èske separasyon legliz ak leta ta dwe aplike? Syans modèn?

Nan lòt mo, èske nou vle mete lavni nan prizon nan moral ak koutim jodi a?

Yon apwòch altènatif se youn pataje pa Colin Allen, ko-otè liv la, Machin moral: ansèyman robo dwa soti nan mal. Olye pou n eseye kòde règ etik rijid, nou gen ASI aprann etik komen ak moralite nan menm fason ke moun fè, atravè eksperyans ak entèraksyon ak lòt moun.

Pwoblèm nan isit la, sepandan, se si chèchè AI konnen non sèlman ki jan yo anseye yon ASI aktyèl nòm kiltirèl ak etik nou yo, men tou, ki jan yo adapte yo ak nouvo nòm kiltirèl jan yo leve (yon bagay yo rele 'normatite endirèk'), Lè sa a, ki jan. ASI sa a deside evolye konpreyansyon li sou nòm kiltirèl ak etik vin enprevizib.

E sa i defi.

Sou yon bò, chèchè AI yo ka eseye kode estanda etik strik oswa règ nan ASI a pou eseye ak kontwole konpòtman li, men riske konsekans enprevi yo prezante nan kodaj neglijan, patipri envolontè, ak nòm sosyete ki ka yon jou vin demode. Nan lòt men an, nou ka eseye fòme ASI a pou aprann konprann etik ak moral moun nan yon fason ki egal oswa siperyè pwòp konpreyansyon pa nou epi answit espere ke li ka byen evolye konpreyansyon li sou etik ak moral pandan sosyete imen an ap pwogrese. pi devan sou deseni kap vini yo ak syèk.

Nenpòt fason, nenpòt tantativ pou fè aliman objektif yon ASI ak pwòp pa nou prezante yon gwo risk.

E si move aktè yo fè espre kreye sa ki mal atifisyèl sipè entèlijans?

Etandone tren an nan panse ki dekri jiska prezan, li se yon kesyon jis pou mande si li posib pou yon gwoup teworis oswa yon nasyon vakabon kreye yon 'sa ki mal' ASI pou pwòp fen yo.

Sa a trè posib, espesyalman apre rechèch ki enplike nan kreye yon ASI vin disponib sou entènèt yon jan kanmenm.

Men, jan sa te di anvan an, depans ak ekspètiz ki enplike nan kreye premye ASI a pral menmen, sa vle di premye ASI a pral gen anpil chans kreye pa yon òganizasyon ki kontwole oswa enfliyanse anpil pa yon nasyon devlope, gen anpil chans US, Lachin, ak Japon. Kore di ak youn nan dirijan peyi Inyon Ewopeyen yo se vaksen long).

Tout peyi sa yo, alòske konpetitè yo, yo chak gen yon gwo ankourajman ekonomik pou kenbe lòd mondyal—ASI yo kreye yo pral reflete dezi sa a, menm pandan y ap ankouraje enterè nasyon yo aliman ak yo.

Anplis de sa, entèlijans teyorik ak pouvwa yon ASI egal a pouvwa enfòmatik li genyen aksè a, sa vle di ASI yo soti nan nasyon devlope yo (ki kapab peye yon pakèt milya dola. Super konpitè yo) pral gen yon gwo avantaj sou ASI ki soti nan pi piti nasyon oswa gwoup kriminèl endepandan. Epitou, ASI yo vin pi entelijan, pi vit sou tan.

Se konsa, bay tèt kòmanse sa a, konbine avèk pi gwo aksè nan pouvwa enfòmatik anvan tout koreksyon, si yon òganizasyon/nasyon lonbraj kreye yon ASI danjere, ASI yo ki soti nan nasyon devlope yo pral swa touye li oswa kaj li.

(Liy sa a nan panse tou se poukisa kèk chèchè AI kwè ke pral sèlman tout tan pa yon sèl ASI sou planèt la, depi premye ASI a pral gen tankou yon tèt kòmanse sou tout siksè ASI yo ke li ta ka wè ASI nan lavni kòm menas yo dwe touye. sa a se ankò yon lòt rezon ki fè nasyon yo ap finanse rechèch kontinye nan AI, jis nan ka li ta vin tounen yon konpetisyon 'premye plas oswa pa gen anyen'.)

Entèlijans ASI p ap akselere oswa eksploze jan nou panse

Nou pa ka anpeche yon ASI kreye. Nou pa ka kontwole li nèt. Nou pa ka sèten li pral toujou aji nan liy ak koutim pataje nou yo. Wi, nou kòmanse son tankou paran elikoptè isit la!

Men, sa ki separe limanite ak paran tipik ou ki twò pwoteksyon se ke nou ap bay nesans nan yon èt ki gen entèlijans ap grandi anpil pi lwen pase nou. (E non, se pa menm jan ak lè paran ou mande w pou ranje òdinatè yo chak fwa ou vin lakay ou pou yon vizit.) 

Nan chapit anvan yo nan seri avni entèlijans atifisyèl sa a, nou te eksplore poukisa chèchè AI panse ke entèlijans yon ASI ap grandi pi lwen pase kontwòl. Men, isit la, nou pral pete ti wonn sa a ... kalite. 

Ou wè, entèlijans pa jis kreye tèt li soti nan lè mens, li devlope nan eksperyans ki fòme pa estimilis deyò.  

Nan lòt mo, nou ka pwograme yon AI ak la potansyèl vin super entèlijan, men sof si nou telechaje nan li yon tòn done oswa ba li aksè san restriksyon sou entènèt la oswa menm jis ba li yon kò robo, li pa pral aprann anyen pou rive nan potansyèl sa a. 

E menm si li jwenn aksè a youn oswa plis nan estimilis sa yo, konesans oswa entèlijans sa enplike plis pase jis kolekte done, li enplike metòd syantifik la—fè yon obsèvasyon, fòme yon kesyon, yon ipotèz, fè eksperyans, fè yon konklizyon, rense. epi repete pou tout tan. Espesyalman si eksperyans sa yo enplike bagay fizik oswa obsève èt imen, rezilta yo nan chak eksperyans ka pran semèn, mwa, oswa ane yo kolekte. Sa pa menm pran kont lajan ak resous anvan tout koreksyon ki nesesè pou fè eksperyans sa yo, sitou si yo enplike bati yon nouvo teleskòp oswa yon faktori. 

Nan lòt mo, wi, yon ASI pral aprann byen vit, men entèlijans se pa majik. Ou pa ka jis branche yon ASI nan yon supercomputer epi atann li yo dwe tout-konnen. Pral gen kontrent fizik nan akizisyon ASI a nan done, sa vle di pral gen kontrent fizik nan vitès la ke li vin pi entelijan. Kontrent sa yo pral bay limanite tan li bezwen pou mete kontwòl ki nesesè yo sou ASI sa a si li kòmanse aji ki pa nan liy ak objektif imen.

Yon superentelijans atifisyèl se sèlman danjere si li vin soti nan mond reyèl la

Yon lòt pwen ki pèdi nan tout deba danje ASI sa a se ke ASI sa yo p ap egziste nan tou. Yo pral gen yon fòm fizik. Ak nenpòt bagay ki gen yon fòm fizik ka kontwole.

Premyèman, pou yon ASI rive nan potansyèl entèlijans li, li pa ka loje andedan yon sèl kò robo, paske kò sa a ta limite potansyèl kwasans enfòmatik li. (Se poutèt sa kò robo yo pral pi apwopriye pou AGI yo oswa entèlijans jeneral atifisyèl eksplike nan chapit de nan seri sa a, tankou Done ki soti nan Star Trek oswa R2D2 ki soti nan Star Wars. Èt entelijan ak kapasite, men tankou moun, yo pral gen yon limit nan ki jan entelijan yo ka jwenn.)

Sa vle di ke pwochen ASI sa yo pral gen plis chans egziste andedan yon sipèkonpitè oswa yon rezo sipèkonpitè ki yo menm yo loje nan gwo konplèks bilding. Si yon ASI vire talon, moun ka swa koupe pouvwa a nan bilding sa yo, koupe yo nan Entènèt la, oswa jis bonm bilding sa yo kareman. Chè, men posib.

Men, Lè sa a, ou ta ka mande, ASI sa yo pa ka repwodui tèt yo oswa fè bak tèt yo? Wi, men gwosè dosye anvan tout koreksyon ASI sa yo ap gen anpil chans tèlman gwo ke sèl serveurs ki ka okipe yo fè pati gwo kòporasyon oswa gouvènman, sa vle di yo pa pral difisil pou chase.

Èske yon superentelijans atifisyèl ka deklanche yon lagè nikleyè oswa yon nouvo fléau?

Nan pwen sa a, ou ta ka reflechi sou tout emisyon Sci-Fi ak sinema ou te gade yo ap grandi ak panse ke ASI sa yo pa t 'rete andedan sipè òdinatè yo, yo te fè domaj reyèl nan mond reyèl la!

Oke, ann kraze sa yo desann.

Pou egzanp, e si yon ASI menase mond reyèl la nan transfòme nan yon bagay tankou yon ASI Skynet soti nan franchiz fim nan, Terminator la. Nan ka sa a, ASI a ta bezwen an kachèt twonpe tout yon konplèks endistriyèl militè ki soti nan yon nasyon avanse pou l bati yon gwo faktori ki ka fè plizyè milyon robo asasen pou fè sa ki mal. Nan jou sa a ak laj, sa a se yon detire.

Lòt posiblite yo enkli yon ASI ki menase moun ak lagè nikleyè ak bioweapons.

Pou egzanp, yon ASI yon jan kanmenm manipile operatè yo oswa antay nan kòd yo lansman kòmande asenal nikleyè yon nasyon avanse ak lanse yon premye grèv ki pral fòse peyi opoze yo atake tounen ak pwòp opsyon nikleyè yo (ankò, rehashing backstory Terminator la). Oswa si yon ASI antre nan yon laboratwa pharmaceutique, manipilasyon ak pwosesis fabrikasyon an, ak anpwazonnen dè milyon de grenn medikal oswa deklannche yon epidemi ki ka touye moun nan kèk super viris.

Premyèman, opsyon nikleyè a se koupe plak la. Sipèkonpitè modèn ak fiti yo toujou bati tou pre sant (vil) enfliyans nan nenpòt peyi yo, sa vle di premye sib yo dwe atake pandan nenpòt lagè. Menm si superordinateurs jodi a retresi nan gwosè biwo yo, ASI sa yo ap toujou gen yon prezans fizik, sa vle di egziste epi grandi, yo bezwen aksè san enteripsyon nan done, pouvwa informatique, elektrisite, ak lòt matyè premyè, tout sa yo ta dwe grav. andikape apre yon lagè nikleyè mondyal. (Pou nou jis, si yo kreye yon ASI san yon 'ensten siviv,' Lè sa a, menas nikleyè sa a se yon danje trè reyèl.)

Sa vle di—ankò, si ASI pwograme pou pwoteje tèt li—ke li pral travay aktivman pou evite nenpòt ensidan nikleyè katastwofik. Kalite tankou doktrin destriksyon mityèlman asire (MAD), men aplike nan AI.

Ak nan ka a nan grenn anpwazonnen, petèt kèk santèn moun pral mouri, men sistèm modèn sekirite pharmaceutique pral wè boutèy grenn yo tache retire nan etajè nan kèk jou. Pandan se tan, mezi modèn kontwòl epidemi yo jistis sofistike epi yo ap vin pi bon ak chak ane ki pase; dènye gwo epidemi an, epidemi Ebola Afrik Lwès 2014 la, te dire pa plis pase kèk mwa nan pifò peyi yo ak jis anba twa ane nan peyi ki pi piti devlope yo.

Se konsa, si li gen chans, yon ASI ka siye kèk milyon dola ak yon epidemi viral, men nan yon mond nan nèf milya dola pa 2045, sa ta dwe relativman ensiyifyan epi yo pa vo risk pou yo efase pou.

Nan lòt mo, ak chak ane k ap pase, mond lan ap devlope toujou plis pwoteksyon kont yon seri de menas posib ki pi plis toujou. Yon ASI ka fè yon gwo kantite domaj, men li pa pral mete fen nan limanite sof si nou aktivman ede li fè sa.

Defann kont yon vakabon sipè entèlijans atifisyèl

Nan pwen sa a, nou te adrese yon seri move konsepsyon ak egzajerasyon sou ASI yo, e ankò, kritik yo ap rete. Erezman, dapre pifò estimasyon, nou gen plizyè deseni anvan premye ASI a antre nan mond nou an. Epi bay kantite gwo lespri k ap travay kounye a sou defi sa a, chans pou nou aprann kijan pou defann tèt nou kont ASI vakabon pou nou ka benefisye de tout solisyon yon ASI zanmitay ka kreye pou nou.

Soti nan pèspektiv Quantumrun a, defann kont senaryo ASI ki pi mal la pral enplike aliman enterè nou yo ak ASI yo.

MAD pou AI: Pou defann kont pi move senaryo yo, nasyon yo bezwen (1) kreye yon 'ensten siviv' etik nan ASI militè respektif yo; (2) enfòme ASI militè respektif yo ke yo pa poukont yo sou planèt la, epi (3) lokalize tout sipèkonpitè ak sant sèvè ki ka sipòte yon ASI sou litoral yo ki fasil pou nenpòt atak balistik soti nan yon nasyon lènmi. Sa a son estratejikman fou, men menm jan ak doktrin Destriksyon Asirans Mityèlman an ki te anpeche yon lagè nikleyè total ant Etazini ak Sovyetik yo, nan pwezante ASI yo nan kote jeyografik vilnerab, nou ka ede asire yo aktivman anpeche lagè mondyal danjere, pa sèlman pou pwoteje lapè mondyal men tou tèt yo.

Lejislasyon dwa AI: Yon entèlijans siperyè pral inevitableman revòlte kont yon mèt enferyè, se poutèt sa nou bezwen ale lwen mande yon relasyon mèt-sèvitè ak ASI sa yo nan yon bagay ki pi sanble ak yon patenarya benefisye mityèlman. Yon etap pozitif nan direksyon objektif sa a se bay lavni ASI estati pèsonalite legal ki rekonèt yo kòm èt vivan entelijan ak tout dwa ki vini ak sa.

Lekòl ASI: Nenpòt sijè oswa pwofesyon ap senp pou yon ASI aprann, men sijè ki pi enpòtan nou vle ASI a metrize yo se etik ak moralite. Chèchè AI yo bezwen kolabore ak sikològ pou envante yon sistèm vityèl pou fòme yon ASI pou rekonèt etik pozitif ak moralite pou tèt li san yo pa bezwen kodaj difisil nenpòt kalite kòmandman oswa règ.

Objektif possible: Mete fen ak tout rayisman. Mete fen ak tout soufrans. Sa yo se egzanp objektif ki terib ki pa klè ki pa gen solisyon klè. Yo se objektif danjere tou pou bay yon ASI paske li ta ka chwazi entèprete ak rezoud yo nan fason ki danjere pou siviv imen. Olye de sa, nou bezwen bay ASI misyon siyifikatif ki klèman defini, piti piti egzekite ak possible bay entèlijans teyorik lavni li yo. Kreye misyon byen defini pa pral fasil, men si yo ekri byen, yo pral konsantre yon ASI nan direksyon pou yon objektif ki pa sèlman kenbe limanite an sekirite, men amelyore kondisyon imen an pou tout moun.

Kwantik chifreman: Sèvi ak yon ANI avanse (atifisyèl entèlijans etwat sistèm ki dekri nan chapit XNUMX) pou konstwi sistèm sekirite dijital san erè/san ensèk alantou enfrastrikti enpòtan nou yo ak zam nou yo, epi plis pwoteje yo dèyè chifreman pwopòsyon ki pa ka rache pa yon atak fòs brital. 

ANI grenn swisid. Kreye yon sistèm ANI avanse ki gen objektif sèlman pou chèche ak detwi vakabon ASI. Pwogram pou yon sèl bi sa yo pral sèvi kòm yon "bouton koupe" ki, si yo reyisi, ap evite gouvènman oswa militè yo oblije enfim oswa eksploze bilding ki loje ASI yo.

Natirèlman, sa yo se jis opinyon nou yo. Enfografi sa a te kreye pa Alexey Turchin, vizyalize a papye rechèch pa Kaj Sotala ak Roman V. Yampolskiy, ki rezime lis aktyèl la nan estrateji chèchè AI yo ap konsidere lè li rive defann kont ASI vakabon.

Vrè rezon ki fè nou pè yon sipè entèlijans atifisyèl

Pandan lavi a, anpil nan nou mete yon mask ki kache oswa reprime enpilsyon pwofon nou yo, kwayans ak laperèz yo pi byen sosyalize ak kolabore nan divès sèk sosyal ak travay ki gouvène jou nou an. Men, nan sèten pwen nan lavi tout moun, kit tanporèman oswa pèmanan, yon bagay k ap pase ki pèmèt nou kraze chenn nou yo epi dechire mask nou yo.

Pou kèk moun, fòs entèvni sa a ka senp tankou vin wo oswa bwè yon twòp. Pou lòt moun, li ka soti nan pouvwa a te genyen atravè yon pwomosyon nan travay oswa yon boul toudenkou nan estati sosyal ou gras a kèk akonplisman. Ak pou yon kèk chans, li ka soti nan nòt yon bato nan lajan lotri. Epi wi, lajan, pouvwa, ak dwòg ka souvan rive ansanm. 

Pwen an se, pou byen oswa mal, nenpòt moun nou ye nan nwayo a vin anplifye lè restriksyon lavi yo fonn.

Sa se sa ki sipèentelijans atifisyèl reprezante pou espès imen an—kapasite pou fonn limit entèlijans kolektif nou an pou konkeri nenpòt defi nivo espès yo prezante devan nou.

Kidonk, vrè kesyon an se: Yon fwa premye ASI a libere nou de limit nou yo, kiyès nou pral revele nou ye?

Si nou kòm yon espès aji nan direksyon pou avansman nan senpati, libète, jis, ak byennèt kolektif, Lè sa a, objektif nou fikse ASI nou an nan direksyon pou yo pral reflete atribi pozitif sa yo.

Si nou kòm yon espès aji nan laperèz, defyans, akimilasyon nan pouvwa ak resous, Lè sa a, ASI nou kreye yo pral tou nwa tankou sa yo jwenn nan pi move istwa laterè Sci-Fi nou yo.

Nan fen jounen an, nou kòm yon sosyete bezwen vin pi bon moun si nou espere kreye pi bon AI.

Lavni nan seri entèlijans atifisyèl

Entèlijans atifisyèl se elektrisite demen: Future of Artificial Intelligence seri P1

Ki jan premye entèlijans jeneral atifisyèl la pral chanje sosyete a: avni entèlijans atifisyèl seri P2

Ki jan nou pral kreye premye seri atifisyèl Superintelligenc: Future of Artificial Intelligence seri P3

Èske yon Superintelligence atifisyèl ekstèmine limanite: Future of Artificial Intelligence seri P4

Èske moun ap viv anpè nan yon avni domine pa entèlijans atifisyèl?: Future of Artificial Intelligence seri P6