Giunsa pagpanalipod sa mga tawo batok sa usa ka Artipisyal nga Superintelligence: Kaugmaon sa artificial intelligence P5

Ang tuig maoy 65,000 BCE, ug ingong a Thylacoleo, ikaw ug ang imong matang mao ang bantugang mangangayam sa karaang Australia. Gawasnon ka nga nagsuroysuroy sa yuta ug nagpuyo sa balanse uban sa mga kaubang manunukob ug biktima nga miokupar sa yuta tupad nimo. Ang mga panahon nagdala og kausaban, apan ang imong kahimtang sa gingharian sa mga mananap nagpabilin nga wala mahagit sa kadugayon nga ikaw ug ang imong mga katigulangan mahinumdom. Unya usa ka adlaw, may mga bag-ong nangabot.

Ang hungihong nga gikan sila sa higanteng bungbong sa tubig, apan kini nga mga binuhat daw mas komportable nga magpuyo sa yuta. Kinahanglan nimo nga makita kini nga mga binuhat alang sa imong kaugalingon.

Nagkinahanglan kini og pipila ka mga adlaw, apan sa katapusan nakaabot ka sa baybayon. Ang kalayo sa langit nagdan-ag, usa ka hingpit nga panahon sa pagpaniid niini nga mga binuhat, tingali sulayan pa ang pagkaon sa usa aron makita kung unsa ang ilang lami.

Makita nimo ang usa.

Naglakaw kini sa duha ka tiil ug walay balhibo. Morag huyang kini. Dili impresyon. Dili takus ang kahadlok nga gipahinabo niini taliwala sa gingharian.

Nagsugod ka sa pag-amping sa paghimo sa imong pagduol samtang ang kagabhion nagpalayo sa kahayag. Nagkaduol ka. Unya nag-freeze ka. Makusog nga mga kasaba ug unya upat pa kanila ang mitungha gikan sa kalasangan luyo niini. Pila ang naa?

Ang binuhat nagsunod sa uban ngadto sa punoan sa kahoy, ug ikaw nagsunod. Ug sa labi nimong buhaton, labi ka katingad-an nga mga tunog ang imong madungog hangtod nga makit-an nimo ang labi pa niini nga mga binuhat. Nagsunod ka sa layo sa paggawas nila sa lasang padulong sa hawan sa baybayon. Adunay daghan kanila. Apan labaw sa tanan, silang tanan kalmado nga naglingkod palibot sa kalayo.

Nakita na nimo kini nga mga sunog kaniadto. Sa init nga panahon, ang kalayo sa langit usahay mobisita sa yuta ug masunog ang tibuok kalasangan. Kini nga mga binuhat, sa laing bahin, ilang gikontrolar kini. Unsang matanga sa mga binuhat ang makaangkon sa ingon nga gahum?

Nagtan-aw ka sa layo. Daghan pa ang moabot sa higanteng bungbong sa tubig.

Moatras ka og usa ka lakang.

Kini nga mga binuhat dili sama sa uban sa gingharian. Sila usa ka butang nga bug-os nga bag-o.

Nakahukom ka nga mobiya ug mopasidaan sa imong mga paryente. Kung ang ilang gidaghanon modako kaayo, kinsa ang nasayod kung unsa ang mahitabo.

***

Gituohan nga ang Thylacoleo napuo sa medyo mubo nga panahon pagkahuman sa pag-abot sa mga tawo, kauban ang kadaghanan sa ubang mga megafauna sa kontinente sa Australia. Walay laing apex mammalian predator ang mipuli-kana gawas kon mag-ihap ka sa mga tawo sa maong kategoriya.

Ang pagdula sa kini nga alegorya mao ang pokus sa kini nga serye nga kapitulo: Ang umaabot nga artificial superintelligence (ASI) makahimo ba kanatong tanan nga mga baterya ug dayon i-plug kita sa Matrix o ang mga tawo mangita usa ka paagi aron malikayan nga mahimong biktima sa usa ka sci-fi, AI doomsday plot?

Sa pagkakaron sa among serye sa Umaabot sa Artipisyal nga Intelihensya, gisuhid namo ang tanang matang sa AI, lakip ang positibong potensyal sa usa ka partikular nga porma sa AI, ang ASI: usa ka artipisyal nga binuhat kansang umaabot nga salabutan maghimo kanato nga morag mga hulmigas kon itandi.

Apan kinsay makaingon nga ang usa ka binuhat nga ingon niini ka intelihente modawat sa mga mando gikan sa mga tawo hangtod sa hangtod. Unsa ang atong buhaton kung ang mga butang moadto sa habagatan? Unsaon man nato pagdepensa batok sa bastos nga ASI?

Niini nga kapitulo, atong putlon ang mini nga hype-labing menos kon kini may kalabutan sa 'human extinction level' nga mga kapeligrohan-ug mag-focus sa realistiko nga mga opsyon sa pagdepensa sa kaugalingon nga anaa sa mga gobyerno sa kalibutan.

Mahimo ba naton hunongon ang tanan nga dugang nga panukiduki bahin sa usa ka artipisyal nga superintelligence?

Tungod sa mga potensyal nga peligro nga mahimong ipahinabo sa usa ka ASI sa katawhan, ang una nga klaro nga pangutana nga ipangutana mao: Dili ba naton hunongon ang tanan nga dugang nga panukiduki sa AI? O labing menos idili ang bisan unsang panukiduki nga mahimo’g makapaduol kanamo nga peligro sa paghimo og ASI?

Mubu nga tubag: Dili.

Taas nga tubag: Atong tan-awon ang lainlaing mga magdudula nga nalambigit dinhi.

Sa lebel sa panukiduki, adunay daghan kaayo nga mga tigdukiduki sa AI karon gikan sa daghang mga pagsugod, kompanya, ug unibersidad sa tibuuk kalibutan. Kung ang usa ka kompanya o nasud nakahukom nga limitahan ang ilang mga paningkamot sa panukiduki sa AI, magpadayon ra sila sa ubang lugar.

Samtang, ang labing bililhon nga mga kompanya sa planeta naghimo sa ilang katigayunan gikan sa ilang aplikasyon sa mga sistema sa AI sa ilang piho nga mga negosyo. Ang paghangyo kanila nga hunongon o limitahan ang ilang pagpalambo sa mga himan sa AI susama sa paghangyo kanila sa paghunong o limitahan ang ilang umaabot nga pagtubo. Sa pinansyal, kini makahulga sa ilang dugay na nga negosyo. Sa legal nga paagi, ang mga korporasyon adunay usa ka fiduciary nga responsibilidad sa padayon nga pagtukod og bili alang sa ilang mga stakeholders; kana nagpasabut nga bisan unsang aksyon nga maglimite sa pagtubo sa kana nga kantidad mahimong mosangput sa usa ka kaso. Ug kung adunay bisan kinsa nga politiko nga misulay sa paglimite sa panukiduki sa AI, nan kini nga mga higanteng korporasyon magbayad ra sa kinahanglan nga bayad sa pag-lobby aron mabag-o ang ilang hunahuna o ang mga hunahuna sa ilang mga kauban.

Alang sa kombat, sama sa mga terorista ug mga manggugubat sa kagawasan sa tibuok kalibutan nga naggamit sa mga taktika sa gerilya aron makig-away batok sa mas maayo nga gipundohan nga mga militar, ang gagmay nga mga nasud adunay insentibo sa paggamit sa AI isip usa ka susama nga taktikal nga bentaha batok sa dagkong mga nasud nga mahimong adunay daghang mga bentaha sa militar. Ingon usab, alang sa mga nanguna nga militar, sama sa iya sa US, Russia ug China, ang pagtukod sa usa ka militar nga ASI parehas nga adunay arsenal sa mga armas nukleyar sa imong likod nga bulsa. Sa laing pagkasulti, ang tanan nga mga militar magpadayon sa pagpondo sa AI aron lang magpabilin nga may kalabutan sa umaabot.

Komosta ang mga gobyerno? Sa tinuud, kadaghanan sa mga politiko karong panahona (2018) dili kahibalo sa teknolohiya ug gamay ra ang pagsabut kung unsa ang AI o ang potensyal sa umaabot-kini naghimo kanila nga dali nga mamanipula sa mga interes sa korporasyon.

Ug sa usa ka global nga lebel, hunahunaa kung unsa ka lisud ang pagkombinsir sa mga gobyerno sa kalibutan nga pirmahan ang 2015 Agreement Paris aron sulbaron ang pagbag-o sa klima—ug sa dihang napirmahan na, daghan sa mga obligasyon ang wala gani nagbugkos. Dili lang kana, ang pagbag-o sa klima usa ka isyu nga pisikal nga nasinati sa mga tawo sa tibuuk kalibutan pinaagi sa labi ka kanunay ug grabe nga mga panghitabo sa panahon. Karon, kung maghisgot bahin sa pag-uyon sa mga limitasyon sa AI, kini usa ka isyu nga kadaghanan dili makita ug halos dili masabtan sa publiko, busa swerte nga makakuha og pagpalit alang sa bisan unsang matang sa 'Paris Agreement' alang sa paglimit sa AI.

Sa laing pagkasulti, adunay daghang mga interes nga nagsiksik sa AI alang sa ilang kaugalingon nga katuyoan aron mahunong ang bisan unsang panukiduki nga mahimo’g mosangput sa usa ka ASI. 

Mahimo ba naton itago ang usa ka artipisyal nga superintelligence?

Ang sunod nga makatarunganon nga pangutana mao ang mahimo ba naton i-cage o kontrolon ang usa ka ASI kung dili kalikayan nga maghimo usa? 

Mubo nga tubag: Usab, dili.

Taas nga tubag: Ang teknolohiya dili mapugngan.

Alang sa usa, hunahunaa lang ang liboan hangtod milyon-milyon nga mga web developer ug computer scientist sa kalibutan nga kanunay nga naghimo og bag-ong software o bag-ong mga bersyon sa naglungtad nga software. Matinuoron ba naton nga isulti nga ang matag usa sa ilang gipagawas nga software 100 porsyento nga wala’y bug? Kini nga mga bug mao ang gigamit sa propesyonal nga mga hacker aron kawaton ang impormasyon sa credit card sa milyon-milyon o ang giklasipikar nga mga sekreto sa mga nasud-ug kini mga tawo nga hacker. Alang sa usa ka ASI, sa paghunahuna nga kini adunay usa ka insentibo sa pag-ikyas sa iyang digital nga hawla, nan ang proseso sa pagpangita sa mga bug ug paglusot sa software mahimong dali ra.

Apan bisan kung ang usa ka grupo sa panukiduki sa AI nakahunahuna usa ka paagi aron ma-box ang usa ka ASI, wala kana magpasabut nga ang sunod nga 1,000 nga mga koponan mahibal-an usab kini o madasig sa paggamit niini.

Nagkinahanglan kini og binilyon nga dolyar ug tingali mga dekada pa aron makahimo og ASI. Ang mga korporasyon o gobyerno nga namuhunan sa kini nga klase sa salapi ug oras magdahom nga adunay dakong pagbalik sa ilang puhunan. Ug alang sa usa ka ASI nga makahatag ug ingon niana nga matang sa pagbalik—bisan kana sa pagdula sa stock market o pag-imbento og bag-ong bilyong dolyar nga produkto o pagplano og usa ka kadaugan nga estratehiya sa pagpakig-away sa usa ka mas dako nga kasundalohan-kini kinahanglan nga libre nga pag-access sa usa ka higante nga set sa datos o bisan sa Internet sa iyang kaugalingon sa paghimo sa mga pagbalik.

Ug sa higayon nga ang usa ka ASI makaangkon og access sa mga network sa kalibutan, walay mga garantiya nga ato kining ibalik sa hawla niini.

Makakat-on ba ang usa ka artificial superintelligence nga mahimong maayo?

Karon, ang mga tigdukiduki sa AI wala nabalaka bahin sa usa ka ASI nga mahimong daotan. Ang bug-os nga daotan, AI sci-fi trope mao lamang ang mga tawo anthropomorphizing pag-usab. Ang umaabot nga ASI dili maayo o daotan—mga konsepto sa tawo—amoral lang.

Ang natural nga pangagpas mao nga gihatagan kini nga blangko nga etikal nga slate, ang mga tigdukiduki sa AI mahimo nga magprograma sa una nga mga code sa pamatasan sa ASI nga nahiuyon sa among kaugalingon aron dili kini mapagawas ang mga Terminator sa amon o mahimo kaming tanan nga mga baterya sa Matrix.

Apan kini nga pangagpas nagluto sa usa ka ikaduha nga pangagpas nga ang mga tigdukiduki sa AI mga eksperto usab sa pamatasan, pilosopiya, ug sikolohiya.

Sa pagkatinuod, kadaghanan dili.

Sumala sa cognitive psychologist ug awtor, si Steven Pinker, kini nga kamatuoran nagpasabot nga ang tahas sa coding ethics mahimong masayop sa lain-laing mga paagi.

Pananglitan, bisan ang labing maayo nga gituyo nga mga tigdukiduki sa AI mahimong dili tinuyo nga nag-code sa kini nga ASI nga dili maayo nga gihunahuna nga mga kodigo sa pamatasan nga sa pipila nga mga senaryo mahimong hinungdan nga ang ASI molihok sama sa usa ka sociopath.

Ingon usab, adunay parehas nga posibilidad nga ang usa ka tigdukiduki sa AI nagprograma sa mga code sa pamatasan nga naglakip sa mga kinaiyanhon nga bias sa tigdukiduki. Pananglitan, unsaon paggawi sa usa ka ASI kung gitukod nga adunay etika nga nakuha gikan sa usa ka konserbatibo kumpara sa liberal nga panan-aw, o gikan sa usa ka Budhista batok sa usa ka Kristiyano o tradisyon sa Islam?

Sa akong hunahuna nakita nimo ang isyu dinhi: Wala’y unibersal nga hugpong sa pamatasan sa tawo. Kung gusto nato nga ang atong ASI molihok pinaagi sa usa ka ethical code, diin kini gikan? Unsa nga mga lagda ang atong gilakip ug wala iapil? Kinsay modesisyon?

O ingnon ta nga kini nga mga tigdukiduki sa AI naghimo usa ka ASI nga hingpit nga nahiuyon sa modernong mga pamatasan ug balaod sa kultura karon. Among gigamit dayon kini nga ASI aron matabangan ang federal, state/provincial, ug municipal bureaucracies nga molihok nga mas episyente ug mas maayo nga ipatuman kini nga mga lagda ug mga balaod (usa ka lagmit nga paggamit nga kaso alang sa usa ka ASI sa paagi). Ti, ano ang matabo kon magbag-o ang aton kultura?

Hunahunaa ang usa ka ASI nga gimugna sa Simbahang Katoliko sa kataas sa gahum niini sa panahon sa Medieval Europe (1300-1400s) uban ang tumong sa pagtabang sa simbahan sa pagdumala sa populasyon ug pagsiguro sa hugot nga pagsunod sa relihiyosong dogma sa panahon. Paglabay sa mga siglo, ang mga babaye ba makatagamtam sa samang mga katungod sama sa ilang natagamtam karon? Mapanalipdan ba ang mga minoriya? Ipasiugda ba ang kagawasan sa pagsulti? Ipatuman ba ang panagbulag sa simbahan ug estado? Modernong siyensiya?

Sa laing pagkasulti, gusto ba natong ibilanggo ang umaabot sa moral ug kostumbre karon?

Usa ka alternatibo nga pamaagi mao ang gipaambit ni Colin Allen, kauban nga tagsulat sa libro, Moral Machines: Pagtudlo sa mga Robot nga Matarung Gikan sa Sayop. Imbis nga mosulay sa pag-code sa estrikto nga mga lagda sa pamatasan, kami adunay ASI nga makakat-on sa sagad nga pamatasan ug moralidad sa parehas nga paagi nga gibuhat sa mga tawo, pinaagi sa kasinatian ug pakig-uban sa uban.

Ang problema dinhi, bisan pa, kung ang mga tigdukiduki sa AI mahibal-an dili lamang kung giunsa pagtudlo ang usa ka ASI sa atong karon nga mga pamatasan sa kultura ug pamatasan, apan kung giunsa usab pagpahiangay sa mga bag-ong pamatasan sa kultura sa ilang pagtungha (usa ka butang nga gitawag nga 'dili direkta nga normativity'), kung giunsa kini nga ASI mihukom sa pag-uswag sa iyang pagsabot sa kultural ug pamatasan nga mga lagda mahimong dili matag-an.

Ug kana ang hagit.

Sa usa ka bahin, ang mga tigdukiduki sa AI mahimong mosulay sa pag-coding sa estrikto nga mga sumbanan sa pamatasan o mga lagda sa ASI aron sulayan ug kontrolon ang pamatasan niini, apan peligro ang wala damha nga mga sangputanan nga gipaila gikan sa sloppy coding, dili tinuyo nga pagpihig, ug mga pamatasan sa katilingban nga mahimo’g usa ka adlaw mahimong karaan. Sa laing bahin, mahimo natong sulayan ang pagbansay sa ASI aron makakat-on sa pagsabot sa tawhanong pamatasan ug moral sa paagi nga managsama o labaw sa atong kaugalingong pagsabot ug unya maglaum nga kini tukma nga mouswag sa iyang pagsabot sa etika ug moralidad samtang nag-uswag ang tawhanong katilingban. sa umaabot nga mga dekada ug mga siglo.

Bisan hain nga paagi, bisan unsang pagsulay nga ipahiangay ang mga katuyoan sa usa ka ASI sa among kaugalingon nga adunay daghang peligro.

Unsa kaha kung ang dili maayo nga mga aktor tinuyo nga nagmugna og daotan nga artipisyal nga superintelligence?

Tungod sa tren sa panghunahuna nga gilatid hangtod karon, patas nga pangutana ang pagpangutana kung posible ba alang sa usa ka grupo sa terorista o daotan nga nasud nga maghimo usa ka 'daotan' nga ASI alang sa ilang kaugalingon nga katuyoan.

Kini mao ang posible kaayo, ilabi na human sa research nga nalangkit sa paghimo sa usa ka ASI mahimong anaa online sa bisan unsa nga paagi.

Apan sama sa gipasabot sa sayo pa, ang gasto ug kahanas nga nalangkit sa paghimo sa unang ASI dako kaayo, nga nagpasabot nga ang unang ASI lagmit mamugna sa usa ka organisasyon nga kontrolado o dakog impluwensya sa usa ka ugmad nga nasod, lagmit ang US, China, ug Japan ( Ang Korea ug usa sa mga nag-unang nasud sa EU mao ang taas nga mga shot).

Ang tanan niini nga mga nasud, samtang ang mga kakompetensya, ang matag usa adunay lig-on nga insentibo sa ekonomiya aron mapadayon ang kahusay sa kalibutan-ang mga ASI nga ilang gimugna magpakita sa kana nga tinguha, bisan kung gipasiugda ang interes sa mga nasud nga ilang gipahiangay.

Labaw pa niana, ang teoretikal nga paniktik ug gahum sa usa ka ASI katumbas sa gahum sa pag-compute nga makuha niini, nga nagpasabut nga ang mga ASI gikan sa mga naugmad nga mga nasud (nga makaabut sa usa ka hugpong sa bilyon nga dolyar. supercomputers) adunay dako kaayong bintaha sa mga ASI gikan sa mas gagmayng mga nasod o mga independenteng grupong kriminal. Usab, ang mga ASI motubo nga mas intelihente, mas paspas sa paglabay sa panahon.

Busa, tungod sa kini nga pagsugod, inubanan sa mas dako nga pag-access sa hilaw nga gahum sa pag-compute, kung ang usa ka landong nga organisasyon/nasod maghimo usa ka peligro nga ASI, ang mga ASI gikan sa mga naugmad nga mga nasud mahimo’g patyon kini o hawla kini.

(Kini nga linya sa panghunahuna mao usab ang hinungdan ngano nga ang pipila ka mga tigdukiduki sa AI nagtuo nga adunay usa ra ka ASI sa planeta, tungod kay ang una nga ASI adunay ingon nga ulo nga magsugod sa tanan nga nagsunod nga mga ASI nga mahimo’g makita ang umaabot nga mga ASI ingon mga hulga nga patyon. Kini usa pa ka hinungdan ngano nga ang mga nasud nagpundo sa padayon nga panukiduki sa AI, kung mahimo kini usa ka kompetisyon nga 'una o wala'.)

Ang ASI intelligence dili mopaspas o mobuto sama sa atong gihunahuna

Dili nato mapugngan ang pagmugna og ASI. Dili nato kini makontrol sa hingpit. Dili kami makasiguro nga kini kanunay nga molihok subay sa among gipaambit nga kostumbre. Sus, nagsugod na mig tingog sama sa mga ginikanan sa helicopter dinhi!

Apan kung unsa ang nagbulag sa katawhan gikan sa imong kasagaran nga overprotective nga ginikanan mao nga kami nanganak sa usa ka binuhat kansang salabutan motubo labi pa sa amon. (Ug dili, dili kini parehas sa dihang gihangyo ka sa imong mga ginikanan nga ayohon ang ilang kompyuter kung mopauli ka aron bisitahan.) 

Sa nangaging mga kapitulo niining umaabot nga serye sa artificial intelligence, among gisuhid nganong ang AI researchers naghunahuna nga ang ASI's intelligence motubo nga dili makontrol. Apan dinhi, atong bungkagon kana nga bula ... matang sa. 

Nakita nimo, ang salabutan dili lamang nagmugna sa kaugalingon gikan sa nipis nga hangin, kini naugmad pinaagi sa kasinatian nga gihulma sa gawas nga stimuli.  

Sa laing pagkasulti, mahimo natong programa ang usa ka AI gamit ang potensyal aron mahimong super intelihente, apan gawas kon kita mag-upload niini og usa ka tonelada nga datos o hatagan kini og walay pugong nga pag-access sa Internet o bisan hatagan lang kini og robot nga lawas, kini dili makakat-on og bisan unsa aron makab-ot kana nga potensyal. 

Ug bisan kung kini makakuha og access sa usa o daghan pa sa mga stimuli, kahibalo o paniktik nga naglangkit labaw pa sa pagkolekta sa datos, naglambigit kini sa siyentipikanhong pamaagi—paghimo og obserbasyon, paghimo og pangutana, hypothesis, pagpahigayon og mga eksperimento, paghimo og konklusyon, paghugas. ug balikon hangtod sa hangtod. Ilabi na kung kini nga mga eksperimento naglambigit sa pisikal nga mga butang o pag-obserbar sa mga tawo, ang mga resulta sa matag eksperimento mahimo’g daghang semana, bulan, o tuig aron makolekta. Wala pa niini gikonsiderar ang kuwarta ug hilaw nga kahinguhaan nga gikinahanglan aron mahimo kini nga mga eksperimento, labi na kung naglambigit kini sa pagtukod og bag-ong teleskopyo o pabrika. 

Sa laing pagkasulti, oo, ang usa ka ASI makakat-on dayon, apan ang salabutan dili salamangka. Dili nimo mahimo ang usa ka ASI sa usa ka supercomputer ug gipaabut nga kini nahibal-an sa tanan. Adunay pisikal nga mga pagpugong sa pagkuha sa datos sa ASI, nagpasabut nga adunay pisikal nga mga pagpugong sa katulin nga kini motubo nga labi ka intelihente. Kini nga mga pagpugong maghatag sa katawhan sa oras nga kinahanglan niini nga ibutang ang kinahanglan nga mga kontrol sa kini nga ASI kung magsugod kini nga molihok nga wala sa linya sa mga katuyoan sa tawo.

Ang usa ka artificial superintelligence delikado lamang kung kini mogawas sa tinuod nga kalibutan

Ang laing punto nga nawala niining tibuok nga debate sa peligro sa ASI mao nga kini nga mga ASI dili maglungtad sa bisan asa. Sila adunay pisikal nga porma. Ug ang bisan unsa nga adunay pisikal nga porma mahimong makontrol.

Una, aron maabot sa usa ka ASI ang potensyal sa paniktik, dili kini mabutang sa sulod sa usa ka lawas sa robot, tungod kay kini nga lawas maglimite sa potensyal sa pagtubo sa kompyuter. (Mao kini ang hinungdan ngano nga ang mga lawas sa robot mas angay alang sa mga AGI o artificial general intelligences gipatin-aw sa ikaduhang kapitulo sa kini nga serye, sama sa Data gikan sa Star Trek o R2D2 gikan sa Star Wars. Maalamon ug may katakus nga mga binuhat, apan sama sa mga tawo, sila adunay limitasyon kung unsa sila ka maalamon.)

Kini nagpasabot nga kini nga umaabot nga mga ASI lagmit anaa sa sulod sa usa ka supercomputer o network sa mga supercomputers nga anaa sa ilang kaugalingon nga nahimutang sa dagkong mga building complex. Kung ang usa ka ASI moliko, ang mga tawo mahimo’g mapalong ang gahum niini nga mga bilding, putlon kini gikan sa Internet, o bombahan lang kini nga mga bilding. Mahal, apan mahimo.

Apan tingali mangutana ka, dili ba kini nga mga ASI mahimo nga mag-replicate sa ilang kaugalingon o mosuporta sa ilang kaugalingon? Oo, apan ang hilaw nga gidak-on sa file sa kini nga mga ASI lagmit nga dako kaayo nga ang bugtong mga server nga makadumala niini iya sa mga dagkong korporasyon o gobyerno, nagpasabut nga dili sila maglisud sa pagpangita.

Ang usa ka artipisyal nga superintelligence ba makapatunghag nukleyar nga gubat o bag-ong hampak?

Niini nga punto, mahimo nimong hunahunaon ang tanan nga mga salida sa sci-fi sa katapusan sa kalibutan ug mga salida nga imong gitan-aw nga nagdako ug naghunahuna nga kini nga mga ASI wala magpabilin sa sulod sa ilang mga supercomputer, nakadaot sila sa tinuud nga kalibutan!

Aw, atong bungkagon kini.

Pananglitan, unsa kaha kung ang usa ka ASI naghulga sa tinuod nga kalibutan pinaagi sa pagbag-o sa usa ka butang sama sa usa ka Skynet ASI gikan sa prangkisa sa sine, The Terminator. Sa kini nga kaso, ang ASI kinahanglan nga sa tago malimbongan ang tibuok militar nga industriyal nga komplikado gikan sa usa ka abante nga nasud ngadto sa pagtukod og mga higanteng pabrika nga makamugna og minilyon nga mga killer drone robot aron sa pagbuhat sa iyang dautang tanyag. Niining panahona, kana usa ka pag-inat.

Ang ubang mga posibilidad naglakip sa usa ka ASI nga naghulga sa mga tawo sa nukleyar nga gubat ug bioweapons.

Pananglitan, ang usa ka ASI sa usa ka paagi nagmaniobra sa mga operator o nag-hack sa mga code sa paglansad nga nagmando sa nukleyar nga arsenal sa usa ka abante nga nasud ug naglansad sa usa ka una nga welga nga magpugos sa kaatbang nga mga nasud sa pag-atake sa ilang kaugalingon nga mga kapilian sa nukleyar (pag-usab, pag-usab sa backstory sa Terminator). O kung ang usa ka ASI nag-hack sa usa ka laboratoryo sa parmasyutiko, nagdaot sa proseso sa paggama, ug naghilo sa milyon-milyon nga mga medikal nga pildoras o nagpagawas sa usa ka makamatay nga pagbuto sa pipila ka super virus.

Una, ang opsyon sa nukleyar wala sa plato. Ang mga moderno ug umaabot nga mga supercomputer kanunay nga gitukod duol sa mga sentro (mga siyudad) nga adunay impluwensya sulod sa bisan unsang nasud, ie ang unang mga target nga atakehon panahon sa bisan unsang giyera. Bisan kung ang mga supercomputer karon mogamay sa gidak-on sa mga desktop, kini nga mga ASI adunay pisikal nga presensya, kana nagpasabut nga maglungtad ug motubo, kinahanglan nila ang walay hunong nga pag-access sa datos, gahum sa pag-compute, elektrisidad, ug uban pang mga hilaw nga materyales, nga ang tanan mahimong grabe. nadaot human sa global nukleyar nga gubat. (Aron mahimong patas, kung ang usa ka ASI gimugna nga walay 'survival instinct,' nan kini nga nukleyar nga hulga usa ka tinuod nga kapeligrohan.)

Kini nagpasabut-sa makausa pa, sa pag-ingon nga ang ASI giprograma aron mapanalipdan ang kaugalingon-nga kini aktibo nga molihok aron malikayan ang bisan unsang katalagman nga nukleyar nga insidente. Sama sa doktrina sa mutually assured destruction (MAD), apan gipadapat sa AI.

Ug sa kaso sa poisoned nga mga pildoras, tingali pipila ka gatos ka mga tawo ang mamatay, apan ang modernong mga sistema sa kaluwasan sa parmasyutika makakita sa nahugawan nga mga botelya sa pildoras nga gikuha gikan sa mga estante sulod sa mga adlaw. Samtang, ang modernong mga lakang sa pagkontrol sa outbreak medyo sopistikado ug nag-ayo sa matag paglabay sa tuig; ang katapusan nga mayor nga outbreak, ang 2014 West Africa Ebola outbreak, milungtad dili na kay sa pipila ka bulan sa kadaghanan sa mga nasud ug ubos lang sa tulo ka tuig sa pinakagamay nga mga nasud.

Mao nga, kung swerte, ang usa ka ASI mahimong mapapas ang pipila ka milyon nga adunay usa ka pagbuto sa virus, apan sa usa ka kalibutan nga siyam ka bilyon sa 2045, kana dili kaayo hinungdanon ug dili takus sa peligro nga matangtang.

Sa laing pagkasulti, sa matag paglabay sa tuig, ang kalibutan nagpalambo sa labi pa nga mga panalipod batok sa usa ka nagkalapad nga sakup sa posible nga mga hulga. Ang usa ka ASI makahimo og dakong kadaot, apan kini dili makatapos sa katawhan gawas kon kita aktibong motabang niini sa pagbuhat niini.

Pagdepensa batok sa usa ka rogue nga artipisyal nga superintelligence

Niining puntoha, nahisgotan na namo ang nagkalainlaing sayop nga pagsabot ug pagpasobra bahin sa mga ASI, ug bisan pa niana, magpabilin ang mga kritiko. Maayo na lang, sa kadaghanan sa mga banabana, kita adunay mga dekada sa wala pa ang unang ASI mosulod sa atong kalibutan. Ug tungod sa gidaghanon sa mga bantogan nga mga hunahuna nga nagtrabaho karon sa kini nga hagit, ang posibilidad nga mahibal-an namon kung giunsa ang pagpanalipod sa among kaugalingon batok sa daotan nga ASI aron makabenepisyo kami sa tanan nga mga solusyon nga mahimo sa usa ka mahigalaon nga ASI alang kanamo.

Gikan sa panan-aw ni Quantumrun, ang pagdepensa batok sa pinakagrabe nga senaryo sa ASI maglakip sa pag-align sa atong mga interes sa mga ASI.

MAD para sa AI: Aron makapanalipod batok sa pinakagrabe nga mga sitwasyon sa kaso, ang mga nasud kinahanglan nga (1) maghimo ug usa ka etikal nga 'survival instinct' ngadto sa ilang tagsa-tagsa ka militar nga ASI; (2) pagpahibalo sa ilang tagsa-tagsa ka militar nga ASI nga wala sila mag-inusara sa planeta, ug (3) pangitaa ang tanang supercomputers ug server centers nga makasuporta sa usa ka ASI ubay sa mga baybayon nga daling maabot sa bisan unsang ballistic attack gikan sa kaaway nga nasud. Kini daw estratehikong buang, apan susama sa doktrina sa Mutually Assured Destruction nga nagpugong sa usa ka bug-os nga gubat nukleyar tali sa US ug sa mga Sobyet, pinaagi sa pagpahimutang sa mga ASI sa mga lugar nga mahuyang sa geograpiya, makatabang kita sa pagsiguro nga sila aktibo nga makapugong sa makuyaw nga mga gubat sa kalibutan, dili lamang sa manalipod sa tibuok kalibutan nga kalinaw apan usab sa ilang kaugalingon.

I-legislate ang mga katungod sa AI: Ang usa ka labaw nga salabutan dili kalikayan nga morebelde batok sa usa ka ubos nga agalon, mao kini ang hinungdan nga kita kinahanglan nga mobalhin gikan sa pagpangayo ug usa ka agalon-alagad nga relasyon uban niini nga mga ASI ngadto sa usa ka butang nga mas sama sa usa ka mutually beneficial partnership. Usa ka positibo nga lakang padulong niini nga katuyoan mao ang paghatag sa umaabot nga ASI nga legal nga kahimtang sa pagka-tawo nga nag-ila kanila ingon mga intelihente nga buhing binuhat ug ang tanan nga mga katungod nga kauban niana.

eskwelahan sa ASI: Bisan unsa nga hilisgutan o propesyon mahimong yano alang sa usa ka ASI nga makat-on, apan ang labing hinungdanon nga mga hilisgutan nga gusto namon nga ma-master sa ASI mao ang pamatasan ug moralidad. Ang mga tigdukiduki sa AI kinahanglan nga makigtambayayong sa mga psychologist aron makahimo usa ka virtual nga sistema aron mabansay ang usa ka ASI aron mailhan ang positibo nga pamatasan ug moralidad alang sa iyang kaugalingon nga wala kinahanglana ang lisud nga pag-coding sa bisan unsang klase sa sugo o lagda.

Makab-ot nga mga tumong: Tapuson ang tanang pagdumot. Tapuson ang tanan nga pag-antos. Kini ang mga pananglitan sa makalilisang nga dili klaro nga mga katuyoan nga wala’y klaro nga solusyon. Delikado usab sila nga mga tumong nga i-assign sa usa ka ASI tungod kay basin pilion niini ang paghubad ug pagsulbad niini sa mga paagi nga delikado sa pagkaluwas sa tawo. Hinunoa, kinahanglan natong i-assign ang ASI nga makahuluganon nga mga misyon nga tin-aw nga gihubit, anam-anam nga gipatuman ug makab-ot tungod sa iyang teoretikal nga umaabot nga salabutan. Dili sayon ​​ang pagmugna og mga misyon nga maayo, apan kung gisulat nga mahunahunaon, ilang ipunting ang usa ka ASI ngadto sa usa ka tumong nga dili lamang makapanalipod sa katawhan nga luwas, apan makapauswag sa kahimtang sa tawo alang sa tanan.

Quantum encryption: Gamit ug advanced ANI (artipisyal nga pig-ot nga paniktik sistema nga gihulagway sa kapitulo uno) sa paghimo og sayop/bug-free nga digital nga sistema sa seguridad sa palibot sa atong kritikal nga imprastraktura ug armas, unya dugang nga panalipdan sila luyo sa quantum encryption nga dili ma-hack sa usa ka brute force attack. 

ANI nga pildora sa paghikog. Paghimo usa ka advanced nga sistema sa ANI kansang katuyoan mao ang pagpangita ug paglaglag sa rogue nga ASI. Kining mga single-purpose nga mga programa magsilbi nga "off button" nga, kung magmalampuson, makalikay sa mga gobyerno o militar nga kinahanglan nga disable o pabuto ang mga bilding nga adunay mga ASI.

Siyempre, kini ang among mga opinyon. Ang mosunod nga infographic gihimo ni Alexey Turchin, paghanduraw a research nga papel ni Kaj Sotala ug Roman V. Yampolskiy, nga nagsumada sa kasamtangang listahan sa mga estratehiya nga gikonsiderar sa mga tigdukiduki sa AI kon bahin sa pagpanalipod batok sa rogue ASI.

Ang tinuod nga rason nga kita nahadlok sa usa ka artipisyal nga superintelligence

Sa pag-agi sa kinabuhi, daghan kanato nagsul-ob og maskara nga nagtago o nagpugong sa atong mas lawom nga mga tinguha, pagtuo ug kahadlok aron mas maayo nga makig-uban ug magtinabangay sulod sa lainlaing mga katilingbanon ug trabaho nga mga sirkulo nga nagdumala sa atong mga adlaw. Apan sa pipila ka mga punto sa kinabuhi sa matag usa, temporaryo man o permanente, adunay mahitabo nga nagtugot kanato sa pagbugto sa atong mga kadena ug pagtangtang sa atong mga maskara.

Alang sa pipila, kini nga pwersa sa pagpataliwala mahimo’g ingon ka yano sama sa pagkataas o pag-inom sa usa ka daghan. Alang sa uban, kini mahimong gikan sa gahum nga nakuha pinaagi sa usa ka promosyon sa trabaho o usa ka kalit nga pagbuto sa imong sosyal nga kahimtang salamat sa pipila nga nahimo. Ug alang sa usa ka swerte nga pipila, mahimo kini gikan sa pag-iskor sa usa ka bangka nga puno sa salapi sa lottery. Ug oo, ang kuwarta, gahum, ug mga droga sagad mahitabo nga magkauban. 

Ang punto mao, alang sa maayo o daotan, bisan kinsa kita sa kinauyokan madugangan kung ang mga pagdili sa kinabuhi matunaw.

nga mao ang girepresentahan sa artificial superintelligence sa mga espisye sa tawo—ang abilidad sa pagtunaw sa mga limitasyon sa atong kolektibong paniktik aron mabuntog ang bisan unsang hagit sa lebel sa espisye nga gipresentar sa atong atubangan.

Busa ang tinuod nga pangutana mao: Sa higayon nga ang unang ASI makalingkawas kanato sa atong mga limitasyon, kinsa man ang atong ipadayag sa atong kaugalingon?

Kung kita isip usa ka espisye molihok padulong sa pag-uswag sa empatiya, kagawasan, kaangayan, ug kolektibo nga kaayohan, nan ang mga katuyoan nga atong gitakda sa atong ASI magpakita sa mga positibo nga kinaiya.

Kung kita isip usa ka espisye molihok tungod sa kahadlok, kawalay pagsalig, ang panagtigum sa gahum ug mga kahinguhaan, nan ang ASI nga atong gimugna mahimong sama kangitngit sama sa makita sa atong pinakagrabe nga sci-fi horror story.

Sa katapusan sa adlaw, kita isip usa ka katilingban kinahanglan nga mahimong mas maayo nga mga tawo kung naglaum kita nga makahimo og mas maayo nga AI.

Umaabot sa serye sa Artipisyal nga Intelligence

Ang Artificial Intelligence mao ang kuryente ugma: Umaabot sa Artificial Intelligence nga serye nga P1

Giunsa pagbag-o sa una nga Artipisyal nga Kinatibuk-ang Kaalam ang katilingban: Umaabot sa serye sa Artipisyal nga Intelligence P2

Giunsa naton paghimo ang una nga Artipisyal nga Superintelligenc: Umaabot sa serye sa Artipisyal nga Intelligence P3

Mapuo ba sa usa ka Artipisyal nga Superintelligence ang katawhan: Umaabot sa serye sa Artipisyal nga Intelligence P4

Magpuyo ba nga malinawon ang mga tawo sa umaabot nga gimandoan sa mga artipisyal nga paniktik?: Umaabot sa serye sa Artipisyal nga Intelligence P6