Ahoana no hiarovan'ny olombelona amin'ny Superintelligence artificial: ho avin'ny intelligence artificial P5

SARY CREDIT: Quantumrun

Ahoana no hiarovan'ny olombelona amin'ny Superintelligence artificial: ho avin'ny intelligence artificial P5

    Ny taona dia 65,000 XNUMX T.K., ary toy ny a Thylacoleo, ianao sy ny olonao dia mpihaza lehibe tany Aostralia fahiny. Nandeha an-kalalahana tamin'ny tany ianao ary niaina tamin'ny fifandanjana niaraka tamin'ireo biby mpiremby sy remby nibodo ny tany teo anilanao. Nitondra fiovana ny fizaran-taona, fa ny toerana misy anao ao amin'ny fanjakan'ny biby dia tsy voatohitra nandritra ny fotoana nitadidianao sy ny razanao. Avy eo, indray andro, nisy olona vao tonga.

    Ny tsaho dia tonga avy amin'ny rindrin-drano goavam-be, saingy toa mahazo aina kokoa ny miaina an-tanety ireo zavaboary ireo. Tsy maintsy nijery manokana ireo zavaboary ireo ianao.

    Naharitra andro vitsivitsy izany, saingy tonga teny amoron-tsiraka ihany ianao. Nilentika ny afo eny amin’ny lanitra, fotoana tena tsara hitsikilovana an’ireo zavaboary ireo, mety hanandrana hihinana iray mihitsy aza mba hahitana ny tsirony.

    Hitanao ny iray.

    Nandeha tongotra roa izy io ary tsy nisy volony. Toa malemy. Tsy manaitra. Tsy mendrika ny tahotra naterak'izany teo anivon'ny fanjakana.

    Manomboka manatona amim-pitandremana ianao rehefa mandroaka ny hazavana ny alina. Mihamanakaiky ianao. Dia mivaingana ianao. Nisy feo mafy naneno ary avy eo dia nisy efatra tamin'izy ireo niseho avy tao anaty ala tao ambadik'izany. firy no misy?

    Ny zavaboary dia manaraka ny hafa mankany amin'ny tsipika hazo, ary ianao dia manaraka. Ary arakaraka ny ataonao, dia vao mainka renao ny feo hafahafa mandra-pahitanao bebe kokoa amin'ireo zavaboary ireo. Manaraka lavidavitra ianao rehefa mivoaka ny ala mankany amin'ny toerana malalaka manamorona ny morontsiraka. Misy maro amin'izy ireo. Fa ny tena zava-dehibe dia mipetraka milamina manodidina ny afo izy rehetra.

    Efa nahita ireo afo ireo ianao taloha. Amin'ny vanin-taona mafana, indraindray ny afo eny amin'ny lanitra dia mitsidika ny tany ary mandoro ala manontolo. Ireo zavaboary ireo kosa no nifehy azy. Karazana zavaboary inona no afaka manana fahefana toy izany?

    Mijery ny lavitra ianao. Betsaka kokoa no tonga eo ambonin'ny rindrin-drano goavam-be.

    Mihemotra ianao.

    Tsy mitovy amin’ny hafa ao amin’ilay fanjakana ireo zavaboary ireo. Zava-baovao tanteraka izy ireo.

    Manapa-kevitra ny hiala ianao ary hampitandrina ny havanao. Raha mitombo loatra ny isan'izy ireo, iza no mahalala izay mety hitranga.

    ***

    Heverina fa lany tamingana fotoana fohy taorian'ny nahatongavan'ny olombelona ny Thylakoleo, niaraka tamin'ny ankamaroan'ny megafauna hafa ao amin'ny kaontinanta Aostraliana. Tsy nisy biby mpiremby biby mampinono hafa nisolo toerana azy — izany hoe raha tsy manisa olona ao amin'io sokajy io ianao.

    Ny filalaovana an'io fanoharana io no ifantohan'ity toko andiany ity: Ny superintelligence artifisialy ho avy (ASI) ve dia hamadika antsika rehetra ho bateria ary avy eo hampiditra antsika ao amin'ny Matrix sa hitady fomba hisorohana ny olona ho tratran'ny sci-fi, AI momba ny andro farany?

    Hatreto amin'ny andiany misy antsika momba ny Ny hoavin'ny faharanitan-tsaina, dia nandinika ny karazana AI rehetra izahay, anisan'izany ny mety tsara amin'ny endrika AI manokana, ny ASI: zavamananaina artifisialy izay hahatonga antsika ho toy ny vitsika ny faharanitan-tsaina amin'ny ho avy raha ampitahaina.

    Fa iza no hilaza fa ny olona manan-tsaina toy izany dia hanaiky handray baiko avy amin'ny olombelona mandrakizay. Inona no hataontsika raha mianatsimo ny raharaha? Ahoana no hiarovantsika amin'ny ASI ratsy fanahy?

    Ato amin'ity toko ity, hotapahintsika ny fihoaram-pefy sandoka—farafaharatsiny mifandraika amin'ny loza mety hitranga amin'ny 'ambaratongan'ny faharinganan'ny olombelona'—ary hifantoka amin'ireo safidy tena misy amin'ny fiarovan-tena azon'ny governemanta eran-tany.

    Afaka manakana ny fikarohana rehetra momba ny superintelligence artifisialy ve isika?

    Raha jerena ny risika mety ateraky ny ASI ho an'ny olombelona, ​​​​ny fanontaniana miharihary voalohany apetraka dia ny hoe: Tsy azo atao ve ny manakana ny fikarohana rehetra momba ny AI? Na farafaharatsiny mandrara ny fikarohana izay mety hahatonga antsika hanakaiky ny famoronana ASI?

    Valiny fohy: Tsia.

    Valiny lava: Andeha hojerentsika ireo mpilalao samihafa tafiditra eto.

    Eo amin'ny sehatry ny fikarohana, be loatra ny mpikaroka AI amin'izao fotoana izao avy amin'ny fanombohana, orinasa ary oniversite marobe eran'izao tontolo izao. Raha nanapa-kevitra ny hametra ny ezaka fikarohana momba ny AI ny orinasa na firenena iray, dia hanohy any an-kafa fotsiny izy ireo.

    Mandritra izany fotoana izany, ireo orinasa sarobidy indrindra eto an-tany dia mahazo tombony amin'ny fampiharana ny rafitra AI amin'ny orinasany manokana. Ny fangatahana azy ireo hampiato na hamerana ny fampivoarana ny fitaovana AI dia mitovy amin'ny fangatahana azy ireo hampiato na hametra ny fitomboany ho avy. Amin'ny lafiny ara-bola dia mety handrahona ny fandraharahan'izy ireo maharitra izany. Amin'ny lafiny ara-dalàna, ny orinasa dia manana andraikitry ny fiduciary hanorina tsy tapaka ny hasarobidin'ny mpandray anjara; midika izany fa izay hetsika mety hametra ny fitomboan'izany sanda izany dia mety hitarika amin'ny fitoriana. Ary raha nisy mpanao politika nanandrana nametra ny fikarohana AI, dia handoa ny saram-panentanana ilaina fotsiny ireo orinasa goavam-be ireo mba hanovana ny sain'ny mpiara-miasa aminy.

    Ho an'ny ady, sahala amin'ireo mpampihorohoro sy mpiady ho an'ny fahalalahana manerana izao tontolo izao izay nampiasa tetika anaty akata mba hiadiana amin'ny tafika manana vatsiam-bola tsara kokoa, ireo firenena kely kokoa dia hanana fandrisihana hampiasa AI ho tombontsoa ara-tetika mitovy amin'izany amin'ireo firenena lehibe izay mety manana tombony ara-tafika maromaro. Toy izany koa, ho an'ny miaramila ambony, toa an'i Etazonia, Rosia ary Shina, ny fananganana ASI miaramila dia mitovy amin'ny fananana fitaovam-piadiana nokleary ao am-paosinao. Raha lazaina amin'ny teny hafa, ny miaramila rehetra dia hanohy ny famatsiam-bola AI mba hijanonana ho manan-danja amin'ny ho avy.

    Ahoana ny amin’ny fitondram-panjakana? Raha ny marina, ny ankamaroan'ny mpanao politika amin'izao andro izao (2018) dia tsy mahay mamaky teny sy manoratra ara-teknolojia ary tsy dia takatra firy ny atao hoe AI na ny mety ho vitany amin'ny ho avy — izany no mahatonga azy ireo ho mora fehezin'ny tombontsoan'ny orinasa.

    Ary eo amin'ny sehatra maneran-tany, diniho ny fahasarotan'ny fandresen-dahatra ny governemanta maneran-tany hanasonia ny taona 2015 Paris Fifanarahana hiatrehana ny fiovaovan'ny toetr'andro—ary rehefa nosoniavina dia maro amin'ireo adidy no tsy raikitra akory. Tsy vitan'izay fa olana iainan'ny olona ara-batana maneran-tany ny fiovan'ny toetr'andro amin'ny alàlan'ny fisehoan-javatra mitranga matetika sy mafy. Ankehitriny, rehefa miresaka momba ny fanekena ny famerana ny AI, dia olana iray izay tsy hita maso ary zara raha takatry ny besinimaro izany, koa mirary soa ho an'ny fividianana amin'ny karazana 'Paris Agreement' amin'ny famerana ny AI.

    Raha lazaina amin'ny teny hafa, be loatra ny tombontsoa mikaroka AI ho an'ny tanjony manokana mba hampitsaharana ny fikarohana rehetra mety hitarika amin'ny ASI. 

    Azontsika atao ve ny manangana superintelligence artifisialy?

    Ny fanontaniana marim-pototra manaraka dia afaka manangana na mifehy ASI ve isika raha vao mamorona iray? 

    Valiny fohy: Tsia indray.

    Valiny lava: Tsy azo fehezina ny teknolojia.

    Ho an'ny iray, diniho fotsiny ireo mpamorona tranonkala sy mpahay siansa momba ny informatika an'arivony hatramin'ny an-tapitrisany eran'izao tontolo izao izay mamoaka rindrankajy vaovao na kinova vaovao amin'ny rindrambaiko efa misy. Afaka milaza am-pahatsorana ve isika fa ny tsirairay amin'ny famoahana rindrambaiko dia 100 isan-jato tsy misy bibikely? Ireo bibikely ireo no ampiasain'ny mpijirika matihanina mba hangalarana ny mombamomba ny carte de crédit an-tapitrisany na tsiambaratelo voasokajy ho an'ny firenena — ary ireo dia mpijirika olombelona. Ho an'ny ASI, raha heverina fa misy fandrisihana handositra ny tranom-baravarana nomerika, dia ho moramora ny fizotran'ny fitadiavana bibikely sy ny fandravana rindrambaiko.

    Saingy na dia nisy ekipa mpikaroka momba ny AI aza nahita fomba hametahana ASI, tsy midika izany fa ny ekipa 1,000 manaraka dia hahita izany koa na ho voataona hampiasa azy io.

    Mila vola an'arivony tapitrisa ary mety am-polony taona maro mihitsy aza ny famoronana ASI. Ireo orinasa na governemanta izay mampiasa vola sy fotoana toy izany dia manantena fiverenana lehibe amin'ny fampiasam-bolany. Ary ho an'ny ASI iray manome ny karazana fiverenana toy izany — na ny lalao amin'ny tsenam-bola na ny famoronana vokatra arivo tapitrisa dolara vaovao na ny fikasana paikady handresena hiady amin'ny tafika lehibe kokoa — dia mila fidirana maimaim-poana amin'ny angon-drakitra goavam-be na Internet mihitsy aza. ny tenany mba hamokatra ireo fiverenana ireo.

    Ary raha vao mahazo miditra amin'ny tambajotran'izao tontolo izao ny ASI iray, dia tsy misy antoka fa afaka mamerina azy ao anaty tranom-baravarana isika.

    Afaka mianatra ho tsara ve ny superintelligence artifisialy?

    Amin'izao fotoana izao, tsy manahy momba ny ASI ho lasa ratsy ny mpikaroka AI. Ny ratsy rehetra, AI sci-fi trope dia olombelona anthropomorphizing indray. Ny ASI amin'ny ho avy dia tsy ho tsara na ratsy—fihevitr'olombelona—fa amoraly fotsiny.

    Ny fiheverana voajanahary dia ny hoe raha omena an'io takelaka etika tsy misy dikany io, ny mpikaroka AI dia afaka mandrindra ny kaody etika ASI voalohany izay mifanaraka amin'ny antsika manokana mba tsy hamoahana ny Terminator amintsika na hanova antsika rehetra ho bateria Matrix.

    Saingy ity vinavina ity dia mipoitra amin'ny fiheverana faharoa fa ny mpikaroka AI dia manam-pahaizana ihany koa amin'ny etika, filozofia ary psikolojia.

    Raha ny marina, ny ankamaroany dia tsy.

    Araka ny voalazan'i Steven Pinker, psikology ara-tsaina sy mpanoratra, io zava-misy io dia midika fa ny asan'ny etika coding dia mety ho diso amin'ny fomba samihafa.

    Ohatra, na dia ireo mpikaroka AI manana fikasana tsara indrindra aza dia mety hadika tsy nahy amin'ireo kaody etika ASI tsy noeritreretina tsara izay mety hahatonga ny ASI ho toy ny sociopath amin'ny toe-javatra sasany.

    Torak'izany ihany koa, misy ny mety hitovizan'ny mpikaroka AI iray manomana kaody etika izay ahitana ny fitongilanana voajanahary ananan'ny mpikaroka. Ohatra, ahoana ny fitondran-tenan'ny ASI raha miorina amin'ny etika avy amin'ny fomba fijery mpandala ny nentin-drazana vs liberaly, na avy amin'ny fomban-drazana Bodista vs Kristiana na Islamika?

    Heveriko fa hitanao ny olana eto: Tsy misy ny fitsipi-pitondran-tenan'ny olombelona rehetra. Raha tiantsika ny ASI-ntsika hiasa amin'ny fehezan-dalàna etika, avy aiza izany? Inona no fitsipika ampidirintsika sy esorintsika? Iza no manapa-kevitra?

    Na aleo atao hoe mamorona ASI mifanaraka tsara amin'ny fitsipika sy lalàna ara-kolontsaina maoderina ankehitriny ireo mpikaroka AI ireo. Mampiasa ity ASI ity izahay avy eo mba hanampiana ny birao federaly, fanjakana/faritany, ary monisipaly hiasa amin'ny fomba mahomby kokoa ary hampihatra tsara kokoa ireo fitsipika sy lalàna ireo (raha toa ka azo ampiasaina ho an'ny ASI). Inona no mitranga rehefa miova ny kolontsaintsika?

    Alaivo sary an-tsaina ny ASI iray noforonin'ny Fiangonana Katolika tamin'ny faratampon'ny heriny nandritra ny Moyen Âge Eoropa (taona 1300-1400) miaraka amin'ny tanjona hanampiana ny fiangonana hitantana ny mponina sy hiantohana ny fanarahana hentitra ny dogma ara-pivavahana tamin'izany fotoana izany. Taonjato maro tatỳ aoriana, moa ve ny vehivavy hanana zo mitovy amin’ny ananany ankehitriny? Harovana ve ny vitsy an'isa? Hampandroso ny fahalalaham-pitenenana ve? Ho ampiharina ve ny fisarahan’ny fiangonana sy ny fanjakana? Ny siansa maoderina?

    Raha lazaina amin’ny teny hafa, tiantsika ve ny hanagadrana ny ho avy amin’ny fitondran-tena sy ny fomba amam-panao ankehitriny?

    Fomba iray hafa nozarain'i Colin Allen, mpiara-manoratra ny boky, Moral Machines: Mampianatra Robots Tsara Amin'ny Diso. Raha tokony hanandrana handika fitsipika etika henjana isika, dia manana ny ASI mianatra etika sy fitondran-tena iombonana amin'ny fomba mitovy amin'ny ataon'ny olombelona, ​​amin'ny alalan'ny traikefa sy ny fifandraisana amin'ny hafa.

    Ny olana eto anefa dia raha toa ny mpikaroka AI dia tsy mahafantatra ny fomba hampianarana ny ASI ny fitsipika ara-kolontsaina sy ara-moraly misy antsika ankehitriny, fa koa ny fomba hampifanaraka ny fenitra ara-kolontsaina vaovao rehefa mipoitra izy ireo (zavatra antsoina hoe 'normativity indirect'), dia ahoana ity ASI ity dia manapa-kevitra ny hampivoatra ny fahatakarany ny fenitra ara-kolontsaina sy ara-moraly dia lasa tsy azo vinaniana.

    Ary izay no fanamby.

    Amin'ny lafiny iray, ny mpikaroka AI dia afaka manandrana mandika fenitra etika na fitsipika henjana ao amin'ny ASI mba hanandrana sy hifehy ny fitondran-tenany, saingy mety hisy vokany tsy ampoizina avy amin'ny kaody diso tafahoatra, fitongilanana tsy nahy, ary ny fenitra ara-tsosialy izay mety ho lany andro indray andro any. Amin'ny lafiny iray, afaka manandrana manofana ny ASI isika hianatra hahatakatra ny etika sy fitondran-tena maha-olombelona amin'ny fomba mitovy na ambony noho ny fahatakarantsika manokana ary avy eo manantena fa afaka mampivoatra tsara ny fahatakarany ny etika sy ny fitondran-tena araka ny fandrosoan'ny fiaraha-monina. handroso mandritra ny folo taona sy taonjato ho avy.

    Na izany na tsy izany, ny fikasana hampifanaraka ny tanjon'ny ASI amin'ny tenantsika dia miteraka risika be.

    Ahoana raha ninia namorona superintelligence artifisialy ratsy ny mpilalao ratsy?

    Raha jerena ny fizotry ny eritreritra voasoritra hatramin'izao, fanontaniana ara-drariny ny manontany raha mety ho an'ny vondrona mpampihorohoro na firenena ratsy fanahy mamorona ASI 'ratsy' ho an'ny tenany manokana.

    Tena azo atao izany, indrindra rehefa misy fikarohana mifandraika amin'ny famoronana ASI azo jerena amin'ny Internet.

    Saingy araka ny voalaza teo aloha, ny fandaniana sy ny fahaiza-manao ilaina amin'ny famoronana ny ASI voalohany dia ho goavana, midika izany fa ny ASI voalohany dia azo inoana fa ho noforonin'ny fikambanana iray izay fehezin'ny firenena mandroso iray, angamba Etazonia, Shina, ary Japana ( Korea ary iray amin'ireo firenena lehibe ao amin'ny Vondrona Eoropeana dia tifitra lava).

    Ireo firenena rehetra ireo, na dia mpifaninana aza, dia samy manana fandrisihana ara-toekarena matanjaka mba hitandrovana ny filaminana eran-tany — ny ASI izay noforoniny dia haneho izany faniriana izany, na dia eo aza ny fampiroboroboana ny tombontsoan'ireo firenena izay iarahany.

    Ambonin'izany, ny faharanitan-tsaina sy ny herin'ny ASI dia mitovy amin'ny herin'ny informatika azony, izany hoe ny ASI avy amin'ny firenena mandroso (izay mahavidy vola lavitrisa dolara. supercomputers) dia hanana tombony lehibe amin'ireo ASI avy amin'ny firenena kely kokoa na vondrona mpanao heloka bevava mahaleo tena. Ary koa, mitombo intelligent kokoa ny ASIs, haingana kokoa rehefa mandeha ny fotoana.

    Noho izany, raha jerena ity fanombohana lehibe ity, miaraka amin'ny fidirana bebe kokoa amin'ny herin'ny informatika manta, raha misy fikambanana/firenena aloka iray mamorona ASI mampidi-doza, ny ASI avy amin'ny firenena mandroso dia hamono azy io na handrakotra azy.

    (Ity fomba fisainana ity ihany koa no mahatonga ny mpikaroka AI sasany mino fa tsy hisy afa-tsy ASI iray eto ambonin'ny tany, satria ny ASI voalohany dia hanana loha-hevitra toy izany amin'ireo ASI mandimby rehetra izay mety hahita ny ASI ho avy ho fandrahonana hovonoina. Izany no antony iray hafa mahatonga ny firenena hamatsy ny fikarohana momba ny AI, sao dia lasa fifaninanana 'toerana voalohany na tsia'.)

    Ny faharanitan-tsaina ASI dia tsy hanafaingana na hipoaka araka ny eritreretintsika

    Tsy afaka manakana ny ASI tsy hamorona isika. Tsy afaka mifehy azy tanteraka isika. Tsy azontsika antoka fa hifanaraka hatrany amin'ny fomba amam-panao iombonantsika izany. Eny ary, manomboka toa ny ray aman-dreny helikoptera izahay eto!

    Fa ny mampiavaka ny maha-olombelona amin'ny ray aman-dreninao be mpiaro indrindra dia ny hoe miteraka zavamananaina iray izay hitombo mihoatra lavitra noho ny anay izahay. (Ary tsia, tsy mitovy amin'ny fotoana nasain'ny ray aman-dreninao nanamboatra ny solosainy ianao isaky ny mody hitsidika anao.) 

    Ao amin'ny toko teo aloha amin'ity andian-tantara ho avy amin'ny faharanitan-tsaina artifisialy ity, dia nandinika ny antony hiheveran'ny mpikaroka AI fa hitombo tsy voafehy ny faharanitan-tsain'ny ASI. Saingy eto, hanapotika an'io bubble io isika… karazana. 

    Hitanao fa tsy mamorona ny tenany avy amin'ny rivotra manify fotsiny ny faharanitan-tsaina, fa mivoatra amin'ny alalan'ny traikefa izay voavolavolan'ny stimuli avy any ivelany.  

    Raha lazaina amin'ny teny hafa, afaka manamboatra AI miaraka amin'ny mety ho lasa tena manan-tsaina, fa raha tsy ampidirintsika ao anatin'izany ny angon-drakitra na omentsika fidirana tsy misy fetra amin'ny Internet na omena vatana robot fotsiny aza, dia tsy hianatra na inona na inona hanatratrarana izany tanjona izany. 

    Ary na dia mahazo fidirana amin'ny iray na maromaro amin'ireo fanentanana ireo aza izy, ny fahalalana na ny faharanitan-tsaina dia tsy vitan'ny fanangonana angon-drakitra fotsiny, dia tafiditra amin'izany ny fomba siantifika - manao fandinihana, mamorona fanontaniana, petra-kevitra, manao andrana, manao tsoa-kevitra, manasa. ary avereno mandrakizay. Indrindra raha misy zavatra ara-batana na fandinihana ny olombelona ireo andrana ireo, dia mety haharitra herinandro, na volana, na taona vao voaangona ny vokatry ny andrana tsirairay. Tsy tafiditra ao anatin'izany akory ny vola sy ny harena manta ilaina amin'ny fanatanterahana ireo andrana ireo, indrindra raha toa ka tafiditra ao anatin'izany ny fananganana teleskaopy na orinasa vaovao. 

    Raha lazaina amin'ny teny hafa, eny, hianatra haingana ny ASI, fa tsy majika ny faharanitan-tsaina. Tsy azonao atao ny mampifandray ny ASI amin'ny supercomputer iray fotsiny fa manantena azy io ho fantatry ny rehetra. Hisy teritery ara-batana amin'ny fahazoana angon-drakitra ataon'ny ASI, midika izany fa hisy teritery ara-batana amin'ny hafainganam-pandehan'ny faharanitan-tsaina kokoa. Ireo teritery ireo dia hanome ny olombelona ny fotoana ilainy hametrahana ny fanaraha-maso ilaina amin'ity ASI ity raha manomboka mihetsika tsy mifanaraka amin'ny tanjon'olombelona izy.

    Mampidi-doza ihany ny superintelligence artifisialy raha mivoaka any amin'ny tontolo tena izy

    Hevitra iray hafa very tamin'ity adihevitra momba ny loza ateraky ny ASI ity dia ny hoe tsy hisy koa ireo ASI ireo. Hanana endrika ara-batana izy ireo. Ary azo fehezina izay rehetra manana endrika ara-batana.

    Voalohany, ho an'ny ASI iray hahatratra ny tanjaky ny faharanitan-tsainy, dia tsy azo apetraka ao anatin'ny vatan'ny robot iray izy io, satria io vatana io dia hametra ny tanjaky ny informatika. (Izany no mahatonga ny vatan'ny robot ho mety kokoa amin'ny AGIs na ny faharanitan-tsaina ankapoben'ny artifisialy nohazavaina ao amin'ny toko faharoa amin'ity andiany ity, toy ny Data avy amin'ny Star Trek na R2D2 avy amin'ny Star Wars. Olona manan-tsaina sy mahay, fa tahaka ny olombelona, ​​dia hanana fetra amin'ny fahaiza-manaony izy ireo.)

    Midika izany fa ireo ASI ho avy ireo dia mety hisy ao anatin'ny supercomputer na tambajotran'ny supercomputers izay mipetraka ao amin'ny tranobe lehibe. Raha mivadika ny ASI, dia azon'ny olombelona atao ny manapaka ny herinaratra amin'ireo tranobe ireo, na manapaka azy ireo amin'ny Internet, na manapoaka baomba an'ireo tranobe ireo. Lafo, nefa azo atao.

    Saingy mety hanontany tena ianao hoe, tsy afaka mamerina ny tenany ve ireo ASI ireo na mihemotra? Eny, fa ny haben'ny rakitra manta amin'ireo ASI ireo dia mety ho lehibe tokoa ka ny mpizara tokana afaka mitantana azy ireo dia an'ny orinasa lehibe na governemanta, midika izany fa tsy ho sarotra ny hihaza azy ireo.

    Afaka miteraka ady nokleary na pesta vaovao ve ny superintelligence artifisialy?

    Amin'izao fotoana izao, mety hieritreritra ny amin'ireo seho sci-fi sy filma nojerenao amin'ny andro farany ianao ary mieritreritra fa tsy nijanona tao anatin'ny supercomputers ireo ASI ireo fa tena nanimba ny tontolo tena izy!

    Andeha hovakiantsika ireto.

    Ohatra, ahoana raha mandrahona ny tontolo tena izy ny ASI iray amin'ny fiovan'ny zavatra toy ny Skynet ASI avy amin'ny franchise sarimihetsika, The Terminator. Amin'ity tranga ity, ny ASI dia mila mangingina mamitaka ny indostrian'ny tafika iray manontolo avy amin'ny firenena mandroso amin'ny fananganana orinasa goavam-be izay mety hamoaka robots drone mpamono olona an-tapitrisany mba hanao ny teniny ratsy. Amin'izao vanim-potoana izao dia sarotra izany.

    Ny mety ho hafa dia ny ASI mandrahona ny olombelona amin'ny ady nokleary sy fitaovam-piadiana biolojika.

    Ohatra, ny ASI iray dia manodinkodina ireo mpandraharaha na mijirika amin'ny kaody fanombohana mibaiko ny fitaovam-piadiana nokleary an'ny firenena mandroso ary manao fitokonana voalohany izay hanery ireo firenena mpanohitra hitokona amin'ny safidiny manokana nokleary (indray, mamerina indray ny backstory Terminator). Na raha misy ASI miditra ao amin'ny laboratoara fanafody, manohintohina ny fizotran'ny famokarana ary manapoizina pilina ara-pitsaboana an-tapitrisany na mamoaka valan'aretina mahery vaika.

    Voalohany, ny safidy nokleary dia eny amin'ny takelaka. Ny supercomputers maoderina sy ho avy dia aorina eo akaikin'ny foibe (tanàna) misy fiantraikany amin'ny firenena iray, izany hoe ny tanjona voalohany hotafihina mandritra ny ady rehetra. Na dia mihena aza ny supercomputers amin'izao fotoana izao amin'ny haben'ny birao, ireo ASIs ireo dia mbola hanana fanatrehana ara-batana, midika izany fa misy sy mitombo, mila fidirana tsy tapaka amin'ny angon-drakitra, herin'ny informatika, herinaratra ary akora hafa, izay ho mafy orina avokoa. niharatsy taorian'ny ady nokleary maneran-tany. (Raha ny marina, raha noforonina tsy misy 'instinct survival' ny ASI, dia tena loza tokoa io fandrahonana nokleary io.)

    Midika izany—indray, raha mihevitra ny ASI ho voalahatra hiaro ny tenany—fa hiasa amim-pahavitrihana mba hisorohana ny loza nokleary rehetra. Sahala amin'ny fotopampianaran'ny fifamonoana miantoka (MAD), saingy nampiharina tamin'ny AI.

    Ary amin'ny resaka pilina misy poizina, mety an-jatony vitsivitsy no ho faty, fa ny rafitra fiarovana amin'ny fanafody maoderina dia hahita ireo tavoahangy pilina voaloto esorina ao anatin'ny andro vitsivitsy. Mandritra izany fotoana izany, ny fepetra mifehy ny fihanaky ny valan'aretina maoderina dia somary be pitsiny ary mihatsara isan-taona; ny fipoahana lehibe farany, ny fihanaky ny Ebola any Afrika Andrefana tamin'ny 2014, dia naharitra tsy mihoatra ny volana vitsivitsy tany amin'ny ankamaroan'ny firenena ary latsaky ny telo taona tany amin'ireo firenena tsy mandroso.

    Noho izany, raha tsara vintana, ny ASI dia mety handripaka olona an-tapitrisany vitsivitsy amin'ny fihanaky ny viriosy, fa amin'ny tontolo sivy lavitrisa amin'ny 2045, dia tsy dia misy dikany loatra izany ary tsy mendrika ny mety ho voafafa.

    Raha lazaina amin'ny teny hafa, isaky ny mandeha ny taona, izao tontolo izao dia mamolavola fiarovana bebe kokoa amin'ny karazana fandrahonana mety hitranga. Mety hiteraka fahasimbana goavana ny ASI, saingy tsy hamarana ny olombelona izany raha tsy manampy azy amin'ny fomba mavitrika amin'izany isika.

    Miaro amin'ny superintelligence artifisialy ratsy fanahy

    Amin'izao fotoana izao, efa niresaka momba ny hevi-diso sy ny fanitarana momba ny ASI izahay, nefa mbola hitoetra ny mpitsikera. Soa ihany fa amin'ny ankamaroan'ny vinavina dia manana am-polony taona maro isika alohan'ny hidiran'ny ASI voalohany amin'ny tontolontsika. Ary raha jerena ny isan'ny saina lehibe miasa amin'izao fotoana izao amin'ity fanamby ity, dia mety hianarantsika ny fomba hiarovan-tena amin'ny ASI ratsy fanahy mba hahazoantsika tombony amin'ny vahaolana rehetra azon'ny ASI sariaka noforonina ho antsika.

    Avy amin'ny fomba fijerin'i Quantumrun, ny fiarovana amin'ny tranga ratsy indrindra amin'ny ASI dia ahitana ny fampifanarahana ny tombontsoantsika amin'ny ASI.

    MAD ho an'ny AI: Mba hiarovana amin'ny toe-javatra ratsy indrindra, ny firenena dia mila (1) mamorona 'instinct survival' etika ao amin'ny ASI miaramilany tsirairay avy; (2) ampahafantaro ny ASI miaramilany tsirairay avy fa tsy irery izy ireo eto an-tany, ary (3) tadiavo ireo supercomputers sy ivontoerana mpizara rehetra izay afaka manohana ASI amin'ny morontsiraka izay mora tratrarina amin'ny fanafihana ballistic avy amin'ny firenena fahavalo. Toa adala ara-stratejika izany, saingy mitovitovy amin'ny fotopampianaran'ny Mutually Assured Destruction izay nanakana ny ady niokleary manontolo teo amin'i Etazonia sy ny Sovietika, tamin'ny fametrahana ny ASIs amin'ny toerana marefo ara-jeografika, dia afaka manampy amin'ny fiarovana azy ireo amin'ny fisorohana ny ady eran-tany mampidi-doza izy ireo, fa tsy hoe miaro ny fandriampahalemana maneran-tany fa ny tenany ihany koa.

    Lalàna ny zon'ny AI: Tsy azo ihodivirana fa hikomy amin’ny tompo ambany kokoa ny saina ambony, ka izany no ilaintsika hialana amin’ny fitakiana ny fifandraisan’ny tompo-mpanompo amin’ireo ASI ireo ho amin’ny zavatra mitovitovy kokoa amin’ny fiaraha-miasa mahasoa. Dingana tsara ho amin'izany tanjona izany ny fanomezana ny sata maha-olona ara-dalàna ny ASI ho avy izay manaiky azy ireo ho zavamananaina manan-tsaina sy ny zo rehetra miaraka amin'izany.

    sekoly ASI: Ny lohahevitra na asa rehetra dia ho tsotra ho an'ny ASI hianarana, fa ny taranja manan-danja indrindra tiantsika hofehezin'ny ASI dia ny etika sy ny fitondran-tena. Ny mpikaroka AI dia mila miara-miasa amin'ny psikology mba hamolavola rafitra virtoaly hampiofana ASI hamantatra ny etika sy ny fitondran-tena tsara ho an'ny tenany tsy mila fametahana henjana karazana didy na fitsipika.

    Tanjona azo tratrarina: Atsaharo ny fankahalana rehetra. Atsaharo ny fijaliana rehetra. Ohatra amin'ny tanjona manjavozavo mahatsiravina tsy misy vahaolana mazava ireo. Tanjona mampidi-doza koa izy ireo hapetraka amin'ny ASI satria mety hisafidy ny handika sy hamaha azy ireo amin'ny fomba mampidi-doza ho an'ny fahaveloman'ny olombelona. Fa kosa, mila manendry iraka manan-danja amin'ny ASI isika izay voafaritra mazava, tanterahina tsikelikely ary azo tanterahina noho ny faharanitan-tsainy amin'ny ho avy. Tsy ho mora ny famoronana iraka voafaritra tsara, fa raha soratana amim-pitandremana izy ireo, dia hampifantoka ny ASI amin'ny tanjona izay tsy vitan'ny hoe miaro ny maha-olombelona, ​​fa manatsara ny toetry ny olombelona ho an'ny rehetra.

    Quantum encryption: Mampiasà ANI mandroso (faharanitan-tsaina tery artifisialy rafitra voalaza ao amin'ny toko voalohany) mba hananganana rafitra fiarovana nomerika tsy misy diso/tsy misy bug manodidina ny fotodrafitrasa sy ny fitaovam-piadiantsika, avy eo miaro azy ireo bebe kokoa ao ambadiky ny encryption quantum izay tsy azon'ny fanafihana mahery vaika. 

    pilina famonoan-tena ANI. Mamorona rafitra ANI mandroso izay ny hany tanjona dia ny hitady sy handrava ASI rogue. Ireo fandaharan'asa tokana ireo dia ho toy ny "bokotra miala" izay, raha mahomby, dia hisoroka ny governemanta na ny miaramila tsy maintsy manafoana na manapoaka trano misy ASI.

    Mazava ho azy fa hevitray ihany ireo. Ity infografika manaraka ity dia noforonin'i Alexey Turchin, sary an-tsaina a fikarohana taratasy avy amin'i Kaj Sotala sy Roman V. Yampolskiy, izay namintina ny lisitry ny paikady eritreretin'ny mpikaroka AI amin'izao fotoana izao momba ny fiarovana amin'ny ASI rogue.

     

    Ny tena antony atahorantsika ny superintelligence artifisialy

    Mandeha amin'ny fiainana, maro amintsika no manao saron-tava izay manafina na manindry ny fientanam-po lalina kokoa, ny finoantsika ary ny tahotra mba hifaneraserana sy hiara-hiasa tsara kokoa ao anatin'ireo faribolana ara-tsosialy sy asa samihafa izay mifehy ny androntsika. Saingy amin'ny fotoana sasany eo amin'ny fiainan'ny tsirairay, na vonjimaika na maharitra, dia misy zavatra mitranga izay mamela antsika hanapaka ny gadrantsika sy hanala ny saron-tava.

    Ho an'ny sasany, ity hery miditra ity dia mety ho tsotra toy ny miakatra avo na misotro iray be loatra. Ho an'ny hafa, mety ho avy amin'ny hery azo amin'ny alàlan'ny fampisondrotana any am-piasana na ny fisondrotana tampoka eo amin'ny sata sosialy anao noho ny zava-bita sasany. Ary ho an'ny olom-bitsy tsara vintana, dia mety ho avy amin'ny fametahana sambo feno vola amin'ny loteria. Ary eny, ny vola sy ny fahefana ary ny zava-mahadomelina dia mety hitranga miaraka. 

    Ny tiana holazaina dia, na tsara na ratsy, na iza na iza isika no fototra dia mihamatanjaka rehefa levona ny famerana ny fiainana.

    Izany no asehon'ny superintelligence artifisialy ho an'ny karazan'olombelona—ny fahafahana manalefaka ny fetran'ny faharanitan-tsaintsika iombonana mba handresena izay fanamby amin'ny karazana karazana atolotra antsika.

    Ka ny tena fanontaniana dia hoe: Raha vao manafaka antsika amin'ny fetra ananantsika ny ASI voalohany, ho iza isika?

    Raha toa isika amin'ny maha-karazana antsika dia mihetsika amin'ny fandrosoan'ny fiaraha-miory, ny fahalalahana, ny rariny, ary ny fiahiana iombonana, dia ny tanjona apetratsika amin'ny ASI dia haneho ireo toetra tsara ireo.

    Raha toa isika amin'ny maha-karazana antsika dia mihetsika noho ny tahotra, ny tsy fahatokisana, ny fanangonan-kery sy ny loharanon-karena, dia ho maizina tahaka ireo hita ao amin'ireo tantara mampihoron-koditra sci-fi ratsy indrindra eto amintsika ny ASI noforoninay.

    Amin'ny fiafaran'ny andro, isika amin'ny maha-fiarahamonina antsika dia mila ho lasa olona tsara kokoa raha manantena ny hamorona AI tsara kokoa.

    Future of Artificial Intelligence andiany

    Artificial Intelligence dia herinaratra rahampitso: Future of Artificial Intelligence andiany P1

    Ahoana no hanovan'ny Intelligence General voalohany ny fiaraha-monina: Future of Artificial Intelligence andiany P2

    Ahoana no hamoronana ny andiany voalohany Artificial Superintelligenc: Future of Artificial Intelligence andiany P3

    Ny Superintelligence artifisialy ve dia hamongotra ny olombelona: ho avin'ny andian-tsarin'ny Artificial Intelligence P4

    Hiaina am-pilaminana ve ny olombelona amin'ny ho avy anjakan'ny faharanitan-tsaina artifisialy?: Future of Artificial Intelligence andiany P6

    Fanavaozana voalahatra manaraka ho an'ity vinavina ity

    2023-04-27

    Fanondroana vinavina

    Ireto rohy malaza sy andrim-panjakana manaraka ireto no nalaina ho an'ity vinavina ity:

    The Economist
    Ahoana no ahatongavana amin'ny manaraka

    Ireto rohy Quantumrun manaraka ireto dia nalaina ho an'ity vinavina ity: